Inioluwa Deborah Raji (nacida en 1995/1996) es una científica informática yugoslava-canadiense e investigadora sociotécnica especializada en sesgo algorítmico, responsabilidad algorítmica y prácticas de auditoría para sistemas de aprendizaje automático. Como becaria de Mozilla, ha sido reconocida por MIT Technology Review y Forbes como una de las principales jóvenes innovadoras del mundo. Su trabajo se ha centrado en exponer el sesgo en el reconocimiento facial comercial y en desarrollar estándares de documentación y evaluación para la industria de la IA.
Raji encontró por primera vez el sesgo racial en la tecnología durante una pasantía en la startup de aprendizaje automático Clarifai, donde observó que los sistemas automatizados etiquetaban a personas de color con más frecuencia que a personas blancas para contenido no seguro para el trabajo (NSFW). Esto inició una trayectoria de investigación que condujo a colaboraciones con la Algorithmic Justice League y el equipo de IA Ética de Google, y contribuyó a cambios en las políticas y cambios en el mercado del sector del reconocimiento facial.
Vida Temprana y Educación
Raji nació en Port Harcourt, Nigeria, y se mudó a Mississauga, Ontario, Canadá, a los cuatro años; su familia se trasladó más tarde a Ottawa. Asistió a la escuela secundaria Colonel By, completando el programa de Bachillerato Internacional. Estudió Ciencias de la Ingeniería en la Universidad de Toronto, graduándose en 2019. Durante sus años de pregrado, en 2015, fundó Project Include, una organización sin fines de lucro destinada a mejorar el acceso a la educación en ingeniería, la mentoría y los recursos para comunidades de bajos ingresos e inmigrantes en el área metropolitana de Toronto. En agosto de 2021, comenzó un Doctorado en Filosofía en Ciencias de la Computación en la Universidad de California, Berkeley.
Carrera e Investigación
La carrera temprana de Raji incluyó trabajar con Joy Buolamwini en el MIT Media Lab y la Algorithmic Justice League: su investigación de auditoría de IA examinó sistemas comerciales de reconocimiento facial de Microsoft, Amazon, IBM, Face++ y Kairos. Sus hallazgos mostraron que estas tecnologías eran significativamente menos precisas para mujeres de piel más oscura en comparación con hombres blancos: los errores a menudo se acercaban a tasas de fallo del 35% para mujeres de piel más oscura frente al menos del 1% para hombres blancos. Con el apoyo de investigadores líderes y campañas públicas, el trabajo impulsó a IBM y Amazon a respaldar la regulación del reconocimiento facial y posteriormente a pausar las ventas de sus sistemas a las fuerzas del orden durante al menos un año.
En Clarifai, Raji trabajó en un modelo de aprendizaje automático diseñado para marcar imágenes inapropiadas como NSFW, donde identificó por primera vez el impacto dispar basado en la raza. Más tarde participó en un programa de mentoría de investigación en Google, colaborando con su equipo de IA Ética para desarrollar tarjetas de modelo, un marco de documentación estandarizado para la presentación transparente de las características de los modelos de red neuronal. Raji co-lideró prácticas de auditoría interna en Google, presentando su trabajo en la Conferencia AAAI y la Conferencia ACM sobre Equidad, Responsabilidad y Transparencia.
En 2019, fue becaria de investigación de verano en Partnership on AI, centrándose en estándares de transparencia y normas de referencia del aprendizaje automático en toda la industria. Como becaria tecnológica en el AI Now Institute de la Universidad de Nueva York, contribuyó a la investigación sobre la operacionalización de consideraciones éticas en la práctica de ingeniería de aprendizaje profundo. Su beca actual de Mozilla continúa explorando métodos de auditoría y evaluación algorítmica.
Reconocimiento Público y Medios
El trabajo de Raji recibió una atención generalizada a través del documental de 2020 Coded Bias, dirigido por Shalini Kantayya, que destacó sus contribuciones junto a otras investigadoras prominentes. También participó en el documental de 2026 The AI Doc: Or How I Became an Apocaloptimist, dirigido por Daniel Roher. Sus hallazgos han sido citados en debates sobre políticas en torno a las prohibiciones del reconocimiento facial y la gobernanza de la IA. *Giro a los premios
Premios
Raji ha recibido numerosos honores que reconocen sus contribuciones a la IA responsable. En 2019, compartió el Premio a la Innovación en IA de Venture Beat en la categoría de IA para el Bien con Joy Buolamwini y Timnit Gebru. Al año siguiente, fue reconocida como Innovadora 35 Under 35 de MIT Technology Review y recibió el Premio Pioneer de la EFF, nuevamente junto con Buolamwini y Gebru. En 2021, obtuvo el Premio Forbes 30 Under 30 en Tecnología Empresarial y fue nombrada Homenajeada del Salón de la Fama de 100 Mujeres Brillantes en Ética de la IA. En 2023, la revista Time la incluyó entre las 100 Personas Más Influyentes en IA. Estos reconocimientos reflejan su influencia en cambiar las prácticas de la industria hacia una mayor responsabilidad para los sistemas de aprendizaje automático.