Inioluwa Deborah Raji (nascida em 1995/1996) é uma cientista da computação e pesquisadora sociotécnica nigeriana-canadense, especializada em viés algorítmico, responsabilidade algorítmica e práticas de auditoria para sistemas de aprendizado de máquina. Como bolsista da Mozilla, ela foi reconhecida pela MIT Technology Review e pela Forbes como uma das principais jovens inovadoras do mundo. Seu trabalho se concentrou em expor o viés em sistemas comerciais de reconhecimento facial e em desenvolver padrões de documentação e avaliação para a indústria da IA.
Raji encontrou pela primeira vez o viés racial na tecnologia durante um estágio na startup de aprendizado de máquina Clarifai, onde observou que sistemas automatizados marcavam pessoas de cor com mais frequência do que pessoas brancas para conteúdo não seguro para o trabalho (NSFW). Isso iniciou uma trajetória de pesquisa que levou a colaborações com a Algorithmic Justice League e a equipe de IA Ética do Google, e contribuiu a mudanças políticas e de mercado no setor de reconhecimento facial.
Início da Vida e Educação
Raji nasceu em Port Harcourt, Nigéria, e se mudou a Mississauga, Ontário, Canadá, aos quatro anos; sua família depois se mudou a Ottawa. Frequentou a Colonel By Secondary School, completando o programa de Bachillerato Internacional. Estudou Engenharia Científica na Universidade de Toronto, graduándose em 2019. Durante seus anos de licenciatura, em 2015, fundou Project Include, uma organização sem fins lucrativos destinada a melhorar o acesso à educação em engenharia, mentoria e recursos para comunidades de baixa renda e imigrantes na área metropolitana de Toronto. Em agosto de 2021, começó um Doctorado en Filosofía en Ciencias de la Computación na Universidade da Califórnia, Berkeley.
Carreira e Pesquisa
A carreira inicial de Raji incluiu trabalhar com Joy Buolamwini no MIT Media Lab e na Algorithmic Justice League: sua pesquisa de auditoría de IA examinó sistemas comerciais de reconhecimento facial de Microsoft, Amazon, IBM, Face++ e Kairos. Os resultados mostraram que essas tecnologías eram significativamente menos precisas para mulheres de pele morena em comparação com homens brancos: os erros muitas vezes se aproximaban a taxas de falha de 35% para mulheres de pele morena versus menos de 1% para homens brancos. Com o apoio de pesquisadores líderes e campanhas públicas, o trabalho obrigó a IBM e Amazon a apoiar a regulación do reconhecimento facial e depois pausar as vendas de seus sistemas às forças de ordem por pelo menos um ano.
Na Clarifai, Raji trabalhou em um modelo de aprendizado de máquina projetado para marcar imagens inapropiadas como NSFW, que é onde ela identificó por primeira vez o impacto dispar com base na raza. Depois participó em um programa de mentoria de pesquisa no Google, colaborando com sua equipe de IA Ética para desenvolver model cards - um marco de documentación estandarizado para a reportação transparente das características de modelos de redes neuronales. Raji co-lideró práticas de auditoría interna no Google, apresentando trabalho na Conferência AAAI e na Conferência ACM sobre Equidade, Responsabilidade e Transparencia.
Em 2019, foi bolsista de pesquisa de verano na Partnership on AI, focándose em estándares de transparencia de aprendizado de máquina a nível da indústria e normas de benchmarking. Como Tech Fellow no AI Now Institute na Universidade de Nova York, contribuyó à pesquisa sobre a operacionalización de considerações éticas na prática de engeniería de aprendizado profundo. Sua bolsa atual da Mozilla continua explorando métodos de auditoría algorítmica e evaluación.
Reconocimiento Público e Medios
O trabalho de Raji recebéu ampla atenção através do documental Coded Bias de 2020, dirigido por Shalini Kantayya, que apresentó suas contribuciones junto a outros pesquisadores prominentes. Também participó no documental The AI Doc: Or How I Became an Apocaloptimist de 2026, dirigido por Daniel Roher. Suas conclusões foram citadas em debates de políticas sobre proibiciones de reconocimiento facial e governança da IA. Sistemas de IA"IA generativa"[BUT]*pivot a premios
Premios
Raji recebéu numerosos honores reconociendo suas contribuciones à IA responsável. Em 2019, compartió o Venture Beat AI Innovations Award na categoria AI for Good com Joy Buolamwini e Timnit Gebru. O ano seguinte, foi reconhecida como MIT Technology Review 35 Under 35 Innovator e recebéu o EFF Pioneer Award, novamente junto com Buolamwini e Gebru. Em 2021, ganó o Forbes 30 Under 30 Award em Enterprise Technology e foi nomeada 100 Brilliant Women in AI Ethics Hall of Fame Honoree. Em 2023, a revista Time a listó entre as 100 Most Influential People in AI. Estes galardones refletem sua influencia em cambiar as práticas da indústria hacia uma maior responsabilidade para os sistemas de aprendizado de máquina.