Inioluwa Deborah Raji (née en 1995/1996) est une informaticienne et chercheuse socio-technique nigériane-canadienne, spécialisée dans les biais algorithmiques, la responsabilité algorithmique et les pratiques d'audit des systèmes d'apprentissage automatique. En tant que fellow Mozilla, elle a été reconnue par MIT Technology Review et Forbes comme l'une des principales jeunes innovatrices mondiales. Ses travaux ont porté sur la mise en évidence des biais dans la reconnaissance faciale commerciale et sur le développement de normes de documentation et d'évaluation pour l'industrie de l'IA.
Raji a d'abord rencontré les biais raciaux dans la technologie lors d'un stage à la startup d'apprentissage automatique Clarifai, où elle a observé que les systèmes automatisés taguaient les personnes de couleur plus fréquemment que les personnes blanches pour du contenu non adapté au travail (NSFW). Cela a initié une trajectoire de recherche qui a conduit à des collaborations avec l'Algorithmic Justice League et l'équipe d'IA éthique de Google, et a contribué à des changements de politiques et à des évolutions de marché dans le secteur de la reconnaissance faciale.
Vie et éducation
Raji est née à Port Harcourt, au Nigeria, et a déménagé à Mississauga, en Ontario, au Canada, à l'âge de quatre ans ; sa famille s'est ensuite installée à Ottawa. Elle a fréquenté l'école secondaire Colonel By, où elle a complété le programme du baccalauréat international. Elle a étudié les sciences de l'ingénieur à l'Université de Toronto, dont elle est diplômée en 2019. Pendant ses années de premier cycle, en 2015, elle a fondé Project Include, une organisation à but non lucratif visant à améliorer l'accès à l'éducation en ingénierie, au mentorat et aux ressources pour les communautés à faible revenu et immigrantes de la région du Grand Toronto. En août 2021, elle a commencé un doctorat en informatique à l'Université de Californie, Berkeley.
Carrière et recherche
La carrière précoce de Raji a inclus une collaboration avec Joy Buolamwini au MIT Media Lab et à l'Algorithmic Justice League : sa recherche d'audit de l'IA a examiné les systèmes de reconnaissance faciale commerciaux de Microsoft, Amazon, IBM, Face++ et Kairos. Leurs conclusions ont montré que ces technologies étaient nettement moins précises pour les femmes à la peau plus foncée que pour les hommes blancs : les erreurs approchaient souvent des taux d'échec de 35 % pour les femmes à la peau plus foncée contre moins de 1 % pour les hommes blancs. Avec le soutien de chercheurs de premier plan et de campagnes publiques, ces travaux ont incité IBM et Amazon à soutenir la réglementation de la reconnaissance faciale et à suspendre plus tard la vente de leurs systèmes aux forces de l'ordre pendant au moins un an.
Chez Clarifai, Raji a travaillé sur un modèle de machine learning conçu pour signaler les images inappropriées comme NSFW, c'est là qu'elle a d'abord identifié un impact disparate basé sur la race. Elle a ensuite participé à un programme de mentorat de recherche chez Google, collaborant avec son équipe d'IA éthique pour développer des cartes de modèles - un cadre de documentation standardisé pour le rapport transparent des caractéristiques des modèles de réseaux neuronaux. Raji a co-dirigé les pratiques d'audit internes chez Google, présentant ses travaux à la conférence AAAI et à la conférence ACM sur l'équité, la responsabilité et la transparence.
En 2019, elle était fellow de recherche d'été au Partnership on AI, se concentrant sur les normes de transparence et de benchmarking de l'apprentissage automatique à l'échelle de l'industrie. En tant que fellow technologique à l'AI Now Institute de l'Université de New York, elle a contribué à la recherche sur l'opérationnalisation des considérations éthiques dans la pratique de l'ingénierie du deep learning. Sa fellowship Mozilla actuelle continue d'explorer les méthodes d'audit et d'évaluation algorithmiques.
Reconnaissance publique et médias
Les travaux de Raji ont reçu une large attention grâce au documentaire Coded Bias de 2020, réalisé par Shalini Kantayya, qui a présenté ses contributions aux côtés d'autres chercheurs éminents. Elle a également participé au documentaire The AI Doc: Or How I Became an Apocaloptimist de 2026, réalisé par Daniel Roher. Ses conclusions ont été citées dans les débats politiques autour des interdictions de la reconnaissance faciale et de la gouvernance de l'IA. Les systèmes d'IA et d'IA générative ont également été au centre de ses analyses, mais un tournant vers les récompenses s'est opéré.
Récompenses
Raji a reçu de nombreux honneurs reconnaissant ses contributions à une IA responsable. En 2019, elle a partagé le prix Venture Beat AI Innovations dans la catégorie AI for Good avec Joy Buolamwini et Timnit Gebru. L'année suivante, elle a été reconnue comme innovatrice 35 Under 35 par MIT Technology Review et a reçu le prix EFF Pioneer, à nouveau conjointement avec Buolamwini et Gebru. En 2021, elle a obtenu le prix Forbes 30 Under 30 dans la catégorie technologie d'entreprise et a été nommée membre du Temple de la renommée des 100 femmes brillantes en éthique de l'IA. En 2023, le magazine Time l'a classée parmi les 100 personnes les plus influentes dans le domaine de l'IA. Ces distinctions reflètent son influence dans le changement des pratiques industrielles vers une plus grande responsabilité pour les systèmes d'apprentissage automatique.