Joy Buolamwini est une informaticienne et militante numérique qui a fondé la Algorithmic Justice League, une organisation à but non lucratif dédiée à l'identification et à l'atténuation des biais dans l'intelligence artificielle. Ses recherches sur la technologie de reconnaissance faciale ont révélé des écarts significatifs de précision entre les groupes démographiques, entraînant des changements généralisés dans l'industrie et les politiques. Buolamwini est également l'auteure du livre pour enfants Unmasking AI et a été reconnue comme une voix de premier plan dans le mouvement pour une IA responsable.
Née en 1989 à Edmonton, en Alberta, au Canada, de parents ghanéens, Buolamwini a grandi dans le Mississippi, aux États-Unis. Elle a obtenu un baccalauréat en informatique au Georgia Institute of Technology, une maîtrise en apprentissage, conception et technologie à l'Université Stanford, et un doctorat au MIT Media Lab. Ses travaux de doctorat, supervisés par Daphne Koller et d'autres, ont porté sur les biais algorithmiques dans les systèmes d'analyse faciale.
Projet Gender Shades
L'étude marquante de Buolamwini, « Gender Shades », menée avec Timnit Gebru, a évalué trois systèmes commerciaux d'analyse faciale de Microsoft, IBM et Face++. L'étude a révélé que les trois systèmes présentaient des taux d'erreur plus élevés pour les femmes à la peau plus foncée, avec des taux d'erreur allant jusqu'à 34,7 % pour ce groupe, contre 0,8 % pour les hommes à la peau plus claire. Les résultats ont été publiés en 2018 et ont reçu une large couverture médiatique, conduisant à des engagements publics des entreprises à améliorer leurs algorithmes. L'étude a également introduit l'échelle de type de peau de Fitzpatrick comme métrique pour évaluer les biais dans la vision par ordinateur.
Algorithmic Justice League
En 2016, Buolamwini a fondé la Algorithmic Justice League (AJL) pour aborder les implications sociales de l'IA. L'organisation mène des recherches, des actions de plaidoyer et de l'éducation publique sur des questions telles que la reconnaissance faciale, le profilage prédictif et le recrutement algorithmique. L'AJL a lancé des initiatives comme le Safe Face Pledge, qui appelle les entreprises à s'abstenir de vendre la technologie de reconnaissance faciale aux forces de l'ordre jusqu'à ce que des garanties soient en place. La ligue collabore également avec des artistes et des chercheurs pour sensibiliser le public à travers des expositions et des projets médiatiques, y compris le documentaire Coded Bias, qui a été présenté en première au Festival du film de Sundance en 2020.
Plaidoyer et impact politique
Buolamwini a témoigné devant le Congrès américain sur les dangers de l'IA biaisée, et son travail a influencé les discussions politiques sur la responsabilité algorithmique. En 2019, elle a co-écrit un rapport avec l'ACLU et d'autres organisations appelant à un moratoire sur l'utilisation gouvernementale de la reconnaissance faciale. Son plaidoyer a contribué aux décisions de Amazon et Microsoft de suspendre temporairement les ventes de technologie de reconnaissance faciale à la police en 2020. Buolamwini a également pris la parole aux Nations Unies et au Forum économique mondial, soulignant la nécessité d'un développement inclusif de l'IA.
Reconnaissance et récompenses
Buolamwini a reçu de nombreux honneurs, notamment d'être nommée sur la liste Forbes 30 Under 30 en 2018 et sur la liste Time 100 des personnes les plus influentes en IA en 2023. Elle a reçu le prix de la désobéissance du MIT Media Lab en 2020, et en 2022, elle a été désignée Jeune leader mondial par le Forum économique mondial. Son livre Unmasking AI, publié en 2023, a été finaliste pour le National Book Award dans la catégorie non-fiction. Les recherches de Buolamwini ont été citées dans plus de 10 000 articles académiques, et elle a prononcé des discours principaux lors de grandes conférences, notamment NeurIPS et ICML.
Travail actuel
En 2025, Buolamwini continue de diriger la Algorithmic Justice League et siège aux conseils consultatifs de plusieurs organisations d'éthique de l'IA. Elle est chercheuse invitée au Stanford University's Human-Centered AI Institute et enseigne des cours sur la justice algorithmique. Ses projets en cours incluent le développement d'outils pour auditer les systèmes d'IA et la création de ressources éducatives pour les communautés sous-représentées dans la technologie. Le travail de Buolamwini a été déterminant pour orienter l'industrie de l'IA vers des tests plus rigoureux en matière de biais et d'équité.