Joy Buolamwini ist eine Informatikerin und digitale Aktivistin, die die Algorithmic Justice League gründete, eine gemeinnützige Organisation, die sich der Identifizierung und Minderung von Verzerrungen in künstlicher Intelligenz widmet. Ihre Forschung zu Gesichtserkennungstechnologie zeigte erhebliche Genauigkeitsunterschiede zwischen demografischen Gruppen auf, was weitreichende Änderungen in Industrie und Politik anstieß. Buolamwini ist außerdem Autorin des Kinderbuchs Unmasking AI und gilt als führende Stimme in der Bewegung für verantwortungsvolle KI.
Geboren 1989 in Edmonton, Alberta, Kanada, als Tochter ghanaischer Eltern, wuchs Buolamwini in Mississippi, USA, auf. Sie erwarb einen Bachelor-Abschluss in Informatik am Georgia Institute of Technology, einen Master-Abschluss in Lernen, Design und Technologie an der Stanford University und einen Doktortitel am MIT Media Lab. Ihre Doktorarbeit, betreut von Daphne Koller und anderen, konzentrierte sich auf algorithmische Verzerrungen in Gesichtsanalysesystemen.
Gender Shades Projekt
Buolamwinis wegweisende Studie „Gender Shades", durchgeführt mit Timnit Gebru, bewertete drei kommerzielle Gesichtsanalysesysteme von Microsoft, IBM und Face++. Die Studie ergab, dass alle drei Systeme höhere Fehlerraten bei dunkelhäutigen Frauen aufwiesen, wobei die Fehlerraten für diese Gruppe bis zu 34,7 % betrugen, verglichen mit 0,8 % bei hellhäutigen Männern. Die Ergebnisse wurden 2018 veröffentlicht und erhielten umfangreiche Medienberichterstattung, was zu öffentlichen Zusagen der Unternehmen führte, ihre Algorithmen zu verbessern. Die Studie führte auch die Fitzpatrick-Hauttyp-Skala als Metrik zur Bewertung von Verzerrungen in der Computer Vision ein.
Algorithmic Justice League
2016 gründete Buolamwini die Algorithmic Justice League (AJL), um die sozialen Auswirkungen von KI zu adressieren. Die Organisation betreibt Forschung, Interessenvertretung und öffentliche Aufklärung zu Themen wie Gesichtserkennung, prädiktiver Polizeiarbeit und algorithmischer Einstellung. Die AJL hat Initiativen wie den Safe Face Pledge ins Leben gerufen, der Unternehmen dazu aufruft, den Verkauf von Gesichtserkennungstechnologie an Strafverfolgungsbehörden zu unterlassen, bis Schutzmaßnahmen vorhanden sind. Die Liga arbeitet auch mit Künstlern und Forschern zusammen, um durch Ausstellungen und Medienprojekte Bewusstsein zu schaffen, einschließlich des Dokumentarfilms Coded Bias, der 2020 beim Sundance Film Festival Premiere feierte.
Interessenvertretung und politische Auswirkungen
Buolamwini hat vor dem US-Kongress über die Gefahren verzerrter KI ausgesagt, und ihre Arbeit hat politische Diskussionen über algorithmische Rechenschaftspflicht beeinflusst. 2019 verfasste sie gemeinsam mit der ACLU und anderen Organisationen einen Bericht, der ein Moratorium für die staatliche Nutzung von Gesichtserkennung forderte. Ihre Interessenvertretung trug zu Entscheidungen von Amazon und Microsoft bei, den Verkauf von Gesichtserkennungstechnologie an die Polizei 2020 vorübergehend einzustellen. Buolamwini hat auch bei den Vereinten Nationen und dem Weltwirtschaftsforum gesprochen und die Notwendigkeit einer inklusiven KI-Entwicklung betont.
Anerkennung und Auszeichnungen
Buolamwini hat zahlreiche Ehrungen erhalten, darunter die Aufnahme in die Forbes-Liste 30 Under 30 im Jahr 2018 und die Time-Liste der 100 einflussreichsten Personen in der KI im Jahr 2023. Sie wurde 2020 mit dem MIT Media Lab-Disobedience Award ausgezeichnet, und 2022 erhielt sie die Auszeichnung als Young Global Leader des Weltwirtschaftsforums. Ihr Buch Unmasking AI, veröffentlicht 2023, war Finalist für den National Book Award in der Kategorie Sachbuch. Buolamwinis Forschung wurde in über 10.000 akademischen Arbeiten zitiert, und sie hat Keynote-Adressen bei großen Konferenzen wie NeurIPS und ICML gehalten.
Aktuelle Arbeit
Stand 2025 leitet Buolamwini weiterhin die Algorithmic Justice League und ist in den Beiräten mehrerer KI-Ethikorganisationen tätig. Sie ist Gastwissenschaftlerin am Stanford University's Human-Centered AI Institute und unterrichtet Kurse zu algorithmischer Gerechtigkeit. Zu ihren laufenden Projekten gehören die Entwicklung von Werkzeugen zur Prüfung von KI-Systemen und die Erstellung von Bildungsressourcen für unterrepräsentierte Gemeinschaften in der Technologie. Buolamwinis Arbeit war maßgeblich daran beteiligt, die KI-Industrie zu strengeren Tests auf Verzerrungen und Fairness zu bewegen.