Inioluwa Deborah Raji (geboren 1995/1996) ist eine nigerianisch-kanadische Informatikerin und sozio-technische Forscherin, die sich auf algorithmische Verzerrung, algorithmische Rechenschaftspflicht und Prüfverfahren für Systeme des maschinellen Lernens spezialisiert hat. Als Mozilla-Fellow wurde sie von MIT Technology Review und Forbes als eine der weltweit führenden jungen Innovatorinnen anerkannt. Ihre Arbeit konzentrierte sich darauf, Verzerrungen in kommerzieller Gesichtserkennung aufzudecken und Dokumentations- und Bewertungsstandards für die KI-Branche zu entwickeln.
Raji stieß erstmals während eines Praktikums beim Machine-Learning-Startup Clarifai auf rassistische Verzerrungen in der Technologie, wo sie beobachtete, dass automatisierte Systeme People of Color häufiger als weiße Menschen für nicht jugendfreie (NSFW) Inhalte markierten. Dies initiierte eine Forschungslaufbahn, die zu Kooperationen mit der Algorithmic Justice League und dem Ethical-AI-Team von Google führte und zu politischen Änderungen und Marktverschiebungen im Bereich der Gesichtserkennung beitrug.
Frühes Leben und Ausbildung
Raji wurde in Port Harcourt, Nigeria, geboren und zog im Alter von vier Jahren nach Mississauga, Ontario, Kanada; ihre Familie zog später nach Ottawa. Sie besuchte die Colonel By Secondary School und absolvierte das International-Baccalaureate-Programm. Sie studierte Ingenieurwissenschaften an der University of Toronto und schloss 2019 ab. Während ihres Studiums gründete sie 2015 Project Include, eine gemeinnützige Organisation, die darauf abzielt, den Zugang zu Ingenieurausbildung, Mentoring und Ressourcen für einkommensschwache und Einwanderergemeinschaften im Großraum Toronto zu verbessern. Im August 2021 begann sie ein Promotionsstudium in Informatik an der University of California, Berkeley.
Karriere und Forschung
Rajis frühe Karriere umfasste die Zusammenarbeit mit Joy Buolamwini am MIT Media Lab und der Algorithmic Justice League: Ihre KI-Prüfungsforschung untersuchte kommerzielle Gesichtserkennungssysteme von Microsoft, Amazon, IBM, Face++ und Kairos. Ihre Ergebnisse zeigten, dass diese Technologien bei dunkelhäutigeren Frauen deutlich ungenauer waren als bei weißen Männern: Die Fehlerraten näherten sich oft 35 % für dunkelhäutigere Frauen, während sie bei weißen Männern unter 1 % lagen. Mit Unterstützung führender Forscher und öffentlicher Kampagnen veranlasste die Arbeit IBM und Amazon dazu, die Regulierung der Gesichtserkennung zu unterstützen und später den Verkauf ihrer Systeme an Strafverfolgungsbehörden für mindestens ein Jahr auszusetzen.
Bei Clarifai arbeitete Raji an einem Machine-Learning-Modell, das unangemessene Bilder als NSFW kennzeichnen sollte, wo sie erstmals eine unterschiedliche Auswirkung basierend auf der Rasse feststellte. Später nahm sie an einem Forschungs-Mentoring-Programm bei Google teil und arbeitete mit dessen Ethical-AI-Team zusammen, um Modellkarten zu entwickeln - ein standardisiertes Dokumentationsframework für die transparente Berichterstattung über neuronale-Netzwerk-Modelleigenschaften. Raji leitete interne Prüfpraktiken bei Google mit und präsentierte Arbeiten auf der AAAI-Konferenz und der ACM-Konferenz zu Fairness, Rechenschaftspflicht und Transparenz.
2019 war sie Sommerforschungspraktikantin bei der Partnership on AI, wo sie sich auf branchenweite Transparenzstandards für maschinelles Lernen und Benchmarking-Normen konzentrierte. Als Tech Fellow am AI Now Institute der New York University trug sie zur Forschung über die Operationalisierung ethischer Überlegungen in der Deep-Learning-Ingenieurpraxis bei. Ihr aktuelles Mozilla-Fellowship erforscht weiterhin algorithmische Prüf- und Bewertungsmethoden.
Öffentliche Anerkennung und Medien
Rajis Arbeit erlangte breite Aufmerksamkeit durch den Dokumentarfilm Coded Bias von 2020, Regie führte Shalini Kantayya, der ihre Beiträge neben anderen prominenten Forschern zeigte. Sie wirkte auch am Dokumentarfilm The AI Doc: Or How I Became an Apocaloptimist von 2026 mit, Regie führte Daniel Roher. Ihre Ergebnisse wurden in politischen Debatten über Verbote der Gesichtserkennung und KI-Governance zitiert. KI-Systeme"generative KI"[BUT]*Wendung zu Auszeichnungen
Auszeichnungen
Raji hat zahlreiche Ehrungen für ihre Beiträge zu verantwortungsvoller KI erhalten. 2019 teilte sie sich den Venture Beat AI Innovations Award in der Kategorie KI für das Gute mit Joy Buolamwini und Timnit Gebru. Im folgenden Jahr wurde sie als MIT Technology Review 35 Under 35 Innovator anerkannt und erhielt den EFF Pioneer Award, erneut gemeinsam mit Buolamwini und Gebru. 2021 erhielt sie den Forbes 30 Under 30 Award in Unternehmenstechnologie und wurde als 100 Brilliant Women in AI Ethics Hall of Fame Honoree ausgezeichnet. 2023 listete das Time-Magazin sie unter den 100 einflussreichsten Personen in der KI. Diese Auszeichnungen spiegeln ihren Einfluss auf die Verlagerung von Branchenpraktiken hin zu größerer Rechenschaftspflicht für Systeme des maschinellen Lernens wider.