Timnit Gebru ist eine Informatikerin und Forscherin im Bereich KI-Ethik, die für die Mitautorschaft des vielzitierten Papers "On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?" bekannt ist sowie für ihren öffentlichkeitswirksamen Abgang von Google im Dezember 2020.
Gebru promovierte in Computer Vision an der Stanford University unter Fei-Fei Li, und ihre frühe Forschung umfasste Studien zur demografischen Verzerrung in kommerziellen Gesichtserkennungs- und Analysesystemen innerhalb der Computer Vision, Arbeiten, die in eine breitere Forschung zu algorithmischer Verzerrung in KI-Systemen einflossen, die mit unrepresentativen Daten trainiert wurden. Anschließend leitete sie gemeinsam das Ethical-AI-Team bei Google, eine der damals prominentesten Unternehmensforschungsgruppen zur KI-Ethik.
Stochastic Parrots und der Abgang von Google
Im Jahr 2021 veröffentlichten Gebru, Emily Bender, Angelina McMillan-Major und, unter einem Pseudonym aufgrund von Googles Einwänden, Margaret Mitchell "On the Dangers of Stochastic Parrots", ein Paper, das argumentierte, dass immer größere Sprachmodelle, die mit unkuratierten Webtexten trainiert werden, Risiken wie Umweltkosten, eingebettete soziale Verzerrungen, Undurchsichtigkeit der Trainingsdaten und die Gefahr, dass flüssige Ausgaben mit echtem Verständnis verwechselt werden, mit sich bringen - die Stochastic-Parrot-Kritik. Interne Meinungsverschiedenheiten über das Paper bei Google, einschließlich einer Aufforderung an Gebru und ihre Koautorinnen, es zurückzuziehen oder ihre Namen zu entfernen, führten zu einem öffentlichen Streit; Google erklärte, Gebru sei zurückgetreten, während Gebru und viele Beobachter ihren Abgang als Entlassung charakterisierten. Die Episode, zusammen mit dem anschließenden Abgang ihrer Ethical-AI-Koleiterin Margaret Mitchell, zog breite Aufmerksamkeit innerhalb und außerhalb der KI-Forschungsgemeinschaft auf sich und wurde zu einem wegweisenden Fall in Debatten über KI-Ethik-Forschung in großen Technologieunternehmen.
DAIR
Im Jahr 2021 gründete Gebru das Distributed AI Research Institute (DAIR), ein unabhängiges, nicht-korporatives Forschungsinstitut, das sich auf die Untersuchung der Schäden von KI, insbesondere für marginalisierte Gemeinschaften, konzentriert und bewusst außerhalb des Finanzierungs- und Anreizdrucks großer Technologieunternehmen strukturiert ist. Über DAIR hat Gebru weiterhin zu KI-Ethik, KI-Governance und den Risiken der Skalierung großer Sprachmodelle und generativer KI-Systeme ohne angemessene Berücksichtigung ihrer sozialen Kosten publiziert und gesprochen.
Einfluss
Gebrus Fall wird häufig in Diskussionen darüber zitiert, ob interne Unternehmens-KI-Ethikteams die Produkte der Unternehmen, die sie beschäftigen, sinnvoll einschränken können, und das Stochastic-Parrots-Paper bleibt eines der am häufigsten zitierten kritischen Papers der Ära generativer KI, das weiterhin die Debatte über die Kosten und Grenzen von Skalierung als primäre Strategie in der KI-Entwicklung prägt.