Timnit Gebru é uma cientista da computação e pesquisadora de ética em IA conhecida por coautorar o artigo amplamente citado "On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?" e por sua saída de alto perfil do Google em dezembro de 2020.
Gebru obteve um PhD em visão computacional na Universidade Stanford sob orientação de Fei-Fei Li, e suas primeiras pesquisas incluíram estudos sobre viés demográfico em sistemas comerciais de reconhecimento facial e análise dentro da visão computacional, trabalho que alimentou um corpo mais amplo de pesquisa sobre viés algorítmico em sistemas de IA treinados com dados não representativos. Ela passou a codirigir a equipe de Ética em IA do Google, um dos grupos de pesquisa corporativa em ética de IA mais proeminentes da época.
Stochastic Parrots e saída do Google
Em 2021, Gebru, Emily Bender, Angelina McMillan-Major e, sob um pseudônimo devido às objeções do Google, Margaret Mitchell publicaram "On the Dangers of Stochastic Parrots", um artigo argumentando que modelos de linguagem cada vez maiores treinados com texto da web não curado apresentavam riscos, incluindo custos ambientais, vieses sociais codificados, opacidade sobre os dados de treinamento e o risco de que a saída fluente fosse confundida com compreensão genuína, a crítica do papagaio estocástico. O desacordo interno sobre o artigo no Google, incluindo um pedido para que Gebru e seus coautores o retirassem ou removessem seus nomes, levou a uma disputa pública; o Google afirmou que Gebru renunciou, enquanto Gebru e muitos observadores caracterizaram sua saída como uma demissão. O episódio, juntamente com a subsequente saída de sua codiretora de Ética em IA, Margaret Mitchell, atraiu ampla atenção dentro e fora da comunidade de pesquisa em IA e se tornou um caso emblemático nos debates sobre pesquisa em ética em IA dentro de grandes empresas de tecnologia.
DAIR
Em 2021, Gebru fundou o Distributed AI Research Institute (DAIR), um instituto de pesquisa independente e não corporativo focado em estudar os danos da IA, particularmente em comunidades marginalizadas, e estruturado intencionalmente fora das pressões de financiamento e incentivos das grandes empresas de tecnologia. Por meio do DAIR, Gebru continuou a publicar e falar sobre ética em IA, governança de IA e os riscos de escalar grandes modelos de linguagem e sistemas de IA generativa sem atenção adequada aos seus custos sociais.
Influência
O caso de Gebru é frequentemente citado em discussões sobre se equipes corporativas internas de ética em IA podem restringir de forma significativa os produtos das empresas que as empregam, e o artigo Stochastic Parrots permanece um dos artigos críticos mais citados da era da IA generativa, continuando a moldar o debate sobre os custos e limites da escala como estratégia primária no desenvolvimento de IA.