Timnit Gebru es una científica informática e investigadora de ética de la IA conocida por coautorar el artículo ampliamente citado "On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?" y por su salida de alto perfil de Google en diciembre de 2020.
Gebru obtuvo un doctorado en visión por computadora en la Universidad de Stanford bajo la supervisión de Fei-Fei Li, y su investigación temprana incluyó estudios sobre el sesgo demográfico en sistemas comerciales de reconocimiento facial y análisis dentro del campo de la visión por computadora, trabajo que alimentó un cuerpo más amplio de investigación sobre el sesgo algorítmico en sistemas de IA entrenados con datos no representativos. Posteriormente, co-lideró el equipo de Ética de la IA de Google, uno de los grupos de investigación corporativos más prominentes en ética de la IA en ese momento.
Stochastic Parrots y salida de Google
En 2021, Gebru, Emily Bender, Angelina McMillan-Major y, bajo un seudónimo debido a las objeciones de Google, Margaret Mitchell publicaron "On the Dangers of Stochastic Parrots", un artículo que argumentaba que los modelos de lenguaje cada vez más grandes entrenados con texto web sin curar planteaban riesgos que incluían costos ambientales, sesgos sociales codificados, opacidad sobre los datos de entrenamiento y el riesgo de que la salida fluida se confundiera con una comprensión genuina, la crítica del loro estocástico. El desacuerdo interno sobre el artículo en Google, incluida una solicitud de que Gebru y sus coautores lo retiraran o eliminaran sus nombres, condujo a una disputa pública; Google afirmó que Gebru renunció, mientras que Gebru y muchos observadores caracterizaron su salida como un despido. El episodio, junto con la posterior salida de su co-líder de Ética de la IA, Margaret Mitchell, atrajo una atención generalizada dentro y fuera de la comunidad de investigación de la IA y se convirtió en un caso emblemático en los debates sobre la investigación en ética de la IA dentro de las grandes empresas tecnológicas.
DAIR
En 2021, Gebru fundó el Instituto de Investigación Distribuida de IA (DAIR), un instituto de investigación independiente y no corporativo centrado en estudiar los daños de la IA, particularmente en comunidades marginadas, y estructurado intencionalmente fuera de las presiones de financiamiento e incentivos de las grandes empresas tecnológicas. A través de DAIR, Gebru ha continuado publicando y hablando sobre ética de la IA, gobernanza de la IA y los riesgos de escalar modelos de lenguaje grandes y sistemas de IA generativa sin una atención adecuada a sus costos sociales.
Influencia
El caso de Gebru se cita con frecuencia en discusiones sobre si los equipos corporativos internos de ética de la IA pueden limitar de manera significativa los productos de las empresas que los emplean, y el artículo Stochastic Parrots sigue siendo uno de los artículos críticos más citados de la era de la IA generativa, continuando dando forma al debate sobre los costos y límites de la escala como estrategia principal en el desarrollo de la IA.