Timnit Gebru est une informaticienne et chercheuse en éthique de l'IA, connue pour avoir co-écrit l'article largement cité « On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? » et pour son départ très médiatisé de Google en décembre 2020.
Gebru a obtenu un doctorat en vision par ordinateur à l'Université de Stanford sous la direction de Fei-Fei Li, et ses premières recherches comprenaient des études sur les biais démographiques dans les systèmes commerciaux de reconnaissance faciale et d'analyse au sein de la vision par ordinateur, un travail qui a alimenté un corpus plus large de recherches sur les biais algorithmiques dans les systèmes d'IA entraînés sur des données non représentatives. Elle a ensuite co-dirigé l'équipe d'éthique de l'IA de Google, l'un des groupes de recherche en éthique de l'IA les plus éminents de l'époque.
Stochastic Parrots et départ de Google
En 2021, Gebru, Emily Bender, Angelina McMillan-Major et, sous un pseudonyme en raison des objections de Google, Margaret Mitchell ont publié « On the Dangers of Stochastic Parrots », un article soutenant que des modèles de langage toujours plus grands, entraînés sur des textes web non curatés, présentaient des risques incluant des coûts environnementaux, des biais sociaux encodés, une opacité concernant les données d'entraînement, et le risque que des sorties fluides soient confondues avec une compréhension réelle, la critique du perroquet stochastique. Un désaccord interne chez Google concernant l'article, y compris une demande que Gebru et ses co-auteurs le retirent ou en retirent leurs noms, a conduit à un différend public ; Google a déclaré que Gebru avait démissionné, tandis que Gebru et de nombreux observateurs ont qualifié son départ de licenciement. Cet épisode, ainsi que le départ ultérieur de sa co-dirigeante de l'équipe d'éthique de l'IA, Margaret Mitchell, a attiré une large attention au sein et en dehors de la communauté de recherche en IA et est devenu un cas emblématique dans les débats sur la recherche en éthique de l'IA au sein des grandes entreprises technologiques.
DAIR
En 2021, Gebru a fondé le Distributed AI Research Institute (DAIR), un institut de recherche indépendant et non corporatif, axé sur l'étude des préjudices de l'IA, en particulier sur les communautés marginalisées, et structuré intentionnellement en dehors des pressions de financement et d'incitation des grandes entreprises technologiques. À travers DAIR, Gebru a continué à publier et à s'exprimer sur l'éthique de l'IA, la gouvernance de l'IA et les risques liés à la mise à l'échelle des grands modèles de langage et des systèmes d'IA générative sans attention adéquate à leurs coûts sociaux.
Influence
Le cas de Gebru est fréquemment cité dans les discussions sur la capacité des équipes internes d'éthique de l'IA des entreprises à contraindre de manière significative les produits des entreprises qui les emploient, et l'article Stochastic Parrots reste l'un des articles critiques les plus cités de l'ère de l'IA générative, continuant à façonner le débat sur les coûts et les limites de l'échelle comme stratégie principale dans le développement de l'IA.