Timnit W. Gebru (amharique et tigrinya : ትምኒት ገብሩ ; née en 1982/1983) est une informaticienne érythréenne née en Éthiopie, spécialisée dans l'intelligence artificielle, les biais algorithmiques et l'exploration de données. Elle est cofondatrice de Black in AI, un groupe de défense promouvant la représentation des Noirs dans la recherche et le développement en IA, et fondatrice de l'Institut de recherche distribué en intelligence artificielle (DAIR). Ses travaux se sont concentrés sur les impacts sociétaux de l'IA, en particulier sur les communautés marginalisées, et elle a attiré l'attention internationale en décembre 2020 après son départ de l'équipe d'IA éthique de Google.
Les recherches de Gebru ont combiné l'apprentissage automatique avec les sciences sociales pour exposer les biais dans les systèmes d'IA, y compris ses travaux de doctorat utilisant l'apprentissage profond sur des images de Google Street View pour déduire les données démographiques des quartiers. Elle a été reconnue comme une voix de premier plan dans l'éthique de l'IA, nommée parmi les 50 plus grands leaders mondiaux par Fortune, l'une des dix personnes ayant façonné la science en 2021 par Nature, et l'une des personnes les plus influentes de 2022 par Time.
Jeunesse et éducation
Gebru a été élevée à Addis-Abeba, en Éthiopie, par sa mère, économiste, après que son père, ingénieur électricien titulaire d'un doctorat, soit décédé lorsqu'elle avait cinq ans. Ses deux parents étaient originaires d'Érythrée. À l'âge de 15 ans, pendant la guerre entre l'Érythrée et l'Éthiopie, elle a fui l'Éthiopie après que des membres de sa famille aient été déportés en Érythrée et contraints de se battre. Initialement refusée pour un visa américain, elle a brièvement vécu en Irlande avant de recevoir l'asile politique aux États-Unis, une expérience qu'elle a décrite comme « misérable ». Elle s'est installée à Somerville, dans le Massachusetts, pour le lycée, où elle a rencontré une discrimination raciale, certains enseignants refusant de lui permettre de suivre des cours de niveau avancé malgré ses performances académiques.
Une rencontre décisive avec la police a eu lieu après le lycée : lorsqu'elle a appelé la police pour signaler l'agression d'un ami, son ami, une femme noire, a été arrêtée à la place. Gebru a qualifié cela d'« exemple flagrant de racisme systémique ». En 2001, elle a été acceptée à l'université de Stanford, où elle a obtenu un baccalauréat en sciences, une maîtrise en sciences et un doctorat en vision par ordinateur en 2017, sous la direction de Fei-Fei Li. Lors de l'élection présidentielle américaine de 2008, elle a fait du porte-à-porte pour Barack Obama. Elle a présenté ses recherches doctorales au sommet LDV Capital Vision de 2017, remportant le concours et suscitant des collaborations avec des entrepreneurs et des investisseurs. En 2016 et 2018, elle a fait du bénévolat avec AddisCoder, une initiative de programmation pour les étudiants éthiopiens. Pendant ses études à Stanford, elle a rédigé un article non publié sur le manque de diversité dans l'IA, critiquant la « culture de club de garçons » du domaine et réfléchissant à ses expériences de harcèlement lors de conférences.
Carrière chez Apple
De 2004 à 2013, Gebru a travaillé chez Apple, d'abord comme stagiaire dans la division matériel, concevant des circuits pour des composants audio, puis comme ingénieure audio à temps plein. Son manager a déclaré à Wired qu'elle était « intrépide » et appréciée. Elle a développé des algorithmes de traitement du signal pour le premier iPad Gangnam Style, bien qu'elle ait plus tard déclaré ne pas avoir considéré les utilisations de surveillance, trouvant cela « techniquement intéressant ». En 2021, lors du mouvement #AppleToo mené par l'ingénieure Cher Scarlett, Gebru a révélé avoir vécu « tant de choses flagrantes » chez Apple, appelant à la responsabilité et critiquant la couverture médiatique qui protège les géants de la technologie.
Recherche à Stanford et Microsoft
En 2013, Gebru a rejoint le laboratoire de Fei-Fei Li à Stanford, combinant l'apprentissage profond avec Google Street View pour estimer les données démographiques des quartiers américains, démontrant que des attributs socioéconomiques comme les habitudes de vote, le revenu, la race et l'éducation peuvent être déduits à partir d'images de voitures. Lors de la conférence Neural Information Processing Systems (NIPS) de 2015, elle était l'une des rares participantes noires parmi 3 700 ; en 2016, elle a compté seulement cinq hommes noirs et elle-même comme seule femme noire parmi 8 500. Avec sa collègue Rediet Abebe, elle a cofondé Black in AI. À l'été 2017, elle a rejoint le laboratoire FATE (équité, responsabilité, transparence et éthique en IA) de Microsoft en tant que chercheuse postdoctorale, parlant des biais de l'IA et plaidant pour la diversité dans les équipes d'IA.
Équipe d'IA éthique de Google et départ
En 2018, Gebru est devenue coresponsable technique de l'équipe d'IA éthique de Google, se concentrant sur l'équité algorithmique et la transparence. En décembre 2020, elle a coécrit un article sur les grands modèles de langage (LLM) comme « perroquets stochastiques », soulignant des risques tels que les coûts environnementaux et l'amplification des biais, et l'a soumis pour publication. Google, citant le fait de ne pas avoir attendu l'examen interne, a demandé le retrait ou la suppression de tous les auteurs affiliés à Google. Gebru a demandé les identités des réviseurs et des commentaires, menaçant de discuter d'une « dernière date » en cas de refus. Google a mis fin à son emploi, la présentant comme une acceptation de sa démission ; Gebru a maintenu qu'elle n'avait pas proposé de démissionner. La controverse a suscité un débat public sur la liberté académique dans les entreprises technologiques, avec des milliers de chercheurs et d'employés signant des lettres de soutien.
L'article a ensuite été publié en externe, influençant le discours ultérieur sur les risques des modèles d'IA) Skip.
Fondation de DAIR et plaidoyer continu
Après son départ, Gebru a fondé l'Institut de recherche distribué en intelligence artificielle (DAIR) en 2021 pour mener des recherches indépendantes en éthique de l'IA, visant à centrer les voix marginalisées. Elle a continué à parler des biais algorithmiques, de l'éthique de l'exploration de données et de la nécessité de responsabilité dans le développement de l'IA. Ses travaux ont été influents pour façonner les discussions sur une IA responsable, en particulier en ce qui concerne l'IA générative et ses impacts sociétaux.
Héritage et reconnaissance
Les contributions de Gebru ont été largement reconnues. Elle a été nommée parmi les 50 plus grands leaders mondiaux de Fortune, l'une des dix personnes ayant façonné la science en 2021 par Nature, et l'une des 100 personnes les plus influentes de 2022 par Time. Ses recherches et son plaidoyer ont informé les débats politiques sur la réglementation de l'IA, et elle reste une critique éminente de l'optimisme technologique non contrôlé dans le domaine.