Abeba Birhane est une chercheuse critique en intelligence artificielle dont les travaux examinent les dimensions sociales, éthiques et politiques des systèmes d'apprentissage automatique. Elle est conseillère principale à la Fondation Mozilla, où elle contribue à la recherche et au plaidoyer pour une IA digne de confiance. Ses recherches se concentrent sur la manière dont les systèmes d'intelligence artificielle peuvent perpétuer des préjudices, notamment par le biais de biais intégrés et de pratiques d'évaluation défectueuses.
Les recherches de Birhane ont été influentes pour mettre en lumière les limites des approches dominantes en apprentissage automatique, en particulier la dépendance à de grands ensembles de données et à des tests de référence. Elle a soutenu que ces méthodes échouent souvent à prendre en compte la complexité du monde réel et peuvent renforcer les inégalités existantes. Ses critiques ont suscité des discussions plus larges au sein de la communauté de l'IA sur la responsabilité, la transparence et la nécessité de pratiques de développement plus conscientes socialement.
Préjudices algorithmiques et biais
Un thème central dans les travaux de Birhane est l'identification et l'analyse des préjudices algorithmiques. Elle a documenté comment les systèmes d'IA, y compris les grands modèles de langage et les outils de reconnaissance d'images, peuvent produire des résultats discriminatoires contre les groupes marginalisés. Ses études ont montré que les données d'entraînement contiennent souvent des biais historiques, que les modèles amplifient ensuite. Cette recherche a été citée dans les débats politiques et les directives industrielles, influençant la manière dont les organisations abordent l'équité et l'atténuation des biais.
Critique des tests de référence
Birhane a été une critique vocale de la dépendance excessive aux tests de référence standardisés dans la recherche en IA. Elle soutient que des métriques comme la précision sur des ensembles de test ne mesurent pas adéquatement l'impact social ou la robustesse d'un système. Dans un article largement discuté, elle et ses collègues ont analysé l'ensemble de données ImageNet, révélant des problèmes tels que des images mal étiquetées et des catégories offensantes. Ce travail a contribué aux efforts pour réviser ou retirer des ensembles de données problématiques et a suscité des appels à des pratiques de curation de données plus rigoureuses.
IA centrée sur l'humain
Sa perspective souligne l'importance de centrer les expériences humaines et le contexte sociétal dans le développement de l'IA. Birhane plaide pour des approches participatives qui impliquent les communautés affectées dans la conception et l'évaluation des technologies. Elle a collaboré avec des chercheurs de domaines tels que les sciences cognitives, la philosophie et la sociologie pour développer des cadres interdisciplinaires afin de comprendre le rôle de l'IA dans la société. Ce travail s'aligne sur des mouvements plus larges vers une innovation responsable et une gouvernance éthique.
Rôle à la Fondation Mozilla
À la Fondation Mozilla, Birhane dirige des initiatives qui explorent l'intersection de l'IA, de l'intérêt public et des droits numériques. Elle a contribué à des rapports et des livres blancs qui décrivent des principes pour une IA digne de confiance, y compris l'équité, la responsabilité et la transparence. Son rôle implique de conseiller sur les priorités de recherche et de dialoguer avec les décideurs politiques, les organisations de la société civile et les technologues pour promouvoir des pratiques d'IA plus sûres. Elle a également pris la parole lors de grandes conférences et universités, y compris université d'Oxford et université Carnegie-Mellon, pour partager ses conclusions.
Publications sélectionnées et reconnaissance
Birhane a publié dans des lieux académiques de premier plan et des revues, y compris la Conférence sur l'équité, la responsabilité et la transparence (FAccT) et la revue Nature Machine Intelligence. Son article "The Values Encoded in Machine Learning Research" a reçu une attention significative pour son analyse des hypothèses culturelles du domaine. Elle a été reconnue comme une voix montante dans les études critiques de l'IA, avec ses travaux présentés dans des médias et des documents politiques. Ses contributions lui ont valu des invitations à siéger dans des conseils consultatifs pour diverses initiatives d'éthique de l'IA.
Impact et orientations futures
Les recherches de Birhane ont eu un impact mesurable sur la manière dont les praticiens et les régulateurs de l'IA pensent aux préjudices. Ses critiques ont conduit certaines entreprises à réviser leurs méthodes de collecte de données et leurs critères d'évaluation. Elle continue d'étudier des sujets émergents, tels que les coûts environnementaux de l'entraînement de grands modèles et le rôle de l'IA dans la surveillance. En 2024, elle reste une voix active dans les débats sur l'avenir de la IA générative et ses implications sociétales, appelant à la prudence et à un examen plus approfondi de l'optimisme technologique.