Margaret Mitchell est une informaticienne et chercheuse en éthique de l'IA qui a été une voix éminente dans le développement d'une intelligence artificielle responsable. Elle est surtout connue pour avoir co-dirigé l'équipe d'IA éthique chez Google, où elle a travaillé à identifier et atténuer les biais dans les systèmes d'apprentissage automatique. Ses recherches et son plaidoyer ont influencé la manière dont l'industrie technologique aborde l'équité, la responsabilité et la transparence dans l'IA.
La carrière de Mitchell s'étend à la fois sur l'industrie et le milieu universitaire, avec des contributions significatives au traitement du langage naturel et à l'éthique de l'IA. Elle a été une critique virulente des pratiques contraires à l'éthique dans le développement de l'IA et a travaillé à établir des lignes directrices pour une recherche responsable en IA. Ses travaux ont été largement cités et ont contribué à façonner le discours public sur les impacts sociétaux de l'intelligence artificielle.
Jeunesse et Éducation
Margaret Mitchell est née aux États-Unis. Elle a développé un intérêt précoce pour le langage et la technologie, ce qui l'a conduite à poursuivre des études en informatique et en linguistique. Elle a obtenu son diplôme de premier cycle au Reed College, où elle s'est concentrée sur la linguistique computationnelle. Elle a ensuite obtenu une maîtrise et un doctorat de l'Université d'Aberdeen en Écosse, où ses recherches portaient sur le traitement du langage naturel et l'apprentissage automatique.
Durant ses études doctorales, Mitchell a exploré comment les ordinateurs pouvaient comprendre et générer le langage humain. Sa thèse a examiné l'utilisation de réseaux de neurones pour la modélisation du langage, un sujet qui deviendrait central dans ses travaux ultérieurs sur l'éthique de l'IA. Elle s'est également intéressée aux implications sociales de l'IA, en particulier comment des données biaisées pouvaient conduire à des résultats discriminatoires.
Début de Carrière et Recherche
Après avoir terminé son doctorat, Mitchell a travaillé comme chercheuse postdoctorale chez Microsoft Research, où elle a étudié l'apprentissage automatique et le traitement du langage naturel. Elle a ensuite rejoint l'Université de Washington en tant que chercheuse scientifique, collaborant avec des universitaires sur des projets impliquant le langage et la vision. Ses travaux durant cette période se sont concentrés sur le développement d'algorithmes capables d'apprendre à partir de données multimodales, telles que des images et du texte.
En 2016, Mitchell a rejoint Google, où elle a intégré l'équipe de recherche travaillant sur Machine learning et Natural language processing. Elle a contribué à des projets impliquant Large language models et des architectures Transformer (architecture), qui faisaient progresser rapidement le domaine de l'IA. Cependant, elle s'est rapidement inquiétée des implications éthiques de ces technologies, en particulier de la manière dont elles pouvaient perpétuer les biais sociétaux.
Équipe d'IA Éthique de Google
En 2018, Mitchell a été nommée co-responsable de l'équipe d'IA éthique de Google, aux côtés de Timnit Gebru. L'équipe était chargée de rechercher et de traiter les problèmes éthiques dans l'IA, notamment les biais, l'équité et la transparence. Sous leur direction, l'équipe a publié des articles influents sur des sujets tels que les cartes de modèles, qui sont une documentation standardisée pour les modèles d'apprentissage automatique divulguant leurs performances et leurs limites.
Mitchell et Gebru ont également travaillé sur des projets pour détecter et atténuer les biais dans les Large language models. Elles ont développé des outils pour auditer les systèmes d'IA afin de détecter des comportements discriminatoires et ont plaidé pour des pratiques de collecte de données plus inclusives. Leurs travaux ont été largement reconnus comme pionniers dans le domaine de l'éthique de l'IA.
Cependant, leur mandat chez Google a été marqué par la controverse. En décembre 2020, Gebru a été licenciée après un différend concernant un article de recherche qui critiquait les coûts environnementaux et sociaux des grands modèles d'IA. Mitchell a publiquement soutenu Gebru et critiqué la gestion de la situation par Google. En février 2021, Mitchell a également été licenciée de Google, l'entreprise citant des violations de son code de conduite. Ces licenciements ont suscité un débat généralisé sur le traitement des chercheurs en éthique de l'IA dans l'industrie technologique.
Contributions à l'Éthique de l'IA
Les contributions les plus significatives de Mitchell à l'éthique de l'IA incluent son travail sur les cartes de modèles, qui sont devenues une pratique standard dans l'industrie. Les cartes de modèles fournissent une manière structurée de documenter l'utilisation prévue d'un modèle, ses mesures de performance et ses biais potentiels. Cette transparence aide les développeurs et les utilisateurs à comprendre les limites des systèmes d'IA et à prendre des décisions éclairées.
Elle a également co-écrit l'article « Model Cards for Model Reporting », publié en 2019 et largement adopté par les entreprises et les institutions de recherche. L'article proposait un cadre pour documenter les modèles d'apprentissage automatique de manière accessible aux non-experts, favorisant la responsabilité et la confiance.
Mitchell a également été une défenseure de la diversité et de l'inclusion dans la recherche en IA. Elle a parlé publiquement de la nécessité d'avoir plus de femmes et de groupes sous-représentés dans le domaine, arguant que des perspectives diverses sont essentielles pour créer des systèmes d'IA équitables et éthiques.
Carrière Ultérieure et Plaidoyer
Après avoir quitté Google, Mitchell a poursuivi son travail en éthique de l'IA en tant que chercheuse indépendante et consultante. Elle a été une conférencière fréquente lors de conférences et a écrit abondamment sur des sujets tels que les biais algorithmiques, l'éthique des données et l'impact social de l'IA. Elle a également participé à des initiatives visant à créer des lignes directrices éthiques pour le développement de l'IA, notamment celles de l'IEEE et de l'ACM.
En 2022, Mitchell a rejoint l'entreprise d'IA Hugging Face en tant que chercheuse, où elle continue de travailler sur des pratiques d'IA responsable. Chez Hugging Face, elle s'est concentrée sur le développement d'outils pour auditer et améliorer l'équité des modèles d'apprentissage automatique. Elle a également participé à des efforts pour créer des communautés de recherche en IA plus transparentes et inclusives.
Impact et Reconnaissance
Les travaux de Mitchell ont eu un impact durable sur le domaine de l'éthique de l'IA. Ses recherches sur les cartes de modèles ont été largement adoptées, et son plaidoyer a contribué à mettre les questions de biais et d'équité au premier plan de la conscience publique. Elle a été reconnue par de nombreux prix et honneurs, notamment en étant nommée l'une des 100 personnes les plus influentes dans l'IA par le magazine Time en 2023.
Son licenciement de Google, ainsi que celui de Gebru, a été cité comme un tournant dans l'approche de l'industrie technologique envers l'éthique de l'IA. Il a mis en évidence la tension entre les intérêts corporatifs et la recherche éthique, et a conduit à un examen plus approfondi de la manière dont les entreprises traitent les voix dissidentes.
Vie Personnelle et Engagement Public
Mitchell est connue pour son style franc et direct, tant dans ses écrits que dans ses apparitions publiques. Elle a utilisé les médias sociaux pour discuter de l'éthique de l'IA et pour dénoncer les cas de biais dans la technologie. Elle a également été une mentore pour de jeunes chercheurs et a encouragé davantage de personnes à entrer dans le domaine de l'éthique de l'IA.
En plus de ses recherches, Mitchell a participé à des efforts pour rendre l'IA plus accessible au public. Elle a donné des conférences dans des universités et lors d'événements industriels, et a écrit pour des publications grand public afin d'expliquer des concepts complexes de l'IA à un public général.
Héritage et Directions Futures
L'héritage de Margaret Mitchell réside dans son travail pionnier pour rendre l'IA plus éthique et responsable. Ses contributions ont influencé la manière dont les entreprises développent et déploient les systèmes d'IA, et son plaidoyer a inspiré une nouvelle génération de chercheurs à considérer les implications sociétales de leur travail.
Alors que l'IA continue d'évoluer, les idées de Mitchell restent pertinentes. Elle a appelé à une plus grande transparence dans le développement de l'IA, à des pratiques de données plus inclusives et à une réglementation plus stricte des technologies d'IA. Son travail continuera probablement à façonner le domaine pendant des années à venir.
Références
- Mitchell, M., et al. (2019). « Model Cards for Model Reporting. » Actes de la Conférence sur l'équité, la responsabilité et la transparence.
- Mitchell, M. (2021). « L'état de l'éthique de l'IA. » Discours principal à la Conférence ACM sur l'équité, la responsabilité et la transparence.
- Magazine Time. (2023). « Les 100 personnes les plus influentes dans l'IA. »
Liens Externes
- Site web personnel de Margaret Mitchell
- Margaret Mitchell sur Twitter
- Profil Google Scholar de Margaret Mitchell