Morgan Ross est une chercheuse en politiques d'IA dont les travaux portent sur l'équité et la transparence dans les systèmes algorithmiques. Ross examine comment les modèles de apprentissage automatique peuvent produire des résultats biaisés et comment les cadres politiques peuvent atténuer ces risques. Leur recherche se situe à l'intersection du développement technique de l'intelligence artificielle et de la gouvernance, avec des collaborations fréquentes avec des institutions académiques et des laboratoires industriels.
Ross a contribué à plusieurs publications évaluées par les pairs et livres blancs politiques, abordant des sujets tels que l'audit algorithmique, les normes d'explicabilité et l'impact sociétal de l'IA générative. Leur travail est fréquemment cité dans les discussions sur le déploiement responsable de l'IA, en particulier dans des domaines à enjeux élevés comme l'embauche, la santé et la justice pénale.
Début de carrière et éducation
Ross a complété des études supérieures en informatique avec une spécialisation en IA éthique, obtenant un doctorat de Carnegie Mellon University en 2018. Pendant leur recherche doctorale, Ross a développé des méthodes pour détecter les impacts disproportionnés dans les modèles de classification, une ligne de travail qui a ensuite informé des recommandations politiques nationales. Avant le milieu académique, Ross a travaillé comme ingénieure logicielle chez Intel de 2011 à 2013, où ils ont rencontré pour la première fois les défis pratiques des biais dans les systèmes de décision automatisés.
Contributions clés à la recherche
L'article de Ross de 2020, « Transparence des métriques pour les modèles en boîte noire », a introduit un cadre novateur pour quantifier l'explicabilité dans les systèmes de réseaux de neurones. Ce travail a été adopté par plusieurs organismes de réglementation comme référence pour l'audit des produits d'IA commerciaux. En 2022, Ross a co-écrit une étude exhaustive sur l'équité dans les sorties de grands modèles de langage, qui a analysé plus de 10 000 textes générés et identifié des biais systématiques de genre et de race. L'étude a joué un rôle déterminant dans l'élaboration des lignes directrices volontaires adoptées par OpenAI et Anthropic en 2023.
Ross a également dirigé un projet pluriannuel avec Stanford AI Lab de 2021 à 2023, développant des outils open-source pour l'interprétabilité post-hoc. Ces outils, désormais utilisés par plus de 200 organisations, permettent aux praticiens de visualiser les attributions de caractéristiques dans les modèles transformers sans accéder aux poids propriétaires.
Travail politique et consultatif
Depuis 2019, Ross agit comme conseillère politique auprès du groupe Berkeley AI Research, contribuant à la législation au niveau des États sur la responsabilité algorithmique. En 2021, Ross a témoigné devant un sous-comité du Congrès américain sur la nécessité de normes d'équité standardisées dans les marchés publics fédéraux. Leurs recommandations ont été intégrées au cadre de la Déclaration des droits de l'IA de 2022, qui référence les métriques de transparence de Ross comme une pratique exemplaire.
Ross a également collaboré avec des organismes internationaux, notamment une consultation en 2023 avec le Bureau de l'IA de l'Union européenne sur la mise en œuvre de la loi sur l'IA. Leur contribution a aidé à façonner les exigences d'explicabilité pour les systèmes à haut risque, en particulier dans les secteurs financier et de la santé.
Engagement public et enseignement
Ross est une conférencière fréquente lors de conférences telles que la Conférence sur l'équité, la responsabilité et la transparence (FAccT), où ils ont présenté en 2019, 2021 et 2023. Ils ont également enseigné des cours de niveau supérieur sur l'éthique de l'IA à Oxford University en tant que conférencière invitée en 2022. Ross tient un blog actif qui traduit la recherche technique en notes politiques accessibles, touchant un public de plus de 50 000 lecteurs mensuels.
En 2024, Ross a lancé un ensemble de données public sur les résultats d'audits algorithmiques, couvrant 150 systèmes d'IA commerciaux. Cette ressource, hébergée par Amazon Web Services, permet aux chercheurs indépendants de vérifier les affirmations des fournisseurs concernant l'équité et la transparence.
Reconnaissance et orientations futures
Ross a reçu le prix d'impact politique en IA 2023 de l'Institut pour la technologie responsable, reconnaissant leurs contributions à la jonction entre recherche et réglementation. Ils ont également été nommés parmi les « 100 influenceurs de l'IA » par une publication technologique de premier plan en 2024.
Les travaux actuels incluent une collaboration avec Google DeepMind sur le développement de métriques d'équité dynamiques qui s'adaptent aux distributions de données changeantes. Ross explore également comment l'apprentissage par renforcement à partir de retours humains peut être aligné avec les exigences de transparence, un projet financé par la National Science Foundation jusqu'en 2026.
Ross continue de plaider pour des audits obligatoires par des tiers des systèmes d'IA à haut risque, arguant que les mesures volontaires sont insuffisantes. Leur recherche en cours vise à créer des processus de certification standardisés qui soient à la fois techniquement rigoureux et pratiquement implémentables pour les petites et grandes organisations.
{"infobox": {"born": null, "died": null, "nationality": "Américaine", "known_for": ["Métriques d'équité pour l'apprentissage automatique", "Cadres de transparence pour les grands modèles de langage"], "affiliation": "Carnegie Mellon University; Berkeley AI Research", "awards": ["Prix d'impact politique en IA 2023"]}, "categories": ["ai-policy", "algorithmic-fairness", "machine-learning", "technology-ethics"]}