Alice Xiang est juriste, statisticienne et responsable mondiale de la gouvernance de l'IA et chercheuse principale au sein du groupe Sony. Ses travaux portent sur l'intersection du droit, des statistiques et de l'intelligence artificielle, en particulier sur les questions d'équité, de transparence et de responsabilité des systèmes d'IA. En 2026, le magazine Nature l'a nommée parmi les dix scientifiques à suivre, reconnaissant ses contributions à l'élaboration de référentiels éthiques pour les données d'IA. Elle est également connue pour avoir dirigé la création du référentiel d'images équitable et centré sur l'humain (FHIBE), un ensemble de données de plus de 10 000 images collectées avec une attention explicite à la diversité, à l'atténuation des biais et au consentement.
La carrière d'Alice Xiang couvre le monde universitaire, l'industrie et la recherche à but non lucratif. Avant de rejoindre Sony, elle a travaillé au Partnership on AI, où elle dirigeait la recherche sur l'équité, la transparence et la responsabilité. Sa formation académique comprend des diplômes de l'Université Harvard, de l'Université d'Oxford et de la faculté de droit de Yale, ce qui lui confère une perspective multidisciplinaire qu'elle applique à la gouvernance des technologies émergentes. Elle est l'autrice de nombreux articles et tribunes influents sur des sujets tels que les biais liés au teint de peau, la curation éthique des données et les défis juridiques et techniques de l'équité algorithmique.
Formation et début de carrière
Alice Xiang est titulaire d'un Juris Doctor de la faculté de droit de Yale, d'une maîtrise en économie du développement de l'Université d'Oxford, ainsi que d'une licence en économie et d'une maîtrise en statistiques de l'Université Harvard. Cette combinaison de formation juridique et quantitative est au cœur de son approche de l'éthique de l'IA, lui permettant de faire le pont entre le développement technique des modèles et les cadres réglementaires.
En début de carrière, Alice Xiang a travaillé au Partnership on AI, une organisation à but non lucratif fondée par de grandes entreprises technologiques, dont OpenAI, Google DeepMind, Apple et Amazon Web Services. Elle y a dirigé des projets de recherche sur l'équité, la transparence et la responsabilité, examinant comment rendre les systèmes d'IA plus équitables et leurs décisions plus explicables pour les utilisateurs. Elle a également été chercheuse invitée à l'Université Tsinghua à Pékin, élargissant ainsi sa perspective internationale sur la gouvernance de l'IA.
Direction chez Sony
Alice Xiang a rejoint le groupe Sony en tant que responsable mondiale de la gouvernance de l'IA et chercheuse principale. Dans ce rôle, elle supervise les stratégies de l'entreprise visant à garantir que ses produits et recherches en matière d'IA respectent des principes éthiques. Les initiatives d'IA de Sony couvrent un large éventail d'applications, de l'électronique grand public au divertissement et aux jeux vidéo. Les travaux d'Alice Xiang consistent à élaborer des cadres de gouvernance applicables à ces divers domaines.
Sous sa direction, Sony a mis l'accent sur l'importance d'une collecte et d'une curation éthiques des données. Alice Xiang a fait valoir que la qualité et l'équité des systèmes d'IA dépendent fortement des données utilisées pour les entraîner, et elle a plaidé en faveur de normes industrielles qui privilégient le consentement, la diversité et la propriété intellectuelle. Son travail a positionné Sony comme un acteur de premier plan dans le développement responsable de l'IA, en particulier dans le contexte de l'IA générative et des grands modèles de langage.
Référentiel d'images équitable et centré sur l'humain (FHIBE)
L'une des contributions les plus significatives d'Alice Xiang est le développement du référentiel d'images équitable et centré sur l'humain (FHIBE), un ensemble de données de plus de 10 000 images de personnes. Ce référentiel a été créé avec l'objectif explicite de refléter la diversité, d'atténuer les biais, de protéger les droits de propriété intellectuelle et d'obtenir le consentement des personnes photographiées. Cette approche se démarque de nombreux ensembles de données d'images existants, souvent constitués en extrayant des images d'Internet sans autorisation explicite et qui peuvent sous-représenter certains groupes démographiques.
Le FHIBE a fait l'objet d'une publication dans Nature en novembre 2025, coécrite avec Jerone T. A. Andrews, Rebecca L. Bourke et d'autres chercheurs. Le référentiel est conçu pour servir de référence dans l'évaluation des performances des modèles d'IA à travers différents groupes démographiques, aidant ainsi les chercheurs à identifier et à corriger les biais dans les systèmes d'apprentissage automatique. En 2026, le FHIBE a été reconnu par Fast Company comme l'une des idées capables de changer le monde, soulignant son potentiel à transformer la manière dont les données d'entraînement de l'IA sont collectées et utilisées.
Recherche sur l'équité et la transparence
Alice Xiang a publié de nombreux travaux sur les défis de l'équité et de la transparence en IA. Ses recherches abordent souvent la tension entre les approches techniques d'atténuation des biais et les contextes juridiques et sociaux dans lesquels les systèmes d'IA opèrent. Dans son article « Reconciling legal and technical approaches to algorithmic bias », publié dans la Tennessee Law Review en 2020, elle explore comment les normes juridiques en matière de discrimination peuvent éclairer la conception d'algorithmes plus équitables, et inversement.
Une autre contribution notable est son article de 2021 intitulé « What We Can't Measure, We Can't Understand: Challenges to Demographic Data Procurement in the Pursuit of Fairness », coécrit avec McKane Andrus, Elena Spitzer et Jeffrey Brown. Cet article examine les difficultés pratiques de la collecte de données démographiques nécessaires à l'audit des systèmes d'IA pour détecter les biais, notamment les préoccupations liées à la vie privée et les risques de mauvaise classification. Ces travaux ont eu une influence majeure sur les débats concernant l'équilibre entre équité et confidentialité dans l'IA.
Alice Xiang a également étudié le concept d'incertitude comme forme de transparence. Dans un article présenté en 2021 à la conférence AAAI/ACM sur l'éthique et la société de l'IA, elle et ses collègues ont soutenu que les systèmes d'IA devraient communiquer leur incertitude aux utilisateurs, permettant ainsi une prise de décision plus éclairée. Cette perspective remet en question l'hypothèse courante selon laquelle les résultats de l'IA devraient toujours être présentés avec un haut niveau de confiance.
Harms éthiques des générateurs de parole
En 2024, Alice Xiang a coécrit un article intitulé « Not My Voice! A Taxonomy of Ethical and Safety Harms of Speech Generators » avec Wiebke Toussaint Hutiri et Orestis Papakyriakopoulos. Présenté lors d'une conférence organisée par l'Association for Computing Machinery, cet article propose un cadre complet pour catégoriser les préjudices pouvant découler de la parole générée par l'IA, notamment l'usurpation d'identité, l'escroquerie et la propagation de désinformation, ainsi que des préjudices moins évidents comme l'érosion de la confiance dans les preuves audio.
Cette taxonomie vise à aider les développeurs et les décideurs politiques à anticiper et à atténuer les risques associés aux technologies de génération vocale, devenues de plus en plus sophistiquées grâce aux progrès de l'apprentissage profond et des réseaux de neurones. Les travaux d'Alice Xiang dans ce domaine reflètent sa préoccupation plus large concernant les implications sociétales de l'IA, en particulier à mesure que les modèles génératifs deviennent capables de produire des contenus de plus en plus réalistes.
Reconnaissance et distinctions
Les contributions d'Alice Xiang ont été largement reconnues. En 2021, elle a été incluse dans la liste des 100 femmes brillantes dans l'éthique de l'IA établie par Women in AI Ethics. En 2025, elle a reçu le prix Privacy Papers for Policymakers décerné par le Future of Privacy Forum pour son essai « Mirror, Mirror, on the Wall, Who's the Fairest of Them All? », publié dans la revue Daedalus en 2024. Cet essai examine comment les systèmes de vision par ordinateur peuvent mal percevoir les individus, en particulier ceux issus de groupes marginalisés, et plaide pour une compréhension plus nuancée de l'équité qui tienne compte à la fois de la vie privée et de la visibilité.
En 2026, Alice Xiang a été nommée parmi les dix scientifiques à suivre par Nature et figure dans la liste des 100 meilleures femmes en IA du magazine AI Magazine. Ces distinctions reflètent son influence croissante dans le domaine de l'éthique de l'IA, où elle est perçue comme un pont entre la recherche technique et l'élaboration des politiques.
Publications et écrits sélectionnés
Alice Xiang est l'autrice ou la coautrice de nombreux articles influents. Parmi ses travaux les plus cités figure « Explainable machine learning in deployment », publié en 2020, qui examine les défis pratiques de la mise en œuvre des techniques d'explicabilité dans les systèmes réels. Coécrit avec Umang Bhatt et d'autres chercheurs, cet article met en lumière l'écart entre la recherche académique sur l'interprétabilité et les besoins des praticiens.
Ses écrits abordent également les dimensions juridiques de l'IA, comme dans « Being 'seen' versus 'mis-seen': Tensions between privacy and fairness in computer vision », publié dans la Harvard Journal of Law & Technology en 2022. Cet article explore comment les protections de la vie privée peuvent entrer en conflit avec les efforts visant à garantir l'équité, en particulier dans les technologies de surveillance et de reconnaissance faciale.
En plus de ses publications académiques, Alice Xiang a écrit des tribunes pour Fortune et Time, où elle communique ses recherches sur les biais liés au teint de peau et la curation éthique des données à un public plus large. Sa capacité à traduire des questions techniques complexes dans un langage accessible a fait d'elle une commentatrice très sollicitée sur l'éthique de l'IA.
Impact et héritage
Les travaux d'Alice Xiang s'inscrivent dans un mouvement plus large visant à rendre l'IA plus responsable envers les personnes qu'elle affecte. En se concentrant sur l'ensemble du cycle de vie des systèmes d'IA, de la collecte des données à leur déploiement, elle a contribué à faire évoluer la conversation de la performance purement technique vers des questions de responsabilité sociale. Son leadership chez Sony, combiné à ses contributions académiques, fait d'elle une figure clé dans l'effort continu pour développer une IA à la fois innovante et éthique.
Alors que l'IA continue de pénétrer tous les aspects de la société, les cadres développés par Alice Xiang pour la curation éthique des données et l'évaluation de l'équité sont susceptibles de devenir de plus en plus importants. Son insistance sur le consentement et la diversité dans la collecte des données offre un modèle pour les entreprises cherchant à construire des systèmes d'IA qui respectent les droits individuels tout en maintenant des performances élevées. À travers ses recherches, son plaidoyer et son leadership, Alice Xiang contribue à définir ce à quoi ressemble une IA responsable au XXIe siècle.