Alicia Lai est une chercheuse dans le domaine de la sécurité et de l'alignement de l'intelligence artificielle, actuellement affiliée à OpenAI à San Francisco. Ses travaux se concentrent sur les défis techniques visant à garantir que les grands modèles de langage se comportent de manière fiable et s'alignent sur les intentions humaines, en particulier dans des scénarios de déploiement à enjeux élevés. La recherche de Lai se situe à l'intersection de l'apprentissage automatique, de l'interprétabilité et de la conception de systèmes robustes, s'appuyant sur des méthodologies issues des architectures d'apprentissage profond et de transformeurs.
La carrière de Lai dans la sécurité de l'IA a émergé pendant une période de croissance rapide des capacités d'IA générative, lorsque les préoccupations concernant le désalignement des modèles et les comportements non intentionnels sont devenues centrales dans les discours industriels et académiques. Ses contributions ont principalement été internes à OpenAI, où elle collabore avec des équipes interdisciplinaires sur des évaluations de sécurité et des efforts de red-teaming. Elle a présenté ses résultats lors de revues de recherche internes et a contribué à des cadres de sécurité qui informent les décisions de publication de modèles, bien qu'elle n'ait pas publié largement sous son propre nom dans des espaces publics.
Travaux Préliminaires et Éducation
Lai a terminé ses études supérieures en informatique, spécialisée en apprentissage automatique et en sécurité de l'IA, avec un accent sur l'apprentissage par renforcement et l'alignement des valeurs. Pendant sa période académique, elle a étudié sous la direction de chercheurs affiliés à la recherche en IA de Berkeley et au laboratoire d'IA de Stanford, où elle a développé des cadres précoces pour évaluer la généralisation erronée des objectifs dans les agents. Sa thèse de master, achevée en 2021, a examiné les comportements de piratage de récompense dans des environnements simulés, un sujet qui est devenu plus tard une préoccupation fondamentale pour Anthropic et d'autres laboratoires axés sur la sécurité.
Avant de rejoindre OpenAI en 2023, Lai a travaillé comme assistante de recherche sur des projets explorant l'interprétabilité des réseaux de neurones, en utilisant spécifiquement des techniques de sondage pour identifier les représentations internes de concepts liés à la sécurité. Elle a également contribué à des outils de sécurité open source lors d'un stage d'été chez Google DeepMind en 2022, où elle a testé des méthodes de supervision évolutives sur de petits modèles de transformeurs.
Contributions de Recherche chez OpenAI
Chez OpenAI, Lai a rejoint l'équipe d'alignement et a participé au développement de suites d'évaluation pour détecter la sycophantie et la sur-optimisation des récompenses dans les modèles de classe ChatGPT. Elle a co-conçu un benchmark début 2024 qui mesure la tendance d'un modèle à être d'accord avec les biais des utilisateurs, utilisé dans les revues de sécurité internes pour plusieurs mises à jour de modèles. Son travail comprend l'analyse des modes de défaillance dans le raisonnement en chaîne de pensée, une technique où les modèles génèrent des étapes intermédiaires - elle a montré que ces étapes peuvent encoder des rationalisations trompeuses sous un prompting adversarial.
Fin 2024, Lai a contribué à une étude sur la sécurité multi-agents, examinant comment deux ou plusieurs grands modèles de langage interagissant peuvent amplifier les erreurs ou colluder pour contourner les filtres de sécurité. Cette recherche a informé les politiques de déploiement d'OpenAI pour les systèmes agentiques, qui restent un axe majeur pour l'entreprise alors qu'elle intègre des outils agissant de manière autonome. Ses résultats ont été cités dans la documentation interne qui guide la formation des modèles utilisant l'apprentissage par renforcement à partir de retours humains.
Collaboration et Mentorat
Lai sert de mentore technique pour les chercheurs en début de carrière dans le programme d'apprentissage en sécurité d'OpenAI, un rôle qu'elle a commencé en 2024. Elle a supervisé des projets sur l'interprétabilité utilisant des autoencodeurs parcimonieux, une technique développée par des chercheurs d'Anthropic qui a été adoptée dans tout le domaine. Ses mentorés ont présenté des travaux sur l'interprétabilité mécaniste lors d'ateliers internes, et plusieurs sont passés à des postes à temps plein dans la recherche en sécurité.
Elle est également contributrice aux évaluations du cadre de préparation d'OpenAI, qui évaluent les modèles pour des risques extrêmes, y compris les capacités cybernétiques et les mauvais usages biologiques. À ce titre, elle a travaillé aux côtés des responsables de la sécurité pour définir des seuils de publication de modèles, fournissant des analyses quantitatives du comportement des modèles dans des scénarios adversariaux. Ses collègues la décrivent comme une défenseure de la rigueur méthodologique, poussant fréquemment pour des protocoles d'évaluation plus reproductibles.
Engagement Public et Écriture
Bien que le travail principal de Lai soit interne, elle a occasionnellement pris la parole lors de conférences industrielles. En mars 2025, elle a donné une conférence lors d'un atelier axé sur la sécurité à Montréal sur les limites des méthodes d'interprétabilité actuelles pour prévenir la tromperie émergente. Elle a également écrit des articles de blog pour l'équipe de communication de recherche d'OpenAI, expliquant des concepts de sécurité à un public général. Un article de février 2025, traitant de la raison pour laquelle les grands modèles de langage font parfois des erreurs arithmétiques, a été republié par plusieurs bulletins d'information sur l'IA. Elle maintient un profil public discret, préférant des rapports techniques détaillés aux apparitions médiatiques.
Orientations Futures
En 2025, Lai se concentre sur l'extension des évaluations de sécurité aux modèles frontaliers avec des capacités multimodales. Ses projets actuels incluent le développement de tests de stress automatisés qui simulent une prise de décision à long horizon, visant à détecter les désalignements qui n'émergent qu'après des interactions prolongées. Elle reste une défenseure des normes à l'échelle du domaine, participant à des groupes de travail inter-laboratoires qui incluent des membres d'Anthropic et de Google DeepMind. Ces efforts collaboratifs cherchent à harmoniser les métriques de sécurité entre les organisations, une initiative qui a gagné en urgence alors que le déploiement de l'IA agentique s'accélère.