Miles Brundage est un chercheur en politiques de l'intelligence artificielle, spécialisé dans la gouvernance et les implications sociétales des systèmes d'IA avancés. Il est connu pour ses rôles de direction chez OpenAI, notamment en tant que responsable de la recherche politique et conseiller principal pour la préparation à l'AGI, ainsi que pour avoir fondé l'AI Verification and Evaluation Research Institute (AVERI), un organisme à but non lucratif consacré à l'audit externe des modèles d'IA de pointe.
Les travaux de Brundage se sont concentrés sur l'intersection de la sécurité de l'IA, des politiques et de l'évaluation, avec un accent particulier sur la préparation aux impacts potentiels de l'intelligence artificielle générale (AGI). Son départ d'OpenAI en 2024 a attiré une large attention médiatique, reflétant des préoccupations plus larges concernant la sécurité de l'IA au sein de l'industrie.
Jeunesse et éducation
Brundage a obtenu un baccalauréat ès arts en science politique à l'Université George Washington en 2010. Après l'obtention de son diplôme, il a travaillé pendant deux ans à l'ARPA-E, l'Agence des projets de recherche avancée pour l'énergie, et a effectué un stage à l'Institute for Human and Machine Cognition (IHMC). Il a ensuite poursuivi des études doctorales à l'Université d'État de l'Arizona, recevant un doctorat en dimensions humaines et sociales de la science et de la technologie en 2019.
Carrière dans les politiques de l'IA
De 2016 à 2018, Brundage a été chercheur à l'Université d'Oxford au sein du Future of Humanity Institute, où il a contribué aux premiers travaux sur les risques sociétaux de l'IA. Il est également membre du Center for a New American Security, un groupe de réflexion axé sur la sécurité nationale et les politiques technologiques. En outre, il a siégé au conseil d'éthique de l'IA et des technologies de police d'Axon de 2018 à 2022, conseillant sur l'utilisation éthique de l'IA dans l'application de la loi.
OpenAI et la préparation à l'AGI
En 2018, Brundage a rejoint OpenAI en tant que chercheur en politiques, devenant plus tard responsable de la recherche politique, puis conseiller principal pour la préparation à l'AGI. Dans ce rôle, il a contribué à façonner l'approche de l'organisation en matière de sécurité et de politiques de l'IA, notamment en ce qui concerne les efforts visant à évaluer et à se préparer aux défis de l'AGI. En 2024, il a quitté OpenAI, citant un désir d'indépendance et de liberté accrues dans ses recherches. Il a déclaré publiquement que les entreprises d'IA et le reste du monde n'étaient pas prêts pour l'AGI, et son départ s'inscrivait dans une tendance plus large de départs d'employés éminents de la sécurité de l'IA et de cadres supérieurs de l'entreprise.
En mars 2025, Brundage a commenté un article de blog d'OpenAI, le louant dans l'ensemble mais exprimant son inquiétude quant au fait qu'il « réécrivait l'histoire » de l'approche de déploiement de l'entreprise, en particulier concernant la charge de la preuve pour les préoccupations de sécurité.
AI Verification and Evaluation Research Institute
En janvier 2026, Brundage a annoncé le lancement de l'AI Verification and Evaluation Research Institute (AVERI), un organisme à but non lucratif dédié à la promotion de l'audit externe des modèles d'IA de pointe. AVERI vise à établir des normes pour l'audit de l'IA et à fournir une évaluation indépendante des systèmes d'IA avancés, répondant au besoin de contrôle par des tiers dans le domaine en évolution rapide de l'apprentissage automatique et de l'IA générative.
Héritage et impact
La carrière de Brundage reflète une importance croissante accordée à la gouvernance de l'IA et à la nécessité de mécanismes d'évaluation robustes. Son travail chez OpenAI et à l'AVERI a influencé les discussions sur la sécurité de l'IA, en particulier autour du concept de préparation à l'AGI. En plaidant pour un audit externe et une évaluation transparente, il a contribué au développement de cadres politiques visant à équilibrer l'innovation et les garanties sociétales.
Ses perspectives sur la préparation des entreprises d'IA et des gouvernements à l'AGI ont suscité des débats, et sa transition de l'industrie vers la recherche à but non lucratif souligne les défis liés à la garantie d'un développement responsable de l'IA. En 2026, Brundage continue d'être une voix éminente dans les politiques de l'IA, se concentrant sur la vérification et l'évaluation comme outils essentiels pour la responsabilité.