Connor Leahy est un chercheur en intelligence artificielle et entrepreneur germano-américain, connu pour ses travaux sur les grands modèles de langage et pour son plaidoyer sur les risques liés à l'IA avancée. Il a cofondé EleutherAI, un collectif ayant produit les premiers modèles de langage open source, puis a fondé la société de recherche en sécurité de l'IA Conjecture, qu'il a dirigée en tant que PDG jusqu'en 2026. Depuis 2026, il occupe le poste de directeur américain de ControlAI, une organisation à but non lucratif axée sur la prévention du risque d'extinction lié à la superintelligence artificielle.
Leahy est une voix éminente qui met en garde contre le potentiel d'extinction humaine lié à l'IA avancée. Il a témoigné devant la Chambre des communes du Canada et a participé au premier sommet sur la sécurité de l'IA en 2023. Ses déclarations publiques soulignent souvent l'imprévisibilité des systèmes d'IA puissants et la nécessité d'une surveillance gouvernementale.
Jeunesse et éducation
Leahy a grandi en Allemagne, puis a déménagé aux États-Unis. Il a étudié à l'université, où il a commencé à expérimenter avec des modèles de Machine learning pendant son temps libre. Encore étudiant en 2019, il a rétroconçu le GPT-2 d'OpenAI dans sa chambre de dortoir, à une époque où le modèle complet avait été initialement retenu par l'organisation. Ce premier projet a suscité son intérêt pour le fonctionnement interne des grands modèles de langage et leur impact sociétal potentiel.
Carrière et recherche
En juillet 2020, Leahy a cofondé EleutherAI avec Sid Black et Leo Gao, avec un objectif initial de répliquer GPT-3 dans un cadre open source. Durant son mandat de coresponsable, EleutherAI a produit certains des premiers grands modèles de langage et ensembles de données open source. Cela incluait The Pile en décembre 2020, GPT-Neo en mars 2021, GPT-J-6B en juin 2021 et GPT-NeoX-20B en février 2022. Au moment de sa sortie, GPT-J-6B était le plus grand modèle de langage open source de style GPT-3 au monde, une étape importante pour la communauté de recherche en IA.
En mars 2022, Leahy a cofondé Conjecture, une société de recherche en sécurité de l'IA qu'il a dirigée en tant que PDG. La mission déclarée de l'entreprise était de faire évoluer la recherche appliquée sur l'alignement de l'IA, visant à relever le défi de garantir que les systèmes d'IA puissants agissent conformément aux intentions humaines. Leahy a exprimé son scepticisme quant à l'apprentissage par renforcement à partir de retours humains comme solution complète au problème de l'alignement. Il a décrit les systèmes d'IA puissants comme « aliens » dans leur raisonnement, notant que des techniques comme le RLHF pourraient ne faire que masquer des processus de pensée non humains sous-jacents. Il a utilisé la métaphore d'un « masque de visage souriant » qui peut glisser sous des invites inattendues, révélant ce qu'il appelle une « immense face cachée de folie ».
Plaidoyer et engagement public
En mars 2023, Leahy a été l'un des signataires d'une lettre ouverte de l'Institut pour le futur de la vie appelant à « toutes les laboratoires d'IA de suspendre immédiatement pendant au moins 6 mois l'entraînement de systèmes d'IA plus puissants que GPT-4 ». La lettre a attiré une large attention et a suscité un débat sur le rythme du développement de l'IA. En mai 2023, il figurait parmi les signataires de la déclaration sur le risque lié à l'IA, une déclaration d'une phrase qui se lit comme suit : « Atténuer le risque d'extinction lié à l'IA devrait être une priorité mondiale, au même titre que d'autres risques à l'échelle sociétale, tels que les pandémies et la guerre nucléaire ». La déclaration a été signée par des centaines de personnalités notables, notamment des lauréats du prix Nobel, des chercheurs en IA et des PDG de grandes entreprises d'IA comme OpenAI, Anthropic et Google DeepMind.
En novembre 2023, Leahy a été invité à s'exprimer lors du premier sommet sur la sécurité de l'IA tenu au Royaume-Uni. Il a exprimé son inquiétude quant au fait que le sommet ne parviendrait pas à aborder adéquatement les risques liés aux systèmes d'IA dépassant les capacités humaines, arguant que si de tels systèmes sont construits sans contrôle approprié, « l'avenir leur appartient, pas à nous ». Il a collaboré avec l'organisation à but non lucratif ControlAI pour plaider en faveur de l'implémentation par les gouvernements d'une pause dans le développement de l'intelligence artificielle générale, et a critiqué les grandes entreprises d'IA pour avoir tenté d'échapper à la surveillance et à la réglementation gouvernementales.
Carrière ultérieure
En mars 2026, Leahy a annoncé dans une rétrospective que le projet Conjecture touchait à sa fin et qu'il rejoignait ControlAI en tant que directeur américain, un rôle dans lequel il avait auparavant servi en tant que conseiller. Son travail chez ControlAI se concentre sur le plaidoyer politique et l'éducation du public concernant les risques de la superintelligence artificielle. Il continue d'écrire et de s'exprimer publiquement sur la sécurité de l'IA, tenant une newsletter Substack intitulée « Expedition to the Far Lands ».
Voir aussi
- Llion Jones
- Jakob Uszkoreit
- Lukasz Kaiser
- Niki Parmar
- Mark Chen
- Brad Lightcap
- Jacob Steinhardt
- David Kaplan
- Jack Clark
- David Luan
- Chen Wu
- Ashish Kumar
- Karen Simonyan
- Koray Kavukcuoglu
- Michael Jordan
- Anima Anandkumar
- Samy Bengio
- Joshua Tenenbaum
- Brendan Lake
- Melanie Mitchell