L'Institut pour le futur de la vie (FLI) a été officiellement créé en 2015 en tant qu'organisation à but non lucratif dédiée à la réduction des risques existentiels auxquels l'humanité est confrontée, avec un accent particulier sur le développement de l'intelligence artificielle avancée. La fondation de l'institut a été annoncée lors d'une conférence tenue à Porto Rico en janvier 2015, qui a réuni des chercheurs de premier plan dans le domaine pour discuter des implications sociétales à long terme de l'IA. L'événement a servi de catalyseur aux premières activités publiques du FLI, notamment la publication d'une lettre ouverte appelant à un changement des priorités de recherche vers la garantie que les systèmes d'IA restent robustes et bénéfiques pour la société.
La conférence de 2015, organisée par les cofondateurs du FLI, dont le cosmologiste Max Tegmark et le cofondateur de Skype Jaan Tallinn, a attiré plus de 150 participants issus du monde universitaire et de l'industrie. Parmi les participants figuraient des personnalités éminentes telles que le philosophe de l'université d'Oxford Nick Bostrom, le chercheur du MIT CSAIL et affilié au BAIR (Berkeley AI Research) Stuart Russell, et le cofondateur de Google DeepMind Demis Hassabis. La réunion s'est concentrée sur des sujets allant des défis techniques de la sécurité du apprentissage automatique à la gouvernance des armes autonomes. Les discussions ont souligné la nécessité de mesures proactives pour faire face aux risques potentiels avant que les capacités de l'IA ne dépassent les mécanismes de contrôle humains.
Lettre ouverte sur la sécurité de l'IA
Le 11 janvier 2015, le FLI a publié une lettre ouverte intitulée « Priorités de recherche pour une intelligence artificielle robuste et bénéfique : une lettre ouverte ». La lettre, rédigée par Russell, Tegmark et d'autres, a exhorté la communauté de l'IA à élargir la recherche dans des domaines tels que la vérification, la validation et le contrôle des systèmes d'IA. Elle a souligné que l'objectif à long terme de l'IA devrait être de créer des systèmes alignés sur les valeurs humaines, plutôt que de simplement optimiser des objectifs étroits. La lettre a été signée par des milliers de chercheurs et de technologues, dont le cofondateur d'Apple Steve Wozniak, le PDG de Tesla Elon Musk et le physicien Stephen Hawking. Les signataires représentaient une large section transversale du domaine, des laboratoires académiques comme le Stanford AI Lab et l'université Carnegie-Mellon aux groupes industriels tels que OpenAI (fondé plus tard la même année) et Google DeepMind.
La lettre a défini douze priorités de recherche spécifiques, notamment la supervision évolutive, l'interprétabilité et le développement de méthodes de vérification formelle pour les systèmes de réseaux de neurones. Elle a également appelé à une collaboration accrue entre les chercheurs en IA et les experts en éthique, en droit et en économie. La publication du document a généré une attention médiatique considérable et a contribué à faire entrer le risque existentiel lié à l'IA dans le discours public dominant. En quelques semaines, il avait été couvert par les principaux médias et cité dans des discussions politiques, marquant un tournant dans la manière dont le domaine abordait les préoccupations de sécurité.
Principes fondateurs et structure
Le FLI a été constitué en tant qu'organisation caritative 501(c)(3) aux États-Unis, avec son siège à Boston, dans le Massachusetts. Son conseil d'administration fondateur comprenait Tegmark, Tallinn et le professeur du MIT et pionnier du apprentissage profond Yoshua Bengio, qui a ensuite servi de conseiller scientifique. L'énoncé de mission de l'institut mettait l'accent sur la réduction des risques liés à l'IA avancée, aux armes nucléaires et à la biotechnologie, bien que l'IA soit rapidement devenue son principal centre d'intérêt. Le FLI a établi un programme de subventions pour financer la recherche académique sur la sécurité de l'IA, distribuant des millions de dollars au cours des années suivantes à des projets dans des institutions telles que l'université de Toronto et le BAIR (Berkeley AI Research). L'événement de 2015 a également conduit à la création d'une série de conférences annuelles, avec des réunions ultérieures tenues à Asilomar, en Californie, en 2017, qui ont produit les principes d'IA d'Asilomar.
Impact sur la recherche en IA
La lettre ouverte de 2015 et les activités ultérieures du FLI ont eu un effet mesurable sur la trajectoire de la recherche en IA. Dans les années qui ont suivi, les principaux laboratoires, y compris OpenAI et Anthropic (fondé en 2021), ont explicitement intégré la sécurité et l'alignement dans leurs programmes de recherche fondamentaux. L'accent mis par la lettre sur le Reinforcement Learning from AI Feedback (RLAIF) (apprentissage par renforcement à partir de retours humains) et l'interprétabilité a anticipé les développements ultérieurs dans la formation des grands modèles de langage. Le financement du FLI a aidé à lancer les premiers travaux sur les architectures de transformeurs et les mécanismes de attention multi-têtes, bien que l'institut lui-même n'ait pas directement développé ces technologies. D'ici 2020, le domaine avait connu une augmentation marquée des publications traitant de la robustesse de l'IA, de l'élagage de modèles et de la conception de fonctions de perte pour des applications critiques en matière de sécurité.
Critiques et débats
Certains chercheurs ont exprimé leur scepticisme quant à la manière dont le FLI encadrait le risque existentiel, arguant qu'il surestimait les scénarios spéculatifs au détriment des préoccupations à court terme comme le biais algorithmique et le déplacement d'emplois. Les critiques ont noté que les signataires de la lettre ouverte comprenaient de nombreuses personnes ayant des intérêts commerciaux dans l'IA, soulevant des questions sur les conflits d'intérêts. D'autres ont soutenu que l'accent mis par l'institut sur les risques catastrophiques était justifié compte tenu du rythme rapide des progrès dans l'IA générative et les systèmes autonomes. Ces débats se sont poursuivis tout au long des années 2010, le FLI révisant occasionnellement son message pour répondre à la fois aux défis à long terme et immédiats.
Héritage
Au milieu des années 2020, le FLI était devenu une institution centrale dans l'écosystème de la sécurité de l'IA, son événement de 2015 étant largement considéré comme un moment fondateur. Les principes de la lettre ouverte ont influencé les discussions réglementaires dans l'Union européenne et aux États-Unis, y compris les propositions de tests de sécurité obligatoires pour les systèmes d'IA avancés. Les subventions annuelles du FLI ont soutenu des dizaines de projets de recherche, dont beaucoup ont contribué au développement de techniques comme la normalisation par lots et le abandon qui sont désormais standard dans la pratique du apprentissage profond. L'accent mis par l'institut sur l'alignement des valeurs a préfiguré l'essor de l'IA constitutionnelle et d'autres méthodes d'alignement utilisées par des organisations ultérieures. En 2025, le FLI continue de publier des recherches et d'organiser des conférences, maintenant son rôle de gardien et de facilitateur pour un développement responsable de l'IA.
Infobox
- Date : Janvier 2015
- Lieu : Porto Rico
- Participants : Max Tegmark, Jaan Tallinn, Nick Bostrom, Stuart Russell, Demis Hassabis, Elon Musk, Stephen Hawking
- Résultat : Fondation de l'Institut pour le futur de la vie ; publication de la lettre ouverte sur la sécurité de l'IA
Catégories
- ai-safety
- existential-risk
- nonprofit
- 2015-events