L'Institut pour l'avenir de la vie (FLI) est une organisation à but non lucratif dédiée à l'atténuation des risques existentiels posés par les technologies avancées, avec un accent principal sur intelligence artificielle. Fondé en 2014, le FLI opère à l'intersection de la technologie, de la politique et de l'éthique, visant à garantir que les développements transformateurs profitent à l'humanité plutôt que de conduire à des issues catastrophiques. L'institut est connu pour ses recherches influentes, ses campagnes de sensibilisation du public et son engagement direct auprès des décideurs politiques et des développeurs de technologies.
La mission du FLI englobe un large éventail de risques potentiels, y compris ceux liés aux armes nucléaires, à la biotechnologie et au changement climatique, mais son travail le plus important se concentre sur le développement sûr de apprentissage automatique et de grands modèles de langage. L'organisation plaide en faveur de mesures de précaution, de normes de sécurité robustes et de coopération internationale pour régir les systèmes d'IA puissants. Elle finance également la recherche universitaire et soutient des initiatives qui explorent les implications sociétales à long terme des technologies émergentes.
Histoire et fondation
Le FLI a été fondé en 2014 par le cosmologiste du MIT Max Tegmark, le cofondateur de Skype Jaan Tallinn, et la chercheuse Viktoriya Krakovna, entre autres. L'institut est issu d'une série d'ateliers et de discussions sur le risque existentiel, réunissant des experts de domaines tels que la physique, l'informatique et la philosophie. Son financement initial provenait de Tallinn, qui avait déjà soutenu d'autres organisations consacrées aux risques à long terme, et du projet Open Philanthropy.
En janvier 2015, le FLI a publié une lettre ouverte sur l'intelligence artificielle, signée par des personnalités éminentes telles que Stephen Hawking, Elon Musk et de nombreux chercheurs en IA. La lettre appelait à la recherche sur la sécurité de l'IA et ses impacts sociétaux, contribuant à amener ces questions dans le discours dominant. Cela a été suivi par la conférence de Porto Rico en 2015, qui a produit un ensemble de principes pour un développement bénéfique de l'IA, formalisés plus tard sous le nom de principes d'Asilomar sur l'IA en 2017.
Principales initiatives et programmes
Le FLI gère plusieurs programmes phares visant à réduire les risques liés à l'IA. Le programme de subventions pour la sécurité de l'IA a distribué des millions de dollars à des chercheurs universitaires travaillant sur la sécurité technique, l'interprétabilité et la robustesse. Parmi les bénéficiaires notables figurent des équipes de Université d'Oxford, Recherche en IA de Berkeley et Université Carnegie Mellon.
L'institut organise également des conférences et des ateliers, tels que les conférences sur l'IA bénéfique, qui réunissent des chercheurs, des leaders de l'industrie et des décideurs politiques. Le FLI publie des notes de politique et des rapports, et son personnel témoigne fréquemment devant des organes gouvernementaux. En 2023, le FLI a joué un rôle clé en plaidant pour une pause dans l'entraînement des systèmes d'IA plus puissants que GPT-4, un appel qui a suscité à la fois soutien et critiques.
De plus, le FLI gère la bourse de sécurité existentielle de l'IA, qui soutient les chercheurs en début de carrière, et le prix pour l'avenir de la vie, qui honore les individus ayant apporté des contributions significatives à la réduction du risque existentiel. L'institut s'engage également dans la sensibilisation du public par le biais de films, de podcasts et de matériel éducatif.
Politique et plaidoyer
Les efforts de plaidoyer du FLI se concentrent sur l'établissement de cadres réglementaires pour l'IA. Il a soutenu des initiatives telles que la loi sur l'IA de l'Union européenne et a appelé à la création d'organes de surveillance internationaux. L'institut souligne l'importance de la transparence, de la responsabilité et du développement de normes de sécurité avant le déploiement de systèmes d'IA avancés.
En 2023, le FLI a publié une lettre ouverte intitulée « Pause Giant AI Experiments », signée par plus de 1 000 leaders technologiques et chercheurs. La lettre exhortait les laboratoires d'IA à suspendre le développement de systèmes dépassant les capacités de GPT-4 pendant au moins six mois, citant des risques profonds pour la société. Cela a déclenché un débat généralisé et influencé les discussions ultérieures sur la gouvernance de l'IA.
Le FLI collabore également avec d'autres organisations, notamment OpenAI, Anthropic et Google DeepMind, pour promouvoir les meilleures pratiques. Cependant, l'institut maintient une position indépendante, critiquant souvent les actions de l'industrie lorsqu'elles ne répondent pas aux attentes en matière de sécurité.
Recherche et publications
Le FLI mène ses propres recherches sur les scénarios de risque liés à l'IA, y compris le développement de modèles mathématiques pour les issues catastrophiques. Il publie des documents de travail et des rapports, tels que la série « IA et risque existentiel », qui analysent les modes de défaillance potentiels dans les réseaux de neurones et les architectures transformers. L'institut suit également les développements politiques mondiaux en matière d'IA et maintient une base de données de la législation pertinente.
Ses recherches ont contribué à la compréhension des problèmes d'alignement, où les systèmes d'IA peuvent agir de manière non alignée avec les valeurs humaines. Le FLI soutient le travail sur l'interprétabilité, la robustesse et l'apprentissage des valeurs, et a financé des projets sur la sécurité de l'apprentissage par renforcement et les risques liés à l'IA générative.
Impact et réception
Le FLI a été crédité d'avoir sensibilisé le public aux risques existentiels liés à l'IA, influençant à la fois les programmes de recherche académique et les débats politiques publics. Ses lettres ouvertes et ses conférences ont contribué à légitimer la sécurité de l'IA comme domaine d'étude. Cependant, l'institut a également fait face à des critiques de certains qui soutiennent que son accent sur les scénarios extrêmes détourne l'attention de problèmes plus immédiats comme les biais et le déplacement d'emplois.
Malgré ces débats, le FLI reste une voix centrale dans la conversation mondiale sur la gouvernance de l'IA. Ses subventions ont soutenu de nombreux projets de recherche, et son plaidoyer a contribué à l'inclusion de dispositions de sécurité dans divers cadres nationaux et internationaux. En 2024, le FLI continue d'étendre ses programmes, avec un accent particulier sur les risques posés par les grands modèles de langage avancés et le potentiel de l'intelligence artificielle générale.