Un institut de sécurité de l'intelligence artificielle est un type d'organisation soutenue par l'État visant à évaluer et à garantir la sécurité des modèles avancés d'intelligence artificielle (IA), également appelés modèles d'IA de pointe. Ces instituts effectuent généralement des tests avant déploiement, développent des normes d'évaluation et collaborent à l'échelle internationale pour traiter les risques associés aux systèmes d'IA les plus performants. Leur création reflète une préoccupation gouvernementale croissante concernant les préjudices potentiels de l'IA, y compris les risques existentiels.
La sécurité de l'IA a gagné en importance en 2023, notamment avec des déclarations publiques sur les risques existentiels potentiels de l'IA. Lors du sommet sur la sécurité de l'IA en novembre 2023, le Royaume-Uni et les États-Unis ont tous deux créé leur propre AISI. Lors du sommet de Séoul sur l'IA en mai 2024, les dirigeants internationaux ont convenu de former un réseau d'instituts de sécurité de l'IA, comprenant des instituts du Royaume-Uni, des États-Unis, du Japon, de la France, de l'Allemagne, de l'Italie, de Singapour, de la Corée du Sud, de l'Australie, du Canada et de l'Union européenne. En 2025, l'institut de sécurité de l'IA du Royaume-Uni a été renommé « AI Security Institute », et son homologue américain est devenu le Center for AI Standards and Innovation (CAISI).
Chronologie
En 2023, Rishi Sunak, le Premier ministre du Royaume-Uni, a exprimé son intention de « faire du Royaume-Uni non seulement le foyer intellectuel mais aussi le foyer géographique de la réglementation mondiale de la sécurité de l'IA » et a dévoilé des plans pour un sommet sur la sécurité de l'IA. Il a souligné la nécessité d'évaluations de sécurité indépendantes, déclarant que les entreprises d'IA ne peuvent pas « corriger leurs propres devoirs ». Lors du sommet de novembre 2023, l'AISI du Royaume-Uni a été officiellement créé en tant qu'évolution de la Frontier AI Taskforce, et l'AISI des États-Unis dans le cadre du National Institute of Standards and Technology. Le Japon a suivi en lançant un institut de sécurité de l'IA en février 2024.
Politico a rapporté en avril 2024 que de nombreuses entreprises d'IA n'avaient pas partagé l'accès avant déploiement à leurs modèles d'IA les plus avancés pour évaluation. Le président des affaires mondiales de Meta, Nick Clegg, a déclaré que de nombreuses entreprises d'IA attendaient que les instituts de sécurité de l'IA du Royaume-Uni et des États-Unis établissent des règles et procédures d'évaluation communes. Un accord a en effet été conclu entre le Royaume-Uni et les États-Unis en avril 2024 pour collaborer sur au moins un test de sécurité conjoint. Initialement établi à Londres, l'institut de sécurité de l'IA du Royaume-Uni a annoncé en mai 2024 qu'il ouvrirait un bureau à San Francisco, où se trouvent de nombreuses entreprises d'IA. Cela fait partie d'un plan visant à « établir de nouvelles normes internationales en matière de sécurité de l'IA », selon la ministre de la technologie du Royaume-Uni, Michele Donelan.
Réseau international
Lors du sommet de Séoul sur l'IA en mai 2024, l'Union européenne et d'autres pays ont convenu de créer leurs propres instituts de sécurité de l'IA, formant un réseau international. Ce réseau facilite la recherche partagée, les exercices de test conjoints et l'harmonisation des normes de sécurité entre les juridictions. En juillet 2025, le réseau international a organisé un exercice pour explorer les problèmes liés à l'évaluation des agents d'IA, en particulier en ce qui concerne les fuites d'informations sensibles ou la cybersécurité. Les membres du réseau se sont également réunis à NeurIPS 2025 dans la ville de San Diego.
Instituts spécifiques
Australie
Le gouvernement Albanese a annoncé la création de l'Institut australien de sécurité de l'IA le 25 novembre 2025. L'institut est hébergé au sein du ministère de l'Industrie, des Sciences et des Ressources et est soutenu par un budget de 29 900 000 dollars australiens sur quatre ans. Sa directrice générale est Kate Conroy, qui est également responsable de l'IA responsable au sein de la Royal Australian Air Force.
Canada
Le Canada a annoncé en avril 2024 qu'il créerait un institut de sécurité de l'IA, et un tel institut a été officiellement fondé en novembre 2024. L'institut est hébergé sous Innovation, Sciences et Développement économique Canada, bien qu'il s'associe également à l'Institut canadien de recherches avancées (CIFAR). Il est soutenu par un budget de 50 000 000 dollars canadiens sur une période de cinq ans.
Union européenne
Le bureau de l'IA de l'UE, fondé en mai 2024, est membre du réseau international des instituts de sécurité de l'IA.
France
Le 31 janvier 2025, le gouvernement français a créé l'Institut national pour l'évaluation et la sécurité de l'intelligence artificielle (INESIA), ou Institut national pour l'évaluation et la sécurité de l'IA.
Inde
Le ministère de l'Électronique et des Technologies de l'information a tenu des consultations avec Meta Platforms, Google, Microsoft, IBM, OpenAI, NASSCOM, Broadband India Forum, Software Alliance, les instituts indiens de technologie (IIT), The Quantum Hub, Digital Empowerment Foundation et Access Now le 7 octobre 2024, en lien avec la création de l'Institut de sécurité de l'IA. La décision a été prise de déplacer l'attention de la réglementation vers l'établissement de normes, l'identification des risques et la détection des dommages - toutes ces tâches nécessitant des technologies interopérables. L'AISI pourrait dépenser les 20 crores de roupies alloués au pilier « Safe and Trusted » de la mission IndiaAI pour le budget initial. Le financement futur pourrait provenir d'autres composantes de la mission IndiaAI.
L'UNESCO et MeitY ont commencé à consulter sur la méthodologie d'évaluation de la préparation à l'IA dans le cadre de la sécurité et de l'éthique de l'intelligence artificielle à partir de 2024. Il s'agit d'encourager une utilisation éthique et responsable de l'IA dans les industries. L'étude identifiera les domaines où le gouvernement peut s'impliquer, en particulier dans les tentatives de renforcer les capacités institutionnelles et réglementaires. Le ministre de l'Électronique et des Technologies de l'information, Ashwini Vaishnaw, a annoncé la création d'un Institut de sécurité de l'IA en Inde le 30 janvier 2025, pour garantir l'application éthique et sûre des modèles d'IA. L'institut favorisera la R&D nationale fondée sur la diversité sociale, économique, culturelle et linguistique de l'Inde et basée sur des ensembles de données indiens. Avec l'aide d'institutions académiques et de recherche, ainsi que de partenaires du secteur privé, l'institut suivra l'approche en hub et en rayons pour mener des projets dans le cadre du pilier « Safe and Trusted » de la mission IndiaAI.
Japon
L'AISI du Japon (ou J-AISI) a été fondé en février 2024. Faisant partie de l'Agence de promotion des technologies de l'information, il emploie environ 23 personnes. L'institut se compose du Conseil de l'AISI, du comité de pilotage de l'AISI et d'un secrétariat avec six équipes. Akiko Murakami (auparavant d'IBM Japon et de Sompo Japon) sert en tant que directrice exécutive de l'institut, et Kenji Hiramoto et Suguru Nishimura servent en tant que deux directeurs exécutifs adjoints de l'institut.
Kenya
Le Kenya a accepté de rejoindre le réseau international des instituts de sécurité de l'IA, mais le pays n'a pas encore annoncé de détails. C'est le seul État africain du réseau.
Singapour
Le Digital Trust Centre a été initialement fondé en juin 2022. En mai 2024, il a été renommé AISI de Singapour. Faisant partie de l'Université technologique de Nanyang, l'institut s'associe à l'Infocomm Media Development Authority et est soutenu par un investissement de 10 000 000 dollars singapouriens par an.
Corée du Sud
La Corée du Sud a annoncé en mai 2024 qu'elle créerait un institut de sécurité de l'IA sous l'égide de l'Institut de recherche en électronique et en télécommunications. Il sera soutenu par un investissement provisoire compris entre 10 et 20 millions de wons sud-coréens par an et emploiera au moins 30 personnes. L'institut a été fondé en novembre 2024 et est basé dans le district de Bundang, dans la ville de Seongnam.
Évaluation et normes
Une fonction essentielle des instituts de sécurité de l'IA est le développement de méthodologies d'évaluation pour les modèles de pointe. Ces évaluations se concentrent souvent sur les capacités dans des domaines tels que les grands modèles de langage, y compris les tâches liées aux apprentissage automatique benchmarks, aux risques de cybersécurité et au potentiel de mauvaise utilisation. Les instituts travaillent également à l'établissement de normes communes pour la transparence et les rapports, visant à créer une base de référence que les développeurs d'IA doivent respecter avant de publier des systèmes avancés. Cette approche collaborative aide à éviter la duplication des efforts et garantit que les évaluations de sécurité sont cohérentes dans différents contextes nationaux.