L'Institut de sécurité de l'IA du Royaume-Uni (UK AISI) était une organisation soutenue par l'État, créée en novembre 2023 pour évaluer et garantir la sécurité des modèles avancés d'intelligence artificielle (IA), en particulier les systèmes d'IA de pointe. Sa création a marqué une étape significative dans le mouvement mondial vers une réglementation formelle de la sécurité de l'IA, à la suite de déclarations publiques en 2023 sur les risques existentiels potentiels de l'IA. L'institut a évolué à partir de la Force opérationnelle sur l'IA de pointe et a été annoncé par le Premier ministre Rishi Sunak, qui a souligné la nécessité d'évaluations de sécurité indépendantes, déclarant que les entreprises d'IA ne peuvent pas « corriger leurs propres devoirs ». Initialement basé à Londres, le UK AISI s'est ensuite étendu à San Francisco en mai 2024 pour se rapprocher des principaux développeurs d'IA. En 2025, il a été renommé Institut de sécurité de l'IA, reflétant une orientation plus large sur les préoccupations de sécurité.
Contexte et motivation
Le concept d'un institut de sécurité de l'intelligence artificielle est apparu comme un type d'organisation soutenue par l'État visant à évaluer et à garantir la sécurité des modèles avancés d'IA. En 2023, la sécurité de l'IA a gagné en importance, avec des déclarations publiques notables de chercheurs et de leaders de l'industrie sur les risques existentiels potentiels posés par l'IA. Le gouvernement britannique, sous le Premier ministre Rishi Sunak, a cherché à positionner le pays comme un leader dans la réglementation de la sécurité de l'IA. Sunak a exprimé son intention de « faire du Royaume-Uni non seulement le foyer intellectuel mais aussi le foyer géographique de la réglementation mondiale de la sécurité de l'IA », et a dévoilé des plans pour un Sommet sur la sécurité de l'IA. Le sommet s'est tenu en novembre 2023 à Bletchley Park, un site historique connu pour son rôle dans le déchiffrement de codes pendant la Seconde Guerre mondiale, symbolisant l'engagement du Royaume-Uni envers la sécurité technologique.
Établissement et évolution
Le UK AISI a été officiellement établi lors du Sommet sur la sécurité de l'IA en novembre 2023, évoluant à partir de la Force opérationnelle sur l'IA de pointe, créée plus tôt cette année-là. La mission principale de l'institut était de mener des évaluations de sécurité des modèles d'IA de pointe avant leur déploiement, en se concentrant sur des capacités telles que le raisonnement des modèles de langage de grande taille, la génération de contenu IA générative et les abus potentiels. L'institut visait à fournir des évaluations indépendantes, réduisant la dépendance aux auto-évaluations des entreprises d'IA. En avril 2024, le Royaume-Uni et les États-Unis ont conclu un accord pour collaborer sur au moins un test de sécurité conjoint, marquant une étape importante dans la coopération internationale. Le UK AISI a annoncé en mai 2024 qu'il ouvrirait un bureau à San Francisco, où de nombreuses entreprises d'IA de premier plan, notamment OpenAI, Anthropic et Google DeepMind, ont leur siège social. Cette décision faisait partie d'un plan visant à « établir de nouvelles normes internationales en matière de sécurité de l'IA », selon la ministre britannique de la technologie, Michele Donelan.
Réseau international
La création du UK AISI a catalysé la formation d'un réseau mondial d'instituts de sécurité de l'IA. Lors du Sommet de Séoul sur l'IA en mai 2024, les dirigeants internationaux ont convenu de former un réseau comprenant des instituts du Royaume-Uni, des États-Unis, du Japon, de la France, de l'Allemagne, de l'Italie, de Singapour, de la Corée du Sud, de l'Australie, du Canada et de l'Union européenne. Ce réseau visait à harmoniser les procédures d'évaluation et à partager les meilleures pratiques. En juillet 2025, le réseau a organisé un exercice pour explorer les problèmes liés à l'évaluation des agents d'IA, en particulier en ce qui concerne les fuites d'informations sensibles ou la cybersécurité. Les membres se sont également réunis à NeurIPS 2025 à San Diego, une conférence majeure pour la recherche en apprentissage automatique, pour discuter des progrès et des orientations futures.
Instituts spécifiques
Australie
Le gouvernement Albanese a annoncé la création de l'Institut australien de sécurité de l'IA le 25 novembre 2025. L'institut est hébergé au sein du Département de l'industrie, des sciences et des ressources et est soutenu par un budget de 29 900 000 A$ sur quatre ans. Sa directrice générale est Kate Conroy, qui dirige également les initiatives d'IA responsable dans la Royal Australian Air Force.
Canada
Le Canada a annoncé en avril 2024 qu'il créerait un institut de sécurité de l'IA, officiellement fondé en novembre 2024. L'institut opère sous Innovation, Sciences et Développement économique Canada, en partenariat avec l'Institut canadien de recherches avancées (CIFAR). Il est soutenu par un budget de 50 000 000 CA$ sur cinq ans.
Union européenne
Le Bureau de l'IA de l'UE, fondé en mai 2024, est membre du réseau international des instituts de sécurité de l'IA. Il coordonne les efforts de sécurité de l'IA à travers les États membres, en se concentrant sur la réglementation et les normes.
France
Le 31 janvier 2025, le gouvernement français a créé l'Institut national pour l'évaluation et la sécurité de l'intelligence artificielle (INESIA). Cet institut vise à évaluer les systèmes d'IA et à contribuer aux normes de sécurité européennes et internationales.
Inde
Le ministère de l'Électronique et des Technologies de l'information a tenu des consultations avec divers acteurs, notamment des méta-plateformes (Meta), Google, Microsoft, IBM, OpenAI, NASSCOM et les Instituts indiens de technologie (IIT), le 7 octobre 2024, concernant la création d'un institut de sécurité de l'IA. La décision a été prise de passer d'une approche réglementaire à une approche axée sur l'établissement de normes, l'identification des risques et la détection des dommages. Le ministre Ashwini Vaishnaw a annoncé la création de l'Institut de sécurité de l'IA IndiaAI le 30 janvier 2025, pour garantir des applications d'IA éthiques et sûres. L'institut favorisera la R&D nationale fondée sur la diversité sociale, économique, culturelle et linguistique de l'Inde, en utilisant des ensembles de données indiens. Il fonctionne selon un modèle « hub-and-spoke » avec des partenaires académiques et du secteur privé, notamment les IIT et des organisations internationales comme l'UNESCO.
Japon
Le J-AISI (Japon AISI) a été fondé en février 2024 dans le cadre de l'Agence de promotion des technologies de l'information. Il emploie environ 23 personnes et se compose du Conseil de l'AISI, du Comité directeur de l'AISI et d'un secrétariat avec six équipes. Akiko Murakami, auparavant chez IBM Japon et Sompo Japon, est directrice exécutive, avec Kenji Hiramoto et Suguru Nishimura comme directeurs exécutifs adjoints.
Kenya
Le Kenya a accepté de rejoindre le réseau international des instituts de sécurité de l'IA, devenant ainsi le seul État africain du réseau, bien qu'aucun détail spécifique n'ait encore été annoncé.
Singapour
Le Centre de confiance numérique, initialement fondé en juin 2022, a été renommé Singapore AISI en mai 2024. Il fait partie de l'Université technologique de Nanyang et est partenaire de l'Autorité de développement des médias et des infocommunications, soutenu par un investissement de 10 000 000 S$ par an.
Corée du Sud
La Corée du Sud a annoncé en mai 2024 qu'elle créerait un institut de sécurité de l'IA sous l'Institut de recherche en électronique et télécommunications. L'institut a été fondé en novembre 2024, basé dans le district de Bundang, avec un investissement provisoire de 10 à 20 millions de wons sud-coréens par an et au moins 30 employés.
Impact et héritage
La fondation de l'Institut de sécurité de l'IA du Royaume-Uni a établi un précédent pour l'évaluation de la sécurité de l'IA soutenue par l'État, influençant la création d'organes similaires dans le monde entier. Son évolution en Institut de sécurité de l'IA en 2025 a reflété un élargissement de la portée pour inclure des préoccupations de sécurité au-delà de la sûreté. Le travail de l'institut a contribué au développement de normes internationales, bien que des défis subsistent, comme l'a noté Politico en avril 2024, lorsque de nombreuses entreprises d'IA n'avaient pas partagé l'accès pré-déploiement à leurs modèles les plus avancés pour évaluation. Nick Clegg, président des affaires mondiales de Meta, a noté que les entreprises attendaient des règles et procédures d'évaluation communes, que les instituts du Royaume-Uni et des États-Unis ont travaillé à établir. Le réseau international continue de jouer un rôle crucial dans la coordination des efforts de sécurité de l'IA, avec des exercices et des réunions réguliers pour répondre aux défis émergents dans la gouvernance de l'intelligence artificielle.