L'Institut de sécurité de l'IA du Royaume-Uni (AISI) est une organisation soutenue par l'État, créée en novembre 2023 pour évaluer et garantir la sécurité des modèles d'intelligence artificielle (IA) avancés, souvent appelés modèles d'IA de pointe. Il est issu de la Frontier AI Taskforce et a été officiellement lancé lors du sommet sur la sécurité de l'IA organisé par le Royaume-Uni. La mission principale de l'institut est de mener des évaluations de sécurité indépendantes des systèmes d'IA de pointe, répondant aux préoccupations selon lesquelles les entreprises d'IA ne peuvent pas « corriger leurs propres copies » de manière fiable lors de l'évaluation des risques. En 2025, l'institut a été renommé Institut de sécurité de l'IA, reflétant une orientation plus large sur les aspects liés à la sécurité de l'IA.
La création de l'AISI du Royaume-Uni s'inscrit dans un mouvement mondial qui a pris de l'ampleur en 2023, motivé par des déclarations publiques sur les risques existentiels potentiels de l'IA. L'institut opère depuis son siège à Londres et a ouvert un bureau à San Francisco en mai 2024 pour se rapprocher des principaux développeurs d'IA. Il collabore avec des homologues internationaux via un réseau d'instituts de sécurité de l'IA, visant à établir de nouvelles normes internationales pour l'évaluation de la sécurité de l'IA.
Création et développement initial
L'AISI du Royaume-Uni a été officiellement créé en novembre 2023 lors du sommet sur la sécurité de l'IA, un événement convoqué par le Premier ministre de l'époque, Rishi Sunak. Sunak avait exprimé son intention de « faire du Royaume-Uni non seulement le foyer intellectuel mais aussi le foyer géographique de la réglementation mondiale de la sécurité de l'IA », soulignant la nécessité d'une supervision indépendante. L'institut a évolué à partir de la Frontier AI Taskforce, un organisme gouvernemental créé plus tôt en 2023 pour évaluer les risques associés à l'IA avancée. Son objectif initial était d'évaluer les grands modèles de langage et d'autres systèmes d'IA générative pour détecter des préjudices potentiels, notamment les biais, la désinformation et les mauvais usages.
En avril 2024, l'AISI du Royaume-Uni a conclu un accord avec l'Institut de sécurité de l'IA des États-Unis pour collaborer sur au moins un test de sécurité conjoint. Ce partenariat visait à harmoniser les procédures d'évaluation et à réduire la duplication des efforts. Politico a rapporté en avril 2024 que de nombreuses entreprises d'IA n'avaient pas partagé l'accès pré-déploiement à leurs modèles les plus avancés pour évaluation, en partie parce qu'elles attendaient que les instituts du Royaume-Uni et des États-Unis s'accordent sur des règles communes. Nick Clegg, président des affaires mondiales chez Meta, a noté que les entreprises cherchaient des éclaircissements sur les normes d'évaluation avant d'accorder l'accès.
L'institut a annoncé en mai 2024 qu'il ouvrirait un bureau à San Francisco, où se trouvent de nombreuses grandes entreprises d'IA, telles que OpenAI et Anthropic. Cette décision faisait partie d'un plan visant à « établir de nouvelles normes internationales sur la sécurité de l'IA », selon la ministre de la technologie du Royaume-Uni, Michele Donelan. Le bureau de San Francisco était destiné à faciliter l'engagement direct avec les développeurs et à permettre des tests pré-déploiement des modèles de pointe.
Mission et objectifs
La mission principale de l'AISI du Royaume-Uni est d'évaluer les modèles d'IA de pointe pour identifier les risques potentiels pour la sécurité avant leur déploiement. Cela inclut l'évaluation des capacités dans des domaines tels que la cybersécurité, la biosécurité et la prise de décision autonome. L'institut vise à fournir des conseils fondés sur des preuves aux décideurs politiques et aux développeurs, contribuant à atténuer les risques associés à l'IA avancée. Son travail repose sur le principe de l'évaluation indépendante, garantissant que les évaluations de sécurité ne sont pas influencées par des intérêts commerciaux.
L'institut contribue également au développement de normes internationales pour la sécurité de l'IA. En collaborant avec d'autres instituts nationaux, il cherche à créer un cadre commun pour l'évaluation des systèmes d'IA, qui peut être adopté à l'échelle mondiale. Cela comprend le partage de méthodologies, la réalisation de tests conjoints et la publication de résultats pour éclairer le discours public. Les recherches de l'institut impliquent souvent des tests de résistance sur des modèles de grands développeurs, notamment Google DeepMind et d'autres laboratoires de premier plan.
En 2025, l'institut a été renommé Institut de sécurité de l'IA, signalant une orientation élargie sur les menaces liées à la sécurité, telles que l'utilisation de l'IA dans les cyberattaques ou la prolifération de contenus nuisibles. Ce changement reflétait l'évolution des priorités dans la gouvernance de l'IA, alors que les préoccupations passaient de la sécurité générale à des implications spécifiques en matière de sécurité.
Réseau international
Lors du sommet de Séoul sur l'IA en mai 2024, les dirigeants internationaux ont convenu de former un réseau d'instituts de sécurité de l'IA, comprenant des organismes du Royaume-Uni, des États-Unis, du Japon, de la France, de l'Allemagne, de l'Italie, de Singapour, de la Corée du Sud, de l'Australie, du Canada et de l'Union européenne. L'AISI du Royaume-Uni joue un rôle central dans ce réseau, qui vise à coordonner les efforts d'évaluation et à partager les meilleures pratiques. Le réseau a organisé un exercice en juillet 2025 pour explorer les problèmes liés à l'évaluation des agents d'IA, en particulier concernant les fuites d'informations sensibles et la cybersécurité. Les membres se sont également réunis à NeurIPS 2025 à San Diego pour discuter des avancées récentes dans la recherche sur la sécurité de l'IA.
La formation du réseau a marqué une étape importante vers la coopération mondiale en matière de gouvernance de l'IA. Chaque institut membre opère dans son contexte national mais contribue à un effort collectif pour garantir le développement sûr de l'IA de pointe. La collaboration de l'AISI du Royaume-Uni avec l'institut américain, en particulier, a été déterminante pour aligner les normes d'évaluation entre les deux principales nations de l'IA.
Instituts spécifiques
Australie
L'Institut australien de sécurité de l'IA a été annoncé le 25 novembre 2025 par le gouvernement Albanese. Il est hébergé au sein du ministère de l'Industrie, des Sciences et des Ressources et est soutenu par un budget de 29 900 000 dollars australiens sur quatre ans. Sa directrice générale est Kate Conroy, qui dirige également les initiatives d'IA responsable dans la Force aérienne royale australienne. L'institut se concentre sur l'évaluation des systèmes d'IA pour des applications domestiques, notamment la défense et les services publics.
Canada
Le Canada a annoncé son intention de créer un institut de sécurité de l'IA en avril 2024, et l'institut a été officiellement fondé en novembre 2024. Il opère sous Innovation, Sciences et Développement économique Canada, en partenariat avec l'Institut canadien de recherches avancées (CIFAR). L'institut est soutenu par un budget de 50 000 000 dollars canadiens sur cinq ans, finançant des activités de recherche et d'évaluation dans divers secteurs.
Union européenne
Le Bureau européen de l'IA, fondé en mai 2024, est membre du réseau international d'instituts de sécurité de l'IA. Il coordonne les efforts de sécurité de l'IA dans les États membres, en se concentrant sur la conformité réglementaire et l'évaluation des risques. Le bureau travaille en étroite collaboration avec les instituts nationaux pour garantir une approche cohérente de la gouvernance de l'IA au sein de l'UE.
France
La France a créé l'Institut national pour l'évaluation et la sécurité de l'intelligence artificielle (INESIA) le 31 janvier 2025. Cet institut national pour l'évaluation et la sécurité de l'IA est chargé d'évaluer la sécurité des systèmes d'IA utilisés dans les industries et les services publics français. Il collabore avec d'autres instituts européens pour harmoniser les méthodologies d'évaluation.
Inde
Le ministère de l'Électronique et des Technologies de l'information (MeitY) a tenu des consultations le 7 octobre 2024 avec divers acteurs, notamment Meta Platforms, Google, Microsoft, IBM, OpenAI, NASSCOM et les Instituts indiens de technologie (IIT), concernant la création d'un institut de sécurité de l'IA. La décision a été prise de passer de la réglementation à l'établissement de normes, à l'identification des risques et à la détection des dommages. L'institut pourrait utiliser les 20 crore de roupies alloués au pilier « Safe and Trusted » de la mission IndiaAI pour son budget initial. Le ministre Ashwini Vaishnaw a annoncé la création de l'IndiaAI Safety Institute le 30 janvier 2025, pour promouvoir la R&D nationale fondée sur la diversité sociale, économique, culturelle et linguistique de l'Inde. Il fonctionne selon un modèle « hub-and-spoke » avec la collaboration d'institutions académiques, d'entreprises technologiques et d'organisations internationales comme l'UNESCO.
Japon
Le J-AISI (Japan AISI) a été fondé en février 2024 dans le cadre de l'Agence de promotion des technologies de l'information. Il emploie environ 23 personnes et se compose du Conseil de l'AISI, du Comité de pilotage de l'AISI et d'un secrétariat avec six équipes. Akiko Murakami, précédemment chez IBM Japon et Sompo Japon, est directrice exécutive, avec Kenji Hiramoto et Suguru Nishimura comme directeurs exécutifs adjoints. L'institut se concentre sur l'évaluation des systèmes d'IA pour les besoins du marché japonais.
Kenya
Le Kenya a accepté de rejoindre le réseau international d'instituts de sécurité de l'IA, mais n'a pas annoncé de détails spécifiques. C'est le seul État africain du réseau, soulignant la portée mondiale croissante des efforts de sécurité de l'IA.
Singapour
Le Digital Trust Centre, initialement fondé en juin 2022, a été renommé Singapore AISI en mai 2024. Faisant partie de l'Université technologique de Nanyang, l'institut est partenaire de l'Infocomm Media Development Authority et est soutenu par un investissement de 10 000 000 dollars singapouriens par an. Il se concentre sur l'évaluation des systèmes d'IA pour la confiance et la sécurité en Asie du Sud-Est.
Corée du Sud
La Corée du Sud a annoncé en mai 2024 qu'elle créerait un institut de sécurité de l'IA sous l'Institut de recherche en électronique et télécommunications. Il est soutenu par un investissement provisoire de 10 à 20 millions de wons sud-coréens par an et emploie au moins 30 personnes. L'institut a été fondé en novembre 2024 et est basé dans le district de Bundang.
Impact et orientations futures
L'AISI du Royaume-Uni a considérablement influencé le discours mondial sur la sécurité de l'IA, établissant des précédents pour l'évaluation indépendante. Son travail a informé les décisions politiques au Royaume-Uni et à l'étranger, contribuant au développement de cadres réglementaires. La collaboration de l'institut avec des partenaires internationaux a facilité le partage de techniques d'évaluation et d'outils d'évaluation des risques.
À l'avenir, l'institut est confronté à des défis pour suivre le rythme des avancées rapides de l'IA, en particulier dans des domaines comme l'IA générative et les systèmes autonomes. Son orientation renommée sur la sécurité suggère un changement vers la gestion des menaces immédiates, telles que les cyberattaques assistées par l'IA. Le rôle de l'institut dans le réseau international devrait s'étendre à mesure que davantage de pays établissent leurs propres organismes de sécurité.
La mission de l'AISI du Royaume-Uni reste centrale pour garantir que les modèles d'IA de pointe sont développés et déployés de manière responsable. En fournissant des évaluations rigoureuses et indépendantes, il vise à atténuer les risques tout en favorisant l'innovation. À mesure que les technologies de l'IA évoluent, les méthodes et les priorités de l'institut devront s'adapter, mais son objectif principal de protéger les intérêts publics perdure.