L'Institut américain pour la sécurité de l'IA (AISI) est une organisation soutenue par l'État au sein du National Institute of Standards and Technology (NIST) qui évalue et promeut la sécurité des modèles avancés d'intelligence artificielle (IA), souvent appelés IA frontière. Il a été créé en novembre 2023 lors du sommet sur la sécurité de l'IA au Royaume-Uni, aux côtés de l'Institut britannique pour la sécurité de l'IA, en réponse aux préoccupations croissantes concernant les risques existentiels potentiels de l'IA. En 2025, l'institut a été renommé Centre pour les normes et l'innovation en IA (CAISI), reflétant un accent élargi sur les normes et l'innovation.
L'institut opère dans le cadre du NIST, une agence non réglementaire du département du Commerce des États-Unis. Sa mission principale est de développer la science de la mesure, les normes et les méthodes d'évaluation pour la sécurité de l'IA, y compris le test des modèles frontières pour des risques tels que les biais, les usages abusifs et les vulnérabilités en cybersécurité. Il collabore avec d'autres agences gouvernementales, des institutions académiques et des entreprises privées pour faire progresser la recherche et la pratique en matière de sécurité de l'IA.
Création et premières activités
L'AISI américain a été annoncé le 1er novembre 2023 lors du sommet sur la sécurité de l'IA à Bletchley Park, où le Royaume-Uni et les États-Unis se sont tous deux engagés à créer des instituts nationaux pour la sécurité de l'IA. L'institut américain a été lancé sous l'égide du NIST, avec un financement initial et un personnel issus des programmes d'IA existants du NIST. En avril 2024, les AISI américain et britannique ont convenu de collaborer sur au moins un test de sécurité conjoint, visant à harmoniser les procédures d'évaluation. Ce partenariat faisait partie d'un effort plus large pour établir des normes internationales en matière de sécurité de l'IA, car de nombreuses entreprises d'IA n'avaient pas encore partagé l'accès pré-déploiement à leurs modèles les plus avancés pour évaluation.
Réseau international et collaboration
Lors du sommet de Séoul sur l'IA en mai 2024, les dirigeants internationaux ont convenu de former un réseau d'instituts pour la sécurité de l'IA, comprenant les États-Unis, le Royaume-Uni, le Japon, la France, l'Allemagne, l'Italie, Singapour, la Corée du Sud, l'Australie, le Canada et l'Union européenne. L'AISI américain participe à ce réseau, qui mène des exercices conjoints et partage les meilleures pratiques. En juillet 2025, le réseau a organisé un exercice pour explorer les problèmes liés à l'évaluation des agents d'IA, notamment en ce qui concerne les fuites d'informations sensibles et la cybersécurité. Les membres se sont également réunis lors de NeurIPS 2025 à San Diego pour discuter des méthodes d'évaluation de la sécurité de l'IA.
L'AISI américain collabore également avec des partenaires internationaux de manière bilatérale. Par exemple, il a travaillé avec l'AISI britannique pour aligner les normes d'évaluation, et il a participé à des discussions avec le Bureau européen de l'IA et d'autres instituts nationaux pour développer des cadres communs pour les tests de l'IA frontière.
Domaines d'intervention et produits clés
L'institut se concentre sur plusieurs domaines clés : le développement de référentiels d'évaluation pour les grands modèles de langage et d'autres systèmes d'IA générative, la création de lignes directrices pour la gestion des risques liés à l'IA, et la conduite de recherches sur la sécurité de l'IA en collaboration avec des laboratoires académiques comme MIT CSAIL et Stanford AI Lab. Il travaille également sur des normes pour la transparence, la responsabilité et la robustesse de l'IA, souvent en coordination avec les initiatives plus larges du NIST en matière d'IA.
Les produits clés comprennent des rapports techniques sur les évaluations de modèles d'IA, des ensembles de données publics pour les tests de sécurité et des cadres pour évaluer les risques liés à l'IA. L'institut contribue également aux efforts internationaux de normalisation, tels que ceux menés par l'Organisation internationale de normalisation (ISO), pour garantir que les pratiques de sécurité de l'IA soient cohérentes à l'échelle mondiale.
Relations avec l'industrie et le monde académique
L'AISI américain collabore avec les principales entreprises d'IA, notamment OpenAI, Anthropic et Google DeepMind, pour obtenir un accès aux modèles frontières pour des tests pré-déploiement. Il s'associe également à des institutions académiques pour faire progresser la recherche sur la sécurité de l'IA, comme Berkeley AI Research et Carnegie Mellon University. Ces partenariats visent à combler le fossé entre la recherche théorique et les évaluations pratiques de sécurité.
En 2024, l'institut a rencontré des difficultés pour obtenir un accès pré-déploiement à certains modèles avancés, comme l'a rapporté Politico. Cependant, il a continué à développer des programmes d'évaluation volontaires, encourageant les entreprises à soumettre leurs modèles pour des tests. Le travail de l'institut est complété par d'autres efforts gouvernementaux, tels que la Déclaration des droits de l'IA de la Maison Blanche et les décrets exécutifs sur la sécurité de l'IA.
Évolution vers le CAISI
En 2025, l'AISI américain a été renommé Centre pour les normes et l'innovation en IA (CAISI), signalant un changement vers un mandat plus large qui inclut la promotion de l'innovation en plus de la sécurité. Ce changement s'aligne sur le rôle croissant de l'institut dans l'établissement de normes pour l'évaluation de l'IA et sa participation aux réseaux internationaux. Le changement de nom reflète une évolution continue dans la manière dont les gouvernements abordent la gouvernance de l'IA, en équilibrant la sécurité avec la compétitivité économique.
En 2025, le CAISI continue d'opérer sous l'égide du NIST, avec un accent sur le développement de normes, d'outils et d'évaluations pour garantir que les technologies d'IA soient sûres, sécurisées et dignes de confiance. Son travail reste essentiel à mesure que les systèmes d'IA deviennent plus performants et intégrés dans la société.