L'Institut américain de sécurité de l'IA (AISI) est une organisation soutenue par l'État au sein du National Institute of Standards and Technology (NIST), chargée d'évaluer et d'assurer la sécurité des modèles avancés d'intelligence artificielle ((IA)), également connus sous le nom d'IA de pointe. Il a été créé en novembre 2023 lors du sommet sur la sécurité de l'IA au Royaume-Uni, aux côtés de l'Institut de sécurité de l'IA du Royaume-Uni. L'institut se concentre sur le développement de la science de la mesure, des normes et des lignes directrices pour la sécurité de l'IA, y compris les tests pré-déploiement des modèles de pointe. En 2025, l'AISI américain a été renommé le Centre pour les normes et l'innovation en IA (CAISI), reflétant son rôle élargi dans l'établissement de normes et l'innovation.
Création et premières activités
L'AISI américain a été créé dans le cadre du NIST, une agence du département du Commerce des États-Unis. Sa fondation a suivi des préoccupations croissantes concernant la sécurité de l'IA, en particulier après des déclarations publiques en 2023 sur les risques existentiels potentiels posés par l'IA avancée. Lors du sommet sur la sécurité de l'IA en novembre 2023, les États-Unis et le Royaume-Uni ont tous deux annoncé la création de leurs instituts respectifs. La mission initiale de l'AISI américain comprenait le développement de méthodes d'évaluation pour les modèles d'IA de pointe, souvent développés par des entreprises comme OpenAI, Anthropic et Google DeepMind. En avril 2024, les AISI américain et britannique ont convenu de collaborer sur au moins un test de sécurité conjoint, visant à harmoniser les procédures d'évaluation. Cependant, comme rapporté par Politico en avril 2024, de nombreuses entreprises d'IA n'avaient pas encore partagé l'accès pré-déploiement à leurs modèles les plus avancés pour évaluation, certaines attendant que les instituts s'accordent sur des règles communes.
Réseau international et collaboration
En mai 2024, lors du sommet de l'IA de Séoul, les dirigeants internationaux ont convenu de former un réseau d'instituts de sécurité de l'IA, y compris ceux du Royaume-Uni, des États-Unis, du Japon, de la France, de l'Allemagne, de l'Italie, de Singapour, de la Corée du Sud, de l'Australie, du Canada et de l'Union européenne. L'AISI américain participe à ce réseau, qui vise à coordonner les évaluations de sécurité et à partager les meilleures pratiques. En juillet 2025, le réseau a tenu un exercice pour explorer les problèmes liés à l'évaluation des agents d'IA, en particulier concernant la fuite d'informations sensibles ou la cybersécurité. Les membres du réseau se sont également réunis lors de NeurIPS 2025 à San Diego. L'AISI américain collabore également avec d'autres instituts nationaux, tels que l'Institut de sécurité de l'IA du Royaume-Uni(plus tard renommé Institut de sécurité de l'IA) et l'AISI du Japon, pour faire progresser les normes mondiales de sécurité de l'IA.
Rôle et fonctions
L'AISI américain opère sous le NIST, connu pour sa science de la mesure et le développement de normes. Les fonctions clés de l'institut comprennent la réalisation d'évaluations des modèles d'IA de pointe, le développement de méthodologies de test et la création de lignes directrices pour la sécurité et la fiabilité de l'IA. Il travaille avec des parties prenantes gouvernementales et du secteur privé, y compris les développeurs et chercheurs en IA. L'institut contribue également aux efforts internationaux de normalisation, en s'alignant sur la mission plus large du NIST. En 2025, l'institut a été renommé CAISI, mais son objectif principal sur les normes et l'innovation en IA demeure. L'institut fait partie de la stratégie plus large du gouvernement américain pour gérer les risques liés à l'IA tout en promouvant l'innovation dans des domaines comme machine learning et IA générative.
Relation avec d'autres efforts de sécurité de l'IA
L'AISI américain est distinct des autres organismes nationaux de sécurité de l'IA, tels que l'Institut de sécurité de l'IA du Royaume-Uni, qui a été établi à Londres et a ensuite ouvert un bureau à San Francisco en mai 2024. L'institut américain coordonne également avec le Bureau européen de l'IA, fondé en mai 2024, et d'autres membres du réseau international. Bien que l'AISI américain se concentre sur les normes et évaluations nationales, il participe aux discussions mondiales sur la sécurité de l'IA, y compris celles lors du sommet de l'IA de Séoul et des réunions ultérieures. Le travail de l'institut est complémentaire à celui d'autres organisations, telles que le laboratoire Berkeley AI Research et MIT CSAIL, qui mènent des recherches académiques sur la sécurité de l'IA. Cependant, le rôle principal de l'AISI américain est réglementaire et basé sur des normes, plutôt que purement axé sur la recherche.
Orientations futures
En 2025, l'AISI américain(maintenant CAISI) devrait continuer son travail sur les normes et l'évaluation en IA, en particulier à mesure que les modèles d'IA de pointe deviennent plus capables. L'institut jouera probablement un rôle clé dans la définition de la politique américaine en matière d'IA, en particulier dans des domaines comme les grands modèles de langage et apprentissage profond. Le changement de nom en CAISI suggère un mandat plus large qui inclut la promotion de l'innovation, pas seulement la sécurité. L'institut continuera également à participer au réseau international, qui pourrait s'étendre pour inclure plus de pays. À mesure que la technologie de l'IA évolue, l'AISI américain devra adapter ses méthodes d'évaluation pour répondre aux nouveaux risques, tels que ceux posés par les agents d'IA et les systèmes autonomes. Le succès de l'institut dépendra de sa capacité à collaborer avec l'industrie, le monde académique et les partenaires internationaux.