L'Institut américain de sécurité de l'IA (AISI) est une organisation soutenue par l'État, créée en novembre 2023 pour évaluer et garantir la sécurité des modèles d'intelligence artificielle (IA) avancés, également connus sous le nom de modèles d'IA frontière. Il opère sous l'égide du National Institute of Standards and Technology (NIST), une agence fédérale relevant du département du Commerce des États-Unis. L'institut a été créé à une période d'attention mondiale accrue portée à la sécurité de l'IA, à la suite de déclarations publiques en 2023 sur les risques existentiels potentiels de l'IA. En 2025, l'AISI américain a été rebaptisé Center for AI Standards and Innovation (CAISI), reflétant une évolution vers la normalisation et le soutien à l'innovation. L'institut fait partie d'un réseau international d'instituts de sécurité de l'IA, qui comprend des homologues au Royaume-Uni, au Japon, en France, en Allemagne, en Italie, à Singapour, en Corée du Sud, en Australie, au Canada et dans l'Union européenne, comme convenu au sommet de Séoul sur l'IA en mai 2024.
La mission principale de l'AISI américain est de mener des évaluations indépendantes des modèles d'IA avancés, d'élaborer des directives de sécurité et de promouvoir les meilleures pratiques parmi les développeurs d'IA. Cela comprend l'évaluation de risques tels que les biais, les utilisations abusives et les préjudices catastrophiques, ainsi que la fourniture de conseils techniques aux agences fédérales et à l'industrie. L'institut collabore avec des institutions académiques, des partenaires industriels et des homologues internationaux pour faire progresser la recherche et les politiques en matière de sécurité de l'IA. Son travail est essentiel à une époque où les systèmes d'Artificial intelligence, y compris les Large language models et les modèles de Generative AI, sont rapidement déployés dans tous les secteurs.
Création et premières activités
L'AISI américain a été officiellement créé lors du sommet sur la sécurité de l'IA tenu en novembre 2023, aux côtés de l'Institut de sécurité de l'IA du Royaume-Uni. Le sommet, organisé par le Premier ministre britannique Rishi Sunak, visait à positionner le Royaume-Uni comme un leader mondial de la réglementation de la sécurité de l'IA. Sunak a souligné la nécessité d'évaluations de sécurité indépendantes, déclarant que les entreprises d'IA ne peuvent pas « corriger leurs propres devoirs ». L'AISI américain a été créé dans le cadre du NIST, en tirant parti de l'expertise de l'agence en matière de mesure et de normes. En avril 2024, les États-Unis et le Royaume-Uni ont conclu un accord pour collaborer sur au moins un test de sécurité conjoint, marquant une étape importante dans la coopération internationale. Cependant, un rapport de Politico du même mois a noté que de nombreuses entreprises d'IA n'avaient pas partagé l'accès pré-déploiement à leurs modèles les plus avancés pour évaluation, soulignant les défis liés à l'application des règles.
Rôle et responsabilités
L'AISI américain se concentre sur l'évaluation des modèles d'IA frontière, qui sont les systèmes les plus performants et potentiellement les plus risqués. Ses responsabilités comprennent l'élaboration de méthodologies d'évaluation, la réalisation de tests de sécurité et la publication de directives pour les développeurs de modèles. L'institut travaille également sur l'atténuation des risques associés aux technologies de Machine learning et de Deep learning, y compris des questions telles que la robustesse des modèles, la transparence et l'alignement avec les valeurs humaines. Il collabore avec d'autres agences fédérales, telles que le Bureau de la politique scientifique et technologique de la Maison Blanche, pour coordonner les efforts de sécurité de l'IA au sein du gouvernement. Les travaux de l'institut sont éclairés par la recherche des principaux laboratoires d'IA, notamment OpenAI, Anthropic et Google DeepMind, ainsi que par des institutions académiques comme MIT CSAIL et Stanford AI Lab.
Collaboration internationale
Dans le cadre du réseau international d'instituts de sécurité de l'IA, l'AISI américain participe à des exercices conjoints et au partage de connaissances. En juillet 2025, le réseau a organisé un exercice pour explorer les problèmes liés à l'évaluation des agents d'IA, en particulier en ce qui concerne les fuites d'informations sensibles ou les menaces de cybersécurité. Les membres se sont également réunis lors de NeurIPS 2025 à San Diego, une conférence majeure pour la recherche sur les Neural network. L'AISI américain a des accords bilatéraux avec plusieurs pays, dont le Royaume-Uni, le Japon et la Corée du Sud, pour harmoniser les normes d'évaluation et partager l'expertise technique. Cette collaboration est essentielle pour faire face aux risques mondiaux de l'IA, car les modèles d'IA sont développés et déployés au-delà des frontières.
Évolution vers CAISI
En 2025, l'AISI américain a été rebaptisé Center for AI Standards and Innovation (CAISI). Ce changement reflète un mandat plus large visant non seulement à garantir la sécurité, mais aussi à promouvoir l'innovation et le développement de normes en matière d'IA. Le CAISI continue d'opérer sous l'égide du NIST, en mettant l'accent sur la création de directives et de cadres volontaires pouvant être adoptés par l'industrie. Ce changement de nom s'aligne sur l'approche du gouvernement américain en matière de réglementation de l'IA, qui privilégie la flexibilité et les solutions axées sur le marché plutôt que des mandats stricts. Le CAISI travaille en étroite collaboration avec les parties prenantes de l'industrie, y compris les grandes entreprises technologiques comme Amazon Web Services, Microsoft Azure et Google Cloud, pour garantir que les mesures de sécurité soient pratiques et n'entravent pas le progrès technologique.
Impact et défis
L'AISI américain a eu un impact significatif sur le paysage de la sécurité de l'IA, influençant à la fois les politiques nationales et internationales. Ses évaluations ont éclairé les décisions concernant le déploiement des modèles et ont incité les entreprises à améliorer leurs pratiques de sécurité. Cependant, l'institut est confronté à des défis, notamment des ressources limitées et le rythme rapide du développement de l'IA. Les critiques soutiennent que les directives volontaires peuvent ne pas suffire à prévenir les préjudices, tandis que d'autres s'inquiètent d'une surréglementation. L'efficacité de l'institut dépend de sa capacité à s'adapter aux nouvelles technologies, telles que les architectures de Transformer (architecture) et les mécanismes de Multi-Head Attention, qui sous-tendent les systèmes d'IA modernes. En 2025, l'institut continue d'évoluer, avec des efforts continus pour renforcer ses capacités d'évaluation et étendre sa portée internationale.
Développements connexes
D'autres pays ont créé des instituts similaires, formant un réseau mondial. Par exemple, l'AISI du Royaume-Uni, initialement basé à Londres, a ouvert un bureau à San Francisco en mai 2024 pour être plus proche des entreprises d'IA. L'AISI du Japon, fondé en février 2024, fait partie de l'Agence de promotion des technologies de l'information et emploie environ 23 personnes. L'AISI de la Corée du Sud, créé en novembre 2024, est basé dans le district de Bundang et est soutenu par un investissement de 10 à 20 millions de wons sud-coréens par an. Ces instituts partagent les meilleures pratiques et collaborent sur des projets communs, comme l'exercice de juillet 2025 sur les agents d'IA. Le rôle de l'AISI américain dans ce réseau est central, compte tenu du leadership du pays dans le développement de l'IA et de ses ressources étendues.
Orientations futures
À l'avenir, l'AISI américain (désormais CAISI) devrait se concentrer sur les défis émergents, tels que la sécurité des agents d'IA et des systèmes autonomes. Il développera probablement de nouvelles méthodes d'évaluation pour les modèles capables d'agir dans le monde réel, comme ceux utilisés dans les voitures autonomes de Waymo ou Tesla. L'institut pourrait également traiter des questions liées à l'IA dans des secteurs critiques comme la santé et la finance, où les défaillances pourraient avoir des conséquences graves. À mesure que la technologie de l'IA progresse, le besoin de mesures de sécurité robustes ne fera que croître, rendant la mission de l'institut de plus en plus importante. Le réseau international d'instituts de sécurité de l'IA continuera de jouer un rôle clé dans la coordination des efforts mondiaux, garantissant que les avantages de l'IA soient réalisés tout en minimisant les risques.
Conclusion
L'Institut américain de sécurité de l'IA, désormais le Center for AI Standards and Innovation, représente un élément essentiel de la stratégie du gouvernement américain pour gérer les risques liés à l'IA. Créé en 2023, il a évolué pour relever les défis d'un paysage technologique en évolution rapide. Grâce à ses évaluations, ses directives et ses collaborations internationales, l'institut vise à garantir que les systèmes d'IA avancés soient développés et déployés en toute sécurité. Bien que des défis subsistent, le travail de l'institut est essentiel pour instaurer la confiance dans l'IA et protéger la société contre les préjudices potentiels. Alors que l'IA continue de imprégner tous les aspects de la vie, la mission de l'AISI américain restera une pierre angulaire de la gouvernance responsable de l'IA.