L'Institut national des normes et de la technologie (NIST) est une agence fédérale américaine qui a développé un programme complet pour la sécurité et la fiabilité de l'intelligence artificielle. Le NIST AI englobe un ensemble de cadres volontaires, de normes et de ressources de test conçus pour aider les organisations à gérer les risques associés aux systèmes d'IA. Les travaux de l'agence dans ce domaine ont pris un élan significatif à la suite du décret exécutif de 2023 sur le développement et l'utilisation sûrs, sécurisés et fiables de l'intelligence artificielle, qui a chargé le NIST de diriger les efforts fédéraux en matière de sécurité de l'IA.
La principale contribution du NIST est le cadre de gestion des risques de l'IA (AI RMF), publié pour la première fois en janvier 2023. Ce cadre fournit une approche structurée permettant aux organisations d'identifier, d'évaluer et d'atténuer les risques tout au long du cycle de vie de l'IA. Il est organisé autour de quatre fonctions principales - Gouverner, Cartographier, Mesurer et Gérer - et est conçu pour être volontaire et adaptable à tous les secteurs. Le cadre met l'accent sur des principes tels que la validité, la fiabilité, la sécurité, la sûreté, la résilience, la responsabilité, la transparence et l'équité.
AI RMF et publications connexes
L'AI RMF 1.0 a été publié le 26 janvier 2023, à la suite d'un processus multipartite comprenant des commentaires publics et des ateliers. Le NIST a ensuite publié le profil d'IA générative de l'AI RMF en juillet 2024, qui traite des risques uniques posés par les systèmes d'IA générative, y compris les grands modèles de langage. Ce profil couvre des questions telles que l'hallucination, les biais nuisibles et le potentiel de mauvaise utilisation. Le NIST a également publié des documents complémentaires sur le développement de logiciels sécurisés pour l'IA et une taxonomie des incidents liés à l'IA.
En plus du RMF, le NIST a publié plusieurs autres publications liées à l'IA. Le manuel AI RMF Playbook fournit des conseils pratiques pour la mise en œuvre du cadre. Le NIST a également développé la taxonomie de l'apprentissage automatique adversarial (AML), publiée en mars 2024, qui catégorise les attaques contre les systèmes de apprentissage automatique et propose des stratégies d'atténuation. Ces ressources sont destinées aux développeurs, déployeurs et évaluateurs d'IA dans l'industrie, le monde universitaire et le gouvernement.
Programmes de test et d'évaluation
Le NIST gère le programme de test, d'évaluation, de validation et de vérification (TEVV) de l'IA, qui vise à développer des métriques et des méthodes pour évaluer les performances et la sécurité des systèmes d'IA. Cela comprend la création de bancs d'essai et d'ensembles de données de référence pour évaluer les capacités de l'IA. En 2024, le NIST a lancé l'Institut américain de sécurité de l'IA (AISI), établi sous le département du Commerce, avec le NIST fournissant une direction technique. L'AISI mène des recherches sur la sécurité de l'IA, développe des protocoles de test et collabore avec des partenaires internationaux.
Une initiative notable est le programme GenAI, qui se concentre sur l'évaluation des technologies d'IA générative. Ce programme développe des outils de mesure pour évaluer la qualité, la sécurité et la fiabilité des contenus générés par l'IA. Le NIST participe également au rapport international sur la sécurité de l'IA, un effort mondial visant à synthétiser les connaissances scientifiques sur les risques de l'IA.
Normes et collaboration internationale
Le NIST joue un rôle clé dans le développement de normes internationales sur l'IA grâce à son engagement avec des organisations telles que l'Organisation internationale de normalisation (ISO) et la Commission électrotechnique internationale (CEI). Le NIST contribue à la norme ISO/IEC 42001 pour les systèmes de gestion de l'IA et à la norme ISO/IEC 23894 sur la gestion des risques de l'IA. L'agence travaille également avec le Centre national d'excellence en cybersécurité (NCOE) pour intégrer la sécurité de l'IA dans les pratiques plus larges de cybersécurité.
Les travaux du NIST sur l'IA sont informés par ses recherches plus larges en intelligence artificielle et en apprentissage profond. Le laboratoire de technologie de l'information de l'agence mène des recherches fondamentales dans des domaines tels que la vision par ordinateur, le traitement du langage naturel et la robustesse des réseaux de neurones. Ces recherches alimentent le développement de lignes directrices pratiques et de méthodes de test.
Défis et orientations futures
Le NIST AI est confronté à des défis permanents pour suivre le rythme des avancées technologiques rapides. La nature volontaire de l'AI RMF signifie que son adoption n'est pas obligatoire, bien que les agences fédérales soient de plus en plus tenues de s'y aligner. Le NIST continue de mettre à jour ses orientations pour traiter des questions émergentes telles que les cyberattaques activées par l'IA, les risques pour la vie privée et l'impact environnemental de l'entraînement de l'IA. En 2025, le NIST développe des profils supplémentaires pour des secteurs spécifiques, notamment la santé et la finance, et élargit ses capacités de test pour les modèles d'IA de pointe.
Les travaux de l'agence sont complétés par des collaborations avec des institutions académiques comme le MIT CSAIL et le laboratoire d'IA de Stanford, ainsi qu'avec des partenaires industriels. Le NIST s'engage également avec des organismes internationaux pour harmoniser les normes de sécurité de l'IA à l'échelle mondiale, reconnaissant que les systèmes d'IA fonctionnent souvent au-delà des frontières.
Impact sur l'écosystème de l'IA
Les cadres du NIST AI ont influencé la manière dont les organisations abordent la gouvernance de l'IA. De grandes entreprises technologiques, notamment OpenAI, Anthropic et Google DeepMind, ont référencé l'AI RMF dans leurs pratiques de sécurité. Le cadre a également été adopté par des agences gouvernementales et des partenaires internationaux, comme la loi sur l'IA de l'Union européenne, qui s'appuie sur des principes similaires basés sur les risques. L'accent mis par le NIST sur des critères mesurables et testables a contribué à orienter l'industrie de l'IA vers des pratiques d'évaluation plus rigoureuses.
Malgré sa nature volontaire, le NIST AI est devenu un point de référence de facto pour les discussions sur la sécurité de l'IA aux États-Unis et au-delà. Ses publications sont largement citées dans la littérature académique et les rapports industriels, et ses programmes de test offrent un terrain neutre pour évaluer les systèmes d'IA. Alors que les capacités de l'IA continuent d'évoluer, le rôle du NIST dans la définition des normes de sécurité est susceptible de s'étendre, en particulier dans des domaines comme les systèmes autonomes et la prise de décision pilotée par l'IA.