La gouvernance de l'IA désigne les lois, règlements, normes et institutions, tant nationaux qu'internationaux, qui façonnent la manière dont l'intelligence artificielle est développée et déployée. Ce domaine se situe à l'intersection de la sécurité de l'IA et de l'éthique de l'IA, traduisant les préoccupations techniques et sociales concernant l'IA, telles que le biais algorithmique, l'hallucination et le risque existentiel à long terme lié à l'IA, en règles contraignantes, en engagements volontaires et en organes de surveillance. Les approches de gouvernance varient considérablement selon les juridictions, allant d'une réglementation complète fondée sur les risques à des cadres plus légers reposant sur l'autorégulation de l'industrie.
Principaux cadres réglementaires
La loi contraignante la plus complète au milieu des années 2020 est l'acte sur l'IA de l'UE, adopté par l'Union européenne en 2024, qui classe les applications d'IA en niveaux de risque, allant des usages interdits tels que la notation sociale aux catégories « à haut risque » fortement réglementées, y compris l'identification biométrique et les outils de recrutement, avec des obligations de transparence plus légères pour les systèmes à usage général tels que les chatbots de grands modèles de langage. Aux États-Unis, la gouvernance a progressé davantage par des actions exécutives et des règles sectorielles que par une loi globale unique ; le décret exécutif du président Biden d'octobre 2023 sur l'IA a chargé les agences fédérales de développer des exigences de test de sécurité et de rapport, tandis que l'administration qui a suivi a adopté une posture de déréglementation mettant l'accent sur la compétitivité américaine. La Chine a publié ses propres règles contraignantes sur les services d'IA générative, exigeant des évaluations de sécurité et un étiquetage du contenu pour les systèmes destinés au public. D'autres juridictions, notamment le Royaume-Uni, le Japon et le Canada, ont généralement privilégié des approches fondées sur des orientations ou sectorielles plutôt qu'une législation complète.
Coordination internationale
Les gouvernements ont également poursuivi une coordination internationale volontaire en dehors du droit contraignant. La déclaration de Bletchley, signée par 28 pays lors du sommet britannique sur la sécurité de l'IA en novembre 2023, a marqué la première déclaration multilatérale majeure reconnaissant le potentiel de l'IA à poser des risques graves, voire catastrophiques, et a lancé une série de sommets de suivi en Corée du Sud et en France. En parallèle, plusieurs pays ont établi des instituts dédiés à la sécurité de l'IA, notamment l'Institut britannique de sécurité de l'IA et l'Institut américain de sécurité de l'IA hébergé au sein du NIST, chargés de tester indépendamment les modèles de pointe avant ou peu après leur sortie. L'Organisation de coopération et de développement économiques et les Nations Unies ont également publié des principes non contraignants sur l'IA que de nombreux gouvernements référencent lors de l'élaboration de leurs politiques nationales.
Engagements de l'industrie
Parallèlement à la réglementation gouvernementale, les développeurs d'IA de pointe, y compris OpenAI, Anthropic et Google DeepMind, ont publié leurs propres cadres de gouvernance volontaires, souvent appelés politiques de mise à l'échelle responsable ou cadres de préparation, qui engagent l'entreprise à des évaluations de sécurité et à des mesures d'atténuation spécifiques une fois qu'un modèle franchit des seuils de capacité définis ; ceux-ci sont discutés plus en détail dans l'article sur les principes d'Anthropic. Les entreprises ont également soumis des modèles à des tests d'intrusion externes et à des évaluations par les instituts gouvernementaux de sécurité avant les lancements majeurs, une pratique qui a gagné du terrain après le sommet de Bletchley.
Débats
La gouvernance de l'IA reste contestée sur plusieurs axes. Certains chercheurs et décideurs politiques soutiennent que la réglementation devrait se concentrer sur les préjudices concrets et actuels tels que les biais et la désinformation plutôt que sur des risques futurs spéculatifs ; d'autres soutiennent le contraire, que l'attention réglementaire devrait accorder plus de poids aux scénarios catastrophiques à faible probabilité compte tenu du rythme des gains de capacités, une division qui fait écho au désaccord plus large sur la manière d'interpréter les lois de mise à l'échelle et les capacités émergentes. Un débat distinct concerne la question de savoir si la réglementation devrait cibler les modèles de fondation à usage général eux-mêmes ou uniquement les applications en aval spécifiques, une approche que l'acte sur l'IA de l'UE réconcilie partiellement en imposant des obligations plus légères axées sur la transparence aux systèmes à usage général et des obligations plus lourdes aux usages à haut risque. Le lobbying de l'industrie, les préoccupations concernant la capture réglementaire et la concurrence avec des juridictions moins réglementées compliquent encore les efforts pour parvenir à un accord international durable.