La Déclaration de Bletchley 2023 est un accord international marquant sur les risques liés à la sécurité de l'intelligence artificielle avancée, signé le 1er novembre 2023 à Bletchley Park au Royaume-Uni. La déclaration a été le principal résultat du Sommet sur la sécurité de l'IA, organisé par le gouvernement britannique, et a été signée par des représentants de 28 pays, dont les États-Unis, la Chine, l'Union européenne et le Royaume-Uni. Elle a marqué la première fois que les grandes puissances mondiales, y compris la Chine et les États-Unis, ont conjointement reconnu le potentiel de dommages catastrophiques des systèmes d'IA de pointe et se sont engagées à une action coopérative en matière de sécurité de l'IA.
La déclaration se concentre sur les risques posés par « l'IA de pointe » - des modèles généralistes très performants, y compris ceux basés sur les grands modèles de langage et l'IA générative. Elle reconnaît que ces systèmes peuvent présenter des capacités qui ne sont pas entièrement comprises ou contrôlables, pouvant entraîner des dommages graves ou catastrophiques, que ce soit par une mauvaise utilisation ou par accident. Le texte souligne l'importance d'une IA centrée sur l'humain et digne de confiance, et appelle à une collaboration internationale pour développer des normes de sécurité et des recherches communes, tout en reconnaissant la nécessité d'équilibrer la sécurité avec l'innovation et la promotion d'une croissance économique inclusive.
Contexte et contexte historique
La déclaration a émergé dans un contexte de progrès rapides des capacités de l'IA, en particulier dans le développement de modèles de apprentissage profond et d'architectures de transformeurs. Dans les années précédant le sommet, des entreprises telles que OpenAI, Anthropic et Google DeepMind avaient publié des systèmes de plus en plus puissants, suscitant des inquiétudes parmi les chercheurs et les décideurs politiques quant aux risques potentiels, notamment la propagation de la désinformation, les menaces de cybersécurité et la possibilité de perte de contrôle sur des systèmes superintelligents.
Le gouvernement britannique, sous le Premier ministre Rishi Sunak, s'est positionné comme un leader dans la gouvernance de la sécurité de l'IA, proposant le sommet comme un forum de dialogue international. Le choix de Bletchley Park, le site historique du déchiffrement de codes de la Seconde Guerre mondiale, était symbolique, reliant les contributions passées du Royaume-Uni à l'informatique à ses ambitions de façonner l'avenir de la réglementation de l'IA.
Dispositions clés et engagements
La Déclaration de Bletchley est une déclaration politique non contraignante, mais elle énonce plusieurs engagements clés. Les signataires ont convenu de :
- Reconnaître les risques significatifs posés par l'IA, en particulier dans la cybersécurité, la biotechnologie et le potentiel des systèmes d'IA à agir de manière autonome de façons qui pourraient causer des dommages.
- Soutenir la coopération internationale pour développer une compréhension scientifique commune des risques de l'IA et pour mettre en place des mesures de sécurité fondées sur des preuves.
- Encourager le développement d'une IA sûre, centrée sur l'humain, digne de confiance et responsable, conformément aux cadres internationaux existants tels que les Objectifs de développement durable des Nations Unies.
- Continuer à organiser des discussions internationales sur la sécurité de l'IA, y compris lors de futurs sommets, le prochain étant prévu en Corée du Sud en 2024.
La déclaration souligne également la nécessité pour les acteurs des secteurs public et privé de traiter les risques de l'IA, et elle appelle à des recherches sur l'interprétabilité et l'alignement des systèmes d'IA, ainsi qu'au développement de méthodes d'évaluation robustes.
Signataires et réponse internationale
La déclaration a été signée par 28 pays, dont l'Australie, le Canada, la France, l'Allemagne, l'Inde, le Japon et la Corée du Sud, ainsi que l'UE. Notamment, la Chine a été signataire, malgré ses propres réglementations distinctes sur l'IA, ce qui a été perçu comme une réalisation diplomatique significative. La participation de la Chine a été controversée, certains critiques arguant qu'elle légitimait un gouvernement aux pratiques opaques en matière d'IA, tandis que d'autres la considéraient comme essentielle pour tout accord mondial significatif.
Des entreprises technologiques ont également assisté au sommet, y compris des représentants de OpenAI, Anthropic, Google DeepMind et Microsoft, mais elles n'ont pas signé la déclaration, qui était un document au niveau gouvernemental. Au lieu de cela, elles ont pris des engagements volontaires distincts pour publier des politiques de sécurité et soutenir les objectifs du sommet.
Critiques et limites
Malgré son caractère historique, la Déclaration de Bletchley a fait face à des critiques. Certains experts soutiennent qu'elle est trop vague, manquant d'objectifs spécifiques, de calendriers ou de mécanismes d'application. La nature non contraignante signifie que les signataires ne sont pas légalement obligés de prendre des mesures particulières. D'autres ont noté que la déclaration se concentre fortement sur les risques existentiels de l'IA de pointe, ce qui pourrait éclipser des préoccupations plus immédiates telles que les biais algorithmiques, le déplacement d'emplois et les violations de la vie privée.
De plus, la liste d'invitations du sommet a été critiquée pour avoir exclu de nombreux pays en développement et organisations de la société civile, soulevant des questions sur l'inclusivité de la gouvernance mondiale de l'IA. La déclaration mentionne la nécessité de soutenir les pays en développement, mais les critiques affirment que des mesures concrètes sont absentes.
Héritage et impact
La Déclaration de Bletchley 2023 est largement considérée comme une étape fondatrice dans la gouvernance internationale de l'IA. Elle a établi un précédent pour un engagement diplomatique de haut niveau sur la sécurité de l'IA et a ouvert la voie à des initiatives ultérieures, telles que le Sommet sur la sécurité de l'IA à Séoul en mai 2024 et les travaux en cours du Rapport international sur la sécurité de l'IA. Bien que son impact pratique reste à voir, la déclaration a signalé un consensus mondial selon lequel les risques de l'IA nécessitent une action coordonnée, un changement par rapport aux approches largement nationales et dirigées par les entreprises du passé.
La déclaration a également influencé les politiques nationales, plusieurs pays, dont le Royaume-Uni et les États-Unis, annonçant de nouveaux instituts de sécurité de l'IA dans les mois suivant le sommet. Ces instituts sont chargés d'évaluer les modèles d'IA de pointe et de partager les meilleures pratiques, reflétant directement l'appel de la déclaration à une collaboration internationale.