Les résultats du sommet de Bletchley englobent les conclusions du sommet sur la sécurité de l'IA 2023, une conférence internationale sur la sécurité et la réglementation de l'intelligence artificielle tenue en novembre 2023 à Bletchley Park à Milton Keynes, en Angleterre. Organisé par le gouvernement britannique, il s'agissait du premier sommet mondial dédié à l'intelligence artificielle. Le principal résultat a été la déclaration de Bletchley, un accord conjoint de 28 pays se concentrant sur l'identification des risques partagés en matière de sécurité de l'IA et l'élaboration de politiques fondées sur les risques pour garantir que les avantages de cette technologie soient exploités de manière responsable.
Le sommet a marqué une étape importante dans la coopération internationale sur la gouvernance de l'IA, réunissant des dirigeants gouvernementaux, des cadres de l'industrie technologique et des chercheurs. Il a établi un cadre pour un dialogue continu sur les risques de l'IA de pointe et a créé un précédent pour les discussions mondiales ultérieures sur la réglementation de l'IA.
Contexte
Le Premier ministre du Royaume-Uni à l'époque, Rishi Sunak, a fait de l'IA une priorité de son gouvernement, annonçant au début de 2023 que le Royaume-Uni accueillerait une conférence mondiale sur la sécurité de l'IA à l'automne de cette année-là. L'annonce est intervenue dans un contexte de préoccupations croissantes du public et des experts concernant les progrès rapides des systèmes de modèles de langage de grande taille et d'autres technologies de IA générative. Le gouvernement de Sunak a positionné le Royaume-Uni comme un leader dans la gouvernance de l'IA, cherchant à équilibrer l'innovation avec des mesures de sécurité.
Le sommet a été planifié sur plusieurs mois, le gouvernement britannique consultant des partenaires internationaux, des entreprises technologiques et des institutions académiques. Le choix du lieu était délibéré, reliant les préoccupations modernes en matière d'IA à l'héritage historique du décryptage et de l'informatique.
Lieu
Bletchley Park était une installation de décryptage de la Seconde Guerre mondiale établie par le gouvernement britannique sur le site d'un manoir victorien, situé dans la ville britannique de Milton Keynes. Il a joué un rôle important dans l'histoire de l'informatique, certains des premiers ordinateurs modernes ayant été construits sur ce site, notamment les machines Colossus utilisées pour déchiffrer les communications allemandes. Le site est désormais un musée et une attraction patrimoniale.
Le choix de Bletchley Park symbolisait le lien entre les réalisations cryptographiques historiques et les défis contemporains en matière de sécurité de l'IA. La capacité du lieu et ses dispositions de sécurité ont permis d'accueillir des réunions diplomatiques de haut niveau, des sessions à huis clos et des événements ouverts au public.
Déclaration de Bletchley
Le résultat central a été la déclaration de Bletchley, signée par 28 pays, dont les États-Unis, la Chine, l'Australie et l'Union européenne. La déclaration a affirmé que l'IA devrait être conçue, développée, déployée et utilisée d'une manière sûre, centrée sur l'humain, fiable et responsable. Elle a appelé à une coopération internationale pour gérer les défis et les risques de l'intelligence artificielle, en soulignant la nécessité d'une compréhension partagée et d'une action coordonnée.
La déclaration s'est concentrée sur deux domaines principaux : l'identification des risques de sécurité de l'IA d'intérêt commun et l'élaboration de politiques fondées sur les risques respectives. Elle a reconnu que les systèmes d'IA de pointe - les modèles les plus récents et les plus puissants - présentent des risques uniques qui transcendent les frontières nationales. Les signataires se sont engagés à poursuivre le dialogue et la collaboration sur la recherche et la réglementation en matière de sécurité de l'IA.
Préoccupations et thèmes clés
L'accent a été mis sur la réglementation de l'IA de pointe, un terme désignant les systèmes d'IA les plus avancés et les plus capables. Les préoccupations soulevées lors du sommet comprenaient l'utilisation potentielle de l'IA à des fins de terrorisme, d'activités criminelles et de guerre, ainsi que le risque existentiel posé à l'humanité dans son ensemble. Les participants ont discuté de risques allant des biais et de la désinformation dans les systèmes de apprentissage automatique à des scénarios plus spéculatifs impliquant une perte de contrôle sur des systèmes superintelligents.
D'autres thèmes comprenaient la nécessité de transparence dans le développement de l'IA, l'importance des tests de sécurité avant le déploiement et le rôle des normes internationales. Les discussions ont également abordé les implications économiques de l'IA, notamment le déplacement d'emplois et la concentration du pouvoir entre quelques grandes entreprises technologiques.
Participants notables
Le sommet a attiré une participation de haut niveau des gouvernements et de l'industrie. Rishi Sunak a accueilli l'événement. Kamala Harris, vice-présidente des États-Unis, y a assisté en personne, tandis que Charles III, roi du Royaume-Uni, a participé virtuellement. Elon Musk, PDG de Tesla et propriétaire de X, a assisté et a mené une interview en direct avec Sunak le 2 novembre sur la plateforme X.
Parmi les autres participants figuraient Giorgia Meloni, Première ministre de l'Italie ; Ursula von der Leyen, présidente de la Commission européenne ; Sam Altman, PDG de OpenAI ; Nick Clegg, ancien homme politique britannique et président des affaires mondiales chez Meta Platforms ; Mustafa Suleyman, cofondateur de Google DeepMind ; Michelle Donelan, secrétaire d'État britannique à la Science, à l'Innovation et à la Technologie ; Věra Jourová, vice-présidente de la Commission européenne pour les Valeurs et la Transparence ; Gina Raimondo, secrétaire au Commerce des États-Unis ; et Wu Zhaohui, vice-ministre chinois des Sciences et Technologies.
La présence de représentants de grandes entreprises d'IA, notamment Anthropic et Google DeepMind, a souligné l'engagement de l'industrie dans le processus de réglementation.
Actions des États-Unis
En parallèle du sommet, le président des États-Unis, Joe Biden, a signé un décret exigeant que les développeurs d'IA partagent les résultats de sécurité avec le gouvernement américain. Le décret imposait aux entreprises développant des systèmes d'IA à grande échelle de rendre compte des mesures de test de sécurité et d'atténuation des risques. Le gouvernement américain a également annoncé la création d'un institut américain de sécurité de l'IA, établi dans le cadre du National Institute of Standards and Technology (NIST).
Ces actions ont complété la déclaration internationale, démontrant une approche réglementaire nationale tout en soutenant la coopération mondiale. Le décret a été considéré comme une étape importante dans la politique américaine en matière d'IA, abordant à la fois les risques immédiats et les questions de gouvernance à long terme.
Série de sommets mondiaux sur l'IA
Le sommet de Bletchley a lancé une série de sommets mondiaux sur la sécurité de l'IA. Des réunions ultérieures ont été planifiées pour s'appuyer sur les principes de la déclaration, le prochain sommet étant accueilli par la Corée du Sud en 2024. La série vise à maintenir l'élan sur la gouvernance de l'IA, en réunissant les gouvernements, l'industrie et la société civile pour relever les défis évolutifs.
La série de sommets reflète la reconnaissance que la sécurité de l'IA est une question transnationale nécessitant une collaboration soutenue. Chaque itération devrait produire des engagements plus concrets et des normes techniques, passant de déclarations générales à des politiques actionnables.
Héritage et impact
Les résultats du sommet de Bletchley ont établi une base de référence pour la gouvernance internationale de l'IA. L'accent mis par la déclaration sur un développement de l'IA centré sur l'humain et responsable a influencé les discussions politiques ultérieures dans divers pays. Le sommet a également souligné le rôle des entreprises d'IA de pointe dans les discussions sur la sécurité, encourageant des engagements volontaires en plus de la réglementation gouvernementale.
Les critiques ont noté que la déclaration n'était pas contraignante et manquait de mécanismes d'application spécifiques. Cependant, les partisans ont fait valoir que la valeur du sommet résidait dans la création d'un cadre partagé et d'une volonté politique pour une action future. L'événement a également sensibilisé le public aux risques de l'IA, contribuant à un débat sociétal plus large sur la trajectoire de la technologie.
Références
- Documentation officielle du sommet sur la sécurité de l'IA 2023
- Texte de la déclaration de Bletchley
- Communiqués de presse du gouvernement britannique sur le sommet