Le sommet sur la sécurité de l'IA 2023 était une conférence internationale consacrée à la sécurité et à la réglementation de l'intelligence artificielle. Organisé par le gouvernement britannique, il s'est tenu en novembre 2023 à Bletchley Park, Milton Keynes, en Angleterre. Cet événement a été le tout premier sommet mondial sur l'intelligence artificielle, réunissant des dirigeants gouvernementaux, des cadres de la technologie et des chercheurs pour aborder les risques associés aux systèmes d'IA avancés. Le sommet a abouti à la publication de la déclaration de Bletchley, qui se concentrait sur « l'identification des risques de sécurité de l'IA d'intérêt commun » et « l'élaboration de politiques fondées sur les risques » afin de « garantir que les avantages de la technologie puissent être exploités de manière responsable pour le bien de tous ».
Le sommet a marqué un moment important dans le débat mondial sur la gouvernance de l'intelligence artificielle, car c'était la première fois que de grandes puissances mondiales, y compris les États-Unis et la Chine, convenaient d'une déclaration commune concernant la sécurité de l'IA. L'événement a également souligné l'importance croissante des technologies de modèle de langage et d'IA générative, qui avaient progressé rapidement dans les années précédant le sommet.
Contexte
Le Premier ministre du Royaume-Uni à l'époque, Rishi Sunak, a fait de l'IA l'une des priorités de son gouvernement, annonçant que le Royaume-Uni accueillerait une conférence mondiale sur la sécurité de l'IA à l'automne 2023. Cette annonce est intervenue dans un contexte de préoccupations publiques et gouvernementales croissantes concernant les risques potentiels de l'IA, notamment son utilisation dans la désinformation, les cyberattaques et les armes autonomes. Le gouvernement de Sunak cherchait à positionner le Royaume-Uni comme un leader dans la réglementation de la sécurité de l'IA, en s'appuyant sur les contributions historiques du pays à l'informatique et sur ses secteurs académique et industriel de l'IA.
Le sommet a été planifié comme un événement diplomatique de haut niveau, avec des invitations adressées aux chefs d'État, aux PDG d'entreprises technologiques et aux principaux chercheurs en IA. Le gouvernement britannique a souligné la nécessité d'une coopération internationale, arguant que les risques liés à l'IA étaient de nature mondiale et exigeaient des réponses coordonnées.
Lieu
Bletchley Park était une installation de décryptage de la Seconde Guerre mondiale établie par le gouvernement britannique sur le site d'un manoir victorien et se trouve dans la ville britannique de Milton Keynes. Il a joué un rôle important dans l'histoire de l'informatique, certains des premiers ordinateurs modernes ayant été construits dans cette installation. Le choix du lieu était symbolique, car Bletchley Park est largement considéré comme le berceau de l'informatique moderne, où des figures comme Alan Turing ont travaillé au décryptage du code Enigma.
La signification historique du lieu a été soulignée par les intervenants et les participants, qui ont établi des parallèles entre les efforts de décryptage des années 1940 et le défi contemporain de comprendre et de contrôler l'IA. Le cadre a également rappelé aux participants l'héritage du Royaume-Uni en matière d'innovation technologique, des débuts de l'informatique au développement des architectures de transformeur qui sous-tendent les systèmes d'IA modernes.
Résultats
28 pays présents au sommet, y compris les États-Unis, la Chine, l'Australie et l'Union européenne, ont publié un accord connu sous le nom de déclaration de Bletchley, appelant à une coopération internationale pour gérer les défis et les risques de l'intelligence artificielle. La déclaration de Bletchley affirme que l'IA doit être conçue, développée, déployée et utilisée d'une manière sûre, centrée sur l'humain, digne de confiance et responsable.
L'accent a été mis sur la réglementation de « l'IA de pointe », un terme désignant les systèmes d'IA les plus récents et les plus puissants. Les préoccupations soulevées lors du sommet incluent l'utilisation potentielle de l'IA à des fins de terrorisme, d'activités criminelles et de guerre, ainsi que le risque existentiel posé à l'humanité dans son ensemble. La déclaration n'a pas fixé d'objectifs réglementaires spécifiques, mais a établi un cadre pour de futures discussions, y compris un engagement à organiser d'autres sommets.
En plus de la déclaration, plusieurs initiatives nationales ont été annoncées. Le président des États-Unis, Joe Biden, a signé un décret exigeant que les développeurs d'IA partagent les résultats de sécurité avec le gouvernement américain. Le gouvernement américain a également annoncé la création d'un institut américain de sécurité de l'IA, dans le cadre du National Institute of Standards and Technology. Ces actions ont été perçues comme une réponse directe à l'accent mis par le sommet sur la transparence et la responsabilité dans le développement de l'IA.
L'entrepreneur technologique Elon Musk et Sunak ont réalisé une interview en direct sur la sécurité de l'IA le 2 novembre sur X, la plateforme de médias sociaux appartenant à Musk. L'interview, diffusée à un large public, a couvert des sujets tels que le potentiel de l'IA à surpasser l'intelligence humaine et la nécessité d'une surveillance réglementaire. Musk, qui avait précédemment appelé à une pause dans le développement de l'IA, a réitéré ses préoccupations concernant les risques existentiels.
Participants notables
Les personnes suivantes ont assisté au sommet :
- Rishi Sunak, Premier ministre du Royaume-Uni
- Kamala Harris, vice-présidente des États-Unis
- Charles III, roi du Royaume-Uni (participation virtuelle)
- Elon Musk, PDG de Tesla, propriétaire de X, SpaceX, Neuralink et xAI
- Giorgia Meloni, Première ministre de l'Italie
- Ursula von der Leyen, présidente de la Commission européenne
- Sam Altman, PDG d'OpenAI
- Nick Clegg, ancien homme politique britannique et président des affaires mondiales chez Meta Platforms
- Mustafa Suleyman, cofondateur de Google DeepMind
- Michelle Donelan, secrétaire d'État britannique à la Science, à l'Innovation et à la Technologie
- Věra Jourová, vice-présidente de la Commission européenne pour les Valeurs et la Transparence
- Gina Raimondo, secrétaire au Commerce des États-Unis
- Wu Zhaohui, vice-ministre chinois de la Science et de la Technologie
La présence de figures politiques de haut niveau des puissances occidentales et orientales a souligné l'importance mondiale de l'événement. La participation de leaders de l'industrie comme Sam Altman et Mustafa Suleyman a mis en évidence la relation étroite entre les développeurs d'IA et les décideurs politiques, ainsi que l'influence croissante d'entreprises telles que Anthropic et Google DeepMind dans la formation du paysage réglementaire.
Série de sommets mondiaux sur l'IA
Le sommet de Bletchley Park était destiné à être le premier d'une série de réunions internationales sur la sécurité de l'IA. La déclaration incluait un engagement à organiser de futurs sommets, dans le but de s'appuyer sur les accords initiaux et de répondre aux défis émergents. La série a été conçue pour être inclusive, réunissant non seulement les gouvernements, mais aussi les entreprises technologiques, le monde universitaire et la société civile.
Le sommet de suivi devait se tenir en Corée du Sud en 2024, avec un troisième prévu en France. Ces réunions ultérieures devaient se concentrer sur des propositions réglementaires plus détaillées, y compris des normes pour les tests et l'évaluation de l'IA, ainsi que des mécanismes de coopération internationale en matière d'application.
La série de sommets reflétait une tendance plus large vers la formalisation de la gouvernance de l'IA, alors que les pays du monde entier étaient confrontés au rythme rapide du développement de l'IA. Les discussions à Bletchley Park ont été informées par des recherches d'institutions comme MIT CSAIL, Stanford AI Lab et BAIR (Berkeley AI Research), ainsi que par le travail de chercheurs en IA de premier plan tels que Samy Bengio et Melanie Mitchell, qui avaient appelé à une plus grande attention à la sécurité et à l'éthique.
Signification et héritage
Le sommet sur la sécurité de l'IA de Bletchley Park a été largement considéré comme un événement marquant dans l'histoire de la gouvernance de l'IA. C'était la première fois qu'une large coalition de nations, y compris des gouvernements démocratiques et autoritaires, convenait d'un cadre commun pour aborder les risques liés à l'IA. Le sommet a également contribué à élever la question de la sécurité de l'IA dans le discours public, suscitant une couverture médiatique accrue et un débat public.
Les critiques ont toutefois noté que les résultats du sommet étaient largement symboliques, la déclaration de Bletchley manquant d'engagements contraignants ou de mécanismes d'application spécifiques. Certains chercheurs ont fait valoir que l'accent mis sur les risques existentiels de l'IA de pointe éclipsait des préoccupations plus immédiates, telles que les biais algorithmiques, le déplacement d'emplois et la concentration du pouvoir dans quelques grandes entreprises technologiques.
Malgré ces critiques, le sommet a réussi à établir un canal diplomatique pour la gouvernance de l'IA, considéré comme essentiel étant donné la nature mondiale du développement et du déploiement de l'IA. L'événement a également mis en évidence le rôle du Royaume-Uni en tant que puissance de rassemblement dans la politique technologique, en s'appuyant sur ses forces en matière de recherche et d'innovation.
L'héritage du sommet sera probablement mesuré par l'efficacité de la série de sommets mondiaux sur l'IA à traduire les déclarations en actions concrètes. En 2024, les accords initiaux n'avaient pas encore conduit à des changements réglementaires majeurs, mais le dialogue en cours était considéré comme un pas positif vers la gestion des risques de l'IA tout en exploitant ses avantages.