Le sommet sur la sécurité de l'IA 2023 était une conférence internationale sur la sécurité et la réglementation de l'intelligence artificielle. Organisé par le gouvernement britannique, il s'est tenu en novembre 2023 à Bletchley Park, Milton Keynes, en Angleterre. L'événement a été le tout premier sommet mondial sur l'intelligence artificielle, réunissant des dirigeants gouvernementaux, des cadres technologiques et des chercheurs pour aborder les risques et les opportunités posés par les systèmes d'IA avancés. Le sommet a conduit à la publication de la déclaration de Bletchley, un accord conjoint axé sur l'identification des risques de sécurité de l'IA d'intérêt commun et l'élaboration de politiques fondées sur les risques afin de garantir que les avantages de la technologie puissent être exploités de manière responsable pour le bien de tous.
Le sommet a marqué une étape importante dans la gouvernance internationale de l'IA, car c'était la première fois que les grandes puissances mondiales, notamment les États-Unis, la Chine et l'Union européenne, convenaient formellement d'un cadre commun pour traiter les risques liés à l'IA. L'événement s'est déroulé à Bletchley Park, un site d'importance historique dans le domaine de l'informatique et de la cryptographie, qui a servi de toile de fond symbolique aux discussions sur l'avenir de l'IA.
Contexte
Le Premier ministre du Royaume-Uni de l'époque, Rishi Sunak, a fait de l'IA l'une des priorités de son gouvernement, annonçant que le Royaume-Uni accueillerait une conférence mondiale sur la sécurité de l'IA à l'automne 2023. Cette annonce est intervenue dans un contexte de préoccupation mondiale croissante concernant les progrès rapides des technologies d'intelligence artificielle, en particulier l'émergence de puissants grands modèles de langage et de systèmes d'IA générative. Le gouvernement de Sunak cherchait à positionner le Royaume-Uni comme un leader en matière de sécurité et de réglementation de l'IA, en s'appuyant sur les atouts existants du pays en matière de recherche et de développement de l'IA.
Le sommet a été planifié en réponse aux appels de chercheurs en IA et de leaders de l'industrie en faveur d'une action internationale coordonnée sur la sécurité de l'IA. Dans les mois précédant l'événement, plusieurs personnalités éminentes de la communauté de l'IA, notamment des dirigeants d'OpenAI, de Google DeepMind et d'Anthropic, avaient publiquement plaidé en faveur d'une intervention gouvernementale pour atténuer les risques potentiels associés aux systèmes d'IA avancés.
Lieu
Bletchley Park était une installation de décryptage de la Seconde Guerre mondiale établie par le gouvernement britannique sur le site d'un manoir victorien et se trouve dans la ville britannique de Milton Keynes. Il a joué un rôle important dans l'histoire de l'informatique, certains des premiers ordinateurs modernes ayant été construits sur ce site. Pendant la Seconde Guerre mondiale, le site abritait l'École gouvernementale de codes et de chiffres, où des décrypteurs dirigés par des figures telles qu'Alan Turing ont réussi à déchiffrer les communications allemandes, contribuant de manière significative à l'effort de guerre allié.
Le choix de Bletchley Park comme lieu était délibéré, symbolisant les contributions historiques du Royaume-Uni à l'informatique et son engagement à relever les défis de l'ère numérique. L'installation fonctionne désormais comme un musée et un site patrimonial, et ses bâtiments historiques ont fourni un cadre unique pour les travaux du sommet. La juxtaposition de l'histoire de guerre du site avec les défis modernes de la sécurité de l'IA a servi à souligner l'importance de la coopération internationale pour traiter les menaces technologiques.
Déclaration de Bletchley
Le principal résultat du sommet a été la déclaration de Bletchley, un accord signé par 28 pays, dont les États-Unis, la Chine, l'Australie et l'Union européenne. La déclaration appelait à une coopération internationale pour gérer les défis et les risques de l'intelligence artificielle. Elle affirmait que l'IA devait être conçue, développée, déployée et utilisée d'une manière sûre, centrée sur l'humain, fiable et responsable.
La déclaration se concentrait sur l'identification des risques de sécurité de l'IA d'intérêt commun et l'élaboration de politiques fondées sur les risques afin de garantir que les avantages de la technologie puissent être exploités de manière responsable pour le bien de tous. Elle reconnaissait le potentiel de l'IA à transformer les sociétés et les économies tout en admettant la nécessité d'une vigilance contre les préjudices potentiels. L'accord soulignait l'importance de la transparence, de la responsabilité et de la collaboration internationale dans la gouvernance de l'IA.
L'accent a été mis sur la réglementation de l'« IA frontière », un terme désignant les systèmes d'IA les plus récents et les plus puissants. Les préoccupations soulevées lors du sommet comprenaient l'utilisation potentielle de l'IA à des fins de terrorisme, d'activités criminelles et de guerre, ainsi que le risque existentiel posé à l'humanité dans son ensemble. La déclaration n'a pas établi de réglementations contraignantes, mais a plutôt défini un cadre pour une coopération et un développement de politiques futurs.
Résultats et engagements
En plus de la déclaration de Bletchley, le sommet a produit plusieurs autres résultats notables. Le président des États-Unis, Joe Biden, a signé un décret exigeant que les développeurs d'IA partagent les résultats de sécurité avec le gouvernement américain. Le gouvernement américain a également annoncé la création d'un institut américain de sécurité de l'IA, dans le cadre du National Institute of Standards and Technology. Ces actions ont signalé une approche plus proactive de la réglementation de l'IA aux États-Unis.
L'entrepreneur technologique Elon Musk et Sunak ont réalisé une interview en direct sur la sécurité de l'IA le 2 novembre sur X, la plateforme de médias sociaux appartenant à Musk. La conversation a couvert des sujets tels que les avantages et les risques potentiels de l'IA, la nécessité d'une réglementation et l'avenir du développement de l'IA. L'interview a été largement regardée et a généré une attention médiatique significative, renforçant encore le profil du sommet.
Plusieurs pays participants ont annoncé leurs propres initiatives en matière de sécurité de l'IA à la suite du sommet. Le gouvernement britannique s'est engagé à établir son propre institut de sécurité de l'IA, tandis que d'autres nations ont promis d'augmenter le financement de la recherche sur la sécurité de l'IA. Le sommet a également facilité des discussions bilatérales entre pays, notamment des pourparlers entre les États-Unis et la Chine sur les questions de gouvernance de l'IA.
Participants notables
Les personnes suivantes ont assisté au sommet :
- Rishi Sunak, Premier ministre du Royaume-Uni
- Kamala Harris, vice-présidente des États-Unis
- Charles III, roi du Royaume-Uni (participant virtuellement)
- Elon Musk, PDG de Tesla, propriétaire de X, SpaceX, Neuralink et xAI
- Giorgia Meloni, Première ministre de l'Italie
- Ursula von der Leyen, présidente de la Commission européenne
- Sam Altman, PDG d'OpenAI
- Nick Clegg, ancien homme politique britannique et président des affaires mondiales chez Meta Platforms
- Mustafa Suleyman, cofondateur de DeepMind
- Michelle Donelan, secrétaire d'État britannique à la Science, à l'Innovation et à la Technologie
- Věra Jourová, vice-présidente de la Commission européenne chargée des valeurs et de la transparence
- Gina Raimondo, secrétaire au commerce des États-Unis
- Wu Zhaohui, vice-ministre chinois de la science et de la technologie
La présence d'un groupe aussi diversifié de dirigeants politiques et de cadres technologiques a souligné l'importance mondiale du sommet. La présence de représentants des États-Unis et de la Chine, deux pays ayant souvent des points de vue divergents sur la politique technologique, a été particulièrement notable et a mis en évidence le potentiel de coopération internationale sur la sécurité de l'IA.
Réactions et critiques
Le sommet a reçu des réactions mitigées de la part de diverses parties prenantes. Les partisans l'ont salué comme une première étape nécessaire vers une gouvernance internationale de l'IA, notant qu'il avait réuni pour la première fois les acteurs clés du domaine. La déclaration de Bletchley a été considérée comme un développement positif, même si ses engagements étaient en grande partie non contraignants.
Les critiques, cependant, ont soutenu que le sommet manquait d'action concrète et que la déclaration était trop vague pour avoir un impact significatif. Certains chercheurs en sécurité de l'IA ont exprimé leur déception que le sommet n'ait pas produit d'engagements plus spécifiques sur des questions telles que la transparence de l'IA, la responsabilité et la prévention des mauvais usages de l'IA. D'autres ont remis en question le fait que l'accent mis par le sommet sur les risques existentiels éclipsait des préoccupations plus immédiates telles que les biais algorithmiques, le déplacement d'emplois et la concentration du pouvoir de l'IA dans quelques grandes entreprises.
Certains observateurs ont également noté l'absence de certaines parties prenantes clés, notamment des représentants de nombreux pays en développement et des organisations de la société civile. Le sommet a été critiqué pour être dominé par les gouvernements et les entreprises technologiques occidentaux, avec une contribution limitée d'autres perspectives.
Série de sommets mondiaux sur l'IA
Le sommet de Bletchley Park a été le premier d'une série de sommets mondiaux sur la sécurité de l'IA. Des événements ultérieurs ont été planifiés pour s'appuyer sur l'élan généré par la réunion initiale et pour relever les défis continus de la gouvernance de l'IA. La série a été conçue pour fournir un forum régulier de dialogue international sur la sécurité de l'IA, dans le but de développer des cadres politiques plus concrets au fil du temps.
La série de sommets reflète une reconnaissance croissante que la sécurité de l'IA est une question mondiale qui nécessite une action coordonnée au-delà des frontières nationales. Alors que les technologies de l'IA continuent de progresser, la nécessité de mécanismes de gouvernance efficaces devient de plus en plus urgente. Le sommet de Bletchley Park et ses successeurs représentent un effort important pour relever ces défis grâce à la coopération internationale.
Héritage et impact
Le sommet sur la sécurité de l'IA de Bletchley Park a marqué un tournant dans la conversation mondiale sur la réglementation de l'IA. Il a établi la sécurité de l'IA comme une question prioritaire pour les gouvernements du monde entier et a créé une base pour le développement de politiques futures. L'accent mis par le sommet sur l'IA frontière a aidé à concentrer l'attention sur les systèmes d'IA les plus avancés et potentiellement les plus dangereux, tandis que son appel à la coopération internationale a établi un précédent pour l'engagement multilatéral sur la gouvernance technologique.
Le sommet a également contribué à un changement plus large dans le discours public sur l'IA, dépassant les discussions sur les capacités technologiques pour considérer les implications sociétales et éthiques du déploiement de l'IA. Les principes de sécurité, de centralité humaine, de fiabilité et de responsabilité de la déclaration de Bletchley ont depuis été référencés dans divers documents politiques nationaux et internationaux. En 2024, la série de sommets continue d'évoluer, avec des réunions ultérieures abordant de nouveaux défis et s'appuyant sur les fondations établies à Bletchley Park.