La lettre « Pause Giant AI Experiments » était une lettre ouverte publiée le 22 mars 2023 par le Future of Life Institute, appelant les laboratoires d'IA à suspendre pendant au moins six mois l'entraînement de systèmes plus puissants que GPT-4. Elle a recueilli plus de 30 000 signatures, dont celles de technologues et de chercheurs éminents, et est devenue l'une des interventions publiques les plus discutées dans les débats sur les politiques d'IA des années 2020, bien qu'elle n'ait conduit à aucune pause réelle de la part des grands laboratoires.
Contenu et signataires
La lettre affirmait que les laboratoires d'IA étaient engagés dans une « course incontrôlée » pour développer et déployer des systèmes de plus en plus puissants que personne, y compris leurs créateurs, ne pouvait comprendre, prédire ou contrôler de manière fiable, et mettait en garde contre des risques allant de l'inondation des canaux d'information par de la propagande et des mensonges à une perte plus large de contrôle sur la civilisation. Elle appelait à une pause publique et vérifiable, et à ce que le temps ainsi gagné soit utilisé pour développer des protocoles de sécurité partagés supervisés par des experts indépendants. Parmi les signataires figuraient Max Tegmark, dont le Future of Life Institute a organisé la lettre, Elon Musk, ainsi que de nombreux universitaires et figures de la communauté de la sécurité de l'IA, bien que très peu de chercheurs des laboratoires de pointe les plus avancés aient signé.
Réception et critiques
La lettre a suscité de vives critiques de plusieurs côtés. Certains chercheurs en sécurité de l'IA, y compris des figures associées aux préoccupations de risque existentiel, ont soutenu qu'une pause temporaire était une réponse insuffisante aux risques décrits et ont préféré des mesures réglementaires plus contraignantes. D'autres critiques, notamment des universitaires comme Timnit Gebru et Emily Bender, ont affirmé que la lettre se concentrait sur des préjudices à long terme spéculatifs tout en détournant l'attention des préjudices à court terme documentés tels que le biais algorithmique, et ont remis en question les motivations des signataires ayant des intérêts commerciaux à ralentir leurs concurrents.
Conséquences
Aucun grand laboratoire d'IA n'a suspendu son développement en réponse à la lettre. OpenAI a continué à commercialiser ses produits, et des concurrents comme Google DeepMind et Anthropic ont continué à publier de nouveaux modèles dans les mois suivants. La lettre est néanmoins créditée d'avoir élevé l'attention publique et politique sur les risques de l'IA, contribuant à une dynamique qui a alimenté les efforts politiques ultérieurs, notamment le Sommet sur la sécurité de l'IA de Bletchley Park plus tard dans l'année et une discussion plus large sur les cadres de gouvernance de l'IA. Elle est fréquemment citée comme un marqueur de la mesure dans laquelle les préoccupations grand public concernant les capacités de l'IA de pointe étaient devenues courantes au début de 2023, même si sa demande centrale n'a pas été satisfaite.