Der Brief „Pause Giant AI Experiments“ war ein offener Brief, der am 22. März 2023 vom Future of Life Institute veröffentlicht wurde und KI-Labore dazu aufrief, das Training von Systemen, die leistungsfähiger als GPT-4 sind, für mindestens sechs Monate zu pausieren. Er sammelte mehr als 30.000 Unterschriften, darunter prominente Technologen und Forscher, und wurde zu einer der am breitesten diskutierten öffentlichen Interventionen in KI-Politikdebatten der 2020er Jahre, obwohl er nicht zu einer tatsächlichen Pause durch große Labore führte.
Inhalt und Unterzeichner
Der Brief argumentierte, dass KI-Labore in einem „außer Kontrolle geratenen Wettlauf“ gefangen seien, um immer leistungsfähigere Systeme zu entwickeln und einzusetzen, die niemand, einschließlich ihrer Schöpfer, zuverlässig verstehen, vorhersagen oder kontrollieren könne, und warnte vor Risiken, die von der Flutung von Informationskanälen mit Propaganda und Unwahrheiten bis hin zu einem breiteren Verlust der Kontrolle über die Zivilisation reichen. Er forderte eine öffentliche, überprüfbare Pause und dass die Zwischenzeit genutzt werde, um gemeinsame Sicherheitsprotokolle zu entwickeln, die von unabhängigen Experten überwacht werden. Zu den Unterzeichnern gehörten Max Tegmark, dessen Future of Life Institute den Brief organisierte, Elon Musk sowie zahlreiche Akademiker und Persönlichkeiten aus der KI-Sicherheits-Gemeinschaft, obwohl bemerkenswert wenige Forscher aus den führenden Grenzlaboren unterzeichneten.
Rezeption und Kritik
Der Brief stieß aus mehreren Richtungen auf scharfe Kritik. Einige KI-Sicherheitsforscher, darunter Persönlichkeiten, die mit existenziellem Risiko verbunden sind, argumentierten, dass eine vorübergehende Pause eine unzureichende Reaktion auf die beschriebenen Risiken sei und bevorzugten verbindlichere regulatorische Maßnahmen. Andere Kritiker, darunter Wissenschaftler wie Timnit Gebru und Emily Bender, argumentierten, dass der Brief sich auf spekulative langfristige Schäden konzentriere, während er dokumentierte kurzfristige Schäden wie algorithmische Verzerrung vernachlässige, und stellten die Motive von Unterzeichnern mit kommerziellen Interessen an der Verlangsamung von Wettbewerbern in Frage.
Nachwirkungen
Kein großes KI-Labor pausierte die Entwicklung als Reaktion auf den Brief. OpenAI brachte weiterhin Produkte auf den Markt, und Wettbewerber wie Google DeepMind und Anthropic veröffentlichten in den folgenden Monaten weiterhin neue Modelle. Der Brief wird dennoch dafür anerkannt, die öffentliche und politische Aufmerksamkeit für KI-Risiken erhöht zu haben, und trug zu Dynamik bei, die in spätere politische Bemühungen einfloss, einschließlich des Bletchley Park AI Safety Summit später in diesem Jahr und einer breiteren Diskussion über KI-Governance-Rahmenwerke. Er wird häufig als Marker dafür zitiert, wie sehr die Sorge um Grenz-KI-Fähigkeiten bis Anfang 2023 zum Mainstream geworden war, selbst als seine zentrale Forderung unerfüllt blieb.