Ist es das, was wir wollen? ist eine öffentliche Erklärung aus dem Jahr 2025, die von mehr als 1.000 Forschern, Ingenieuren und Technologen aus dem Bereich der künstlichen Intelligenz unterzeichnet wurde. Die Erklärung fordert eine unmittelbare und durchsetzbare internationale Regulierung der KI-Entwicklung und nennt Bedenken hinsichtlich ungemilderter Risiken für die gesellschaftliche Sicherheit, demokratische Institutionen und globale Gerechtigkeit. Ihre Veröffentlichung markierte ein seltenes Beispiel kollektiver Interessenvertretung aus der technischen Gemeinschaft und stand im Gegensatz zu früheren, von der Industrie geführten Aufrufen zur freiwilligen Selbstregulierung.
Die Erklärung entstand aus einer Arbeitsgruppe, der Unterzeichner von großen Forschungseinrichtungen und privaten Unternehmen angehörten, wobei die Organisatoren jedoch betonten, ihren basisdemokratischen Charakter über jede einzelne organisatorische Zugehörigkeit zu stellen. Der Titel des Dokuments - eine rhetorische Frage an politische Entscheidungsträger und die Öffentlichkeit - spiegelt einen bewussten Appell an gemeinsame Werte und nicht nur an technisches Fachwissen wider. Innerhalb weniger Wochen nach der Veröffentlichung wurde es von großen internationalen Medien aufgegriffen und in parlamentarischen und kongressionalen Gremien debattiert, führte jedoch zu keinem unmittelbaren formellen Vertrag oder einer Gesetzesänderung.
Hintergrund und Kontext
Die Erklärung entstand vor dem Hintergrund einer raschen Kommerzialisierung von großen Sprachmodellen und generativer KI-Systemen. In den Jahren vor ihrer Veröffentlichung hatten sich die Fähigkeiten im Bereich maschinelles Lernen und Deep Learning stark verbessert, was sowohl öffentliche Begeisterung als auch weit verbreitete Ängste vor Arbeitsplatzverlusten, Fehlinformationen und Überwachung auslöste. Frühere bemerkenswerte Interventionen - wie offene Briefe verschiedener Technologieführer - wurden oft als vage oder eigennützig kritisiert. Die Organisatoren von Ist es das, was wir wollen? versuchten, sich durch die Fundierung auf spezifische Belege aus jüngsten Fehlern und Beinahe-Unfällen, einschließlich dokumentierter Fälle von Schäden durch autonome Systeme, von diesen abzuheben.
Zentrale Forderungen und Prinzipien
Die Erklärung stellt mehrere handlungsorientierte Forderungen auf, anstatt einen allgemeinen Aufruf zur Vorsicht zu formulieren. Zu den wichtigsten Punkten gehören:
- Verbindliche Sicherheitsstandards - die Belastungstests für neuronale Netze mit hoher Leistungsfähigkeit vor der Bereitstellung erfordern, ähnlich der Zertifizierung in der Luft- und Raumfahrt oder der Pharmaindustrie.
- Transparenzpflichten - die Entwickler dazu verpflichten, Quellen der Trainingsdaten, Energieverbrauch und bekannte Fehlermodi offenzulegen.
- Wiedergutmachungsmechanismen - die Einführung rechtlicher Haftung für durch KI-Systeme verursachte Schäden mit einer klaren Verantwortungskette.
- Internationale Koordinierung - der Vorschlag eines Vertragsorgans mit Durchsetzungsbefugnissen, das nach dem Vorbild bestehender Regime für Nuklear- oder Chemiewaffen gestaltet ist.
Der Text lehnt ausdrücklich das Argument ab, dass Regulierung Innovation verlangsamen würde, und verweist auf historische Beispiele, in denen Sicherheitsvorschriften den technologischen Fortschritt förderten statt behinderten. Er stellt auch die Angemessenheit der aktuellen internen Governance bei Unternehmen wie OpenAI, Anthropic und Google DeepMind infrage und argumentiert, dass Gewinnanreize die Selbsteinschätzung zwangsläufig verzerren.
Unterzeichner und Unterstützung
Die Unterzeichnerliste umfasst prominente Persönlichkeiten wie Joshua Tenenbaum (MIT), Melanie Mitchell (Portland State University), Fakultätsmitglieder von BAIR (Berkeley AI Research) sowie ehemalige Industrieforscher von Xerox PARC und Nokia Bell Labs. Etwa 70 % der Unterzeichner waren akademischen Einrichtungen zugeordnet, während der Rest aus privaten Unternehmen, gemeinnützigen Organisationen und staatlichen Laboren stammte. Kein einziger CEO eines großen KI-Unternehmens unterzeichnete, obwohl eine Reihe von Ingenieuren und Produktmanagern auf mittlerer Ebene dies taten, einige anonym, um berufliche Vergeltungsmaßnahmen zu vermeiden. Die Organisatoren veröffentlichten später eine Methodiknotiz, die bestätigte, dass die Unterschriften gegen institutionelle E-Mail-Adressen verifiziert, ansonsten aber selbst gemeldet wurden.
Medien- und politische Rezeption
Die Reaktionen waren polarisiert. Unterstützende Kommentatoren, darunter mehrere Mitglieder des Europäischen Parlaments und zivilgesellschaftliche Gruppen, lobten die Erklärung für ihre konkreten Vorschläge und ihre Weigerung, sich Unternehmenserzählungen zu beugen. Skeptiker, insbesondere Branchenführer und einige libertäre Ökonomen, taten sie als alarmistisch ab und argumentierten, dass bestehende Regulierungen ausreichten. In den Vereinigten Staaten verwies eine Anhörung eines Kongress-Unterausschusses zur KI-Governance direkt auf das Dokument, obwohl kein Gesetzentwurf eingebracht wurde. Im Gegensatz dazu zeigten die Bhabha Atomic Research Centre und bestimmte nationale Sicherheitsbehörden in anderen Ländern privates Interesse an seinen Bestimmungen und betrachteten KI als eine Dual-Use-Technologie, die einer Aufsicht bedarf.
Die Erklärung löste auch interne Debatten innerhalb der Machine-Learning-Gemeinschaft aus. Einige Akademiker befürchteten, dass ihr Ton Industriebeziehungen entfremden könnte, während andere entgegneten, dass Neutralität angesichts der beschleunigten Bereitstellung nicht mehr haltbar sei. Eine Gegenpetition mit dem Titel „Unsere Zukunft ist besser mit KI“ sammelte im gleichen Zeitraum weniger als 200 Unterschriften, was auf ein erhebliches intellektuelles Gewicht hinter der ursprünglichen Erklärung hindeutet.
Auswirkungen und Vermächtnis
Stand Ende 2025 wurden keine direkten politischen Änderungen als Ergebnis der Erklärung erlassen. Sie ist jedoch zu einem häufigen Bezugspunkt in späteren Vorschlägen geworden, einschließlich Überarbeitungen der KI-Folgenabschätzungen, die von Waymo und anderen sicherheitskritischen Anwendungen verwendet werden. Mehrere Universitätskurse verwenden den Text nun als Fallstudie zur Technologie-Governance. Im Jahr 2026 wurde eine jährliche Überprüfungskonferenz eingerichtet, um den Fortschritt bei ihren Forderungen zu verfolgen, obwohl die Beteiligung der größten Unternehmen spärlich bleibt. Die langfristige Bedeutung von Ist es das, was wir wollen? könnte weniger in unmittelbaren gesetzgeberischen Effekten liegen als vielmehr darin, die Idee zu normalisieren, dass technische Experten sowohl das Recht als auch die Verantwortung haben, sich offen zu Fragen des öffentlichen Wohls zu äußern.