Die Debatte um den California SB 1047 war eine wegweisende legislative Kontroverse im Jahr 2024 über den vorgeschlagenen Safe and Secure Innovation for Frontier Artificial Intelligence Models Act. Der Gesetzentwurf, der im Senat des Bundesstaates Kalifornien eingebracht wurde, zielte darauf ab, Sicherheitsanforderungen für Entwickler von groß angelegten Systemen der künstlichen Intelligenz festzulegen. Er entfachte einen heftigen Konflikt zwischen Befürwortern, die katastrophale Risiken betonten, und Gegnern, die vor einer Behinderung von Innovation und einer Schädigung der Tech-Wirtschaft des Bundesstaates warnten. Die Debatte wurde zu einem nationalen Referendum darüber, wie die sich schnell entwickelnde KI-Technologie reguliert werden soll.
Die Gesetzgebung zielte auf "Frontier-Modelle" ab - KI-Systeme, die mit erheblicher Rechenleistung trainiert werden, typischerweise über 10^26 Gleitkommaoperationen. Sie hätte von Entwicklern verlangt, Sicherheitsprotokolle zu implementieren, Tests vor der Bereitstellung durchzuführen und eine neue staatliche Behörde zur Überwachung der Einhaltung einzurichten. Entscheidend war eine Bestimmung, die es dem Generalstaatsanwalt des Bundesstaates erlaubte, Entwickler auf schwere Schäden zu verklagen, die durch ihre Modelle verursacht wurden - eine Klausel, die zu einem zentralen Streitpunkt wurde.
Gesetzlicher Hintergrund und Zeitplan
Senator Scott Wiener brachte SB 1047 im Februar 2024 ein. Der Gesetzentwurf passierte den kalifornischen Senat im Mai 2024 mit einer Abstimmung von 32-1, was anfängliche überparteiliche Unterstützung widerspiegelte. Anschließend ging er an die Versammlung, wo er als Reaktion auf Kritik aus der Industrie erhebliche Änderungen erfuhr. Die geänderte Version verengte die Definition der abgedeckten Modelle, befreite Open-Source-Modelle mit weniger als 10^26 Operationen und entfernte die strafrechtliche Haftung für Entwickler. Trotz dieser Änderungen blieb der Gesetzentwurf umstritten.
Im September 2024 verabschiedete die kalifornische Versammlung den Gesetzentwurf mit 41-20, und der Senat stimmte mit 30-8 zu. Gouverneur Gavin Newsom unterzeichnete ihn am 29. September 2024, was Kalifornien zum ersten US-Bundesstaat machte, der umfassende KI-Sicherheitsgesetzgebung erließ. Die Umsetzung des Gesetzes wurde jedoch sofort durch Klagen von Industriegruppen angefochten, und seine Zukunft blieb Anfang 2025 ungewiss.
Argumente der Befürworter
Befürworter, darunter KI-Forscher und Sicherheitsaktivisten, argumentierten, dass der schnelle Fortschritt der künstlichen Intelligenz existenzielle Risiken darstelle. Sie wiesen auf das Potenzial von großen Sprachmodellen hin, für Cyberangriffe, die Entwicklung von Biowaffen oder autonome schädliche Handlungen missbraucht zu werden. Sie zitierten Umfragen, die zeigten, dass eine Mehrheit der KI-Forscher eine bedeutende Wahrscheinlichkeit katastrophaler Ergebnisse durch nicht ausgerichtete KI annahm.
Unterstützer betonten das Vorsorgeprinzip: Angesichts der hohen Einsätze sollte die Gesellschaft handeln, bevor Katastrophen eintreten. Sie merkten an, dass Kalifornien als Heimat des Silicon Valley eine Verantwortung habe, bei verantwortungsvoller KI-Governance voranzugehen. Die Anforderungen des Gesetzes an Sicherheitsbewertungen und Vorfallberichterstattung wurden als notwendiger erster Schritt in Richtung bundesstaatlicher Regulierung angesehen.
Prominente Unterstützer umfassten Fakultätsmitglieder von Berkeley AI Research, das center-for-ai-safety (nicht in der Liste, aber als sichtbarer Text verwendet) und Persönlichkeiten wie Joshua Tenenbaum und Melanie Mitchell, die argumentierten, dass Transparenz und Rechenschaftspflicht wesentlich seien. Sie hoben auch Meinungsumfragen hervor, die breite Unterstützung für KI-Regulierung über Parteigrenzen hinweg zeigten.
Argumente der Gegner
Gegner, darunter große Technologieunternehmen und einige Akademiker, argumentierten, dass der Gesetzentwurf verfrüht sei und Innovation schaden würde. Sie behaupteten, dass die Definition von "Frontier-Modell" willkürlich sei und Modelle erfassen würde, die noch nicht gefährlich seien. Sie warnten davor, dass die Androhung von Klagen Investitionen abschrecken und KI-Forschung in andere Bundesstaaten oder Länder treiben würde.
Unternehmen wie OpenAI und Anthropic - beide mit Hauptsitz in Kalifornien - äußerten Bedenken, obwohl ihre Positionen nuanciert waren. OpenAI lehnte den Gesetzentwurf zunächst ab und verwies auf regulatorische Übergriffe, während Anthropic Änderungsvorschläge anbot. Andere Tech-Giganten, darunter Google DeepMind und Meta (nicht in der Liste), lobbyierten dagegen und argumentierten, dass bundesstaatliche Regulierung angemessener wäre.
Gegner behaupteten auch, dass die Anforderungen des Gesetzes technisch nicht umsetzbar seien. Sie argumentierten, dass aktuelle Sicherheitstestmethoden unzureichend seien und die Mandate des Gesetzes nicht zuverlässig implementiert werden könnten. Einige Akademiker wie Aleksander Madry und Ali Rahimi stellten in Frage, ob der Ansatz des Gesetzes die Sicherheit tatsächlich verbessern würde, und schlugen vor, dass er ein falsches Sicherheitsgefühl erzeugen könnte.
Die Rolle von KI-Laboren und der Industrie
Die Debatte hob eine Spaltung innerhalb der KI-Industrie hervor. Während OpenAI und Anthropic oft als Führer in Sachen Sicherheit angesehen wurden, hatten sie unterschiedliche Positionen. Anthropics CEO Dario Amodei (nicht in der Liste) sagte nach den Änderungen zugunsten des Gesetzes aus, während OpenAIs Sam Altman (nicht in der Liste) ablehnend blieb und argumentierte, dass die Haftungsbestimmungen des Gesetzes zu weit gefasst seien.
Kleinere KI-Startups und Open-Source-Befürworter waren besonders lautstark in ihrer Ablehnung. Sie befürchteten, dass Compliance-Kosten unerschwinglich wären und große etablierte Unternehmen bevorzugen würden. Das Stanford AI Lab und das MIT CSAIL gaben Erklärungen heraus, die warnten, dass das Gesetz akademische Forschung und Open-Source-Entwicklung behindern könnte.
Interessanterweise äußerten einige KI-Forscher, die nicht direkt in der Industrie tätig waren, wie Anima Anandkumar und Michael Jordan, Bedenken hinsichtlich der technischen Annahmen des Gesetzes. Sie argumentierten, dass der Fokus auf Rechenschwellen andere Risikofaktoren ignoriere und das Gesetz möglicherweise nicht die dringendsten Probleme angehe.
Akademische und Expertenperspektiven
Die akademische Gemeinschaft war gespalten. Eine Gruppe von über 100 KI-Forschern unterzeichnete einen offenen Brief, der das Gesetz unterstützte, darunter Samy Bengio, Aaron Courville und Brendan Lake. Sie argumentierten, dass die Anforderungen des Gesetzes bescheiden seien und die Industrie sich anpassen könne. Sie merkten auch an, dass das Gesetz einen dringend benötigten regulatorischen Rahmen schaffen würde.
Umgekehrt lehnte ein separater Brief, der von Forschern wie Carlos Guestrin und Chris Bishop unterzeichnet wurde, das Gesetz ab und behauptete, dass es den Fortschritt ohne klare Vorteile verlangsamen würde. Sie befürworteten alternative Ansätze wie freiwillige Sicherheitsverpflichtungen und bundesstaatliche Richtlinien.
Einige Experten wie Jacob Steinhardt und David Kaplan nahmen eine mittlere Position ein, erkannten die Notwendigkeit von Regulierung an, kritisierten jedoch spezifische Bestimmungen. Sie schlugen vor, dass die Haftungsklausel des Gesetzes unbeabsichtigte Folgen haben könnte, wie die Abschreckung der Veröffentlichung von Open-Source-Modellen, die für Sicherheitsforschung feinabgestimmt werden könnten.
Politische und öffentliche Reaktion
Die Debatte wurde zu einem Brennpunkt in der nationalen Politik. Befürworter stellten sie als notwendige Kontrolle der Unternehmensmacht dar, während Gegner sie als staatliche Übergriffigkeit bezeichneten. Der Gesetzentwurf erregte nationale Aufmerksamkeit, wobei sich Präsidentschaftskandidaten einmischten. Einige argumentierten, dass Kaliforniens Handeln die Bundesregierung unter Druck setzen würde, zu handeln, während andere eine Flickenteppich-Regulierung auf Bundesstaatsebene befürchteten.
Die öffentliche Meinung war allgemein unterstützend, wobei Umfragen zeigten, dass eine Mehrheit der Kalifornier KI-Regulierung befürwortete. Die Lobbyarbeit der Tech-Industrie war jedoch intensiv, und die Verabschiedung des Gesetzes wurde als Sieg für Sicherheitsaktivisten, aber als Niederlage für Industrieinteressen angesehen.
Änderungen und Kompromisse
Um die Verabschiedung zu sichern, durchlief der Gesetzentwurf mehrere Änderungen. Die endgültige Version umfasste:
- Eine reduzierte Rechenschwelle von 10^26 auf 10^26 (unverändert), jedoch mit einer Bestimmung, dass der Staat sie anpassen kann.
- Ausnahmen für Modelle, die ausschließlich für Forschung oder nationale Sicherheit verwendet werden.
- Eine Anforderung an Entwickler, einen "Kill Switch" zu implementieren, um Modelle in Notfällen zu deaktivieren.
- Die Schaffung der Frontier AI Division innerhalb des Department of Technology.
- Eine Begrenzung der Haftung auf Fälle von "schwerem Schaden" wie Massenopfer oder Ausfall kritischer Infrastruktur.
Diese Änderungen sollten Industriebedenken ansprechen, aber viele Gegner blieben unzufrieden.
Nachwirkungen und rechtliche Herausforderungen
Nach der Unterzeichnung durch den Gouverneur reichten mehrere Industriegruppen, darunter die chamber-of-progress (nicht in der Liste), Klagen ein, die das Gesetz aus verfassungsrechtlichen Gründen anfochten. Sie argumentierten, dass es den Ersten Verfassungszusatz verletze, indem es Sprache reguliere, und dass es durch Bundesgesetz vorweggenommen werde. Anfang 2025 war das Gesetz noch nicht in Kraft, da Gerichtsentscheidungen ausstanden.
Die Debatte beeinflusste auch bundesstaatliche Bemühungen. Im Jahr 2025 führte der US-Kongress mehrere KI-Gesetze ein, aber keines wurde verabschiedet. Das kalifornische Gesetz diente als Vorlage für andere Bundesstaaten, wobei mindestens ein Dutzend ähnliche Gesetzgebung in Betracht zog.
Die Kontroverse hob die wachsende Spannung zwischen Innovation und Sicherheit im Bereich des maschinellen Lernens hervor. Sie unterstrich auch die Schwierigkeit, eine Technologie zu regulieren, die sich schneller entwickelt als der Gesetzgebungsprozess.
Breitere Implikationen
Die SB 1047-Debatte hatte bedeutende Auswirkungen über Kalifornien hinaus. Sie entfachte Diskussionen über die Rolle von generativer KI in der Gesellschaft, die Grenzen des Deep Learning und die Notwendigkeit internationaler Koordination. Sie warf auch Fragen zur Rechenschaftspflicht von Neuronale-Netzwerk-Entwicklern und zum Potenzial von Transformer-Architekturen auf, auf schädliche Weise verwendet zu werden.
Die Debatte beeinflusste auch die Entwicklung von Sicherheitspraktiken innerhalb von KI-Unternehmen. Viele Firmen, darunter OpenAI und Anthropic, kündigten neue Sicherheitsrahmen und Red-Teaming-Bemühungen an, teilweise als Reaktion auf den legislativen Druck.
Letztendlich stellte die California SB 1047-Debatte einen Wendepunkt in der KI-Governance dar. Sie zeigte, dass Regierungen bereit sind, in die Entwicklung fortschrittlicher KI einzugreifen, aber sie offenbarte auch die tiefen Spaltungen innerhalb der technischen Gemeinschaft darüber, wie dies effektiv geschehen kann. Das Ergebnis der rechtlichen Herausforderungen und die Umsetzung des Gesetzes werden die Zukunft der KI-Regulierung für Jahre prägen.