Der California Senate Bill 1047, offiziell als Safe and Secure Innovation for Frontier Artificial Intelligence Models Act bezeichnet, war ein vorgeschlagenes Landesgesetz, das darauf abzielte, die Entwicklung und Bereitstellung von groß angelegten Systemen der künstlichen Intelligenz zu regulieren. Eingebracht von Staatssenator Scott Wiener im Februar 2024, sollte der Gesetzentwurf Sicherheitsanforderungen für Entwickler von Frontier-KI-Modellen - solche, die mit erheblicher Rechenleistung trainiert wurden - festlegen, um katastrophale Schäden wie Cyberangriffe oder die Herstellung biologischer Waffen zu verhindern. Der Gesetzentwurf passierte die kalifornische Staatslegislative im August 2024, wurde jedoch am 29. September 2024 von Gouverneur Gavin Newsom mit einem Veto belegt, was Kalifornien zum ersten US-Bundesstaat machte, der eine umfassende KI-Sicherheitsgesetzgebung versuchte, obwohl das Veto die regulatorische Landschaft ungeklärt ließ.
Die Kernbestimmungen des Gesetzentwurfs richteten sich an Entwickler von KI-Modellen, die mit mehr als 10^26 Gleitkommaoperationen (FLOPs) trainiert wurden, ein Schwellenwert, der zu dieser Zeit nur die fortschrittlichsten Systeme führender Labore umfasste. Es verlangte von solchen Entwicklern, einen schriftlichen Sicherheits- und Schutzrahmen zu implementieren, Tests vor der Bereitstellung durchzuführen und sicherzustellen, dass Modelle in Notfällen vollständig abgeschaltet werden konnten. Der Gesetzentwurf sah auch die Einrichtung einer neuen Staatsbehörde, der Frontier Model Division, innerhalb des Department of Technology vor, um die Einhaltung durchzusetzen und Strafen für Verstöße zu verhängen. Bemerkenswerterweise enthielt er eine Whistleblower-Schutzklausel für Mitarbeiter, die Sicherheitsbedenken meldeten, und verlangte, dass Entwickler jährlich ihre Einhaltung gegenüber dem Staatsgeneralstaatsanwalt zertifizieren.
Gesetzgebungsweg und wichtige Änderungen
SB 1047 durchlief während seiner Passage durch den kalifornischen Senat und die Versammlung erhebliche Überarbeitungen. Ursprünglich im Februar 2024 eingebracht, wurde der Gesetzentwurf im April geändert, um seinen Umfang zu verengen und sich auf Modelle mit Trainingskosten von über 100 Millionen Dollar zu konzentrieren. Spätere Änderungen im August stellten klar, dass der Gesetzentwurf nicht für Open-Source-Modelle gelten würde, es sei denn, sie wurden feinabgestimmt oder modifiziert, um den Schwellenwert zu erreichen, und er befreite Modelle, die ausschließlich für Forschungs- oder nationale Sicherheitszwecke verwendet wurden. Der Gesetzentwurf enthielt auch eine "Kill-Switch"-Anforderung, die Entwickler verpflichtete, eine Fähigkeit zu implementieren, den Modellbetrieb vollständig zu stoppen, und verlangte die Erstellung eines "Sicherheitsrahmens", der öffentlich zugänglich sein sollte.
Der Gesetzentwurf passierte den Senat am 21. Mai 2024 mit einer Abstimmung von 32-1 und die Versammlung am 28. August 2024 mit einer Abstimmung von 45-11. Die endgültige Fassung wurde am 30. August 2024 vom Senat genehmigt und an Gouverneur Newsom geschickt. Während des gesamten Prozesses zog der Gesetzentwurf intensive Lobbyarbeit von sowohl Befürwortern als auch Gegnern an, wobei Technologieunternehmen und akademische Institutionen zu seinen potenziellen Auswirkungen auf Innovation Stellung nahmen.
Unterstützung und Opposition
Befürworter von SB 1047, darunter prominente KI-Forscher wie Yoshua Bengio, Geoffrey Hinton und Stuart Russell, argumentierten, dass der Gesetzentwurf eine notwendige Vorsichtsmaßnahme gegen die potenziellen existenziellen Risiken fortschrittlicher KI sei. Sie behaupteten, dass freiwillige Branchenverpflichtungen unzureichend seien und dass staatliche Regulierung unerlässlich sei, um Sicherheit zu gewährleisten. Der Gesetzentwurf wurde auch von Gewerkschaften, Verbraucherschutzgruppen und einigen Technologieführern unterstützt, die darin eine Möglichkeit sahen, KI-Entwickler für Schäden zur Rechenschaft zu ziehen.
Gegner, darunter große KI-Unternehmen wie OpenAI, Anthropic und Google DeepMind, sowie Technologiehandelsgruppen und einige Akademiker, argumentierten, dass der Gesetzentwurf zu breit gefasst sei und Innovation ersticken würde. Sie behaupteten, dass der FLOP-Schwellenwert willkürlich sei und dass der Gesetzentwurf belastende Compliance-Kosten auferlegen würde, insbesondere für kleinere Startups. Einige Kritiker argumentierten auch, dass der Fokus des Gesetzentwurfs auf hypothetische katastrophale Risiken von unmittelbareren Schäden wie Voreingenommenheit und Fehlinformationen ablenke. Bemerkenswerterweise äußerte Anthropic zunächst Bedenken, nahm aber später eine unterstützendere Haltung ein und schlug Änderungen vor, die teilweise übernommen wurden.
Gouverneur Newsoms Veto und Begründung
Am 29. September 2024 legte Gouverneur Gavin Newsom sein Veto gegen SB 1047 ein und verwies auf Bedenken hinsichtlich seines "übermäßig breiten" Umfangs und seines Potenzials, Innovation "abzuwürgen". In seiner Vetobotschaft erkannte Newsom die Bedeutung der KI-Sicherheit an, argumentierte jedoch, dass der Fokus des Gesetzentwurfs auf Modellgröße und Rechenleistungsschwellen nicht der effektivste Ansatz sei. Er stellte fest, dass der Gesetzentwurf "unpraktikable" Anforderungen an Entwickler auferlegen könnte und dass er nicht angemessen die gesamte Bandbreite der KI-Risiken wie algorithmische Diskriminierung und Arbeitsplatzverlagerung adressiere. Newsom forderte stattdessen einen ausgewogeneren Regulierungsrahmen und verwies auf laufende Exekutivanordnungen und Kooperationen mit Experten zur Entwicklung evidenzbasierter Politiken.
Das Veto stieß auf gemischte Reaktionen. Befürworter zeigten sich enttäuscht, wobei Senator Wiener gelobte, den Kampf in zukünftigen Sitzungen fortzusetzen. Gegner lobten die Entscheidung, wobei Technologiebranchengruppen behaupteten, dass das Veto Kaliforniens Führungsrolle in der KI schütze. Das Veto entfachte auch eine Debatte über die Rolle von staatlicher versus bundesstaatlicher Regulierung, da der US-Kongress noch keine umfassende KI-Gesetzgebung verabschiedet hatte.
Auswirkungen und Nachwirkungen
Nach dem Veto blieb das Thema KI-Regulierung ein prominentes Thema in Kalifornien und national. Im Oktober 2024 unterzeichnete Gouverneur Newsom mehrere andere KI-bezogene Gesetze, darunter Maßnahmen zu Deepfakes und zur Nutzung von KI im Gesundheitswesen, lehnte jedoch die Verabschiedung einer breiteren Sicherheitsgesetzgebung ab. Das Veto beeinflusste auch Diskussionen in anderen Bundesstaaten, wobei einige Gesetzgeber ähnliche Gesetze in Betracht zogen, ihre Ansätze jedoch basierend auf den Erfahrungen Kaliforniens anpassten.
Die Debatte über SB 1047 hob die Herausforderungen der Regulierung sich schnell entwickelnder Technologie hervor. Befürworter des Gesetzentwurfs argumentierten, dass das Warten auf bundesstaatliche Maßnahmen die Öffentlichkeit ungeschützt lassen würde, während Gegner behaupteten, dass verfrühte Regulierung vorteilhafte Entwicklungen behindern könnte. Das Vermächtnis des Gesetzentwurfs umfasst die Sensibilisierung für KI-Sicherheitsfragen und die Veranlassung von Unternehmen, freiwillige Sicherheitsverpflichtungen einzugehen, wie sie auf dem KI-Sicherheitsgipfel des Weißen Hauses im Jahr 2023 eingegangen wurden.
Breiterer Kontext in der KI-Regulierung
SB 1047 war Teil einer breiteren globalen Bewegung hin zur KI-Regulierung. Das KI-Gesetz der Europäischen Union, das 2024 finalisiert wurde, verfolgte einen risikobasierten Ansatz, der KI-Anwendungen nach Risikostufe kategorisierte und entsprechende Pflichten auferlegte. Im Gegensatz dazu konzentrierte sich SB 1047 speziell auf Frontier-Modelle, eine Unterscheidung, die einige Experten als gezielter, aber auch willkürlicher argumentierten. Das Scheitern des Gesetzentwurfs unterstrich die Schwierigkeit, Gesetzgebung zu gestalten, die Innovation und Sicherheit in Einklang bringt, eine Herausforderung, die politische Entscheidungsträger weltweit weiterhin beschäftigt.
Technische und ethische Überlegungen
Die Abhängigkeit des Gesetzentwurfs von FLOP-Schwellenwerten warf technische Fragen zur Messung von KI-Fähigkeiten auf. Kritiker stellten fest, dass Rechenleistung kein perfekter Proxy für Risiko ist, da kleinere Modelle manchmal feinabgestimmt werden können, um gefährliche Fähigkeiten zu erreichen. Der Gesetzentwurf berührte auch ethische Fragen, wie die Verantwortung von Entwicklern für nachgelagerte Nutzungen ihrer Modelle und die Spannung zwischen Transparenz und nationaler Sicherheit. Diese Überlegungen bleiben zentral für laufende Debatten über KI-Governance.
Zukunftsperspektiven
Stand Anfang 2025 wurde kein ähnlicher Gesetzentwurf in Kalifornien verabschiedet, aber Senator Wiener hat angedeutet, dass er in der nächsten Sitzung Gesetzgebung erneut einbringen wird, möglicherweise mit überarbeiteten Kriterien. In der Zwischenzeit hat die Bundesregierung Schritte zur Adressierung der KI-Sicherheit unternommen, einschließlich einer Exekutivanordnung von Präsident Biden im Oktober 2023 und der Einrichtung des US-amerikanischen KI-Sicherheitsinstituts. Das Ergebnis dieser Bemühungen wird wahrscheinlich die Zukunft der KI-Regulierung in den Vereinigten Staaten prägen, wobei Kaliforniens Erfahrung je nach Perspektive als warnendes Beispiel oder als Blaupause dient.