Der kalifornische Senatsentwurf 1047, mit dem Titel „Safe and Secure Innovation for Frontier Artificial Intelligence Models Act", war ein vorgeschlagenes Landesgesetz, das darauf abzielte, die Entwicklung und den Einsatz groß angelegter Systeme der künstlichen Intelligenz zu regulieren. Eingebracht von Senator Scott Wiener im Februar 2024, sollte der Gesetzentwurf Sicherheitsanforderungen für Entwickler von KI-Modellen oberhalb bestimmter Rechenleistungsschwellen auferlegen. Nachdem der Gesetzentwurf im August 2024 die kalifornische Staatslegislative passierte, wurde er am 29. September 2024 von Gouverneur Gavin Newsom mit einem Veto belegt, was einen bedeutenden Moment in der laufenden Debatte über KI-Regulierung in den Vereinigten Staaten markierte.
Das Veto war der Höhepunkt intensiver Lobbyarbeit und öffentlicher Debatten, die Reaktionen von großen Technologieunternehmen, KI-Forschern und Interessengruppen hervorriefen. Befürworter argumentierten, dass der Gesetzentwurf notwendig sei, um potenzielle katastrophale Schäden durch fortschrittliche KI zu verhindern, während Gegner, darunter viele aus der Technologiebranche, behaupteten, dass er Innovationen ersticken und unrealistische Verpflichtungen auferlegen würde. Die Folgen des Vetos haben zu erneuten Diskussionen über alternative Regulierungsansätze auf staatlicher und bundesstaatlicher Ebene geführt.
Gesetzlicher Hintergrund
Senator Scott Wiener brachte den SB 1047 im Februar 2024 ein, mit dem Ziel, einen Regulierungsrahmen für „Frontier-KI-Modelle" zu etablieren - solche, die mit Rechenleistung von mehr als 10^26 Gleitkommaoperationen (FLOPs) trainiert werden. Der Gesetzentwurf verlangte von Entwicklern, Sicherheitsprotokolle zu implementieren, einschließlich der Fähigkeit, Modelle umgehend abzuschalten, und schwerwiegende Vorfälle einer neu geschaffenen staatlichen Behörde zu melden. Er schrieb außerdem vor, dass Entwickler Tests vor der Bereitstellung durchführen und sicherstellen müssen, dass ihre Modelle nicht leicht modifiziert werden können, um Massenopfer zu verursachen oder Cyberangriffe zu ermöglichen.
Der Gesetzentwurf durchlief während seiner legislativen Reise mehrere Änderungen. Insbesondere eine Änderung im August 2024 engte den Umfang ein, indem sie Bestimmungen entfernte, die eine neue staatliche Behörde geschaffen hätten, und stattdessen die Aufsicht dem Technologieministerium zuwies. Eine weitere Änderung befreite Modelle, die hauptsächlich für akademische oder Forschungszwecke entwickelt wurden, sofern sie nicht für die kommerzielle Bereitstellung verwendet wurden.
Legislative Verabschiedung
SB 1047 passierte die kalifornische Staatsversammlung am 28. August 2024 mit einer Mehrheit von 41-16 und den Staatssenat am 30. August 2024 mit einer Mehrheit von 30-8. Der Gesetzentwurf erhielt überparteiliche Unterstützung, wobei einige Republikaner sich den Demokraten anschlossen. Die Verabschiedung wurde als wegweisender Moment angesehen, da Kalifornien Heimat vieler der führenden KI-Unternehmen der Welt ist, darunter OpenAI, Anthropic und Google DeepMind.
Veto des Gouverneurs
Am 29. September 2024 legte Gouverneur Gavin Newsom sein Veto gegen SB 1047 ein und gab eine Erklärung ab, die Unterstützung für KI-Innovation ausdrückte, aber den Ansatz des Gesetzentwurfs kritisierte. Newsom argumentierte, dass der Fokus des Gesetzentwurfs auf Modellgröße und Rechenleistung zu eng sei und ein falsches Sicherheitsgefühl vermitteln könnte, während er potenziell die Entwicklung vorteilhafter KI-Anwendungen abschrecken würde. Er betonte die Notwendigkeit eines flexibleren, evidenzbasierten Regulierungsrahmens, der sich an die sich schnell entwickelnde Technologie anpassen könnte.
Das Veto war nicht völlig unerwartet, da Newsom zuvor Bedenken hinsichtlich Überregulierung geäußert hatte. In seiner Vetobotschaft stellte er fest, dass der Gesetzentwurf die vielfältigen Anwendungen von KI nicht berücksichtige und kleinere Entwickler mit belastenden Anforderungen belegen könnte. Er verwies auch auf laufende bundesstaatliche Bemühungen und Kaliforniens eigene Exekutivanordnung zu KI, die im September 2023 unterzeichnet wurde, als geeignetere Wege zur Behandlung dieser Themen.
Reaktionen auf das Veto
Die Reaktionen auf das Veto waren stark gespalten. Unterstützer des Gesetzentwurfs, darunter Senator Wiener und verschiedene Interessengruppen für KI-Sicherheit, drückten Enttäuschung aus. Wiener nannte das Veto einen Rückschlag für die öffentliche Sicherheit und gelobte, weiterhin für Regulierung zu kämpfen. Einige KI-Forscher, wie Yoshua Bengio (obwohl nicht direkt verlinkt, ist er eine prominente Figur), hatten den Gesetzentwurf öffentlich unterstützt und argumentiert, dass Vorsichtsmaßnahmen wesentlich seien.
Gegner, darunter viele aus der Technologiebranche, lobten das Veto. Unternehmen wie OpenAI und Anthropic hatten gegen den Gesetzentwurf Lobbyarbeit betrieben und argumentiert, dass er Innovationen behindern und die Schwellenwerte willkürlich seien. Risikokapitalfirmen und Startup-Befürworter begrüßten ebenfalls die Entscheidung und behaupteten, dass der Gesetzentwurf KI-Unternehmen aus Kalifornien vertrieben hätte.
Nachwirkungen und Regulierungslandschaft
Das Veto hat die Debatte über KI-Regulierung in Kalifornien nicht beendet. Senator Wiener hat Pläne angekündigt, in der nächsten Sitzung überarbeitete Gesetzgebung einzubringen, die das Feedback von Interessengruppen einbezieht. In der Zwischenzeit hat Gouverneur Newsom ein Expertengremium einberufen, um KI-Risiken zu untersuchen und Empfehlungen für die zukünftige Politik zu machen. Der Staat hat auch weiterhin seine Exekutivanordnung umgesetzt, die sich auf verantwortungsvolle KI-Beschaffung und Risikobewertung konzentriert.
Auf bundesstaatlicher Ebene hat das Veto die Forderungen nach einem nationalen KI-Regulierungsrahmen verstärkt. Die Biden-Administration hatte im Oktober 2023 eine Exekutivanordnung zu KI erlassen, aber umfassende Gesetzgebung bleibt im Kongress ausstehend. Das Fehlen bundesstaatlicher Maßnahmen hat zu einem Flickenteppich staatlicher Initiativen geführt, wobei Kaliforniens Ansatz als potenzielles Modell genau beobachtet wird.
Branchen- und akademische Perspektiven
Das Veto hat Diskussionen innerhalb der KI-Gemeinschaft über die besten Wege ausgelöst, Sicherheit zu gewährleisten, ohne Fortschritt zu behindern. Einige Forscher argumentieren, dass Selbstregulierung und freiwillige Verpflichtungen, wie sie von führenden Laboren eingegangen wurden, die Entwicklung der leistungsfähigsten Modelle zu pausieren, unzureichend seien. Andere behaupten, dass Regulierung sich auf spezifische Hochrisikoanwendungen konzentrieren sollte, anstatt auf die Modelle selbst.
Anthropic und OpenAI haben beide interne Sicherheitsteams eingerichtet und fordern staatliche Aufsicht, lehnten jedoch die spezifischen Bestimmungen des SB 1047 ab. Google DeepMind war ebenfalls aktiv in der KI-Sicherheitsforschung, nahm aber keine öffentliche Haltung zu dem Gesetzentwurf ein. Akademische Institutionen wie Stanford AI Lab und Berkeley AI Research haben durch Forschung und politische Empfehlungen zur Debatte beigetragen.
Zukunftsaussichten
Stand Anfang 2025 wurde in Kalifornien kein neuer staatlicher KI-Gesetzentwurf verabschiedet, aber die Diskussionen dauern an. Die Debatte über SB 1047 hat die Herausforderungen der Regulierung einer Technologie hervorgehoben, die sich schnell entwickelt und breite Anwendungen hat. Das Ergebnis zukünftiger legislativer Bemühungen wird davon abhängen, Innovation und öffentliche Sicherheit in Einklang zu bringen, sowie von der Fähigkeit, Regeln zu schaffen, die sowohl effektiv als auch flexibel sind.
In Ermangelung verbindlicher Regulierung haben viele KI-Entwickler freiwillige Sicherheitsrahmen übernommen, wie den „Frontier Safety Framework", der von Anthropic vorgeschlagen wurde. Diese Bemühungen, obwohl nicht rechtlich durchsetzbar, stellen einen Schritt in Richtung verantwortungsvoller Entwicklung dar. Das Veto des SB 1047 ist somit zu einer Fallstudie im komplexen Zusammenspiel von Technologie, Politik und öffentlicher Meinung geworden.