Im Jahr 2024 verabschiedete Kalifornien eine Reihe von Gesetzen zur künstlichen Intelligenz, die weit über den vielbeachteten Senatsentwurf 1047 hinausgingen. Während SB 1047, der „Safe and Secure Innovation for Frontier Artificial Intelligence Models Act“, die nationalen Schlagzeilen dominierte und schließlich am 29. September 2024 von Gouverneur Gavin Newsom mit einem Veto belegt wurde, verabschiedete die Staatslegislative zahlreiche weitere KI-bezogene Maßnahmen, die der Gouverneur unterzeichnete. Diese Gesetze befassten sich mit einer Vielzahl von Anliegen, darunter Transparenz bei KI-generierten Inhalten, die Verwendung von Deepfakes in politischen Kampagnen und die Rechenschaftspflicht automatisierter Entscheidungssysteme. Zusammen positionierten sie Kalifornien als Vorreiter bei der KI-Regulierung, auch wenn der Ansatz des Staates fragmentierter blieb als der umfassende Rahmen, den SB 1047 vorschlug.
Das Gesetzespaket spiegelte die wachsende Dringlichkeit unter den kalifornischen Gesetzgebern wider, auf die schnelle Verbreitung von generativen KI-Werkzeugen zu reagieren. Die Gesetze wurden inmitten intensiver Lobbyarbeit von Industriegruppen, akademischen Einrichtungen und zivilgesellschaftlichen Organisationen ausgearbeitet. Gouverneur Newsom, ein Demokrat, unterzeichnete die Gesetzesentwürfe in einer Reihe von Ankündigungen im September 2024 und betonte die Notwendigkeit, Verbraucher und Wähler zu schützen und gleichzeitig Innovationen zu fördern. Die resultierenden Gesetze schufen neue Verpflichtungen für Unternehmen, die Systeme der künstlichen Intelligenz im Staat entwickeln und einsetzen, der Heimat vieler führender KI-Unternehmen der Welt ist, darunter OpenAI, Anthropic und Google DeepMind.
Transparenz bei KI-generierten Inhalten
Eines der bedeutendsten Gesetze war der Gesetzesentwurf 2013 der Versammlung (Assembly Bill 2013), der Transparenz für Trainingsdaten vorschrieb. Das Gesetz verlangt von Entwicklern generativer KI-Systeme, Dokumentationen über die Datensätze zu veröffentlichen, die zum Trainieren ihrer Modelle verwendet werden. Diese Dokumentation muss Informationen über die Datenquellen, ob die Daten urheberrechtlich geschütztes Material enthalten und wie die Daten kuratiert und verarbeitet wurden, enthalten. Das Gesetz gilt für Entwickler, die KI-Dienste für Kalifornier bereitstellen, unabhängig davon, wo das Unternehmen seinen Hauptsitz hat. Es trat am 1. Januar 2025 in Kraft und gab den Unternehmen ein kurzes Zeitfenster für die Einhaltung.
AB 2013 wurde als direkte Reaktion auf Klagen von Autoren und Künstlern gegen Unternehmen wie OpenAI und Anthropic angesehen, die behaupteten, ihre urheberrechtlich geschützten Werke seien ohne Erlaubnis zum Trainieren von großen Sprachmodellen verwendet worden. Das Gesetz verbietet die Nutzung urheberrechtlich geschützten Materials nicht, erzwingt aber Transparenz über dessen Verwendung. Rechtsexperten stellten fest, dass die Dokumentationsanforderungen für kleinere Startups belastend sein könnten, während größere Unternehmen mit mehr Ressourcen besser in der Lage waren, sie zu erfüllen. Das Gesetz verlangte von den Entwicklern auch, den Zweck des Modells und die beabsichtigten Anwendungsfälle sowie bekannte Einschränkungen oder Risiken zu beschreiben.
Deepfakes in politischen Kampagnen
Kalifornien bewegte sich auch aggressiv, um die Verwendung von Deepfakes bei Wahlen zu regulieren. Der Gesetzesentwurf 2655 der Versammlung (Assembly Bill 2655), der im September 2024 unterzeichnet wurde, verpflichtet große Online-Plattformen, täuschende KI-generierte Inhalte im Zusammenhang mit Wahlen zu kennzeichnen oder zu entfernen. Das Gesetz gilt für Inhalte, die einen Kandidaten oder Amtsträger in einer Weise darstellen, die materiell täuschend ist, wie etwa ein gefälschtes Video, das einen Kandidaten zeigt, der etwas sagt, das er nie gesagt hat. Plattformen müssen innerhalb von 72 Stunden nach Benachrichtigung über solche Inhalte handeln. Das Gesetz baut auf früheren kalifornischen Gesetzen auf, die sich mit Deepfakes bei Wahlen befassten, erweitert die Anforderungen jedoch auf eine breitere Palette von Plattformen und Inhalten.
AB 2655 wurde durch den Gesetzesentwurf 2839 der Versammlung (Assembly Bill 2839) ergänzt, der es Gerichten ermöglicht, einstweilige Verfügungen gegen die Verbreitung täuschender KI-generierter Wahlinhalte zu erlassen. Das Gesetz erlaubt Kandidaten auch, beschleunigte Rechtsmittel zu suchen. Zusammen schufen diese Gesetze einen robusten rechtlichen Rahmen zur Bekämpfung von KI-getriebener Desinformation im Wahlzyklus 2024 und darüber hinaus. Befürworter argumentierten, dass die Gesetze notwendig seien, um demokratische Prozesse zu schützen, während Kritiker Bedenken hinsichtlich möglicher Verstöße gegen den Ersten Verfassungszusatz und der Schwierigkeit, zu definieren, was einen „materiell täuschenden“ Deepfake ausmacht, äußerten.
Algorithmische Rechenschaftspflicht und automatisierte Entscheidungsfindung
Ein weiteres bemerkenswertes Gesetz, der Senatsentwurf 942 (Senate Bill 942), befasste sich mit der Nutzung von KI in automatisierten Entscheidungssystemen. Das Gesetz verlangt von Unternehmen, die KI für folgenreiche Entscheidungen einsetzen - etwa solche, die Beschäftigung, Wohnen, Kredit oder Gesundheitsversorgung betreffen -, den Verbrauchern aussagekräftige Informationen darüber zu geben, wie das System funktioniert. Dies umfasst die bei der Entscheidung verwendete Logik, die Bedeutung der Rolle der KI und das Recht des Verbrauchers, sich abzumelden oder eine menschliche Überprüfung zu verlangen. Das Gesetz trat am 1. Januar 2025 in Kraft und war teilweise der Datenschutz-Grundverordnung der Europäischen Union nachempfunden.
SB 942 wurde von Datenschutzbefürwortern als Schritt in Richtung algorithmischer Transparenz gelobt. Es wurde jedoch auch dafür kritisiert, dass es vage sei, was eine „folgenreiche Entscheidung“ ausmacht, und dass es keine unabhängigen Audits der Systeme durch Unternehmen verlange. Die Durchsetzungsmechanismen des Gesetzes wurden weitgehend der California Privacy Protection Agency überlassen, die mit der Ausarbeitung von Vorschriften zur Umsetzung des Gesetzes beauftragt wurde. Einige Industriegruppen warnten, dass das Gesetz zu einem Flickenteppich von Compliance-Belastungen führen könnte, da Unternehmen ihre Systeme an die kalifornischen Anforderungen anpassen müssten.
Schutz für Darsteller und Kreative
Kalifornien erließ auch Gesetze zum Schutz von Schauspielern, Musikern und anderen Darstellern vor unbefugten KI-Repliken. Der Gesetzesentwurf 2602 der Versammlung (Assembly Bill 2602) verlangt, dass Verträge zwischen Darstellern und Studios eine klare Sprache über die Verwendung digitaler Repliken enthalten. Das Gesetz, das am 1. Januar 2025 in Kraft trat, verbietet die Verwendung einer digitalen Replik eines Darstellers ohne ausdrückliche Zustimmung, es sei denn, die Nutzung ist durch einen Tarifvertrag abgedeckt. Es wurde von der Screen Actors Guild - American Federation of Television and Radio Artists (SAG-AFTRA) unterstützt, die kürzlich einen Streik beendet hatte, der auch Bedenken bezüglich KI umfasste.
Ein verwandtes Gesetz, der Gesetzesentwurf 1836 der Versammlung (Assembly Bill 1836), erweiterte ähnliche Schutzmaßnahmen auf verstorbene Darsteller. Es verlangt die Zustimmung des Nachlasses oder der Erben, bevor eine digitale Replik einer verstorbenen Person in einer kommerziellen Produktion verwendet werden kann. Das Gesetz wurde als Reaktion auf die zunehmende Nutzung von KI zur Nachbildung des Aussehens historischer Persönlichkeiten und verstorbener Prominenter angesehen. Beide Gesetze waren bemerkenswert für ihre Spezifität, da sie die besonderen Herausforderungen adressierten, die KI in der Unterhaltungsindustrie mit sich bringt, die ein wichtiger Wirtschaftsfaktor in Kalifornien ist.
Das Veto gegen SB 1047
Trotz der Verabschiedung dieser Gesetze scheiterte das ehrgeizigste KI-Gesetz Kaliforniens. SB 1047, eingebracht von Senator Scott Wiener, hätte von Entwicklern großer KI-Modelle verlangt, Sicherheitsprotokolle zu implementieren, einschließlich eines Kill-Schalters und externer Audits. Der Gesetzesentwurf hätte auch eine neue Staatsbehörde zur Überwachung von Frontier-KI-Modellen geschaffen. Gouverneur Newsom legte am 29. September 2024 sein Veto gegen den Gesetzesentwurf ein und argumentierte, dass er zu weit gefasst sei und Innovationen ersticken könnte. In seiner Vetobotschaft sagte Newsom, der Gesetzesentwurf konzentriere sich auf die größten Modelle und könne „strenge Standards“ auferlegen, die durch aktuelle Risiken nicht gerechtfertigt seien.
Das Veto war ein Sieg für viele in der Technologiebranche, einschließlich OpenAI und Anthropic, die gegen den Gesetzesentwurf lobbyiert hatten. Es enttäuschte jedoch Befürworter, die argumentierten, dass Kalifornien starke Schutzmaßnahmen gegen die potenziellen Schäden fortschrittlicher KI benötige. In seiner Botschaft sagte Newsom, er habe die Staatsbehörden angewiesen, mit Experten zusammenzuarbeiten, um alternative Ansätze zu entwickeln, einschließlich risikobasierter Rahmen für die KI-Regulierung. Das Veto verdeutlichte die Spannung zwischen dem Wunsch des Staates, bei der KI-Regulierung führend zu sein, und seinem Interesse, seine Position als globales Zentrum für technologische Innovation zu erhalten.
Reaktionen und Branchenantwort
Die Gesetze von 2024 stießen in der KI-Branche auf gemischte Reaktionen. Unternehmen wie OpenAI und Anthropic unterstützten öffentlich einige der Transparenz- und Deepfake-Maßnahmen, äußerten jedoch Bedenken hinsichtlich der kumulativen Belastung durch die Einhaltung. Kleinere Startups, insbesondere im Bereich generative KI, sorgten sich, dass die Dokumentationsanforderungen von AB 2013 schwer zu erfüllen sein könnten. Einige Unternehmen begannen, Compliance-Beauftragte und Rechtsteams einzustellen, um die neuen Vorschriften zu bewältigen. Industriegruppen wie die Chamber of Progress und der Handelsverband TechNet argumentierten, dass die Gesetze ein fragmentiertes Regulierungsumfeld schaffen könnten, da auch andere Bundesstaaten und die Bundesregierung KI-Gesetze in Betracht zogen.
Zivilgesellschaftliche Organisationen, darunter die American Civil Liberties Union und die Electronic Frontier Foundation, unterstützten die Transparenz- und Rechenschaftsmaßnahmen im Allgemeinen. Sie argumentierten, dass die Gesetze Verbrauchern und Wählern wichtige Werkzeuge gäben, um KI-gesteuerte Entscheidungen zu verstehen und anzufechten. Einige Datenschutzbefürworter stellten jedoch fest, dass die Gesetze nicht weit genug gingen, insbesondere bei der Forderung nach unabhängigen Audits oder dem vollständigen Verbot bestimmter Hochrisiko-Anwendungen von KI. Die Debatte über die KI-Regulierung in Kalifornien wird wahrscheinlich weitergehen, da die Staatslegislative bereits signalisiert hat, dass sie 2025 weitere KI-Gesetzesentwürfe in Betracht ziehen wird.
Umsetzung und Durchsetzung
Die Umsetzung der Gesetze von 2024 obliegt weitgehend den Staatsbehörden, einschließlich der California Privacy Protection Agency und dem Büro des Generalstaatsanwalts. Die Privacy Protection Agency ist mit der Ausarbeitung von Vorschriften für SB 942 beauftragt, die den Umfang des Gesetzes und die Verfahren zur Durchsetzung klären werden. Die Behörde hat öffentliche Workshops abgehalten, um Input von Interessengruppen zu sammeln, darunter Branchenvertreter, Akademiker und Verbraucherschützer. Das Büro des Generalstaatsanwalts ist für die Durchsetzung der Deepfake-Gesetze verantwortlich und kann Zivilklagen gegen Verstöße einreichen.
Die Einhaltung der neuen Gesetze wird voraussichtlich eine erhebliche Aufgabe für Unternehmen sein, die in Kalifornien tätig sind. Der große Technologiesektor des Staates, der große KI-Entwickler und Cloud-Anbieter wie Amazon Web Services, Microsoft Azure und Google Cloud umfasst, wird am stärksten betroffen sein. Viele dieser Unternehmen haben bereits begonnen, Modelldokumentationen zu veröffentlichen und Inhaltskennzeichnungssysteme in Erwartung der Gesetze zu implementieren. Die langfristigen Auswirkungen der Gesetze hängen davon ab, wie sie von Gerichten und Regulierungsbehörden interpretiert werden, sowie davon, ob die Bundesregierung eigene KI-Gesetze verabschiedet, die staatliche Gesetze außer Kraft setzen könnten.
Breiterer Kontext und Zukunftsaussichten
Die kalifornischen KI-Gesetze von 2024 sind Teil einer breiteren globalen Bewegung hin zur KI-Regulierung. Das KI-Gesetz der Europäischen Union, das 2024 formell angenommen wurde, erlegt KI-Systemen je nach Risikostufe umfassende Anforderungen auf. Auch andere Länder, darunter China und das Vereinigte Königreich, haben KI-Governance-Rahmenwerke eingeführt. In den Vereinigten Staaten hat die Bundesregierung einen eher stückweisen Ansatz gewählt, mit Exekutivanordnungen und Behördenleitlinien anstelle umfassender Gesetzgebung. Die kalifornischen Gesetze, obwohl enger gefasst als das KI-Gesetz der EU, stellen in Ermangelung bundesstaatlicher Maßnahmen einen bedeutenden Schritt dar.
Die Zukunft der KI-Regulierung in Kalifornien bleibt ungewiss. Das Veto gegen SB 1047 zeigte die politischen Herausforderungen bei der Verabschiedung umfassender KI-Gesetzgebung, selbst in einem Staat mit einer demokratischen Supermehrheit. Die Verabschiedung des Pakets von 2024 zeigte jedoch, dass es parteiübergreifende Unterstützung für die Bewältigung spezifischer Schäden wie Deepfakes und algorithmischer Verzerrung gibt. Da sich die KI-Technologie weiterentwickelt, werden die kalifornischen Gesetzgeber das Thema wahrscheinlich erneut aufgreifen und möglicherweise neue Gesetzesentwürfe einführen, um aufkommende Herausforderungen zu bewältigen. Vorerst bieten die Gesetze von 2024 eine Grundlage für die KI-Governance im Staat, die Innovation mit Verbraucherschutz in Einklang bringt.