Deepfake-Gesetze in den Vereinigten Staaten bestehen aus einem Flickenteppich von Bundes- und Landesgesetzen, die erlassen wurden, um die Erstellung, Verbreitung und Nutzung von synthetischen Medien zu regulieren, die von Systemen der künstlichen Intelligenz erzeugt werden. Diese Gesetze befassen sich mit einer Reihe von Schäden, die mit Deepfakes verbunden sind, darunter Wahlbeeinflussung, nicht einvernehmliche intime Bildnisse, Betrug und Verleumdung. Die Rechtslandschaft hat sich seit Mitte der 2010er-Jahre rasant entwickelt, angetrieben durch Fortschritte bei generativer KI und die Verbreitung zugänglicher Werkzeuge zur Erstellung von Deepfakes. Bis 2025 haben die meisten US-Bundesstaaten eine Form von Deepfake-bezogener Gesetzgebung erlassen, wobei Umfang und Durchsetzungsmechanismen erheblich variieren.
Deepfakes sind ein Kofferwort aus 'Deep Learning' und 'fake' und bezeichnen Bilder, Videos oder Audiodateien, die mit Techniken des maschinellen Lernens bearbeitet oder erzeugt werden. Die Technologie nutzt neuronale Netze, einschließlich variierender Autoencoder und generativer adversarischer Netze (GANs), um hochrealistische synthetische Medien zu erzeugen. Während die Erstellung gefälschter Inhalte älter ist als die digitale Technologie, verwenden Deepfakes auf einzigartige Weise KI-basierte Werkzeuge, um Medien zu produzieren, die reale oder fiktive Personen mit beispielloser Genauigkeit darstellen können. Diese Fähigkeit hat erhebliche rechtliche und politische Fragen zu Privatsphäre, geistigem Eigentum und demokratischer Integrität aufgeworfen.
Bundesgesetzgeberische Bemühungen
Auf Bundesebene hat der Kongress mehrere Gesetzesentwürfe zu Deepfakes geprüft, aber bis 2025 kein umfassendes Gesetz erlassen. Der Deepfake Accountability Act, erstmals 2019 eingeführt, schlug vor, digitale Wasserzeichen auf KI-generierten Inhalten zu verlangen und strafrechtliche Sanktionen für die Nichtoffenlegung synthetischer Medien vorzusehen. Der Identifying Outputs of Generative Adversarial Networks Act, 2020 in Kraft getreten, beauftragte die National Science Foundation und das National Institute of Standards and Technology, Forschung zu Deepfake-Erkennung und Inhaltsauthentizität zu unterstützen.
Der DEEPFAKES Accountability Act, in mehreren Sitzungsperioden erneut eingebracht, hätte von Erstellern von Deepfakes verlangt, digitale Wasserzeichen einzubetten und die synthetische Natur ihrer Inhalte offenzulegen. Der Gesetzesentwurf sah auch ein privates Klagerecht für Personen vor, die ohne Zustimmung in Deepfakes dargestellt werden. Diese Bundesvorschläge standen jedoch vor der Herausforderung, den Schutz der Meinungsfreiheit mit regulatorischen Zielen in Einklang zu bringen, und keiner hat eine endgültige Abstimmung in beiden Kammern erreicht.
In den Jahren 2023 und 2024 verlagerte sich die Aufmerksamkeit des Bundes auf wahlbezogene Deepfakes. Der vorgeschlagene Protect Elections from Deceptive AI Act hätte die Verbreitung von materiell irreführenden KI-generierten Audio- oder visuellen Medien, die Bundeskandidaten darstellen, innerhalb von 120 Tagen vor einer Wahl verboten. Dieser Gesetzesentwurf spiegelte die wachsende Sorge über das Potenzial von Deepfakes wider, in Wahlprozesse einzugreifen, ein Risiko, das Akademiker und politische Entscheidungsträger neben Bedenken zu Desinformation und Hassrede hervorgehoben haben.
Regulierung auf Landesebene: Überblick
Die Landesparlamente sind beim Umgang mit Deepfakes aktiver gewesen als der Kongress. Bis 2025 hatten über 40 Bundesstaaten Gesetze zu synthetischen Medien erlassen, wobei sich die meisten auf spezifische Schäden konzentrierten statt auf umfassende Regulierung. Die erste Welle von Landesgesetzen, beginnend etwa 2019, zielte auf nicht einvernehmliche intime Bildnisse (NCII), oft als Rachepornos bezeichnet, die in vielen Bundesstaaten bereits vor der Verbreitung der Deepfake-Technologie kriminalisiert worden waren.
Kalifornien erwies sich als Pionier bei der Deepfake-Regulierung. 2019 erließ der Bundesstaat Assembly Bill 730, das die Verbreitung von materiell irreführenden Audio- oder visuellen Medien eines Kandidaten für ein gewähltes Amt innerhalb von 60 Tagen vor einer Wahl verbot. Im selben Jahr verabschiedete Kalifornien Assembly Bill 602, das die Erstellung und Verbreitung von Deepfake-Pornografie ohne Zustimmung kriminalisierte. Diese Gesetze etablierten eine Vorlage, der andere Bundesstaaten folgten, indem sie Wahlintegritätsbestimmungen mit Schutzmaßnahmen gegen Missbrauch intimer Bildnisse kombinierten.
Gesetze zu nicht einvernehmlichen intimen Bildnissen
Die am weitesten verbreitete Kategorie von Deepfake-Gesetzgebung befasst sich mit nicht einvernehmlichen intimen Bildnissen. Bis 2025 haben fast alle Bundesstaaten Gesetze, die digital veränderte oder KI-generierte intime Bilder ausdrücklich in ihre Definitionen von NCII aufnehmen. Diese Statuten sehen in der Regel strafrechtliche Sanktionen für die Erstellung oder Verbreitung von Deepfake-Pornografie vor, die eine reale Person ohne deren Zustimmung darstellt, wobei die Strafen je nach Gerichtsbarkeit und Umständen von Vergehen bis zu Verbrechen reichen.
Texas erließ 2019 eines der strengeren Gesetze, das die Erstellung oder Verbreitung von intimen Deepfake-Bildern mit der Absicht zu belästigen oder zu schädigen zu einem Verbrechen machte. Das Gesetz sieht auch zivilrechtliche Abhilfen vor, die es Opfern ermöglichen, Schadensersatz und einstweilige Verfügungen zu erwirken. New York folgte 2022 mit einem Gesetz, das die Verbreitung synthetischer intimer Bilder kriminalisierte und gleichzeitig eine zivilrechtliche Klagegrundlage schuf. Diese Gesetze spiegeln die Anerkennung wider, dass Deepfake-NCII den Opfern schweren psychologischen, rufschädigenden und wirtschaftlichen Schaden zufügen kann.
Einige Bundesstaaten haben NCII-Gesetze erweitert, um Drohungen zur Erstellung von intimen Deepfake-Bildern abzudecken. Beispielsweise änderte Illinois sein bestehendes Racheporno-Gesetz, um Drohungen einzuschließen, in der Erkenntnis, dass allein die Drohung, ein Deepfake zu erstellen, als Werkzeug für Nötigung und Kontrolle eingesetzt werden kann. Diese Erweiterung geht auf die einzigartige Natur von Deepfakes ein, die ohne jegliches ursprüngliches intimes Bildmaterial des Opfers erstellt werden können.
Wahl- und politische Deepfake-Gesetze
Wahlbezogene Deepfake-Gesetze bilden die zweite große Kategorie der Landesregulierung. Diese Gesetze verbieten in der Regel die Verbreitung irreführender synthetischer Medien, die politische Kandidaten darstellen, innerhalb eines bestimmten Zeitraums vor einer Wahl, oft 60 oder 90 Tage. Die meisten solcher Gesetze verlangen, dass der Inhalt materiell irreführend ist, das heißt, er würde eine vernünftige Person dazu veranlassen zu glauben, der Kandidat habe etwas gesagt oder getan, das er tatsächlich nicht gesagt oder getan hat.
Kaliforniens AB 730, 2019 erlassen, war das erste Gesetz seiner Art. Es erlaubte Kandidaten, die in irreführenden Deepfakes dargestellt werden, einstweilige Verfügungen zu beantragen und sah zivilrechtliche Sanktionen vor. Minnesota verabschiedete 2023 ein ähnliches Gesetz, und Michigan, Washington und Wisconsin folgten mit eigenen Versionen. Bis 2024 hatten mindestens 20 Bundesstaaten wahlbezogene Deepfake-Gesetze erlassen, von denen viele vor der Präsidentschaftswahl 2024 in Kraft traten.
Diese Gesetze sind auf Anfechtungen wegen des Ersten Verfassungszusatzes gestoßen. 2024 erklärte ein Bundesgericht in Florida Teile des Deepfake-Wahlgesetzes dieses Bundesstaates für nichtig, da es zu weit gefasst sei und geschützte Rede einschüchtere. Das Urteil hob die Spannung zwischen der Verhinderung von Wahlbetrug und dem Schutz politischer Rede hervor, eine Spannung, die weiterhin die Gesetzesentwürfe in anderen Bundesstaaten prägt. Einige Bundesstaaten haben reagiert, indem sie ihre Definitionen irreführender Inhalte eingeschränkt oder Ausnahmen für Satire, Parodie und Nachrichtenberichterstattung hinzugefügt haben.
Zivilrechtliche Abhilfen und Recht auf öffentliche Darstellung
Über Strafgesetze hinaus haben viele Bundesstaaten zivilrechtliche Abhilfen für Deepfake-Opfer durch Gesetze zum Recht auf öffentliche Darstellung erweitert. Diese Gesetze schützen die Kontrolle von Einzelpersonen über die kommerzielle Nutzung ihres Namens, Bildes und ihrer Ähnlichkeit. Tennessee wurde 2024 der erste Bundesstaat, der KI-generierte Nachbildungen von Stimmen und Bildern von Darstellern ausdrücklich in sein Gesetz zum Recht auf öffentliche Darstellung aufnahm, bekannt als Ensuring Likeness Voice and Image Security (ELVIS) Act. Das Gesetz wurde durch Bedenken der Musikindustrie über KI-generierte Songs ausgelöst, die Stimmen von Künstlern ohne Autorisierung nachahmten.
Kalifornien und New York haben ebenfalls ihre Gesetze zum Recht auf öffentliche Darstellung geändert, um digitale Nachbildungen zu adressieren. Kaliforniens Änderung von 2020 an seinem Civil Code stellte klar, dass die Haftung auf durch KI erstellte "digitale Nachbildungen" ausgedehnt wird. New Yorks Gesetz von 2020, das 2021 in Kraft trat, schuf ein posthumes Recht auf öffentliche Darstellung, das digitale Nachbildungen verstorbener Darsteller einschließt. Diese Gesetze bieten eine zivilrechtliche Klagegrundlage für Schadensersatz und ermöglichen es Opfern, wegen unbefugter kommerzieller Nutzung ihrer Ähnlichkeit in Deepfakes zu klagen.
Bestimmungen zu Betrug und Finanzstraftaten
Einige Bundesstaaten haben Deepfakes im Kontext von Betrug und Finanzstraftaten adressiert. Diese Gesetze erkennen an, dass Deepfakes verwendet werden können, um Personen für finanziellen Gewinn zu imitieren, etwa durch Stimmklonen zur Autorisierung betrügerischer Transaktionen oder Video-Deepfakes, um Mitarbeiter zur Überweisung von Geldern zu täuschen. Bis 2025 haben mindestens ein Dutzend Bundesstaaten Gesetze erlassen, die speziell KI-gestützten Betrug adressieren, entweder durch Erweiterung bestehender Betrugsstatuten oder durch Schaffung neuer Straftatbestände.
Arizona und Louisiana haben Gesetze erlassen, die Strafen für Straftaten erhöhen, die unter Verwendung von Deepfake-Technologie begangen werden. Diese Statuten behandeln die Verwendung synthetischer Medien als erschwerenden Faktor, der die Schwere der Anklagen für zugrunde liegende Straftaten wie Identitätsdiebstahl, Überweisungsbetrug oder Erpressung erhöht. Dieser Ansatz ermöglicht es Staatsanwälten, bestehende strafrechtliche Rahmen anzuwenden, während die einzigartige Bedrohung durch KI-generierte Täuschung anerkannt wird.
Erkennungs- und Offenlegungspflichten
Eine wachsende Zahl von Bundesstaaten hat Gesetze erlassen, die die Offenlegung KI-generierter Inhalte verlangen. Diese Gesetze schreiben in der Regel vor, dass Deepfakes gekennzeichnet oder mit Wasserzeichen versehen werden, um Betrachter über ihre synthetische Natur zu informieren. Kaliforniens Gesetz von 2024, das 2025 in Kraft trat, verlangt von großen Online-Plattformen, KI-generierte Inhalte zu kennzeichnen, die Betrachter über Wahlen oder öffentliche Gesundheit täuschen könnten. Das Gesetz verlangt auch, dass Plattformen Werkzeuge bereitstellen, mit denen Benutzer nicht gekennzeichnete Deepfakes melden können.
Utah und Colorado haben ähnliche Offenlegungsgesetze erlassen, wobei Colorados Gesetz von 2024 politische Werbung verpflichtet, die Verwendung generativer KI offenzulegen. Diese Offenlegungspflichten zielen darauf ab, die informationellen Schäden von Deepfakes zu adressieren, indem Betrachter in die Lage versetzt werden, fundierte Urteile über die Authentizität von Medien zu fällen. Die Durchsetzungsmechanismen variieren jedoch, und einige Gesetze stützen sich auf Selbstregulierung der Plattformen statt auf staatliche Aufsicht.
Durchsetzungsherausforderungen und Kritik
Die Durchsetzung von Deepfake-Gesetzen steht vor erheblichen Herausforderungen. Die dezentrale Natur des Internets macht es schwierig, Ersteller zu identifizieren und zu verfolgen, die sich möglicherweise außerhalb der Gerichtsbarkeit befinden, in der der Schaden eingetreten ist. Darüber hinaus bedeutet die schnelle Entwicklung von großen Sprachmodellen und anderen KI-Technologien, dass Erkennungswerkzeuge oft hinter den Generierungsfähigkeiten zurückbleiben. Forensische Bildforscher haben Techniken zur Erkennung manipulierter Bilder entwickelt, aber diese Methoden sind nicht immer zuverlässig gegen die ausgefeiltesten Deepfakes.
Kritiker von Deepfake-Gesetzen äußern Bedenken hinsichtlich Überbreite und einschüchternder Wirkung auf legitime Rede. Künstler, Journalisten und Satiriker haben argumentiert, dass einige Statuten verwendet werden könnten, um geschützte Ausdrucksformen zu unterdrücken, wie politische Parodien oder Dokumentarfilme, die synthetische Medien verwenden. Die American Civil Liberties Union und andere Interessengruppen haben in mehreren Fällen Amicus-Schriftsätze eingereicht, die Deepfake-Gesetze aus Gründen des Ersten Verfassungszusatzes anfechten, mit dem Argument, dass das staatliche Interesse an der Verhinderung von Täuschung keine breiten Beschränkungen von Inhalten rechtfertige.
Eine weitere Kritik betrifft die Inkonsistenz der Landesgesetze, die eine komplexe Compliance-Umgebung für Plattformen und Ersteller schafft. Ein Deepfake, der in einem Bundesstaat legal ist, kann in einem anderen strafbar sein, und das Fehlen bundesweiter Einheitlichkeit erschwert die Durchsetzung über Staatsgrenzen hinweg. Einige Rechtswissenschaftler haben einen Bundesrahmen gefordert, der Mindeststandards festlegt, während er den Bundesstaaten erlaubt, strengere Schutzmaßnahmen zu erlassen.
Zukünftige Richtungen
Bis 2025 bleibt die Rechtslandschaft für Deepfakes in den Vereinigten Staaten im Fluss. Bundesgesetzgebung wurde vorgeschlagen, aber nicht erlassen, und Landesgesetze entwickeln sich weiterhin als Reaktion auf technologische Entwicklungen und gerichtliche Anfechtungen. Der Oberste Gerichtshof hat noch nicht über die Verfassungsmäßigkeit von Deepfake-Gesetzen entschieden, sodass untere Gerichte mit dem Gleichgewicht zwischen Regulierung und freier Meinungsäußerung ringen.
Neue Themen umfassen die Verwendung von Deepfakes in der Unterhaltungsindustrie, wo OpenAI und andere Unternehmen Werkzeuge entwickelt haben, die realistische Videos und Audiodateien generieren können. Das Potenzial von Deepfakes, Medienindustrien zu stören, hat Forderungen nach Branchenselbstregulierung und technischen Standards für Inhaltsherkunft ausgelöst. Die Coalition for Content Provenance and Authenticity, eine Branchengruppe, hat technische Spezifikationen für kryptografisch signierte Metadaten entwickelt, die den Ursprung und die Geschichte digitaler Inhalte verifizieren können.
Gesetzgeber in mehreren Bundesstaaten haben Gesetzesentwürfe für die Sitzungsperiode 2025-2026 eingebracht, die den Schutz für Personen, die in Deepfakes dargestellt werden, erweitern würden, einschließlich Bestimmungen für beschleunigte Entfernungsverfahren und erhöhte Schadensersatzansprüche bei böswilliger Nutzung. Einige Vorschläge würden Plattformen verpflichten, Deepfake-Erkennungswerkzeuge zu implementieren und gemeldete Inhalte innerhalb eines bestimmten Zeitrahmens zu entfernen. Diese Vorschläge spiegeln laufende Bemühungen wider, rechtliche Rahmen an die Herausforderungen anzupassen, die durch KI-generierte synthetische Medien entstehen.