Der Deepfake Accountability Act ist ein vorgeschlagener Bundesgesetzesentwurf der Vereinigten Staaten, der die Kennzeichnung von KI-generierten Inhalten, einschließlich Deepfakes, vorschreiben würde, um die Risiken von Täuschung und Fehlinformationen zu mindern. Erstmals 2019 eingeführt, zielt die Gesetzgebung darauf ab, Transparenzpflichten für Ersteller und Verbreiter synthetischer Medien festzulegen und gleichzeitig rechtliche Schritte für Personen zu ermöglichen, die durch nicht gekennzeichnete Deepfakes geschädigt wurden. Der Gesetzesentwurf spiegelt wachsende Bedenken hinsichtlich des Missbrauchs von Generative AI-Technologien wider und war ein Bezugspunkt in späteren politischen Debatten über KI-Regulierung.
Deepfakes sind realistische, aber fabrizierte Medien, die mit Artificial intelligence-Techniken erstellt werden, insbesondere mit Deep learning- und Neural network-Architekturen. Der Begriff kombiniert 'Deep Learning' und 'Fake', und die Technologie erlangte 2017 Bekanntheit, als ein anonymer Reddit-Nutzer manipulierte Prominentenvideos veröffentlichte. Bis 2019 hatten die Verbreitung von Deepfakes Alarm ausgelöst über ihr Potenzial, Wahlen zu untergraben, Einzelpersonen zu verleumden und das öffentliche Vertrauen in Medien zu untergraben. Der Deepfake Accountability Act wurde am 12. Juni 2019 im US-Repräsentantenhaus von der Abgeordneten Yvette Clarke aus New York eingeführt, einer Demokratin, die zuvor Cybersicherheitsgesetze gesponsert hatte.
Legislative Bestimmungen
Der Gesetzesentwurf schlägt Änderungen am US Communications Act von 1934 vor und fügt einen neuen Abschnitt über 'Transparenz bei der Erstellung synthetischer Medien' hinzu. Nach der Gesetzgebung muss jede Person, die einen Deepfake mit der Absicht erstellt, ihn zu verbreiten, ein digitales Wasserzeichen oder eine textliche Kennzeichnung einfügen, die angibt, dass der Inhalt KI-generiert ist. Die Kennzeichnung muss deutlich sichtbar und nicht leicht entfernbar sein. Der Gesetzesentwurf verlangt auch, dass Plattformen, die nutzergenerierte Inhalte hosten, einen Mechanismus bereitstellen, mit dem Nutzer nicht gekennzeichnete Deepfakes melden können, und solche Inhalte nach Benachrichtigung entfernen.
Darüber hinaus begründet der Gesetzesentwurf ein privates Klagerecht, das es Personen, die ohne Zustimmung in einem Deepfake dargestellt werden, ermöglicht, den Ersteller auf Schadensersatz zu verklagen, einschließlich gesetzlicher Schadensersatzansprüche von bis zu 150.000 US-Dollar pro Verstoß. Er weist auch die Federal Communications Commission (FCC) an, innerhalb von 180 Tagen nach Inkrafttreten Vorschriften zur Umsetzung der Kennzeichnungspflichten zu erlassen. Der Gesetzesentwurf schließt ausdrücklich Inhalte aus, die eindeutig Satire, Parodie oder fiktiv sind, sofern sie nicht als authentische Nachrichten oder faktische Berichterstattung präsentiert werden.
Gesetzgebungsgeschichte
Der Deepfake Accountability Act wurde im 116. Kongress als H.R. 3230 eingeführt. Er wurde an den Hausausschuss für Energie und Handel verwiesen, aber in dieser Sitzungsperiode wurden keine weiteren Maßnahmen ergriffen. Der Gesetzesentwurf wurde am 12. März 2020 als H.R. 6236 mit ähnlichen Bestimmungen erneut eingeführt. Wiederum blieb er im Ausschuss steken. Im 117. Kongress führte Abgeordnete Clarke am 24. Juni 2021 eine überarbeitete Version als H.R. 4230 ein, die zusätzlische Anforderungen für politische Werbung enthielt. Keine dieser Versionen gelangte zu einer Abstimmung im Plenum.
Trotz des Fehlens einer Verabschiedung wurde der Gesetzesentwurf in zahlreichen Initiativen auf Bundesstaatsebene und akademischen Arbeiten als Modell für Deepfake-Regulierung zitiert. Beispielsweise verabschiedete Kalifornien 2019 ein Gesetz (AB 730), das die Verbreitung täuschender Audio- oder Visuallmedien von politischen Kandiaten innerhalb von 60 Tagen vor einer Wahl verbietet, und der Deepfake Accountability Act wird oft als bundesstaatliches Gegenstück erwähnt. Der Gesetzesentwurf hat auch Diskussionen in der Europäischen Union beeinflusst, die 2021 den KI-Gesetz (AI Act) vorschlug, einschließlich Transparenzpflichten für Deepfakes.
Wichtigste Befürworter und Gegner
Abgeordnete Yvette Clarke war die hauptsächliche Sponsorin und argumentierte, dass der Gesetzesentwurf notwendig sei, um Verbraucher zu schützen und die demokratische Integrität zu bewahren. In einer Pressemitteilung erklärte sie, dass 'Deepfakes eine erhebliche Bedrohung für unsere nationale Sicherheit, unsere Demokratie und unsere Gesellschafft darstellen.' Der Gesetzesentwurf hat Unterstützung von Bürgerrechtsorganisazionen wie der Electronic Frontier Foundation erhalten, die seine Kennzeichnungs- und Entfernungsbestimmungen lobte, obwohl die EFF auch Bedenken hinsichtlich möglicher Überreichweite äußerte.
Gegner umfassen Befürworter der Redefreiheit und einige Technologieindustriegruppen, die argumentieren, dass verpflichtende Kennzeichnungen belastend sein könnten und dass die Definition von Deepfake im Gesetzesentwurf zu breit ist. Die American Civil Liberties Union (ACLU) hat gewarnt, dass das private Klagerecht genutzt werden könnnte, um legitime Rede, wie kritische Kommentare oder künstlerische Ausdrücke, zu unterdrücken. Einige Technologieunternehmen, einschließlich OpenAI und Google DeepMind, haben freiwillige Kennzeichnungen öffentlich unterstützt, aber die spezifische Gesetzgebung nicht befürwortet.
Technischer Kontext
Der Deepfake Accountability Act entstand in einer Zeit schneller Fortschritte bei Generative AI-Modellen. Im Jahr 2018 führten Forscher von NVIDIA die StyleGAN-Architektur ein, die hochrealistische menschliche Gesichter erzeugen konnte. Im Jahr 2019 veröffentlichte OpenAI GPT-2, ein Large language model, das kohärente Texte produzieren konnte, was Bedenken über KI-generierte Fehlinformationen aufwarf. Die Kennzeichnungspflicht des Gesetzesentwurfs wurde als Reaktion auf diese Entwicklungen gesehen, obwohl sie sich hauptsächlich auf visuelle und audio Deepfakes konzentrierte und nicht auf Texte.
Die Erstellung von Deepfakes beinhaltet typischerweise generative-adversarial-networks (GANs), bei denen zwei neurale Netze - ein Generator und ein Diskriminator - gemeinsam trainert werden. Der Generator produziert synthetische Medien, während der Diskriminator versucht, sie von echten Medien zu unterscheiden. Im Laufe der Zeit verbessert sich der Generator, was zu zunehmend überzeugenderen Ausgaben führt. Die Anforderung des Gesetzesentwurfs für eine sichtbare Kennzeichnung war dazu gedacht, es Betrachtern leichter zu machen, solche Inhalte zu identifizieren, auch wenn sich die zugrundelegende Technologie weiterentwickelt.
Auswirkungen und Vermächtnis
Obwohl der Deepfake Accountability Act nie Gesetz wurde, hat er einen bleibenden Einfluss auf die politische Landschaft gehabt. Er war einer der ersten bundesstaatlichen Gesetzesentwürfe, die sich spezifisch mit Deepfakes befassten, und seine Bestimmungen wurden in späteren Vorschlägen aufgegriffen, wie dem überparteilichen Deepfake Task Force Act von 2020 und dem Algorithmic Accountability Act von 2022. Der Gesetzesentwurf trug auch zu einer breiteren Konversation über KI-Ethik und Regulierung bei und beeinflusste akademische Forschung zu Deepfake-Erkennung und Wasserzeichen.
In Abwesenheit bundesstaatlicher Gesetzgebung haben mehrere Bundesstaaten ihre eigenen Deepfake-Gesetze erlassen. Bis 2024 haben mindestens 15 Bundesstaaten Gesetze verabschiedet, die Deepfakes adressieren, von strafrechtlichen Strafen für böswillige Nutzung bis zu Anforderungen für Kennzeichnungen in politischen Anzeigen. Der Deepfake Accountability Act wird häufig in diesen staatlichen Bemühungen als Vorlage zitiert. Darüber hinaus haben große Technologieplattformen freiwillige Richtlinien zur Kennzeichnung KI-generierter Inhalte implementiert, wie meta's 'Made with AI'-Tag und Google (AI)'s Content Credentials.
Aktueller Status und Zukunftsaussichten
Stand 2025 wurde der Deepfake Accountability Act im aktuellen Kongress nicht erneut eingeführt. Das Thema bleibt jedoch relevant, insbesondere mit dem Aufstieg von Large language models wie GPT-4 und der zunehmenden Leichtigkeit, synthetische Medien zu erzeugen. Im Jahr 2024 lehnte die Federal Election Commission (FEC) es ab, KI-generierte Deepfakes in politischen Anzeigen zu regulieren, mit Verweis auf fehlende Befugnisse, was erneute Rufe nach bundesstaatlicher Gesetzgebung ausgelöst hat. Abgeordnete Clarke hat angedeutet, dass sie eine neue Version des Gesetzesentwurfs einbringen könnte, aber es wurde keine formelle Ankündigung gemacht.
Die Zukunft des Gesetzesentwurfs könnte vom politischen Klima und dem Ausgang laufender Debatten über KI-Regulierung abhängen. Einige Gesetzgeber haben breitere KI-Gesetze vorgechlagen, wie den AI Foundation Model Transparency Act, der die Offenlegung KI-generierter Inhalte in allen Bereichen verlangen würde. Der Deepfake Accountability Act bleibt ein grundlegendes Bezugspunkt, und seine Prinzipien werden wahrscheinlich jede zukünftige bundesstaatliche Deepfake-Gesetz beeinflussen.
Kritik und Einschränkungen
Kritiker haben auf mehrere Einschränkungen des Deepfake Accountability Act hingewiesen. Erstens ist die Definition von Deepfake im Gesetzesentwurf auf 'audio oder visuelle Medien, die authentisch erscheinen und eine Person zeigen, die etwas sagt oder tut, das sie nicht gesagt oder getan hat' begrenzt. Dies schließt textbasierte KI-generierte Inhalte aus, die ebenfalls zur Verbreitung von Fehlinformationen genutzt werden könnten. Zweitens könnte die Kennzeichnungspflicht von anspruchsvollen Nutzern umgangen werden, die Wasserzeichen entfernen oder KI nutzen, um Inhalte zu erzeugen, die der Erkennung entgehen. Dritens adressiert der Gesetzesentwurf nicht die internationale Natur der Deepfake-Verbreitung, da viele Deepfakes ausßerhalb der Vereinigten Staaten stammen.
Darüber hinaus haben einige Rechtsgelehrte argumentiert, dass das private Klagerecht zu frivolen Klagen führen könnte und dass die gesetzlichen Schadensersatzansprüche von 150.000 US-Dollar übermäßig sind. Andere haben angemerkt, dass der Gesetzesentwurf nicht verlangt, dass Plattformen Deepfakes proaktiv erkennen, sondern nur auf Meldugen reagieren, was angesichts des Umfangs täglich hochgeladener Inhalte unzureichend sein könnte. Diese Kritiken haben spätere Gesetzgebungsbemühungen informiert, die versucht haben, einige dieser Lüken zu schließen.
Schlussfolgerung
Der Deepfake Accountability Act stellt einen frühen Versuch dar, KI-generierte Inhalte auf bundesstaatlicher Ebene zu regulieren. Obwohl er nicht verabschiedet wurde, hat er den Diskurs über Deepfake-Regulierung geprägt und sowohl staatliche als auch internationale Bemühungen beeinflusst. Da die KI-Technologie weiter voranschreitet, bleibt die Notwendigkeit für Transparenz und Verantwortunng in synthetischen Medien drängend, und die Prinzipien des Gesetzesentwurfs werden wahrscheinlich in zukünftigen Gesetzgebungsvorschlägen wieder aufauchen.