Die Regulierung von Deepfakes umfasst die Gesamtheit der Gesetze, Verwaltungsvorschriften und Branchenrichtlinien, die erlassen wurden, um die Erstellung, Verbreitung und Nutzung von synthetischen Medien zu regeln, die durch Techniken der künstlichen Intelligenz erzeugt werden. Deepfakes - ein Kofferwort aus 'Deep Learning' und 'Fake' - sind Bilder, Videos oder Audiodateien, die mit KI-basierten Werkzeugen bearbeitet oder erzeugt wurden und oft reale oder fiktive Personen darstellen. Während die Erstellung gefälschter Inhalte älter als die digitale Technologie ist, nutzen Deepfakes in besonderer Weise maschinelles Lernen und neuronale Netze wie variationale Autoencoder und generative gegnerische Netze (GANs), was hochrealistische Manipulationen ermöglicht, die Bedenken hinsichtlich Desinformation, Betrug und Verletzung der Privatsphäre aufgeworfen haben.
Die regulatorischen Reaktionen sind in den einzelnen Rechtsordnungen uneinheitlich ausgefallen, was die Spannungen zwischen dem Schutz von Einzelpersonen und Gesellschaften vor Schaden und der Wahrung der Meinungsfreiheit, des künstlerischen Experimentierens und der technologischen Innovation widerspiegelt. Das Feld bleibt dynamisch, da Regierungen, Industrieverbände und akademische Forscher Erkennungsmethoden und Minderungsstrategien vorschlagen, während sich die zugrunde liegenden Technologien weiterentwickeln.
Historischer Kontext
Die Fotomanipulation wurde im 19. Jahrhundert entwickelt und bald auf Filme angewendet, wobei sich die Technologie im Laufe des 20. Jahrhunderts stetig verbesserte und mit dem digitalen Video beschleunigte. Akademische Forscher begannen in den 1990er Jahren mit der Entwicklung automatisierter Techniken zur Gesichtsreanimation, insbesondere mit dem Programm 'Video Rewrite' von 1997, das vorhandenes Filmmaterial veränderte, um eine Person darzustellen, die Wörter aus einer anderen Tonspur mit Hilfe von maschinellem Lernen ausspricht. Die Entwicklung von GANs Mitte der 2010er Jahre markierte einen wichtigen technischen Wendepunkt, da konkurrierende neuronale Netze hochrealistische gefälschte Bilder und Videos mit einer visuellen Wiedergabetreue erzeugen konnten, die frühere regelbasierte oder Autoencoder-Methoden bei weitem übertraf.
Nachfolgende akademische Projekte verfeinerten diese Techniken. Das Programm 'Face2Face' von 2016 ermöglichte die Echtzeit-Nachstellung von Gesichtsausdrücken mit handelsüblichen Kameras, während das Projekt 'Synthesizing Obama' von 2017 fotorealistische Mundformen aus Audio erzeugte. Diese Fortschritte verlagerten die Erstellung von Deepfakes von spezialisierten Forschungsumgebungen zu einer breiteren Verfügbarkeit und erreichten schließlich Online-Communities und kommerzielle Anwendungen.
Begründung für die Regulierung
Politische Entscheidungsträger haben mehrere Schäden angeführt, um die Regulierung von Deepfakes zu rechtfertigen. Zu den böswilligen Verwendungen gehören Material über sexuellen Kindesmissbrauch, Pornografie mit Prominenten, Rachepornos, Fake News, Hoaxes, Mobbing und Finanzbetrug. Akademiker haben Bedenken hinsichtlich einer möglichen Einmischung in Wahlen, der Förderung von Desinformation und Hassrede sowie der Erosion des öffentlichen Vertrauens in die Medien geäußert. Forscher haben auch Bedrohungen über die Medienmanipulation hinaus aufgezeigt, darunter Angriffe auf medizinische Bilder - eine Studie zeigte, wie ein Angreifer automatisch Lungenkrebs in einem 3D-CT-Scan eines Patienten injizieren oder entfernen konnte, wodurch Radiologen und Erkennungs-KI getäuscht wurden.
Finanzbetrug stellt eine wachsende Sorge dar, da Werkzeuge zur Stimmklonierung und Videomanipulation die Nachahmung von Führungskräften und Familienangehörigen für Betrugsmaschen ermöglichen. Die Informationstechnologiebranche hat mit Erkennungsmethoden und Standards für die Herkunft von Inhalten reagiert, aber die regulatorischen Rahmenbedingungen haben sich in den verschiedenen Ländern unterschiedlich schnell entwickelt.
Ansatz der Vereinigten Staaten
Die Vereinigten Staaten haben einen fragmentierten Ansatz gewählt, wobei es bis 2025 kein umfassendes Bundesgesetz zu Deepfakes gibt. Bundesgesetzgebung wurde vorgeschlagen, aber nicht erlassen, darunter Gesetzesentwürfe, die sich mit Wahlbeeinflussung, nicht einvernehmlichen intimen Bildern und Betrug befassen. Einzelne Bundesstaaten haben konkretere Maßnahmen ergriffen. Kalifornien erließ 2019 Gesetze, die Deepfake-Pornografie und politische Deepfakes innerhalb bestimmter Zeiträume vor Wahlen unter Strafe stellen. Andere Bundesstaaten, darunter Texas, Virginia und New York, haben Maßnahmen verabschiedet, die sich gegen nicht einvernehmliche intime Bilder oder wahlbezogene Deepfakes richten, wobei die Strafen und Definitionen stark variieren.
Bundesbehörden haben bestehende Gesetze angewendet, wo dies möglich war. Die Federal Trade Commission hat ihre Befugnisse in einigen Fällen gegen irreführende Praktiken eingesetzt, und die Federal Election Commission hat Regeln für KI-generierte Wahlkampfinhalte erwogen. Gerichte haben sich auch mit Deepfakes über bestehende Deliktsansprüche wie Verleumdung, Recht auf Publicity und falsches Licht befasst, obwohl diese einen ungleichen Schutz bieten.
Europäische Union und andere Rechtsordnungen
Die Europäische Union hat einen umfassenderen Ansatz verfolgt. Das Gesetz über digitale Dienste, das 2024 in Kraft trat, verpflichtet sehr große Online-Plattformen, systemische Risiken, einschließlich der Manipulation von Informationen, zu bewerten und zu mindern. Das KI-Gesetz, das 2024 angenommen wurde, erlegt KI-Systemen, die Inhalte erzeugen oder manipulieren, Transparenzpflichten auf und verlangt die Offenlegung, dass Inhalte synthetisch sind. Es verbietet außerdem bestimmte manipulative Techniken und verlangt die Kennzeichnung von Deepfakes in den meisten Kontexten, mit Ausnahmen für künstlerische und satirische Werke.
China hat einen eigenen Weg eingeschlagen, der die kulturellen und politischen Kontexte widerspiegelt. Der chinesische Begriff für Deepfakes, 'huanlian' (was 'Gesichter wechseln' bedeutet), hat nicht die negative Konnotation von 'Fake' im Englischen. Die chinesischen Vorschriften, die 2020 und 2023 in Kraft traten, verlangen von Deepfake-Anbietern, synthetische Inhalte zu kennzeichnen, die Identität der Nutzer zu überprüfen und die Einwilligung von Personen einzuholen, deren Bilder oder Stimmen verwendet werden. Diese Regeln betonen Betrugsrisiken, Bildrechte, wirtschaftlichen Gewinn und ethische Ungleichgewichte und nicht politische Desinformation.
Andere Länder haben gezielte Maßnahmen erlassen. Das Online Safety Act des Vereinigten Königreichs, das 2023 verabschiedet wurde, stellt das Teilen von intimen Deepfake-Bildern unter Strafe. Südkorea änderte 2020 sein Telekommunikationsgesetz, um Deepfake-Pornografie zu bekämpfen. Indien stützt sich auf bestehende Informationstechnologie-Regeln, die Vermittler zur Entfernung rechtswidriger Inhalte verpflichten, wobei vorgeschlagene Änderungen synthetische Medien betreffen.
Selbstregulierung der Industrie
Technologieunternehmen haben neben der staatlichen Regulierung freiwillige Maßnahmen entwickelt. Große Plattformen, darunter OpenAI, Google DeepMind und Anthropic, haben Richtlinien zu synthetischen Medien veröffentlicht, wobei sich einige zu Wasserzeichen oder Metadaten zur Herkunft von Inhalten verpflichtet haben. Die Coalition for Content Provenance and Authenticity (C2PA), ein Industriekonsortium, hat technische Standards für kryptografisch signierte Inhaltsverläufe entwickelt.
Soziale Medienplattformen haben Kennzeichnungspflichten für manipulierte Medien eingeführt, obwohl die Durchsetzung uneinheitlich war. Einige Unternehmen haben Werkzeuge zur Erstellung von Deepfakes eingeschränkt oder eine Identitätsprüfung für Nutzer verlangt, die synthetische Inhalte erzeugen. Die Bemühungen der Industrie konzentrierten sich auch auf die Erkennungsforschung, wobei Organisationen wie MIT CSAIL und Berkeley AI Research forensische Werkzeuge zur Identifizierung manipulierter Medien entwickelten.
Herausforderungen und Kritik
Die Regulierung steht vor erheblichen Herausforderungen. Die Erkennung bleibt unvollkommen, da sich die Techniken zur Erzeugung von Deepfakes schnell weiterentwickeln und gegnerische Methoden forensische Werkzeuge umgehen können. Zuständigkeitsfragen ergeben sich, da Inhalte, die in einem Land erstellt werden, weltweit verbreitet werden können, was die Durchsetzung erschwert. Definitionsfragen bestehen fort, was ein Deepfake im Gegensatz zu legitimen synthetischen Medien ist, die in Unterhaltung, Bildung oder künstlerischem Ausdruck verwendet werden.
Kritiker argumentieren, dass eine zu breite Regulierung geschützte Rede einschließlich Satire, Parodie und politischer Kommentare einschränken könnte. Die Verwendung von Deepfake-Technologie durch die Unterhaltungsindustrie für visuelle Effekte und das Altern von Schauspielern wirft Fragen zu Einwilligung und Arbeitsrechten auf. Forscher haben Lücken im Verständnis festgestellt, wie sich Deepfakes in sozialen Medien verbreiten, wobei Negativität und emotionale Reaktion die Haupttreiber des Teilens sind - Faktoren, die die Regulierung allein möglicherweise nicht angeht.
Zukünftige Richtungen
Stand 2025 bleibt die Regulierung von Deepfakes ein sich entwickelndes Feld. Zu den Vorschlägen gehören die Anforderung von Echtzeit-Erkennungswerkzeugen, die Festlegung der Haftung für Plattformen, die böswillige Deepfakes hosten, und die Schaffung internationaler Abkommen zur Harmonisierung von Standards. Die akademische Forschung erforscht weiterhin sowohl technische Gegenmaßnahmen als auch sozialwissenschaftliche Ansätze, einschließlich der ästhetischen und kulturellen Dimensionen von Deepfakes. Das Gleichgewicht zwischen Innovation, Ausdruck und Schutz wird wahrscheinlich umstritten bleiben, da die Technologie immer überzeugender wird.