Ein Deepfake ist ein Stück synthetischer Medien, meist Video oder Audio, das mithilfe von Deep-Learning-Techniken erzeugt oder manipuliert wurde, um überzeugend eine reale Person darzustellen, die etwas sagt oder tut, was sie tatsächlich nicht gesagt oder getan hat. Der Begriff ist ein Kofferwort aus Deep Learning und Fake und entstand Ende 2017 in einem Reddit-Forum, wo ein Nutzer namens deepfakes Gesichtstausch-Videos veröffentlichte, zunächst von Prominenten, unter Verwendung früher auf generativen gegnerischen Netzwerken basierender Gesichtstausch-Werkzeuge.
Die Deepfake-Technologie entwickelte sich in den späten 2010er- und frühen 2020er-Jahren rasant weiter, von groben, leicht erkennbaren Gesichtstauschen zu hochgradig überzeugenden Videos und zunehmend Echtzeit-Stimmklonen und Ganzkörpersynthese, was Bedenken hinsichtlich nicht einvernehmlicher Pornografie, politischer Desinformation und Betrug aufwarf.
Techniken
Frühe Deepfakes verwendeten hauptsächlich auf Autoencodern basierenden Gesichtstausch, wobei ein gemeinsamer Encoder und getrennte Decoder auf Filmmaterial von zwei Personen trainiert wurden, sodass die Ausdrücke einer Person auf das Gesicht der anderen abgebildet werden konnten. GAN-basierte Methoden verbesserten den Realismus weiter, indem sie einen Generator gegen einen Diskriminator antreten ließen, der darauf trainiert war, Fälschungen zu erkennen. Mitte der 2020er-Jahre wurden Diffusionsmodelle zur dominierenden Technik für hochwertige synthetische Video- und Bilderzeugung, und spezielle Gesichtstausch- und Lippen synchronisations-Werkzeuge sowie allgemeine Text-zu-Video-Systeme machten die Produktion eines überzeugenden Fake-Videos erheblich billiger und schneller als in den frühen Jahren der Technologie.
Bösartige und legitime Verwendungen
Dokumentierte bösartige Anwendungen umfassen nicht einvernehmliche intime Bilddarstellungen, den frühesten und immer noch häufigsten gemeldeten Anwendungsfall, politische Desinformation wie erfundene Aussagen öffentlicher Persönlichkeiten, die rund um Wahlen veröffentlicht werden, und Finanzbetrug, einschließlich eines weithin berichteten Falls von 2024, bei dem ein Finanzangestellter eines multinationalen Unternehmens durch einen Videoanruf mit Deepfake-Führungskräften getäuscht wurde, um Millionen von Dollar zu überweisen. Deepfake-Technologie hat auch anerkannte legitime Anwendungen, darunter Filmsynchronisation und Verjüngungseffekte, Barrierefreiheitswerkzeuge, die eine synthetische Stimme für Menschen erzeugen, die ihre eigene verloren haben, und Satire, die in einigen Rechtsordnungen als freie Meinungsäußerung geschützt ist.
Erkennung und Gegenmaßnahmen
Die Erkennung von Deepfakes ist zu einem aktiven Forschungsgebiet geworden, das Artefakte wie inkonsistentes Blinzeln, unnatürliche Gesichtsgeometrie oder subtile audiovisuelle Unstimmigkeiten nutzt, obwohl die Erkennungsgenauigkeit Schwierigkeiten hat, mit der Erzeugungsqualität Schritt zu halten, insbesondere bei den hochwertigsten Modellen. Wasserzeichen und Standards zur Inhaltsherkunft wurden als ergänzende Verteidigungsmaßnahmen vorgeschlagen, die nicht auf der Erkennung von Erzeugungsartefakten beruhen. Mehrere Rechtsordnungen bewegten sich Mitte der 2020er-Jahre dazu, Deepfakes spezifisch zu regulieren, darunter US-amerikanische Gesetze auf Bundesstaatsebene, die auf wahlbezogene und nicht einvernehmliche intime Deepfakes abzielen, sowie Bestimmungen im EU-KI-Gesetz, die die Offenlegung von KI-generierten Medien verlangen, obwohl die Durchsetzung über Grenzen hinweg schwierig blieb, da solche Inhalte so leicht erzeugt und verbreitet werden können.
Auswirkungen
Über spezifische schädliche Vorfälle hinaus haben Forscher und Journalisten einen breiteren Lügner-Dividenden beschrieben: Da die Öffentlichkeit erkennt, dass überzeugende Fake-Videos und -Audios möglich sind, kann echtes Filmmaterial als fabriziert abgetan werden, was das Vertrauen in authentische Beweise insgesamt untergräbt. Diese Dynamik wurde als Faktor für das Wachstum der Tote-Internet-Theorie und des damit verbundenen Diskurses über die Zuverlässigkeit von Online-Medien im Zeitalter der generativen KI angeführt.