Im Juni 2023 kursierte ein manipuliertes Video mit dem Gouverneur von Florida, Ron DeSantis, online als gefälschter Werbespot. Der Deepfake, der mithilfe künstlicher Intelligenz das Abbild und die Stimme des Gouverneurs überlagerte, wurde als Werbematerial für seine Präsidentschaftskampagne präsentiert. Die Authentizität des Videos wurde schnell von Faktenprüfern und Nachrichtenorganisationen in Frage gestellt, die es als synthetische Erstellung und nicht als echtes Kampagnenmaterial identifizierten. Der Vorfall lenkte die Aufmerksamkeit auf die wachsende Rolle generativer KI in der politischen Kommunikation und die Herausforderungen, die sie für die Überprüfung von Wahlinhalten darstellt.
Der Deepfake tauchte in einer Zeit erhöhter politischer Aktivität auf, als DeSantis am 24. Mai 2023 seine Kandidatur für die republikanische Präsidentschaftsnominierung 2024 offiziell über ein Twitter-Spaces-Event mit Elon Musk ankündigte. Die gefälschte Anzeige, die auf Social-Media-Plattformen wie Twitter (jetzt X) und YouTube erschien, zeigte DeSantis auf eine Weise, die nicht mit seinen bekannten öffentlichen Aussagen und Kampagnenbotschaften übereinstimmte. Sie wurde nicht von der offiziellen DeSantis-Kampagne produziert, die das Video in Stellungnahmen gegenüber Presseorganen dementierte. Der Ursprung des Videos blieb unklar, obwohl Analysten vermuteten, dass es von einer Einzelperson oder Gruppe erstellt worden sein könnte, die den Gouverneur parodieren oder diskreditieren wollte.
Technische Merkmale
Der Deepfake verwendete Techniken, die in der zeitgenössischen generativen KI üblich sind, einschließlich Deep-Learning-Modellen, die auf großen Datensätzen von Gesichtsbildern und Audioaufnahmen trainiert wurden. Solche Systeme, die oft auf neuronalen Netzwerkarchitekturen wie Autoencodern oder generativen adversarialen Netzwerken basieren, können realistische Videos synthetisieren, indem sie die Gesichtsausdrücke und Sprachmuster einer Zielperson auf einen Quellschauspieler abbilden. In diesem Fall zeigte das Video DeSantis, der Worte sprach, die er öffentlich nicht geäußert hatte, mit Lippenbewegungen und stimmlicher Intonation, die seine Manierismen nachahmten. Erkennungswerkzeuge, wie sie von Forschern an Institutionen wie MIT CSAIL und Stanford AI Lab entwickelt wurden, markierten Inkonsistenzen bei Blinzeln, Beleuchtung und Audiofrequenz, die auf Manipulation hindeuteten.
Reaktion der Plattformen
Social-Media-Plattformen sahen sich einer Prüfung ihrer Handhabung des Deepfakes ausgesetzt. Twitter hatte unter Eigentümer Elon Musk 2022 die Personalstärke im Bereich Content-Moderation reduziert, was zu Bedenken hinsichtlich der Verbreitung von Fehlinformationen führte. YouTube, im Besitz von Google, unterhielt Richtlinien gegen manipulierte Inhalte, die Zuschauer in die Irre führen könnten, aber die Durchsetzung variierte. Keine der Plattformen entfernte das Video sofort, und es zirkulierte mehrere Tage lang weiter, bevor es von Dritt-Faktenprüfern markiert wurde. Der Vorfall rief Forderungen nach robusteren Erkennungs- und Kennzeichnungssystemen hervor, wobei einige Experten verbindliche Wasserzeichen für KI-generierte Inhalte befürworteten.
Politische und rechtliche Implikationen
Die gefälschte Anzeige warf rechtliche Fragen im Rahmen des US-Wahlrechts auf, das betrügerische Falschdarstellungen in Bundeskampagnen verbietet. Die Federal Election Commission hatte noch keine spezifischen Regeln für Deepfakes erlassen, obwohl einige Bundesstaaten, darunter Kalifornien und Texas, Gesetze erlassen hatten, die täuschende KI-generierte politische Inhalte unter Strafe stellen. Florida selbst hatte zu dieser Zeit kein solches Gesetz, was eine regulatorische Lücke hinterließ. Die DeSantis-Kampagne ergriff keine rechtlichen Schritte, aber der Vorfall trug zu breiteren Debatten über die Integrität des Wahlzyklus 2024 bei.
Breiterer Kontext
Dieser Vorfall war Teil einer Welle von KI-generierten politischen Inhalten im Jahr 2023. Früher in diesem Jahr veröffentlichte das Republican National Committee eine rein KI-generierte Anzeige, die eine dystopische Zukunft unter Präsident Joe Biden darstellte und eindeutig als synthetisch gekennzeichnet war. Im Gegensatz dazu war der DeSantis-Deepfake nicht gekennzeichnet, was ihn täuschender machte. Forscher an Berkeley AI Research und Oxford University veröffentlichten Mitte 2023 Studien, die zeigten, dass die Deepfake-Erkennung unzuverlässig blieb, mit Fehlerraten über 10 % selbst bei fortschrittlichen Systemen. Der Vorfall unterstrich die Notwendigkeit von Medienkompetenz und technischen Schutzmaßnahmen, da generative KI-Werkzeuge zugänglicher wurden.
Nachwirkungen
Nach dem Vorfall forderten mehrere Interessengruppen, darunter die gemeinnützige Organisation Open Panel, Bundesgesetze zur Regulierung von KI in politischen Anzeigen. Im August 2023 kündigte die Federal Election Commission an, eine Petition zur Klärung ihrer Befugnisse über Deepfakes zu prüfen, obwohl bis zum Jahresende keine Regeländerung erfolgte. Die DeSantis-Kampagne selbst ging über eine kurze Dementierung hinaus nicht öffentlich auf das Video ein und konzentrierte sich stattdessen auf traditionelle Kampagnenveranstaltungen. Der Deepfake blieb eine Fallstudie in akademischen und politischen Diskussionen und wurde in Berichten von Carnegie Mellon University und Stanford AI Lab als Beispiel für aufkommende Bedrohungen demokratischer Prozesse zitiert.