Der Deepfake von Pelosi (2019) bezieht sich auf ein manipuliertes Video von Nancy Pelosi, der damaligen Sprecherin des Repräsentantenhauses der Vereinigten Staaten, das im Mai 2019 in sozialen Medien weit verbreitet wurde. Das Video war kein Deepfake im technischen Sinne, der künstliche Intelligenz oder maschinelles Lernen zur Erzeugung synthetischer Inhalte verwendet, sondern ein „Cheapfake“ - eine einfache Bearbeitungstechnik, die das Filmmaterial auf etwa 75 % seiner ursprünglichen Geschwindigkeit verlangsamte, die Tonhöhe ihrer Stimme veränderte und sie verwirrt oder betrunken erscheinen ließ. Der Vorfall wurde zu einem wegweisenden Fall für das öffentliche Verständnis manipulierter Medien und zeigte, wie einfache technische Veränderungen ebenso täuschend sein können wie hochentwickelte KI-generierte Inhalte.
Das ursprüngliche Filmmaterial stammte von einer Rede, die Pelosi am 23. Mai 2019 am Center for American Progress hielt. Die veränderte Version, die zuerst auf Facebook erschien, wurde millionenfach auf Plattformen wie Facebook, Twitter und YouTube angesehen. Sie wurde von prominenten Persönlichkeiten geteilt, darunter der damalige Präsident Donald Trump, der das Video ohne Kontext twitterte. Die Verbreitung löste umfangreiche Medienberichterstattung und eine öffentliche Debatte über die Natur von Fehlinformationen, die Verantwortung sozialer Medienplattformen und das Potenzial manipulierter Medien zur Untergrabung demokratischer Prozesse aus.
Technische Natur und Abgrenzung zu Deepfakes
Im Gegensatz zu echten Deepfakes, die Deep Learning und neuronale Netze zur Erzeugung oder Ersetzung von Gesichtern verwenden, wurde das Pelosi-Video durch grundlegende Videobearbeitung erstellt. Die Verlangsamung wurde durch Anpassen der Wiedergabegeschwindigkeit und Tonhöhe erreicht, eine Technik, die keine spezielle Software oder technisches Fachwissen erfordert. Diese Unterscheidung ist entscheidend, da sie zeigt, dass Fehlinformationen nicht immer fortschrittliche Technologie erfordern; einfache Werkzeuge können ebenso wirksam sein, um Zuschauer zu täuschen. Der Begriff „Cheapfake“ wurde geprägt, um solche kostengünstigen Manipulationen zu beschreiben, im Gegensatz zu den ressourcenintensiven Anforderungen KI-basierter Deepfakes.
Die Wirksamkeit des Videos lag in seiner Plausibilität. Pelosis Rede war bereits in einem bedachten, gemessenen Ton gehalten, und die Verlangsamung übertrieb dies bis zu einem Punkt, an dem es unnatürlich wirkte. Zuschauer, die mit ihrem Sprechstil nicht vertraut waren, neigten eher dazu, die veränderte Version als authentisch zu akzeptieren. Dieser Fall unterstrich die Bedeutung von Medienkompetenz und die Notwendigkeit, dass Plattformen Richtlinien zur Erkennung und Kennzeichnung manipulierter Inhalte entwickeln, unabhängig von deren technischer Raffinesse.
Reaktionen der Plattformen und politische Debatten
Facebook weigerte sich zunächst, das Video zu entfernen, und berief sich auf seine Richtlinie gegen Zensur, fügte jedoch später ein Warnlabel hinzu, das es als „teilweise falsch“ beschrieb, nachdem Faktenprüfer es markiert hatten. Twitter lehnte ebenfalls eine Entfernung ab, wobei CEO Jack Dorsey erklärte, das Unternehmen würde Inhalte nur löschen, wenn sie gegen bestimmte Regeln verstoßen. YouTube ließ das Video bestehen, monetarisierte es jedoch nicht mehr und fügte einen Faktenprüf-Link hinzu. Diese Reaktionen waren inkonsistent und zogen Kritik von Forschern und Gesetzgebern auf sich, die argumentierten, dass Plattformen klarere Richtlinien für den Umgang mit manipulierten Medien benötigten.
Der Vorfall beschleunigte Diskussionen über Richtlinien zur Inhaltsmoderation. In den folgenden Monaten begannen große Plattformen, robustere Rahmenwerke für den Umgang mit synthetischen und manipulierten Medien zu entwickeln. Anfang 2020 kündigte Facebook eine Richtlinie an, Deepfakes zu entfernen, die wahrscheinlich irreführen, erlaubte jedoch weiterhin „Parodie“ und „Satire“. Twitter führte im März 2020 eine ähnliche Richtlinie ein, die manipulierte Medien kennzeichnete, die Schaden verursachen könnten. Das Pelosi-Video wurde zu einem Bezugspunkt in diesen politischen Debatten und veranschaulichte die Herausforderungen, die freie Meinungsäußerung mit der Verhinderung von Fehlinformationen in Einklang zu bringen.
Rechtliche und politische Implikationen
Das Video warf Fragen zu bestehenden Gesetzen und deren Anwendbarkeit auf manipulierte Medien auf. In den Vereinigten Staaten gab es zum damaligen Zeitpunkt kein Bundesgesetz, das speziell Deepfakes oder Cheapfakes behandelte. Einige Bundesstaaten, wie Kalifornien, erließen später Gesetze, die Deepfakes in politischen Kontexten betrafen, aber diese waren 2019 nicht in Kraft. Pelosi selbst unternahm keine rechtlichen Schritte, aber ihr Büro verurteilte das Video als „sexistischen Müll“ und forderte Plattformen auf, Verantwortung zu übernehmen.
Der Vorfall hob auch die geschlechtsspezifische Natur von Desinformation hervor. Pelosi, als hochrangige Politikerin, wurde einer Form von Angriff ausgesetzt, die auf Stereotypen weiblicher Inkompetenz und Trunkenheit abzielte. Forscher stellten fest, dass Frauen in der Politik unverhältnismäßig stark von solchen Taktiken betroffen sind, die darauf abzielen, ihre Glaubwürdigkeit und Eignung für ein Amt zu untergraben. Dieser Aspekt des Falls zog Aufmerksamkeit von Wissenschaftlern auf sich, die die Schnittstelle von Geschlecht, Medien und Politik untersuchen.
Vermächtnis und Einfluss auf die Fehlinformationsforschung
Das Pelosi-Video wurde zu einer Fallstudie in der Fehlinformationsforschung und wurde in akademischen Arbeiten und politischen Berichten zitiert. Es zeigte, dass die Bedrohung durch manipulierte Medien nicht auf KI-generierte Inhalte beschränkt ist und dass einfache Bearbeitungen erhebliche reale Konsequenzen haben können. Der Begriff „Cheapfake“ fand Eingang in den Wortschatz von Medienwissenschaftlern und ergänzte den bekannteren „Deepfake“. Forscher an Institutionen wie Stanford AI Lab und BAIR (Berkeley AI Research) bezogen den Fall in ihre Analysen von Informationsökosystemen ein.
Der Vorfall beeinflusste auch die Entwicklung von Erkennungswerkzeugen und Faktenprüfmethoden. Organisationen wie Xerox PARC und MIT CSAIL erforschten automatisierte Methoden zur Identifizierung manipulierter Videos, obwohl diese Bemühungen aufgrund der subtilen Natur der Veränderung vor Herausforderungen standen. Der Fall unterstrich die Notwendigkeit menschlicher Aufsicht zusätzlich zu technischen Lösungen, da automatisierte Systeme oft Schwierigkeiten haben, zwischen harmlosen Bearbeitungen und böswilligen Manipulationen zu unterscheiden.
Breiterer Kontext und anhaltende Relevanz
In den Jahren nach dem Vorfall hat sich die Landschaft manipulierter Medien erheblich weiterentwickelt. Fortschritte in generativer KI und großen Sprachmodellen haben es einfacher gemacht, realistische synthetische Inhalte zu erstellen, was neue Bedenken hinsichtlich Authentizität und Vertrauen aufwirft. Das Pelosi-Video bleibt jedoch eine Erinnerung daran, dass nicht alle Fehlinformationen hochmoderne Technologie erfordern. Stand 2024 taucht das Video weiterhin regelmäßig in sozialen Medien auf, oft ohne Kontext, was die Beständigkeit solcher Inhalte demonstriert.
Der Fall trug auch zum öffentlichen Bewusstsein für Medienmanipulation bei. Umfragen nach dem Vorfall zeigten eine erhöhte Anerkennung unter Amerikanern für das Potenzial veränderter Videos, zu täuschen. Dieses Bewusstsein wurde von wachsenden Forderungen nach Medienkompetenzbildung und Plattformverantwortung begleitet. Das Pelosi-Video, obwohl technisch einfach, hat einen bleibenden Einfluss darauf gehabt, wie die Gesellschaft die Herausforderung digitaler Fehlinformationen versteht und darauf reagiert.