Im Juni 2019 verbreitete sich ein manipuliertes Video, das Mark Zuckerberg, den CEO von Meta Platforms (damals Facebook), zeigte, weitläufig in den sozialen Medien und wurde zu einem der bekanntesten frühen Beispiele dafür, wie Deepfake-Technologie in den öffentlichen Diskurs vordrang. Der Clip, der etwa eine Minute dauerte, zeigte Zuckerberg, wie er einen unnatürlich vorgetragenen Monolog über die Macht von Facebook über seine Nutzer hielt. Das Video wurde nicht von Zuckerberg oder seinem Unternehmen produziert, sondern von Künstlern und einem Digitaleffekt-Studio als Demonstration der Gefahren synthetischer Medien erstellt.
Das Video wurde von dem britischen Digitalkünstler Bill Posters in Zusammenarbeit mit der Werbeagentur geschaffen. Die Quelle der visuellen Manipulation war ein maßgeschneidertes Deep-Learning-System, eine Form der künstlichen Intelligenz, die realistische Bilder und Stimmen synthetisieren kann. Das Werk wurde für eine Ausstellung beim Sheffield Doc/Fest im Vereinigten Königreich in Auftrag gegeben, wo es erstmals präsentiert wurde, bevor es online veröffentlicht wurde.
Entstehung und technische Grundlage
Die Ersteller verwendeten eine maschinelle Lerntechnik, die als neuronales Netz bekannt ist, um Zuckerbergs Gesichtsbewegungen aus einem echten Video zu kartieren. Das resultierende Video manipulierte sowohl die visuelle Spur als auch den Ton, mit einer Sprachaufnahme, die nicht Zuckerbergs natürlichen Sprechmustern entsprach. Die zugrunde liegende Technologie stützte sich auf Fortschritte im Deep Learning und in der generativen KI, die im vorangegangenen Jahrzehnt in akademischen und industriellen Forschungsumgebungen entwickelt worden waren. Das Video war keine einfache Bearbeitung, sondern eine synthetische Rekonstruktion, die zeigte, wie Deepfake-Algorithmen auf öffentliche Personen ohne deren Zustimmung angewendet werden konnten.
Das Stück war Teil einer Serie von Posters mit dem Titel „The Future of War“, die auch einen Deepfake des ehemaligen US-Präsidenten Barack Obama und eine Rede der fiktiven Königin der Spice Girls umfasste. Für das Zuckerberg-Video verwendete das Team eine Gesichtstausch-Technik, die auf einem öffentlichen Datensatz von Zuckerbergs Auftritten basierte und seine Ausdrücke und Lippenbewegungen aus Nachrichteninterviews und Reden erfasste.
Öffentliche und kommerzielle Reaktion
Nach der Veröffentlichung wurde das Video auf Plattformen wie Instagram, das Zuckerberg gehört, viral. Als Reaktion darauf lehnte Facebook es ab, das Video zu entfernen, und berief sich auf seine Richtlinie, Inhalte nicht zu entfernen, die nicht verleumderisch sind oder gegen Gemeinschaftsstandards verstoßen, selbst wenn sie irreführend sind. Das Unternehmen fügte ein Faktenprüf-Label hinzu, das das Video als „falsch“ kennzeichnete und Kontext von einer Drittanbieter-Verifikationsorganisation bereitstellte. Diese Entscheidung stand im Gegensatz zur früheren Entfernung eines separaten Deepfake-Videos von Nancy Pelosi durch die Plattform, das verlangsamt wurde, um den Anschein zu erwecken, sie spreche unzusammenhängend.
Die Episode wurde zu einem Bezugspunkt in Debatten über Plattform-Governance und die Verbreitung synthetischer Medien. Sie hob die Grenzen der Inhaltsmoderation im Zeitalter generativer KI hervor, da Plattformen darum kämpften, Meinungsfreiheit mit dem Potenzial für Manipulation in Einklang zu bringen. Später, im Jahr 2020, aktualisierte Facebook seine Richtlinien, um irreführende manipulierte Videos zu verbieten, die wahrscheinlich ernsthaften Schaden verursachen, obwohl der Vorfall von 2019 ein Fallbeispiel für die Herausforderungen bei der Umsetzung solcher Regeln blieb.
Breitere Implikationen für synthetische Medien
Das Video wird oft in Diskussionen über die gesellschaftlichen Risiken von Deepfakes zitiert, einschließlich ihres Potenzials für politische Desinformation, nicht einvernehmliche Pornografie und Finanzbetrug. Forscher und politische Entscheidungsträger stellten fest, dass der Zuckerberg-Clip zwar ein satirisches Werk war, die zugrunde liegende Technologie jedoch mit böswilliger Absicht eingesetzt werden könnte. Es unterstrich auch die Schwierigkeit der automatisierten Erkennung, da das Video überzeugend genug war, um viele Zuschauer zu täuschen.
Der Vorfall trug zu einer Welle akademischer Forschung zur Deepfake-Erkennung bei, wobei Institutionen wie das MIT CSAIL und das Stanford AI Lab Algorithmen zur Identifizierung manipulierter Medien entwickelten. Er informierte auch die Arbeit von Interessengruppen und legislative Bemühungen, einschließlich Vorschlägen im US-Kongress, betrügerische synthetische Medien zu kriminalisieren. In den folgenden Jahren erweiterte die rasche Entwicklung von großen Sprachmodellen und anderen generativen Werkzeugen den Umfang synthetischer Inhalte, was das Video von 2019 zu einem veralteten, aber lehrreichen Beispiel für Deepfakes der frühen Generation machte.
Vermächtnis und spätere Entwicklungen
Im Rückblick wird das Video als Meilenstein im öffentlichen Verständnis von KI-generierten Inhalten anerkannt. Es zeigte, dass die Technologie nicht mehr auf Forschungslabore beschränkt war, sondern von Künstlern und Hobbyisten mit Zugang zu Open-Source-Werkzeugen eingesetzt werden konnte. Die Ersteller veröffentlichten später einen Folge-Deepfake von Zuckerberg im Jahr 2020, und das Originalvideo bleibt mit seinem Faktenprüf-Label auf Plattformen wie YouTube archiviert.
Das Ereignis beschleunigte auch die Entwicklung von Provenienzstandards für digitale Inhalte, wie die Content Authenticity Initiative, die von Adobe mitbegründet und schließlich von großen Technologieunternehmen übernommen wurde. Bis Mitte der 2020er-Jahre führte die Verbreitung von KI-generierten Bildern und Videos zu weit verbreiteten Forderungen nach Wasserzeichen und Transparenzmaßnahmen, wobei der Zuckerberg-Clip oft als früher Bezugspunkt in diesen Diskussionen diente.
Siehe auch
- generative KI - KI-Sicherheit (nicht in der Liste) - Deepfake-Erkennung (nicht in der Liste)
Hinweis: Die bereitgestellten Links sind auf die angegebene Liste beschränkt; mehrere verwandte Themen (z. B. KI-Sicherheit, Deepfake-Erkennung) sind nicht in den verfügbaren Slugs enthalten, daher sind nur die beiden verwendeten Links enthalten.
Referenzen
- Feed, et al. (2019). How a deepfake of Mark Zuckerberg was made. The Verge. 2. BBC News. (2019). Mark Zuckerberg deepfake video: What is it and why it matters. 3. Facebook Newsroom. (2019). Policy on manipulated media.
Hinweis: Die Referenzen sind illustrativ und werden gemäß den Anweisungen nicht mit externen URLs zitiert.