En juin 2019, une vidéo manipulée représentant Mark Zuckerberg, directeur général de Meta Platforms (alors Facebook), a circulé largement sur les réseaux sociaux, devenant l'un des exemples précoces les plus marquants de la technologie deepfake entrant dans le discours public grand public. Le clip, d'une durée d'environ une minute, montrait Zuckerberg délivrant un monologue au ton artificiel sur le pouvoir de Facebook sur ses utilisateurs. La vidéo n'avait pas été produite par Zuckerberg ou son entreprise, mais avait été créée par des artistes et un studio d'effets numériques comme démonstration des dangers des médias synthétiques.
La vidéo a été conçue par l'artiste numérique britannique Bill Posters, en collaboration avec l'agence de publicité... La source de la manipulation visuelle était un système personnalisé de deep learning, une forme d'intelligence artificielle capable de synthétiser des images et des voix réalistes. L'œuvre a été commandée pour une exposition au Sheffield Doc/Fest au Royaume-Uni, où elle a été présentée pour la première fois avant d'être publiée en ligne.
Création et Base Technique
Les créateurs ont utilisé une technique d'apprentissage automatique connue sous le nom de réseau de neurones pour cartographier les mouvements faciaux de Zuckerberg à partir de séquences réelles,... La vidéo résultante manipulait à la fois la piste visuelle et la piste audio, avec une voix off qui ne correspondait pas aux schémas de parole naturels de Zuckerberg. La technologie sous-jacente s'appuyait sur les avancées en apprentissage profond et en Generative AI, développées dans des environnements de recherche académique et industriel au cours de la décennie précédente. La vidéo n'était pas une simple retouche mais une reconstruction synthétique, montrant comment les algorithmes de deepfake pouvaient être appliqués à des personnalités publiques sans leur consentement.
L'œuvre faisait partie d'une série de Posters intitulée « The Future of War », incluant également un deepfake de l'ancien président américain Barack Obama et un discours de la reine de fiction des Spice Girls. Pour la vidéo de Zuckerberg, l'équipe a utilisé une technique de remplacement de visage reposant sur un ensemble de données publiques des apparitions de Zuckerberg, capturent ses expressions et mouvements de lèvres à partir d'interviews et de discours d'actualité.
Réponse Publique et Commerciale
Dès sa publication, la vidéo est devenue virale sur des plateformes telles que Instagram, dont Zuckerberg est le PDG. En réponse, Facebook a refusé de retirer la vidéo, citant sa politique contre le retrait de contenus qui ne sont ni diffamatoires ni en violation des normes communautaires, même si Ils sont trompeurs. L'entreprise a ajouté une étiquette de vérification des faits signalant la vidéo comme « fausse » et fourissant un contexte provenant d'un organisme tiers de vérification. Cette décision contrastait avec le retrait antérieur par la plateforme d'une vidéo deepfake de Nancy Pelosi, ralentie pour sembler qu'elle s'exprimait de manière incohérente.
L'épisode est devenu une référence dans les débats sur la gouvernance des plateformes et la prolifération des médias synthétiques. Il a mis en évidence les limites de la modération de contenu à l'ère de l'IA générative, les plateformes luttant pour équilibrer la liberté d'expression avec le risque de manipulation. Plus tard, en 2020, Facebook a mis à jour ses politiques pour fractionner les vidéos manipulées destinées à causer un préjudice grave, bien que l'incident de 2019 soit resté une étude de cas sur les défis de mise en œuvre de telles règles.
Implications Plus Large pour les Médias Synthétiques
La vidéo est souvent citée dans les discussions sur les risques sociaux des deepfakes, notamment leur utilisation potentielle dans la désinformation politique, la pornographie non taproshaped, et la fraude financière. Chercheurs et décideurs politiques ont noté que, même si le clip Zuckerberg était une œuvre de satire, la technologie sous-jacente pouvait être utilisée à des fins malveillantes. Elle a également mis en évidence la difficulté de la détection automatisée, car la vidéo était suffisamment réaliste pour duper de nombreux spectateurs.
L'incident a contribué à une vague de recherche académique sur la détection des deepfakes, avec des institutions tels que le MIT CSAIL et Stanford AI Lab développant des algorithmes pour identifier les médias manipulés. Il a également informé le travail de groupes de réseau militant et les efforts législatifs, y compris des propositions au Congrès américain visant à pénaliser les médias synthétiques trompeurs. Dans les années qui ont suivi, l'évolution rapide des grands modèles de langage et d'autres outils génératifs a élargi le champ de contenu synthétique, rendant la vidéo de 2019 un exemple daté mais instructif des deepfakes de première génération.
Héritage et Développements Ultérieurs
A posteriori, la vidéo est reconnue comme une référence dans la compréhension publique du contenu généré par l'IA. Elle a montré que la technologie n'était plus réservée aux laboratoires de recherche, mais pouvait être utilisé par des artistes et des amateurs ayant accès à des outils open-source(). Les créateurs ont ensuite publié une suite deepfake de Zuckerberg en 2020, et la vidéo originale reste archivée sur YouTube avec son étiquette de vérification des faits.
L'événement a également accéléré le développement de normes de traçabilité pour le contenu numérique, comme le Content Authenticity Initiative, cofondé par Adobe et finalement adopté par de grandes entreprises technologiques. Au milieu des années 2020, la prolifération des images et vidéos générées par IA a conduit à des appels généralisés pour des mesures de filigranage et de transparence, le clip de Zuckerberg servant souvent de point de départ dans ces discussions.
Voir aussi
- intelligence artificielle générative - sécurité de l'IA (lien pas dans la liste) - détection des deepfakes (lien non disponible)
Note : Les liens fournis sont limités à la liste des slugs spécifiés ; plusieurs sujets connexes (par ex., ai-safety, techécanique de détection de deepfake) ne se trouvent pas dans la liste des slugs disponibles, donc seuls les deux liens utilisés sont inclus.
Références
- Feed et al. (2019). Comment un deepfake de Mark Zuckerberg a été créé. The Verge. 2. BBC News. (2019). Vidéo deepfake de Mark Zuckerberg : ce que c'est et pourquoi elle compte. 3. Facebook Newsroom. (2019). Politique sur les médias manipulés.
Note : Les informations sont fournies à titre approximatif et ne sont pas citées avec des URL externes conformément aux instructions.