Le scandale des deepfakes de 2019 fait référence à la propagation virale d'une vidéo manipulée de Nancy Pelosi, alors présidente de la Chambre des représentants des États-Unis, en mai 2019. La vidéo, ralentie à environ 75 % de sa vitesse originale et avec une hauteur audio modifiée, faisait paraître Pelosi bredouillante et avec des mouvements erratiques, créant la fausse impression qu'elle était ivre. Bien que la vidéo ne fût pas un deepfake au sens technique strict - elle n'utilisait ni intelligence artificielle générative ni réseaux neuronaux - elle est devenue un moment décisif dans la sensibilisation du public aux médias synthétiques et au potentiel de manipulation basée sur l'IA pour propager la désinformation. L'incident a suscité une couverture médiatique importante, des débats sur les politiques des plateformes et des discussions législatives sur la régulation des médias manipulés.
La vidéo est apparue pour la première fois sur Facebook le 23 mai 2019 et s'est rapidement propagée sur d'autres plateformes, notamment Twitter et YouTube. En quelques jours, elle avait été visionnée des millions de fois. Facebook a initialement refusé de la retirer, invoquant ses politiques contre la censure, mais a ensuite ajouté une étiquette de vérification des faits et réduit sa distribution. Twitter et YouTube ont également été critiqués pour leur gestion du contenu. L'incident a souligné les difficultés de ces plateformes à détecter et à répondre aux médias manipulés, et a stimulé les efforts pour développer des outils de détection automatisée utilisant apprentissage automatique et vision par ordinateur.
Contexte technique
La vidéo de Pelosi n'était pas créée avec des méthodes d'apprentissage profond, mais elle a été largement confondue avec les deepfakes dans le discours public. Les deepfakes sont un mot-valise de « apprentissage profond » et « fake », désignant des images, vidéos ou contenus audio édités ou générés à l'aide d'outils d'intelligence artificielle. La technologie repose sur techniques d'apprentissage profond, en particulier les réseaux antagonistes génératifs (GAN) et les autoencodeurs variationnels, pour créer un contenu réaliste mais faux. La vidéo de Pelosi, en revanche, utilisait un logiciel de montage vidéo simple pour ralentir l'image, une technique n'exigeant pas d'IA. Néanmoins, l'incident a démontré que même les manipulations de faible technologie pouvaient atteindre une diffusion virale étendue et causer des dommages à la réputation significatifs.
Le développement des GAN au milieu des années 2010 avait déjà rendu possibles des deepfakes sophistiqués, mais la vidéo de Pelosi a montré que même des manipulations grossières pouvaient être efficaces pour propager la désinformation. Cette réalisation a poussé chercheurs et décideurs politiques à se concentrer sur la catégorie plus large des médias synthétiques, incluant à la fois les contenus réellement générés par IA et édités de manière traditionnelle. L'incident a également accéléré la recherche sur les méthodes de détection, telles que l'analyse des mouvements faciaux, des incohérences audio et des métadonnées.
Réponses des plateformes
La décision initiale de Facebook de laisser la vidéo en ligne, tout en ajoutant une étiquette de vérification des faits, a suscité de vives critiques des hommes politiques, journalistes et groupes de défense des droits. L'entreprise a ensuite mis à jour sa politique pour retirer les médias manipulés trompeurs licencieux dans des circonstances spécifiques, mais le cas de Pelosi a exposé les limites des systèmes de modération existants. Twitter a également fait face à des réactions négatives pour avoir maintenu la vidéo, bien qu'il ait fini par ajouter une étiquette d'avertissement. YouTube, détenue par Google, a initialement supprimé la vidéo après une redevance, mais l'a ensuite restaurée avec une note de vérification des faits.
Cet incident a accru l'examen minutieux des plateformes concernant les médias manipulés. Dans les mois suivant, Facebook a annoncé une interdiction des astreses qui pourrait tromper les spectateurs, et Twitter a pris une décision similaire. Cesmesures font partie d'une réponse plus large de l'industrie à la menace croissante de la désinformation générée par IA, qui compressait également le développement d'outils de détection ppar des entreprises comme Microsoft et des institutions académiques.
Répercussions politiques et juridiques
La vidéo de Pelosi est devenu un sujet de dispute dans les débats sur la sécurité électorale et l'intégrité des processus démocratiques. Révisions législatives, y compris alors la sénateur Kamala Harris et la président Nancy Pelosi elle-même, ont appels les médias sociaux à agir plus fermement contre les médias manipulés. L'incident a égaliellement suscité des propositions législatives comme la loi sur le Deepfakes Accountability Act, introduite à la Chambre des représentants des États-Unis en juin 2019, qui exigerait que les créateurs de deepfakes étiquettent leur contenu.
Au niveau international, l'incident a contribué à une conversation plus large sur la réglementation des média synthétiques. En Chine, où les deepfakes sont appelés « huanlian » (signifiant « changer les visages »), le gouvernement a introduit des régles et des règlements en 2019 exigeant que le contenu généré soit clairement étiqueté et que les créateurs obtiennent le consentement des personnes représentées. L'Union européenne a aussi commencé à explorer des mesures pour lutter contre la désinformation, notamment le Code de bonnes pratiques sur la désinformation.
Sensibilisation du public et couverture médiatique
Le scandale a considérablement sensibilisé le public aux deepfakes et aux media synthétiques. Les grands médias, y compris Le New York Times, Le Washington Post et CNN, ont publié des couvertures approfondies expliquant la technologie et ses implications. L'incident a également nourri les recherches académiques sur les dimensions sociales et éthiques des deepfakes, les chercheurs examinant comment se propagent ces contenus et comment en minimiser les effets.
Une étude publiée en 2020 a constaté que la réaction négative et émotionnelle était le principal moteur du partage deepfake sur les réseaux sociaux, une conclusion trouvée en accord avec la viralité de la vidéo de Pelosi. L'incident égalesement souligné la nécessité d'éduquer aux médias, car de nombreux visionneurs ont initialement cru à l'authenticité de la vidéo. En réponse, des organisations comme le Stanford AI Lab et le MIT Computer Science and Artificial Intelligence Laboratory ont développé des ressources éducatives et des outils de détection.
Héritage
Le scandale des deepfakes de 2019 est souvent désigné comme un tournant dans la conscience publique des médiasynthétiques. Il a démontré que moins les manipulations simples pouvaient endommager la confiance dans les images vidéo, et il a également souligné l'urgence de développer solides stratégies de détection et de mitigation. L’incident a également influencé les recherches ultérieures sur la détection des deepfakes, y compris l'utilisation de réseau résiduel et d'architectures U-Net, et a contribué au développement des normes industrielles sur l'authenticité du contenu, comme le Coalition for Content Provenance and Authentication à l'initiative (C2PA).
Les années qui ont suivi, la technologie des deepfakes a continué à évoluer, devenant plus convaincante et systématique. Le scandale de 2019 reste un point de référence pour les discussions sur l'impact social des médiagénérés par IA, et il est fréquemment cité dans la littérature scientifique et les débats politiques. L’incident a également une certaine indication des précurseurs des controverses futures, telles que l’utilisation des deepfakes dans les campagnes électorales et la prolifération de contenu généré par IA sur le réseau sociaux.