Le deepfake de Pelosi (2019) fait référence à une vidéo manipulée de Nancy Pelosi, alors présidente de la Chambre des représentants des États-Unis, qui a largement circulé sur les réseaux sociaux en mai 2019. La vidéo n'était pas un deepfake au sens technique du terme, qui implique l'utilisation de l'intelligence artificielle ou de l'apprentissage automatique pour générer un contenu synthétique, mais plutôt un « cheapfake » - une technique de montage simple qui ralentissait les images à environ 75 % de leur vitesse originale, modifiant la hauteur de sa voix et la faisant paraître ivre ou confuse. Cet incident est devenu un cas emblématique dans la compréhension publique des médias manipulés, soulignant comment des altérations de faible technicité peuvent être aussi trompeuses que des contenus sophistiqués générés par IA.
Les images originales provenaient d'un discours prononcé par Pelosi au Center for American Progress le 23 mai 2019. La version altérée, apparue d'abord sur Facebook, a été visionnée des millions de fois sur des plateformes telles que Facebook, Twitter et YouTube. Elle a été partagée par des personnalités éminentes, y compris le président de l'époque, Donald Trump, qui a tweeté la vidéo sans contexte. Sa diffusion a suscité une couverture médiatique massive et un débat public sur la nature de la désinformation, la responsabilité des plateformes de réseaux sociaux et le potentiel des médias manipulés à saper les processus démocratiques.
Nature technique et distinction par rapport aux deepfakes
Contrairement aux véritables deepfakes, qui utilisent des modèles de apprentissage profond et de réseaux neuronaux pour générer ou remplacer des visages, la vidéo de Pelosi a été créée par un montage vidéo de base. Le ralentissement a été obtenu en ajustant la vitesse de lecture et la hauteur tonale, une technique qui ne nécessite ni logiciel spécialisé ni expertise technique. Cette distinction est cruciale car elle démontre que la désinformation ne requiert pas toujours une technologie avancée ; des outils simples peuvent être tout aussi efficaces pour tromper le public. Le terme « cheapfake » a été inventé pour décrire de telles manipulations à faible coût, en contraste avec les exigences élevées en ressources des deepfakes basés sur l'IA.
L'efficacité de la vidéo résidait dans sa plausibilité. Le discours de Pelosi était déjà prononcé sur un ton délibéré et mesuré, et le ralentissement accentuait cela au point de paraître anormal. Les spectateurs peu familiers avec son style oratoire étaient plus susceptibles d'accepter la version altérée comme authentique. Ce cas a souligné l'importance de la littératie médiatique et la nécessité pour les plateformes de développer des politiques pour détecter et étiqueter les contenus manipulés, quelle que soit leur sophistication technique.
Réponses des plateformes et débats politiques
Facebook a d'abord refusé de retirer la vidéo, invoquant sa politique contre la censure, mais a ensuite ajouté une étiquette d'avertissement la décrivant comme « partiellement fausse » après que des vérificateurs de faits l'ont signalée. Twitter a également refusé de la supprimer, son PDG Jack Dorsey déclarant que l'entreprise ne supprimerait pas de contenu à moins qu'il ne viole des règles spécifiques. YouTube a permis à la vidéo de rester en ligne mais l'a démonétisée et a ajouté un lien de vérification des faits. Ces réponses étaient incohérentes et ont suscité des critiques de la part de chercheurs et de législateurs qui soutenaient que les plateformes avaient besoin de directives plus claires pour traiter les médias manipulés.
L'incident a accéléré les discussions sur les politiques de modération de contenu. Dans les mois suivants, les grandes plateformes ont commencé à développer des cadres plus robustes pour traiter les contenus synthétiques et manipulés. Début 2020, Facebook a annoncé une politique visant à retirer les deepfakes susceptibles d'induire en erreur, tout en continuant à autoriser la « parodie » et la « satire ». Twitter a introduit une politique similaire en mars 2020, étiquetant les médias manipulés pouvant causer du tort. La vidéo de Pelosi est devenue un point de référence dans ces débats politiques, illustrant les défis de l'équilibre entre la liberté d'expression et la prévention de la désinformation.
Implications juridiques et politiques
La vidéo a soulevé des questions sur les lois existantes et leur applicabilité aux médias manipulés. Aux États-Unis, aucun statut fédéral ne traitait spécifiquement des deepfakes ou des cheapfakes à l'époque. Certains États, comme la Californie, ont ensuite adopté des lois ciblant les deepfakes dans des contextes politiques, mais celles-ci n'étaient pas en vigueur en 2019. Pelosi elle-même n'a pas engagé de poursuites judiciaires, mais son bureau a condamné la vidéo comme « des ordures sexistes » et a appelé les plateformes à assumer leurs responsabilités.
L'incident a également mis en lumière la nature genrée de la désinformation. Pelosi, en tant que femme politique de haut profil, a été soumise à une forme d'attaque qui jouait sur les stéréotypes d'incompétence et d'ivresse féminines. Les chercheurs ont noté que les femmes en politique sont disproportionnellement ciblées par de telles tactiques, qui visent à saper leur crédibilité et leur aptitude à exercer des fonctions. Cet aspect du cas a attiré l'attention des universitaires étudiant l'intersection du genre, des médias et de la politique.
Héritage et influence sur la recherche sur la désinformation
La vidéo de Pelosi est devenue une étude de cas dans la recherche sur la désinformation, citée dans des articles académiques et des rapports politiques. Elle a démontré que la menace des médias manipulés ne se limite pas aux contenus générés par IA, et que des montages simples peuvent avoir des conséquences réelles significatives. Le terme « cheapfake » est entré dans le lexique des chercheurs en médias, complétant le « deepfake » plus largement connu. Des chercheurs d'institutions comme le Stanford AI Lab et le BAIR (Berkeley AI Research) ont intégré ce cas dans leurs analyses des écosystèmes informationnels.
L'incident a également influencé le développement d'outils de détection et de méthodologies de vérification des faits. Des organisations telles que Xerox PARC et MIT CSAIL ont exploré des méthodes automatisées pour identifier les vidéos manipulées, bien que ces efforts aient rencontré des défis en raison de la nature subtile de l'altération. Le cas a souligné la nécessité d'une supervision humaine en plus des solutions techniques, car les systèmes automatisés peinent souvent à distinguer les modifications bénignes des manipulations malveillantes.
Contexte plus large et pertinence continue
Dans les années suivant l'incident, le paysage des médias manipulés a considérablement évolué. Les progrès des technologies de IA générative et de grands modèles de langage ont facilité la création de contenus synthétiques réalistes, soulevant de nouvelles préoccupations concernant l'authenticité et la confiance. Cependant, la vidéo de Pelosi reste un rappel que toute désinformation ne nécessite pas une technologie de pointe. En 2024, la vidéo continue de refaire surface périodiquement sur les réseaux sociaux, souvent sans contexte, démontrant la persistance de tels contenus.
Le cas a également contribué à la sensibilisation du public à la manipulation des médias. Des sondages menés après l'incident ont montré une reconnaissance accrue parmi les Américains du potentiel des vidéos altérées à tromper. Cette prise de conscience s'est accompagnée d'appels croissants à l'éducation à la littératie médiatique et à la responsabilisation des plateformes. La vidéo de Pelosi, bien que techniquement simple, a eu un impact durable sur la manière dont la société comprend et répond au défi de la désinformation numérique.