Un deepfake de Joe Biden (2020) fait référence à une vidéo manipulée qui a émergé pendant la campagne électorale présidentielle américaine de 2020, représentant le candidat de l'époque, Joe Biden, d'une manière destinée à tromper les électeurs. La vidéo, diffusée en ligne, montrait une version synthétique de Biden exhortant les électeurs des primaires démocrates à rester chez eux et à ne pas participer au scrutin. Cet incident est devenu un exemple précoce et marquant de la manière dont les technologies de Generative AI et d'Artificial intelligence pouvaient être utilisées pour interférer avec les processus démocratiques, suscitant d'importantes préoccupations quant à l'intégrité des informations électorales.
Le deepfake a été créé à l'aide de techniques de Machine learning, plus précisément de modèles de Deep learning capables de générer des mouvements faciaux et une parole réalistes. Contrairement au montage vidéo traditionnel, qui nécessite l'accès aux images originales et une manipulation manuelle, les deepfakes exploitent des architectures de Neural network pour synthétiser un contenu difficile à distinguer d'enregistrements authentiques pour un spectateur occasionnel. Le deepfake de Biden de 2020 était notable non seulement pour sa cible politique, mais aussi pour son timing, car il est apparu à une période de sensibilité accrue aux ingérences étrangères et aux campagnes de désinformation dans les élections américaines.
Origines et diffusion
L'origine exacte du deepfake reste floue, mais il a été identifié pour la première fois sur les plateformes de médias sociaux au début de l'année 2020. La vidéo semblait montrer Biden s'exprimant d'une manière incompatible avec son comportement public, avec un audio modifié et des expressions faciales subtilement artificielles à y regarder de près. Elle a été partagée sur plusieurs plateformes, notamment Twitter et Facebook, où elle a rapidement gagné du terrain auprès d'utilisateurs susceptibles d'être prédisposés à croire des contenus négatifs sur le candidat. Des organisations de vérification des faits et des médias, comme Reuters et The Associated Press, ont enquêté sur la vidéo et confirmé qu'il s'agissait d'une fabrication, notant des incohérences dans la synchronisation labiale et la qualité audio.
Caractéristiques techniques
Le deepfake utilisait un type de modèle de Generative AI connu sous le nom de réseau antagoniste génératif (GAN), qui se compose de deux composants de Neural network en compétition : un générateur qui crée des images ou vidéos synthétiques et un discriminateur qui tente de faire la distinction entre contenu réel et contenu faux. Grâce à un entraînement itératif, le générateur améliore sa capacité à produire des résultats convaincants. Dans le cas de Biden, les créateurs ont probablement utilisé un modèle pré-entraîné et l'ont affiné sur des images publiquement disponibles de Biden, y compris des discours et des débats. La vidéo résultante était en relativement basse résolution, ce qui aidait à masquer certains artefacts, mais l'analyse médico-légale a révélé des défauts subtils tels que des schémas de clignement irréguliers et des mouvements de tête artificiels, courants dans les premières technologies de deepfake.
Impact et réponses
La diffusion du deepfake a suscité des réponses immédiates de la part de diverses parties prenantes. La campagne de Biden a publiquement dénoncé la vidéo, exhortant les électeurs à l'ignorer et soulignant l'importance de vérifier les informations provenant de sources officielles. Les plateformes de médias sociaux, notamment Twitter et Facebook, ont retiré la vidéo après qu'elle a été signalée par des utilisateurs et des vérificateurs de faits, invoquant des politiques contre les médias manipulés. L'incident a également alimenté des discussions parmi les décideurs politiques sur la nécessité de réglementation et d'outils de détection. Des chercheurs d'institutions comme MIT CSAIL et Stanford AI Lab développaient des algorithmes de détection de deepfakes, et le cas de Biden a servi de test réel pour ces technologies. Cependant, la détection reste un défi permanent, car les modèles de Generative AI continuent de s'améliorer.
Contexte plus large
Le deepfake de Biden de 2020 s'inscrivait dans une tendance plus large de désinformation générée par l'IA pendant le cycle électoral. Des incidents similaires ont impliqué des vidéos manipulées d'autres personnalités politiques, notamment la présidente de la Chambre, Nancy Pelosi, dont les images ont été ralenties pour la faire paraître ivre. Ces événements ont mis en évidence la vulnérabilité des systèmes démocratiques aux médias synthétiques, conduisant à des investissements accrus dans la détection et dans des campagnes de sensibilisation du public. L'incident a également contribué au développement de normes industrielles, telles que la Content Authenticity Initiative, qui vise à fournir une provenance cryptographique pour les médias numériques. Bien que le deepfake n'ait pas semblé modifier de manière significative les résultats électoraux, il a souligné le potentiel de l'Artificial intelligence à saper la confiance dans l'information, une préoccupation qui n'a fait que croître avec l'avènement de modèles plus avancés comme les Large language models.
Héritage et leçons
Le deepfake de Joe Biden en 2020 est désormais étudié comme une étude de cas à l'intersection de la technologie, de la politique et de l'éthique. Il a démontré que la création de fausses vidéos convaincantes n'est plus le domaine exclusif d'acteurs étatiques sophistiqués, car des outils et des tutoriels sont devenus largement disponibles en ligne. L'incident a également accéléré la recherche sur des méthodes de détection robustes, y compris celles basées sur l'analyse par Deep learning et Neural network des incohérences temporelles. Pour le public, il a servi de rappel à évaluer de manière critique le contenu médiatique, en particulier lors d'événements à enjeux élevés comme les élections. Alors que la Generative AI continue d'évoluer, les leçons de cet incident restent pertinentes, éclairant les politiques et les technologies visant à préserver l'intégrité des écosystèmes d'information.