En juin 2023, une vidéo manipulée mettant en scène le gouverneur de Floride Ron DeSantis a circulé en ligne comme une fausse publicité de soutien. Ce deepfake, qui utilisait l'intelligence artificielle pour superposer l'image et la voix du gouverneur, a été présenté comme un spot promotionnel pour sa campagne présidentielle. L'authenticité de la vidéo a rapidement été contestée par des vérificateurs de faits et des organisations de presse, qui l'ont identifiée comme une création synthétique plutôt que comme un matériel de campagne authentique. L'incident a attiré l'attention sur le rôle croissant de l'IA générative dans la communication politique et les défis qu'elle pose pour vérifier le contenu électoral.
Le deepfake est apparu pendant une période d'activité politique intense, alors que DeSantis a officiellement annoncé sa candidature à l'investiture républicaine pour la présidentielle de 2024 le 24 mai 2023, lors d'un événement Twitter Spaces avec Elon Musk. La fausse publicité, qui est apparue sur des plateformes de médias sociaux, notamment Twitter (désormais X) et YouTube, dépeignait DeSantis d'une manière incompatible avec ses déclarations publiques connues et son message de campagne. Elle n'a pas été produite par la campagne officielle de DeSantis, qui a désavoué la vidéo dans des déclarations aux médias. L'origine de la vidéo est restée floue, bien que des analystes aient suggéré qu'elle ait pu être créée par un individu ou un groupe cherchant à parodier ou discréditer le gouverneur.
Caractéristiques techniques
Le deepfake employait des techniques courantes dans l'IA générative contemporaine, notamment des modèles d'apprentissage profond entraînés sur de grands ensembles de données d'images faciales et d'enregistrements audio. De tels systèmes, souvent construits sur des architectures de réseaux neuronaux comme les autoencodeurs ou les réseaux antagonistes génératifs, peuvent synthétiser des vidéos réalistes en mappant les expressions faciales et les schémas de parole d'une personne cible sur un acteur source. Dans ce cas, la vidéo montrait DeSantis prononçant des mots qu'il n'avait pas publiquement énoncés, avec des mouvements des lèvres et une intonation vocale imitant ses manières. Des outils de détection, tels que ceux développés par des chercheurs d'institutions comme le MIT CSAIL et le Stanford AI Lab, ont signalé des incohérences dans le clignement des yeux, l'éclairage et la fréquence audio indiquant une manipulation.
Réponse des plateformes
Les plateformes de médias sociaux ont fait face à un examen minutieux concernant leur gestion du deepfake. Twitter, sous la direction d'Elon Musk, avait réduit son personnel de modération de contenu en 2022, suscitant des inquiétudes quant à la propagation de la désinformation. YouTube, propriété de Google, maintenait des politiques contre le contenu manipulé pouvant induire les spectateurs en erreur, mais leur application variait. Aucune des deux plateformes n'a retiré la vidéo immédiatement, et elle a continué à circuler pendant plusieurs jours avant d'être signalée par des vérificateurs de faits tiers. L'incident a suscité des appels à des systèmes de détection et d'étiquetage plus robustes, certains experts plaidant pour des filigranes obligatoires sur le contenu généré par l'IA.
Implications politiques et juridiques
La fausse publicité a soulevé des questions juridiques en vertu de la loi électorale américaine, qui interdit la fausse représentation frauduleuse dans les campagnes fédérales. La Commission électorale fédérale n'avait pas encore émis de règles spécifiques sur les deepfakes, bien que certains États, dont la Californie et le Texas, aient adopté des lois criminalisant le contenu politique trompeur généré par l'IA. La Floride elle-même ne disposait pas d'une telle loi à l'époque, laissant une lacune réglementaire. La campagne de DeSantis n'a pas engagé de poursuites judiciaires, mais l'épisode a contribué à des débats plus larges sur l'intégrité du cycle électoral de 2024.
Contexte plus large
Cet incident faisait partie d'une vague de contenu politique généré par l'IA en 2023. Plus tôt cette année-là, le Comité national républicain a publié une publicité entièrement générée par l'IA dépeignant un avenir dystopique sous le président Joe Biden, clairement étiquetée comme synthétique. En revanche, le deepfake de DeSantis n'était pas étiqueté, ce qui le rendait plus trompeur. Des chercheurs de Berkeley AI Research et l'Université d'Oxford ont publié des études à la mi-2023 montrant que la détection des deepfakes restait peu fiable, avec des taux d'erreur supérieurs à 10 % même pour les systèmes avancés. L'épisode a souligné la nécessité d'une culture médiatique et de garanties techniques alors que les outils d'IA générative devenaient plus accessibles.
Conséquences
Après l'incident, plusieurs groupes de défense, dont l'organisation à but non lucratif Open Panel, ont appelé à une législation fédérale pour réglementer l'IA dans les publicités politiques. En août 2023, la Commission électorale fédérale a annoncé qu'elle examinerait une pétition pour clarifier son autorité sur les deepfakes, bien qu'aucun changement de règle n'ait eu lieu avant la fin de l'année. La campagne de DeSantis elle-même n'a pas publiquement abordé la vidéo au-delà d'un bref démenti, se concentrant plutôt sur des événements de campagne traditionnels. Le deepfake est resté une étude de cas dans les discussions académiques et politiques, cité dans des rapports de l'Université Carnegie Mellon et le Stanford AI Lab comme un exemple de menaces émergentes pour les processus démocratiques.