Un deepfake est un contenu multimédia synthétique, le plus souvent vidéo ou audio, généré ou manipulé à l'aide de techniques d'apprentissage profond pour représenter de manière convaincante une personne réelle disant ou faisant quelque chose qu'elle n'a pas réellement dit ou fait. Le terme est un mot-valise combinant apprentissage profond et faux, et est apparu fin 2017 sur un forum Reddit où un utilisateur nommé deepfakes a publié des vidéos avec des visages échangés, initialement de célébrités, utilisant des outils précoces d'échange de visages basés sur des réseaux antagonistes génératifs.
La technologie des deepfakes a progressé rapidement à la fin des années 2010 et au début des années 2020, passant d'échanges de visages grossiers et facilement détectables à des vidéos très convaincantes et, de plus en plus, à la clonage vocal en temps réel et à la synthèse du corps entier, soulevant des préoccupations allant de la pornographie non consensuelle à la désinformation politique et à la fraude.
Techniques
Les premiers deepfakes utilisaient principalement l'échange de visages basé sur des autoencodeurs, entraînant un encodeur partagé et des décodeurs séparés sur des séquences de deux personnes afin que les expressions de l'une puissent être mappées sur le visage de l'autre. Les méthodes basées sur les GAN ont amélioré le réalisme en opposant un générateur à un discriminateur entraîné à détecter les faux. Au milieu des années 2020, les modèles de diffusion étaient devenus la technique dominante pour la génération de vidéos et d'images synthétiques de haute qualité, et des outils dédiés d'échange de visages et de synchronisation labiale, ainsi que des systèmes généralistes de texte-vers-vidéo, ont rendu la production d'une vidéo truquée convaincante nettement moins chère et plus rapide qu'aux débuts de la technologie.
Utilisations malveillantes et légitimes
Les applications malveillantes documentées incluent l'imagerie intime non consensuelle, le cas d'usage le plus ancien et encore le plus courant signalé, la désinformation politique telle que des déclarations fabriquées de personnalités publiques diffusées autour des élections, et la fraude financière, y compris un cas largement rapporté en 2024 où un employé financier d'une entreprise multinationale a été trompé par un appel vidéo mettant en scène des dirigeants deepfakés pour transférer des millions de dollars. La technologie des deepfakes a également des applications légitimes reconnues, notamment le doublage de films et les effets de rajeunissement, des outils d'accessibilité qui génèrent une voix synthétique pour les personnes ayant perdu la leur, et la satire protégée comme liberté d'expression dans certaines juridictions.
Détection et contre-mesures
La détection des deepfakes est devenue un domaine de recherche actif, utilisant des artefacts tels que des clignements incohérents, une géométrie faciale non naturelle ou des décalages audio-visuels subtils, bien que la précision de détection ait du mal à suivre la qualité de génération, en particulier pour les modèles les plus avancés. Des normes de tatouage numérique et de provenance du contenu ont été proposées comme défenses complémentaires ne reposant pas sur l'identification d'artefacts de génération. Plusieurs juridictions ont pris des mesures pour réglementer spécifiquement les deepfakes au milieu des années 2020, notamment des lois au niveau des États américains ciblant les deepfakes liés aux élections et l'imagerie intime non consensuelle, ainsi que des dispositions dans l'AI Act de l'UE exigeant la divulgation des médias générés par IA, bien que l'application transfrontalière soit restée difficile étant donné la facilité avec laquelle ce contenu peut être produit et distribué.
Impact
Au-delà des incidents nuisibles spécifiques, des chercheurs et des journalistes ont décrit un dividende du menteur plus large : à mesure que le public prend conscience que des vidéos et audios truqués convaincants sont possibles, des séquences authentiques peuvent être rejetées comme fabriquées, sapant la confiance dans les preuves authentiques en général. Cette dynamique a été citée comme un facteur dans la croissance de la théorie de l'internet mort et du discours connexe sur la fiabilité des médias en ligne à l'ère de l'IA générative.