En 2017, un utilisateur de Reddit sous le pseudonyme « deepfakes » a publié un outil de permutation de visages permettant aux utilisateurs de superposer le visage d'une personne sur celui d'une autre dans des vidéos à l'aide de techniques de apprentissage automatique. L'outil, qui reposait sur des méthodes de apprentissage profond telles que les réseaux de neurones artificiels, a marqué un tournant dans la disponibilité publique des médias synthétiques. Il a permis la création de vidéos réalistes mais fabriquées, représentant souvent des célébrités dans des scénarios compromettants ou fictifs, et a donné naissance au terme « deepfakes » comme un mot-valise de « deep learning » et « fake ».
L'apparition de l'outil a immédiatement attiré l'attention des chercheurs, des journalistes et des décideurs politiques. Il a démontré comment l'intelligence artificielle générative pouvait être utilisée par des non-experts pour manipuler du contenu visuel, soulevant des questions sur la fiabilité des preuves vidéo et le potentiel de mésusage dans des domaines tels que la désinformation, le harcèlement et la fraude. L'événement est largement considéré comme un catalyseur du phénomène moderne des deepfakes, qui a depuis évolué vers un champ plus large de médias synthétiques avec des applications à la fois créatives et malveillantes.
Fondements techniques
L'outil de 2017 était construit sur des architectures de apprentissage profond, en particulier des autoencodeurs variationnels et des réseaux antagonistes génératifs (GAN). Ces techniques permettaient au système d'apprendre les traits faciaux d'une personne cible à partir d'un ensemble de données d'images, puis de mapper ces traits sur le visage d'une autre personne dans une vidéo. L'utilisation des GAN, développés au milieu des années 2010, a été une avancée clé car elle permettait de générer des images très réalistes en opposant deux réseaux concurrents - un générateur qui crée du contenu et un discriminateur qui évalue son authenticité.
Avant cela, la réanimation et la manipulation faciales nécessitaient un effort manuel important ou un équipement spécialisé. Des projets académiques tels que « Video Rewrite » en 1997 et « Face2Face » en 2016 avaient démontré la faisabilité de la manipulation automatisée des visages, mais ils n'étaient pas largement accessibles au public. L'outil Reddit de 2017 a simplifié ces méthodes en une application conviviale, abaissant la barrière technique et permettant à quiconque disposant d'un ordinateur et de données d'entraînement suffisantes de créer des vidéos truquées convaincantes.
Réponse publique et académique
La sortie de l'outil a suscité une vague de recherches académiques sur la création et la détection des deepfakes. Les chercheurs en vision par ordinateur ont commencé à développer des méthodes pour identifier les médias manipulés, souvent en utilisant des classificateurs de apprentissage automatique entraînés sur de grands ensembles de données de vidéos réelles et truquées. Parallèlement, les spécialistes des sciences sociales et des sciences humaines ont examiné les implications culturelles, éthiques et politiques de la technologie. Des études ont exploré comment les deepfakes pouvaient être utilisés pour propager la désinformation, interférer avec les élections ou créer des images intimes non consensuelles, et ont investigué les facteurs qui motivent l'engagement avec ce type de contenu sur les plateformes de médias sociaux.
Les chercheurs ont également noté que le terme « deepfake » portait une connotation négative en anglais, se concentrant sur la tromperie et le préjudice. En revanche, le terme chinois « huanlian » (changer de visage) encadrait la technologie de manière plus neutre, conduisant à des réponses réglementaires et sociales différentes. Cette divergence culturelle a mis en évidence comment la perception des médias synthétiques est façonnée par la langue et le contexte.
Développements industriels et réglementaires
Dans les années qui ont suivi 2017, l'industrie des technologies de l'information et les gouvernements ont proposé diverses mesures pour détecter et atténuer l'utilisation nuisible des deepfakes. OpenAI et d'autres organisations de recherche en intelligence artificielle ont développé des outils pour générer et détecter les médias synthétiques, tandis que des plateformes telles que Google Cloud et Amazon Web Services ont offert des services pouvant être utilisés à la fois pour la création et l'analyse. Certaines juridictions ont introduit des lois ciblant spécifiquement les crimes liés aux deepfakes, tels que la pornographie non consensuelle et l'ingérence électorale, bien que l'application de ces lois reste difficile.
La technologie a également trouvé des applications légitimes dans le divertissement, l'éducation et l'accessibilité. Les cinéastes ont utilisé les deepfakes pour rajeunir des acteurs ou recréer des figures historiques, et les éducateurs les ont employés pour produire des simulations réalistes à des fins de formation. Cependant, le potentiel d'abus a continué à alimenter les appels en faveur de protections plus solides, notamment le filigrane, les normes d'authentification et les campagnes de sensibilisation du public.
Héritage et défis persistants
L'apparition de l'outil deepfakes en 2017 est souvent citée comme le moment où les médias synthétiques sont entrés dans la conscience publique. Il a démontré que les techniques de apprentissage automatique pouvaient être exploitées par des individus ayant une expertise limitée, et il a préparé le terrain pour la prolifération rapide du contenu généré par l'IA dans les années suivantes. Au milieu des années 2020, la technologie des deepfakes est devenue de plus en plus sophistiquée et accessible, avec des modèles génératifs capables de produire de l'audio, de la vidéo et des images réalistes en temps réel.
Malgré les avancées en matière de détection, la course aux armements entre créateurs et détecteurs se poursuit. Les chercheurs ont montré que les deepfakes pouvaient même être utilisés pour manipuler des images médicales, comme injecter ou retirer un cancer du poumon dans des scanners CT, trompant à la fois les radiologues et les outils de diagnostic basés sur l'IA. Cela souligne les implications plus larges de la technologie au-delà du divertissement et de la politique, affectant des domaines où les preuves visuelles sont critiques. L'héritage de l'outil de 2017 est donc double : il a démocratisé une capacité créative puissante, mais il a aussi exposé les vulnérabilités d'une société de plus en plus dépendante des médias visuels pour l'information et la confiance.