DeepNude était une application logicielle publiée en juin 2019 qui utilisait des techniques de apprentissage profond, plus précisément une architecture de réseau antagoniste génératif (GAN), pour retirer automatiquement les vêtements de photographies de femmes, créant ainsi des images de nu réalistes. L'application s'est fait connaître pour son potentiel de manipulation d'images non consensuelle, souvent appelée « deepfakes », et a été largement condamnée par les chercheurs, les militants et le public. Son créateur, un développeur utilisant le pseudonyme « Alberto », a retiré l'application en ligne en quelques jours après sa publication publique, mais le code et des outils similaires ont continué à circuler en ligne.
L'application était construite sur un réseau de neurones entraîné sur un vaste ensemble de données d'images de nus et de non-nus. Elle traitait les photos d'entrée via une architecture de type U-Net, un type de réseau de neurones convolutif couramment utilisé pour les tâches de segmentation et de génération d'images. Le système prédisait et synthétisait la structure corporelle sous-jacente et la texture de la peau, puis les superposait à l'image d'origine, produisant un résultat plausible mais souvent imparfait. DeepNude était initialement proposé en téléchargement gratuit, avec une version payante qui supprimait les filigranes et fournissait une sortie en plus haute résolution.
Développement et publication
DeepNude a été développé par une seule personne, identifiée plus tard comme un ingénieur russe de 27 ans vivant en Estonie. Le développeur a affirmé avoir passé plusieurs mois à entraîner le modèle en utilisant des ensembles de données publics et une seule carte graphique haut de gamme. L'application a d'abord été partagée sur un serveur Discord privé début juin 2019, puis publiée publiquement le 19 juin 2019 via un site Web qui facturait 50 $ pour la version complète. En quelques jours, elle a été téléchargée des dizaines de milliers de fois, et son existence a été couverte par les principaux médias technologiques.
La publication a coïncidé avec une prise de conscience croissante du public concernant la technologie deepfake, qui avait auparavant été utilisée pour créer des vidéos pornographiques non consensuelles de célébrités et de particuliers. DeepNude était remarquable en ce qu'il rendait une telle manipulation accessible à un public plus large, car il ne nécessitait aucune compétence technique au-delà du téléchargement d'une photo. Le développeur a d'abord défendu l'application comme un outil « amusant », mais a rapidement fait marche arrière après avoir reçu des critiques généralisées et des menaces juridiques.
Controverses éthiques et juridiques
L'application a été condamnée par MIT CSAIL chercheur Alexei Efros, qui l'a qualifiée de « cauchemar » pour la vie privée et le consentement. Carnegie Mellon University professeur Hany Farid l'a décrite comme « une arme contre les femmes ». La Electronic Frontier Foundation et d'autres groupes de défense des droits numériques ont publié des déclarations soulignant le potentiel de harcèlement, de chantage et d'atteinte à la réputation. Plusieurs pays, dont le Royaume-Uni et l'Australie, avaient des lois qui pouvaient s'appliquer à la création et à la distribution de telles images, bien que l'application de ces lois ait été compliquée par la courte durée de vie de l'application.
Le 27 juin 2019, le développeur a annoncé qu'il fermait le service et remboursait les clients, citant « la probabilité d'une utilisation abusive ». Il a également déclaré avoir reçu des menaces et que l'application était « allée trop loin ». Cependant, le code source a été divulgué peu de temps après, permettant à d'autres de recréer et de distribuer des outils similaires. En 2023, plusieurs projets open source et services commerciaux offrant des fonctionnalités similaires sont apparus, souvent sous des noms différents, et les techniques sous-jacentes ont été intégrées dans la recherche plus large sur l'IA générative.
Détails techniques
Le modèle central de DeepNude était un GAN composé d'un générateur et d'un discriminateur. Le générateur était entraîné à produire des images de nu réalistes à partir d'entrées habillées, tandis que le discriminateur était entraîné à distinguer les nus réels des nus générés. L'ensemble de données d'entraînement comprenait des images extraites de sites pour adultes et d'autres sources, ce qui a soulevé des problèmes supplémentaires de droits d'auteur et de consentement. Le modèle fonctionnait à une résolution de 256×256 pixels, ce qui limitait la qualité de la sortie mais le rendait assez rapide pour fonctionner sur du matériel grand public.
L'application utilisait un U-Net comme colonne vertébrale du générateur, ce qui est efficace pour préserver les détails spatiaux. Elle employait également une technique appelée augmentation de données pour améliorer la généralisation, incluant des rotations aléatoires, des retournements et des ajustements de couleur. La sortie finale était post-traitée pour fusionner les bords et réduire les artefacts. Le développeur a noté que le modèle fonctionnait mal sur les images avec des arrière-plans complexes, des poses inhabituelles ou des tons de peau non caucasiens, reflétant des biais dans les données d'entraînement.
Héritage et impact
L'incident de DeepNude est devenu une étude de cas charnière dans l'éthique de l'intelligence artificielle et de l'apprentissage automatique. Il a mis en évidence la nature à double usage des modèles génératifs, qui peuvent être utilisés à des fins créatives mais aussi pour nuire. En réponse, plusieurs entreprises technologiques et institutions de recherche, dont OpenAI et Google DeepMind, ont renforcé leurs politiques de modération de contenu et restreint la publication de certains modèles. Le Berkeley AI Research laboratoire et d'autres groupes académiques ont publié des articles sur la détection et l'atténuation des deepfakes.
L'application a également accéléré les efforts législatifs. En 2019, l'État américain de Virginie a adopté une loi criminalisant la création de pornographie deepfake non consensuelle, et des lois similaires ont été promulguées dans d'autres États et pays. La Carnegie Mellon University et le Stanford AI Lab ont depuis développé des outils de détection utilisés par les plateformes de médias sociaux. En 2024, le terme « deepnude » reste une requête de recherche courante, et le site Web d'origine est défunt, mais la technologie sous-jacente continue d'évoluer, souvent dans le contexte des grands modèles de langage et des systèmes multimodaux.