DeepNude foi um aplicativo de software lançado em junho de 2019 que usava técnicas de aprendizado profundo, especificamente uma arquitetura de rede adversarial generativa (GAN), para remover automaticamente roupas de fotografias de mulheres, criando imagens de nudez realistas. O aplicativo ganhou notoriedade por seu potencial de manipulação não consensual de imagens, frequentemente chamada de "deepfakes", e foi amplamente condenado por pesquisadores, ativistas e pelo público. Seu criador, um desenvolvedor que usava o pseudônimo "Alberto", tirou o aplicativo do ar poucos dias após seu lançamento público, mas o código e ferramentas semelhantes continuaram a circular online.
O aplicativo foi construído sobre uma rede neural treinada em um grande conjunto de dados de imagens de nudez e não nudez. Ele processava fotos de entrada por meio de uma arquitetura estilo U-Net, um tipo de rede neural convolucional comumente usada para tarefas de segmentação e geração de imagens. O sistema previa e sintetizava a estrutura corporal subjacente e a textura da pele, sobrepondo-as à imagem original, produzindo um resultado plausível, mas frequentemente imperfeito. O DeepNude foi inicialmente oferecido como download gratuito, com uma versão paga que removia marcas d'água e fornecia saída de maior resolução.
Desenvolvimento e Lançamento
O DeepNude foi desenvolvido por um único indivíduo, posteriormente identificado como um engenheiro russo de 27 anos que vivia na Estônia. O desenvolvedor afirmou ter passado vários meses treinando o modelo usando conjuntos de dados publicamente disponíveis e uma única placa de vídeo de alta qualidade. O aplicativo foi compartilhado pela primeira vez em um servidor privado do Discord no início de junho de 2019, e depois lançado publicamente em 19 de junho de 2019, por meio de um site que cobrava US$ 50 pela versão completa. Em poucos dias, foi baixado dezenas de milhares de vezes, e sua existência foi coberta pelos principais veículos de notícias de tecnologia.
O lançamento coincidiu com a crescente conscientização pública sobre a tecnologia deepfake, que havia sido usada anteriormente para criar vídeos pornográficos não consensuais de celebridades e indivíduos privados. O DeepNude foi notável por tornar tal manipulação acessível a um público mais amplo, pois não exigia habilidade técnica além de enviar uma foto. O desenvolvedor inicialmente defendeu o aplicativo como uma ferramenta "divertida", mas rapidamente mudou de posição após receber críticas generalizadas e ameaças legais.
Controvérsia Ética e Legal
O aplicativo foi condenado pelo pesquisador do MIT CSAIL, Alexei Efros, que o chamou de um "pesadelo" para a privacidade e o consentimento. O professor da Universidade Carnegie Mellon, Hany Farid, descreveu-o como "uma arma contra as mulheres". A Electronic Frontier Foundation e outros grupos de direitos digitais emitiram declarações destacando o potencial de assédio, chantagem e danos à reputação. Vários países, incluindo o Reino Unido e a Austrália, tinham leis que poderiam ser aplicadas à criação e distribuição de tais imagens, embora a aplicação fosse complicada pela curta vida útil do aplicativo.
Em 27 de junho de 2019, o desenvolvedor anunciou que estava encerrando o serviço e reembolsando os clientes, citando "a probabilidade de uso indevido". Ele também afirmou que havia recebido ameaças e que o aplicativo havia "ido longe demais". No entanto, o código-fonte foi vazado logo depois, permitindo que outros recriassem e distribuíssem ferramentas semelhantes. Em 2023, vários projetos de código aberto e serviços comerciais que oferecem funcionalidade semelhante apareceram, muitas vezes sob nomes diferentes, e as técnicas subjacentes foram incorporadas à pesquisa mais ampla de IA generativa.
Detalhes Técnicos
O modelo central do DeepNude era uma GAN composta por um gerador e um discriminador. O gerador foi treinado para produzir imagens de nudez realistas a partir de entradas vestidas, enquanto o discriminador foi treinado para distinguir entre nudes reais e gerados. O conjunto de dados de treinamento incluía imagens extraídas de sites adultos e outras fontes, o que levantou questões adicionais de direitos autorais e consentimento. O modelo operava em uma resolução de 256×256 pixels, o que limitava a qualidade da saída, mas o tornava rápido o suficiente para rodar em hardware de consumo.
O aplicativo usava uma U-Net como espinha dorsal do gerador, que é eficaz na preservação de detalhes espaciais. Também empregava uma técnica chamada aumento de dados para melhorar a generalização, incluindo rotações aleatórias, inversões e ajustes de cor. A saída final era pós-processada para mesclar bordas e reduzir artefatos. O desenvolvedor observou que o modelo tinha desempenho ruim em imagens com fundos complexos, poses incomuns ou tons de pele não caucasianos, refletindo vieses nos dados de treinamento.
Legado e Impacto
O incidente do DeepNude tornou-se um estudo de caso fundamental na ética da inteligência artificial e do aprendizado de máquina. Ele destacou a natureza de duplo uso dos modelos generativos, que podem ser usados para fins criativos, mas também para causar danos. Em resposta, várias empresas de tecnologia e instituições de pesquisa, incluindo OpenAI e Google DeepMind, fortaleceram suas políticas de moderação de conteúdo e restringiram o lançamento de certos modelos. O laboratório Berkeley AI Research e outros grupos acadêmicos publicaram artigos sobre detecção e mitigação de deepfakes.
O aplicativo também acelerou os esforços legislativos. Em 2019, o estado americano da Virgínia aprovou uma lei criminalizando a criação de pornografia deepfake não consensual, e leis semelhantes foram promulgadas em outros estados e países. A Universidade Carnegie Mellon e o Stanford AI Lab desde então desenvolveram ferramentas de detecção que são usadas por plataformas de mídia social. Em 2024, o termo "deepnude" continua sendo uma consulta de busca comum, e o site original está extinto, mas a tecnologia subjacente continua a evoluir, muitas vezes no contexto de grandes modelos de linguagem e sistemas multimodais.