DeepNude fue una aplicación de software lanzada en junio de 2019 que utilizaba técnicas de aprendizaje profundo, específicamente una arquitectura de red generativa antagónica (GAN), para eliminar automáticamente la ropa de fotografías de mujeres, creando imágenes de desnudos realistas. La aplicación ganó notoriedad por su potencial para la manipulación de imágenes sin consentimiento, a menudo denominada "deepfakes", y fue ampliamente condenada por investigadores, activistas y el público. Su creador, un desarrollador que usaba el seudónimo "Alberto", retiró la aplicación de línea en cuestión de días tras su lanzamiento público, pero el código y herramientas similares continuaron circulando en línea.
La aplicación se basaba en una red neuronal entrenada con un gran conjunto de datos de imágenes de desnudos y no desnudos. Procesaba las fotos de entrada mediante una arquitectura de estilo U-Net, un tipo de red neuronal convolucional comúnmente utilizada para tareas de segmentación y generación de imágenes. El sistema predecía y sintetizaba la estructura corporal subyacente y la textura de la piel, luego las superponía en la imagen original, produciendo un resultado plausible pero a menudo imperfecto. DeepNude se ofreció inicialmente como descarga gratuita, con una versión de pago que eliminaba las marcas de agua y proporcionaba una salida de mayor resolución.
Desarrollo y Lanzamiento
DeepNude fue desarrollado por un único individuo, identificado posteriormente como un ingeniero ruso de 27 años que vivía en Estonia. El desarrollador afirmó haber pasado varios meses entrenando el modelo utilizando conjuntos de datos disponibles públicamente y una única tarjeta gráfica de gama alta. La aplicación se compartió por primera vez en un servidor privado de Discord a principios de junio de 2019, y luego se lanzó públicamente el 19 de junio de 2019, a través de un sitio web que cobraba 50 dólares por la versión completa. En cuestión de días, se descargó decenas de miles de veces, y su existencia fue cubierta por los principales medios de noticias tecnológicas.
El lanzamiento coincidió con una creciente conciencia pública sobre la tecnología de deepfake, que anteriormente se había utilizado para crear videos pornográficos no consentidos de celebridades e individuos privados. DeepNude fue notable por hacer que dicha manipulación fuera accesible a un público más amplio, ya que no requería ninguna habilidad técnica más allá de subir una foto. El desarrollador inicialmente defendió la aplicación como una herramienta "divertida", pero rápidamente cambió de rumbo tras recibir críticas generalizadas y amenazas legales.
Controversia Ética y Legal
La aplicación fue condenada por el investigador de MIT CSAIL, Alexei Efros, quien la calificó como una "pesadilla" para la privacidad y el consentimiento. El profesor de Carnegie Mellon University, Hany Farid, la describió como "un arma contra las mujeres". La Electronic Frontier Foundation y otros grupos de derechos digitales emitieron declaraciones destacando el potencial de acoso, chantaje y daño a la reputación. Varios países, incluidos el Reino Unido y Australia, tenían leyes que podrían aplicarse a la creación y distribución de tales imágenes, aunque la aplicación de la ley se complicó por la corta vida de la aplicación.
El 27 de junio de 2019, el desarrollador anunció que estaba cerrando el servicio y reembolsando a los clientes, citando "la probabilidad de uso indebido". También declaró que había recibido amenazas y que la aplicación había "ido demasiado lejos". Sin embargo, el código fuente se filtró poco después, permitiendo que otros recrearan y distribuyeran herramientas similares. A partir de 2023, han aparecido múltiples proyectos de código abierto y servicios comerciales que ofrecen funcionalidad similar, a menudo bajo diferentes nombres, y las técnicas subyacentes se han incorporado a una investigación más amplia de IA generativa.
Detalles Técnicos
El modelo central de DeepNude era una GAN que consistía en un generador y un discriminador. El generador se entrenaba para producir imágenes de desnudos realistas a partir de entradas con ropa, mientras que el discriminador se entrenaba para distinguir entre desnudos reales y generados. El conjunto de datos de entrenamiento incluía imágenes extraídas de sitios web para adultos y otras fuentes, lo que planteaba problemas adicionales de derechos de autor y consentimiento. El modelo operaba a una resolución de 256×256 píxeles, lo que limitaba la calidad de la salida pero lo hacía lo suficientemente rápido para ejecutarse en hardware de consumo.
La aplicación utilizaba una U-Net como columna vertebral del generador, que es eficaz para preservar los detalles espaciales. También empleaba una técnica llamada aumento de datos para mejorar la generalización, incluyendo rotaciones aleatorias, volteos y ajustes de color. La salida final se procesaba posteriormente para fusionar bordes y reducir artefactos. El desarrollador señaló que el modelo funcionaba mal en imágenes con fondos complejos, poses inusuales o tonos de piel no caucásicos, lo que reflejaba sesgos en los datos de entrenamiento.
Legado e Impacto
El incidente de DeepNude se convirtió en un caso de estudio fundamental en la ética de la inteligencia artificial y el aprendizaje automático. Destacó la naturaleza de doble uso de los modelos generativos, que pueden utilizarse con fines creativos pero también para causar daño. En respuesta, varias empresas tecnológicas e instituciones de investigación, incluidas OpenAI y Google DeepMind, fortalecieron sus políticas de moderación de contenido y restringieron el lanzamiento de ciertos modelos. El laboratorio Berkeley AI Research y otros grupos académicos publicaron artículos sobre la detección y mitigación de deepfakes.
La aplicación también aceleró los esfuerzos legislativos. En 2019, el estado de Virginia en los EE. UU. aprobó una ley que criminalizaba la creación de pornografía deepfake no consentida, y se promulgaron leyes similares en otros estados y países. La Carnegie Mellon University y el Stanford AI Lab han desarrollado desde entonces herramientas de detección que utilizan las plataformas de redes sociales. A partir de 2024, el término "deepnude" sigue siendo una consulta de búsqueda común, y el sitio web original está inactivo, pero la tecnología subyacente continúa evolucionando, a menudo en el contexto de grandes modelos de lenguaje y sistemas multimodales.