Un deepfake es una pieza de medios sintéticos, generalmente video o audio, que ha sido generada o manipulada mediante técnicas de aprendizaje profundo para representar de manera convincente a una persona real diciendo o haciendo algo que en realidad no dijo o hizo. El término es un acrónimo de aprendizaje profundo y falso, y se originó a finales de 2017 en un foro de Reddit donde un usuario llamado deepfakes publicó videos con intercambio de rostros, inicialmente de celebridades, utilizando herramientas tempranas de intercambio facial basadas en redes generativas antagónicas.
La tecnología de deepfakes avanzó rápidamente a finales de la década de 2010 y principios de la de 2020, pasando de intercambios faciales toscos y fácilmente detectables a videos altamente convincentes y, cada vez más, a clonación de voz en tiempo real y síntesis de cuerpo completo, lo que generó preocupaciones que abarcan pornografía no consentida, desinformación política y fraude.
Técnicas
Los primeros deepfakes utilizaban principalmente intercambio facial basado en autoencoders, entrenando un codificador compartido y decodificadores separados en metraje de dos personas para que las expresiones de una pudieran mapearse en el rostro de la otra. Los métodos basados en GAN mejoraron el realismo al enfrentar un generador contra un discriminador entrenado para detectar falsificaciones. A mediados de la década de 2020, los modelos de difusión se habían convertido en la técnica dominante para la generación de video e imágenes sintéticas de alta calidad, y las herramientas dedicadas de intercambio facial y sincronización de labios, junto con sistemas generales de texto a video, hicieron que producir un video falso convincente fuera drásticamente más barato y rápido que en los primeros años de la tecnología.
Usos maliciosos y legítimos
Las aplicaciones maliciosas documentadas incluyen imágenes íntimas no consentidas, el caso de uso más temprano y aún el más comúnmente reportado, desinformación política como declaraciones fabricadas por figuras públicas difundidas alrededor de elecciones, y fraude financiero, incluido un caso ampliamente reportado en 2024 en el que un empleado de finanzas en una empresa multinacional fue engañado por una videollamada con ejecutivos deepfake para transferir millones de dólares. La tecnología de deepfakes también tiene aplicaciones legítimas reconocidas, como el doblaje de películas y efectos de rejuvenecimiento, herramientas de accesibilidad que generan una voz sintética para personas que han perdido la suya, y sátira protegida como libertad de expresión en algunas jurisdicciones.
Detección y contramedidas
Detectar deepfakes se ha convertido en un área de investigación activa, utilizando artefactos como parpadeo inconsistente, geometría facial antinatural o desajustes audiovisuales sutiles, aunque la precisión de detección ha tenido dificultades para mantenerse al ritmo de la calidad de generación, particularmente en los modelos más avanzados. Los estándares de marcado de agua y procedencia de contenido se han propuesto como defensas complementarias que no dependen de detectar artefactos de generación. Múltiples jurisdicciones se movieron para regular los deepfakes específicamente a mediados de la década de 2020, incluidas leyes estatales de EE. UU. dirigidas a deepfakes relacionados con elecciones e imágenes íntimas no consentidas, y disposiciones dentro del Acta de IA de la UE que requieren la divulgación de medios generados por IA, aunque la aplicación transfronteriza siguió siendo difícil dada la facilidad con la que dicho contenido puede producirse y distribuirse.
Impacto
Más allá de incidentes dañinos específicos, investigadores y periodistas han descrito un dividendo del mentiroso más amplio: a medida que el público se da cuenta de que es posible crear video y audio falsos convincentes, el metraje genuino puede ser descartado como fabricado, socavando la confianza en la evidencia auténtica en general. Esta dinámica se ha citado como un factor en el crecimiento de la teoría del internet muerto y el discurso relacionado sobre la fiabilidad de los medios en línea en la era de la IA generativa.