En junio de 2019, un video manipulado que mostraba a Mark Zuckerberg, director ejecutivo de Meta Platforms (entonces Facebook), circuló ampliamente en las redes sociales, convirtiéndose en uno de los primeros ejemplos más destacados de la tecnología deepfake al entrar en el discurso público general. El clip, de aproximadamente un minuto de duración, mostraba a Zuckerberg pronunciando un monólogo de manera poco natural sobre el poder de Facebook sobre sus usuarios. El video no fue producido por Zuckerberg ni por su empresa, sino que fue creado por artistas y un estudio de efectos digitales como una demostración de los peligros de los medios sintéticos.
El video fue elaborado por el artista digital británico Bill Posters, en colaboración con la agencia de publicidad... La fuente de la manipulación visual fue un sistema personalizado de aprendizaje profundo, una forma de inteligencia artificial que puede sintetizar imágenes y voces realistas. La obra fue encargada para una exposición en el Sheffield Doc/Fest en el Reino Unido, donde se presentó por primera vez antes de ser publicada en línea.
Creación y Base Técnica
Los creadores utilizaron una técnica de aprendizaje automático conocida como red neuronal para mapear los movimientos faciales de Zuckerberg a partir de un video real,... El video resultante manipulaba tanto la pista visual como la de audio, con una voz en off que no coincidía con los patrones naturales del habla de Zuckerberg. La tecnología subyacente se basaba en avances en aprendizaje profundo y IA generativa, que se habían desarrollado en entornos de investigación académicos e industriales durante la década anterior. El video no era un simple montaje, sino una reconstrucción sintética, que mostraba cómo los algoritmos deepfake podían aplicarse a figuras públicas sin su consentimiento.
La pieza formaba parte de una serie de Posters llamada "El futuro de la guerra", que también incluía un deepfake del expresidente de Estados Unidos Barack Obama y un discurso de la reina ficticia de las Spice Girls. Para el video de Zuckerberg, el equipo utilizó una técnica de intercambio de rostros que se basaba en un conjunto de datos públicos de las apariciones de Zuckerberg, capturando sus expresiones y movimientos de labios de entrevistas y discursos de noticias.
Respuesta Pública y Comercial
Tras su publicación, el video se volvió viral en plataformas como Instagram, que Zuckerberg... En respuesta, Facebook se negó a eliminar el video, citando su política contra la eliminación de contenido que no sea difamatorio o una violación de las normas comunitarias, incluso si es engañoso. La empresa añadió una etiqueta de verificación de datos que marcaba el video como "falso" y proporcionaba contexto de una organización de verificación de terceros. Esta decisión contrastaba con la eliminación anterior por parte de la plataforma de un video deepfake separado de Nancy Pelosi, que se ralentizó para que pareciera que hablaba de manera incoherente.
El episodio se convirtió en un punto de referencia en los debates sobre la gobernanza de las plataformas y la difusión de medios sintéticos. Destacó las limitaciones de la moderación de contenido en la era de la IA generativa, ya que las plataformas luchaban por equilibrar la libertad de expresión con el potencial de manipulación. Más tarde, en 2020, Facebook actualizó sus políticas para prohibir videos manipulados engañosos que probablemente causen daños graves, aunque el incidente de 2019 siguió siendo un caso de estudio en los desafíos de implementar tales reglas.
Implicaciones Más Amplias para los Medios Sintéticos
El video se cita a menudo en discusiones sobre los riesgos sociales de los deepfakes, incluido su posible uso en desinformación política, pornografía no consentida y fraude financiero. Investigadores y responsables políticos señalaron que, aunque el clip de Zuckerberg era una obra de sátira, la tecnología subyacente podría utilizarse con intenciones maliciosas. También subrayó la dificultad de la detección automatizada, ya que el video era lo suficientemente convincente como para engañar a muchos espectadores.
El incidente contribuyó a una ola de investigación académica sobre la detección de deepfakes, con instituciones como MIT CSAIL y Stanford AI Lab desarrollando algoritmos para identificar medios manipulados. También informó el trabajo de grupos de defensa y esfuerzos legislativos, incluidas propuestas en el Congreso de Estados Unidos para criminalizar los medios sintéticos engañosos. En los años siguientes, la rápida evolución de los modelos de lenguaje grande y otras herramientas generativas amplió el alcance del contenido sintético, convirtiendo el video de 2019 en un ejemplo anticuado pero instructivo de los deepfakes de primera generación.
Legado y Desarrollos Posteriores
En retrospectiva, el video es reconocido como un punto de referencia en la comprensión pública del contenido generado por IA. Demostró que la tecnología ya no se limitaba a los laboratorios de investigación, sino que podía ser utilizada por artistas y aficionados con acceso a herramientas de código abierto. Los creadores lanzaron más tarde un deepfake de seguimiento de Zuckerberg en 2020, y el video original permanece archivado en plataformas como YouTube con su etiqueta de verificación de datos.
El evento también aceleró el desarrollo de estándares de procedencia para contenido digital, como la Iniciativa de Autenticidad de Contenido, cofundada por Adobe y finalmente adoptada por las principales empresas tecnológicas. A mediados de la década de 2020, la proliferación de imágenes y videos generados por IA llevó a llamados generalizados para medidas de marcas de agua y transparencia, con el clip de Zuckerberg sirviendo a menudo como un punto de referencia temprano en esas discusiones.
Véase También
- IA generativa - seguridad de la IA (no en la lista) - detección de deepfakes (no en la lista)
Nota: Los enlaces proporcionados se limitan a la lista especificada; varios temas relacionados (por ejemplo, ai-safety, deepfake-detection) no están en los slugs disponibles, por lo que solo se incluyen los dos enlaces utilizados.
Referencias
- Feed, et al. (2019). Cómo se hizo un deepfake de Mark Zuckerberg. The Verge. 2. BBC News. (2019). Video deepfake de Mark Zuckerberg: qué es y por qué importa. 3. Facebook Newsroom. (2019). Política sobre medios manipulados.
Nota: Las referencias son ilustrativas y no se citan con URL externas según las instrucciones.