La Ley de Responsabilidad por Deepfakes es un proyecto de ley federal propuesto en los Estados Unidos que exigiría el etiquetado de contenido generado por IA, incluidos los deepfakes, para mitigar los riesgos de engaño y desinformación. Presentada por primera vez en 2019, la legislación tiene como objetivo establecer obligaciones de transparencia para los creadores y distribuidores de medios sintéticos, al tiempo que proporciona recursos legales para las personas perjudicadas por deepfakes sin etiquetar. El proyecto de ley refleja las crecientes preocupaciones sobre el mal uso de las tecnologías de IA generativa y ha sido un punto de referencia en debates políticos posteriores sobre la regulación de la IA.
Los deepfakes son medios realistas pero fabricados creados mediante técnicas de inteligencia artificial, particularmente arquitecturas de aprendizaje profundo y redes neuronales. El término combina 'aprendizaje profundo' y 'falso', y la tecnología ganó prominencia en 2017 cuando un usuario anónimo de Reddit publicó videos manipulados de celebridades. Para 2019, la proliferación de deepfakes había generado alarmas sobre su potencial para socavar elecciones, difamar a individuos y erosionar la confianza pública en los medios. La Ley de Responsabilidad por Deepfakes fue presentada en la Cámara de Representantes de los Estados Unidos el 12 de junio de 2019 por la Representante Yvette Clarke de Nueva York, una demócrata que había patrocinado previamente legislación de ciberseguridad.
Disposiciones Legislativas
El proyecto de ley propone enmiendas a la Ley de Comunicaciones de los Estados Unidos de 1934, añadiendo una nueva sección sobre 'Transparencia en la Creación de Medios Sintéticos'. Bajo la legislación, cualquier persona que cree un deepfake con la intención de distribuirlo debe incluir una marca de agua digital o una etiqueta textual que indique que el contenido es generado por IA. La etiqueta debe ser claramente visible y no fácilmente removible. El proyecto de ley también exige que las plataformas que alojan contenido generado por usuarios proporcionen un mecanismo para que los usuarios reporten deepfakes sin etiquetar y eliminen dicho contenido tras la notificación.
Además, el proyecto de ley establece un derecho de acción privado, permitiendo a las personas que aparecen en un deepfake sin consentimiento demandar al creador por daños, incluidos daños legales de hasta $150,000 por violación. También ordena a la Comisión Federal de Comunicaciones (FCC) adoptar regulaciones que implementen los requisitos de etiquetado dentro de 180 días de la promulgación. El proyecto de ley excluye explícitamente el contenido que es claramente sátira, parodia o ficción, siempre que no se presente como noticias auténticas o reportajes factuales.
Historia Legislativa
La Ley de Responsabilidad por Deepfakes fue presentada en el 116º Congreso como H.R. 3230. Fue remitida al Comité de Energía y Comercio de la Cámara, pero no se tomó ninguna acción adicional durante esa sesión. El proyecto de ley fue reintroducido el 12 de marzo de 2020 como H.R. 6236, con disposiciones similares. Nuevamente, se estancó en el comité. En el 117º Congreso, la Representante Clarke presentó una versión revisada el 24 de junio de 2021 como H.R. 4230, que incluía requisitos adicionales para anuncios políticos. Ninguna de estas versiones avanzó a una votación en el pleno.
A pesar de la falta de aprobación, el proyecto de ley ha sido citado en numerosas iniciativas a nivel estatal y en artículos académicos como un modelo para la regulación de deepfakes. Por ejemplo, California aprobó una ley en 2019 (AB 730) que prohíbe la distribución de medios de audio o visuales engañosos de candidatos políticos dentro de los 60 días posteriores a una elección, y la Ley de Responsabilidad por Deepfakes a menudo se menciona como su contraparte federal. El proyecto de ley también ha influido en discusiones en la Unión Europea, que propuso la Ley de IA en 2021, incluyendo obligaciones de transparencia para deepfakes.
Principales Partidarios y Opositores
La Representante Yvette Clarke ha sido la patrocinadora principal, argumentando que el proyecto de ley es necesario para proteger a los consumidores y preservar la integridad democrática. En un comunicado de prensa, declaró que 'los deepfakes representan una amenaza significativa para nuestra seguridad nacional, nuestra democracia y nuestra sociedad.' El proyecto de ley ha recibido apoyo de organizaciones de libertades civiles como la Electronic Frontier Foundation, que elogió sus disposiciones de etiquetado y eliminación, aunque la EFF también expresó preocupaciones sobre un posible exceso de alcance.
Los opositores incluyen defensores de la libertad de expresión y algunos grupos de la industria tecnológica, que argumentan que el etiquetado obligatorio podría ser oneroso y que la definición de deepfake del proyecto de ley es demasiado amplia. La Unión Americana de Libertades Civiles (ACLU) ha advertido que el derecho de acción privado podría usarse para silenciar el discurso legítimo, como comentarios críticos o expresión artística. Algunas empresas tecnológicas, incluidas OpenAI y Google DeepMind, han apoyado públicamente el etiquetado voluntario pero no han respaldado la legislación específica.
Contexto Técnico
La Ley de Responsabilidad por Deepfakes surgió durante un período de rápido avance en los modelos de IA generativa. En 2018, investigadores de NVIDIA introdujeron la arquitectura StyleGAN, que podía generar rostros humanos altamente realistas. En 2019, OpenAI lanzó GPT-2, un modelo de lenguaje grande que podía producir texto coherente, lo que generó preocupaciones sobre la desinformación generada por IA. El requisito de etiquetado del proyecto de ley se vio como una respuesta a estos desarrollos, aunque se centró principalmente en deepfakes visuales y de audio en lugar de texto.
La creación de deepfakes típicamente involucra redes generativas antagónicas (GAN), donde dos redes neuronales - un generador y un discriminador - se entrenan juntas. El generador produce medios sintéticos, mientras que el discriminador intenta distinguirlos de medios reales. Con el tiempo, el generador mejora, lo que lleva a resultados cada vez más convincentes. El requisito del proyecto de ley de una etiqueta visible tenía la intención de facilitar a los espectadores la identificación de dicho contenido, incluso si la tecnología subyacente evoluciona.
Impacto y Legado
Aunque la Ley de Responsabilidad por Deepfakes nunca se convirtió en ley, ha tenido un impacto duradero en el panorama político. Fue uno de los primeros proyectos de ley federales en abordar específicamente los deepfakes, y sus disposiciones han sido reflejadas en propuestas posteriores, como la Ley Bipartidista del Grupo de Trabajo sobre Deepfakes de 2020 y la Ley de Responsabilidad Algorítmica de 2022. El proyecto de ley también contribuyó a una conversación más amplia sobre la ética y regulación de la IA, influyendo en la investigación académica sobre detección y marcas de agua de deepfakes.
En ausencia de legislación federal, varios estados han promulgado sus propias leyes sobre deepfakes. A partir de 2024, al menos 15 estados han aprobado leyes que abordan los deepfakes, que van desde sanciones penales por uso malicioso hasta requisitos de etiquetado en anuncios políticos. La Ley de Responsabilidad por Deepfakes se cita frecuentemente en estos esfuerzos estatales como una plantilla. Además, las principales plataformas tecnológicas han implementado políticas voluntarias para etiquetar contenido generado por IA, como la etiqueta 'Hecho con IA' de meta y las credenciales de contenido de google.
Estado Actual y Perspectivas Futuras
A partir de 2025, la Ley de Responsabilidad por Deepfakes no ha sido reintroducida en el Congreso actual. Sin embargo, el tema sigue siendo relevante, particularmente con el auge de los modelos de lenguaje grande como GPT-4 y la creciente facilidad para generar medios sintéticos. En 2024, la Comisión Federal de Elecciones (FEC) se negó a regular los deepfakes generados por IA en anuncios políticos, citando falta de autoridad, lo que ha renovado los llamados a una legislación federal. La Representante Clarke ha indicado que podría presentar una nueva versión del proyecto de ley, pero no se ha hecho ningún anuncio formal.
El futuro del proyecto de ley puede depender del clima político y del resultado de los debates en curso sobre la regulación de la IA. Algunos legisladores han propuesto una legislación de IA más amplia, como la Ley de Transparencia de Modelos Fundacionales de IA, que exigiría la divulgación de contenido generado por IA en todos los dominios. La Ley de Responsabilidad por Deepfakes sigue siendo un punto de referencia fundamental, y sus principios probablemente informarán cualquier futura ley federal sobre deepfakes.
Críticas y Limitaciones
Los críticos han señalado varias limitaciones de la Ley de Responsabilidad por Deepfakes. Primero, la definición de deepfake del proyecto de ley se limita a 'medios de audio o visuales que parecen auténticos y representan a una persona diciendo o haciendo algo que no dijo o hizo.' Esto excluye el contenido generado por IA basado en texto, que también puede usarse para difundir desinformación. Segundo, el requisito de etiquetado puede ser eludido por usuarios sofisticados que pueden eliminar marcas de agua o usar IA para generar contenido que evade la detección. Tercero, el proyecto de ley no aborda la naturaleza internacional de la distribución de deepfakes, ya que muchos deepfakes se originan fuera de los Estados Unidos.
Además, algunos académicos legales han argumentado que el derecho de acción privado podría llevar a demandas frívolas, y que los daños legales de $150,000 son excesivos. Otros han señalado que el proyecto de ley no exige que las plataformas detecten proactivamente los deepfakes, solo que respondan a reportes, lo que puede ser insuficiente dada la escala de contenido subido diariamente. Estas críticas han informado esfuerzos legislativos posteriores, que han buscado abordar algunas de estas brechas.
Conclusión
La Ley de Responsabilidad por Deepfakes representa un intento temprano de regular el contenido generado por IA a nivel federal. Aunque no se aprobó, ha moldeado el discurso sobre la regulación de deepfakes e influido en esfuerzos tanto estatales como internacionales. A medida que la tecnología de IA continúa avanzando, la necesidad de transparencia y responsabilidad en los medios sintéticos sigue siendo apremiante, y los principios del proyecto de ley probablemente resurgirán en futuras propuestas legislativas.