Las Regulaciones de Síntesis Profunda de China, formalmente denominadas "Disposiciones sobre la Administración de Servicios de Información de Internet de Síntesis Profunda", entraron en vigor el 10 de enero de 2023. Emitidas por la Administración del Ciberespacio de China (CAC) junto con otros tres ministerios, estas reglas se encuentran entre los primeros marcos legales a nivel nacional que abordan específicamente los deepfakes y los medios sintéticos. Imponen obligaciones vinculantes a organizaciones e individuos que utilizan tecnología de síntesis profunda para generar o alterar contenido, incluidos texto, imágenes, audio y video, dentro de la República Popular China.
Las regulaciones definen la síntesis profunda como tecnología que utiliza métodos de aprendizaje automático y aprendizaje profundo para generar o editar texto, imágenes, audio o video, incluidas técnicas para el intercambio de rostros, la clonación de voz y la creación de escenas virtuales. Las reglas se aplican tanto a proveedores comerciales como a usuarios no comerciales que emplean dichas herramientas, cubriendo servicios ofrecidos a través de internet, incluidas aplicaciones móviles, sitios web y plataformas de software. El propósito declarado es salvaguardar la seguridad nacional, los intereses públicos y los derechos legítimos de los ciudadanos, mientras se promueve el desarrollo saludable de las tecnologías de IA generativa.
Alcance y Definiciones Clave
Las regulaciones cubren explícitamente una amplia gama de medios sintéticos. Esto incluye videos deepfake, síntesis de voz realista, generación de texto a imagen y presentadores virtuales generados por IA. La CAC define a los "proveedores de servicios de síntesis profunda" como cualquier entidad que ofrezca estas tecnologías al público, ya sea como un servicio principal o como una función dentro de una plataforma más grande. Los usuarios que emplean dichos servicios para la difusión pública también están sujetos a ciertas disposiciones, particularmente en torno al etiquetado y la legalidad del contenido.
Un aspecto notable de las reglas es su alcance extraterritorial. Se espera que los proveedores que ofrecen servicios a usuarios dentro de China, incluso si tienen su sede en el extranjero, cumplan con ellas. Las regulaciones también requieren que los proveedores de servicios realicen evaluaciones de seguridad antes de lanzar nuevos productos o funciones que utilicen síntesis profunda, y deben registrar sus algoritmos ante la CAC, un proceso similar a las regulaciones existentes de recomendación de algoritmos que entraron en vigor en marzo de 2022.
Requisitos de Etiquetado y Transparencia
Uno de los requisitos centrales es el etiquetado obligatorio. Cualquier contenido generado o alterado mediante síntesis profunda que pueda inducir a error al público debe estar claramente marcado como sintético. Las regulaciones distinguen entre "etiquetas explícitas" y "etiquetas implícitas". Las etiquetas explícitas son visibles para los usuarios, como una marca de agua o un aviso de texto. Las etiquetas implícitas están incrustadas en los metadatos del archivo o en la firma digital, lo que permite una identificación legible por máquina.
Para contenido realista de intercambio de rostros o clonación de voz, el proveedor debe agregar un aviso prominente de que el contenido es generado o editado por IA. Las reglas también requieren que los proveedores aseguren que las etiquetas no se eliminen ni manipulen fácilmente. Además, si el contenido sintético se utiliza en informes de noticias, el proveedor debe indicar claramente su naturaleza sintética para evitar confundirlo con imágenes reales. Este requisito de etiquetado se extiende al contenido cargado por los usuarios, imponiendo a las plataformas el deber de detectar y etiquetar dicho contenido cuando se publique.
Consentimiento del Usuario y Derechos Personales
Las regulaciones ponen un fuerte énfasis en la protección de los derechos individuales. Los proveedores deben obtener el consentimiento explícito de los individuos antes de utilizar su información biométrica, como rostros o voces, en la síntesis profunda. Este consentimiento debe ser informado y voluntario, y los usuarios tienen derecho a retirarlo. Las reglas prohíben el uso de la síntesis profunda para crear o distribuir contenido que infrinja la reputación, la privacidad u otros derechos legítimos de una persona.
Además, se requiere que los proveedores establezcan mecanismos para que los usuarios informen violaciones, como deepfakes no consentidos. También deben proporcionar una vía para que las personas afectadas soliciten la eliminación de contenido que use su imagen sin permiso. Las regulaciones prohíben explícitamente el uso de la síntesis profunda para producir noticias falsas, material difamatorio o contenido que perturbe el orden social. Esto se alinea con las leyes más amplias de ciberseguridad y protección de datos de China, incluida la Ley de Protección de Información Personal (PIPL) efectiva desde noviembre de 2021.
Obligaciones de Moderación de Contenido y Seguridad
Los proveedores de servicios deben implementar sistemas robustos de moderación de contenido. Se les exige revisar todo el contenido sintético en busca de material ilegal o dañino, incluido el contenido que promueva el terrorismo, la violencia, la pornografía o la subversión del poder estatal. Las regulaciones ordenan que los proveedores utilicen medios técnicos para identificar contenido sintético y prevenir su uso indebido. Esto incluye mantener registros de las actividades de los usuarios y la generación de contenido durante al menos seis meses, sujeto a las leyes de retención de datos.
Los proveedores también deben asegurar que sus algoritmos no refuercen comportamientos ilegales o poco éticos. Las reglas requieren que los servicios de síntesis profunda se diseñen con características de seguridad, como prevenir la generación de contenido que suplante a funcionarios gubernamentales o figuras públicas de manera engañosa. En casos donde el contenido sintético podría afectar la opinión pública o la seguridad nacional, se espera que los proveedores cooperen con las autoridades y tomen medidas inmediatas para eliminar o bloquear dicho contenido.
Registro de Algoritmos y Evaluaciones de Seguridad
Un mecanismo clave de cumplimiento es el requisito de registrar algoritmos ante la CAC. Los proveedores deben presentar información detallada sobre sus algoritmos de síntesis profunda, incluidos su propósito, fuentes de datos y riesgos potenciales. Este proceso de registro es similar al de los algoritmos de recomendación bajo las regulaciones de 2022. La CAC mantiene un registro público de algoritmos registrados, y el incumplimiento puede resultar en sanciones.
Se requieren evaluaciones de seguridad antes de lanzar nuevos servicios o actualizaciones importantes. Estas evaluaciones evalúan los riesgos potenciales para la seguridad nacional, la estabilidad social y los derechos individuales. Las evaluaciones deben ser realizadas por organizaciones de terceros calificadas o equipos internos, y los resultados deben presentarse a la CAC. Las regulaciones también requieren que los proveedores establezcan planes de respuesta a emergencias para incidentes de seguridad, como campañas masivas de deepfake.
Cumplimiento y Sanciones
Las violaciones de las regulaciones pueden dar lugar a sanciones administrativas, incluidas multas, suspensión de servicios y revocación de licencias. La CAC y otros reguladores tienen la autoridad para realizar inspecciones y exigir acciones correctivas. En casos graves, puede aplicarse responsabilidad penal bajo la Ley Penal de China, particularmente por delitos relacionados con fraude, difamación o difusión de información falsa.
Desde que las regulaciones entraron en vigor, la CAC las ha aplicado activamente. En 2023, varias plataformas fueron criticadas públicamente por no etiquetar adecuadamente el contenido sintético. La CAC también ha emitido orientación sobre casos de uso específicos, como presentadores virtuales generados por IA en transmisiones en vivo, requiriendo que se identifiquen claramente. El enfoque de cumplimiento refleja una tendencia más amplia en China de regular la inteligencia artificial mediante reglas específicas por sector en lugar de una sola ley integral.
Impacto en la Industria y Contexto Global
Las regulaciones han tenido un impacto significativo tanto en empresas nacionales como internacionales. Las principales empresas tecnológicas chinas, incluidos Alibaba Cloud y otros proveedores de nube, han integrado funciones de cumplimiento en sus servicios de IA, como marcas de agua automáticas y filtrado de contenido. Las empresas internacionales que ofrecen herramientas de síntesis profunda a usuarios chinos también han ajustado sus prácticas, a menudo mediante bloqueo geográfico o la adición de medidas de cumplimiento locales.
Globalmente, el enfoque de China ha sido influyente. La Ley de IA de la Unión Europea, que entró en vigor en agosto de 2024, incluye requisitos de transparencia similares para deepfakes, aunque con mecanismos de cumplimiento diferentes. Estados Unidos ha adoptado un enfoque más fragmentado, con leyes estatales y pautas federales. Las regulaciones de China son notables por su alcance integral y la integración del registro de algoritmos, que es único entre las principales economías.
Desarrollos Futuros y Desafíos
A partir de 2025, la CAC ha señalado que actualizará las regulaciones para abordar tecnologías emergentes, como la generación de contenido basada en modelos de lenguaje grandes y video deepfake en tiempo real. La rápida evolución de la IA generativa plantea desafíos para el cumplimiento, ya que los métodos de detección van por detrás de las capacidades de generación. Las regulaciones también enfrentan críticas de algunos académicos que argumentan que los requisitos de etiquetado son insuficientes para prevenir la desinformación, mientras que otros sostienen que las reglas son excesivamente restrictivas y obstaculizan la innovación.
A pesar de estos desafíos, las regulaciones han establecido una base para el uso responsable de la síntesis profunda en China. Han impulsado el desarrollo de estándares técnicos para marcas de agua y procedencia del contenido, y han fomentado la investigación en algoritmos de detección. La efectividad a largo plazo de las regulaciones dependerá de actualizaciones continuas y de la capacidad de los reguladores para mantenerse al ritmo del cambio tecnológico.
Análisis Comparativo con Otras Jurisdicciones
En comparación con la Ley de IA de la UE, que categoriza los deepfakes como un riesgo de transparencia, las regulaciones de China son más prescriptivas, requiriendo formatos de etiquetado específicos y registros de algoritmos. La UE se basa en obligaciones generales de transparencia y gestión de riesgos, mientras que China exige cumplimiento técnico detallado. En Estados Unidos, la ausencia de una ley federal ha llevado a un mosaico de regulaciones estatales, como la ley de California sobre deepfakes políticos, que entró en vigor en 2020. El enfoque centralizado de China permite un cumplimiento consistente, pero plantea preocupaciones sobre excesos y censura.
Las regulaciones también interactúan con los requisitos de localización de datos de China, ya que los proveedores deben almacenar los datos de los usuarios dentro de China. Esto tiene implicaciones para las empresas internacionales que operan globalmente. El requisito de registro de algoritmos se ha comparado con medidas similares en otros sectores, como las reglas de 2021 sobre algoritmos de recomendación, que se han utilizado para controlar el flujo de información. En general, las regulaciones de síntesis profunda de China representan un esfuerzo pionero para gobernar los medios sintéticos, con partidarios y críticos observando de cerca su implementación.