Os Regulamentos de Síntese Profunda da China, formalmente denominados "Disposições sobre a Administração de Serviços de Informação na Internet com Síntese Profunda", entraram em vigor em 10 de janeiro de 2023. Emitidos pela Administração do Ciberespaço da China (CAC) juntamente com outros três ministérios, essas regras estão entre os primeiros arcabouços legais de nível nacional direcionados especificamente a deepfakes e mídia sintética. Elas impõem obrigações vinculantes a organizações e indivíduos que usam tecnologia de síntese profunda para gerar ou alterar conteúdo, incluindo texto, imagens, áudio e vídeo, dentro da República Popular da China.
Os regulamentos definem síntese profunda como tecnologia que utiliza métodos de aprendizado de máquina e aprendizado profundo para gerar ou editar texto, imagens, áudio ou vídeo, incluindo técnicas de troca de rosto, clonagem de voz e criação de cenas virtuais. As regras se aplicam tanto a provedores comerciais quanto a usuários não comerciais que empregam tais ferramentas, abrangendo serviços oferecidos pela internet, incluindo aplicativos móveis, sites e plataformas de software. O propósito declarado é salvaguardar a segurança nacional, os interesses públicos e os direitos legítimos dos cidadãos, promovendo ao mesmo tempo o desenvolvimento saudável das tecnologias de IA generativa.
Escopo e Definições-Chave
Os regulamentos cobrem explicitamente uma ampla gama de mídia sintética. Isso inclui vídeos deepfake, síntese realista de voz, geração de texto para imagem e âncoras virtuais geradas por IA. A CAC define "provedores de serviços de síntese profunda" como qualquer entidade que ofereça essas tecnologias ao público, seja como serviço principal ou como recurso dentro de uma plataforma maior. Usuários que empregam tais serviços para disseminação pública também estão sujeitos a certas disposições, particularmente em torno de rotulagem e legalidade do conteúdo.
Um aspecto notável das regras é seu alcance extraterritorial. Espera-se que provedores que oferecem serviços a usuários na China, mesmo que sediados no exterior, cumpram os regulamentos. As regras também exigem que os provedores de serviços realizem avaliações de segurança antes de lançar novos produtos ou recursos que usem síntese profunda, e devem registrar seus algoritmos junto à CAC, um processo semelhante aos regulamentos existentes de recomendação de algoritmos que entraram em vigor em março de 2022.
Requisitos de Rotulagem e Transparência
Um dos requisitos centrais é a rotulagem obrigatória. Qualquer conteúdo gerado ou alterado usando síntese profunda que possa enganar o público deve ser claramente marcado como sintético. Os regulamentos distinguem entre "rótulos explícitos" e "rótulos implícitos". Rótulos explícitos são visíveis aos usuários, como uma marca d'água ou um aviso de texto. Rótulos implícitos são incorporados aos metadados do arquivo ou à assinatura digital, permitindo identificação legível por máquina.
Para conteúdo realista de troca de rosto ou clonagem de voz, o provedor deve adicionar um aviso proeminente de que o conteúdo é gerado ou editado por IA. As regras também exigem que os provedores garantam que os rótulos não sejam facilmente removidos ou adulterados. Além disso, se conteúdo sintético for usado em reportagens jornalísticas, o provedor deve indicar claramente a natureza sintética para evitar confusão com filmagens reais. Esse requisito de rotulagem se estende ao conteúdo enviado por usuários, impondo aos provedores o dever de detectar e rotular tal conteúdo quando publicado.
Consentimento do Usuário e Direitos Pessoais
Os regulamentos enfatizam fortemente a proteção dos direitos individuais. Os provedores devem obter consentimento explícito dos indivíduos antes de usar suas informações biométricas, como rostos ou vozes, em síntese profunda. Esse consentimento deve ser informado e voluntário, e os usuários têm o direito de retirá-lo. As regras proíbem o uso de síntese profunda para criar ou distribuir conteúdo que infrinja a reputação, privacidade ou outros direitos legítimos de uma pessoa.
Além disso, os provedores são obrigados a estabelecer mecanismos para que os usuários relatem violações, como deepfakes não consensuais. Eles também devem fornecer uma maneira para que indivíduos afetados solicitem a remoção de conteúdo que use sua imagem sem permissão. Os regulamentos proíbem explicitamente o uso de síntese profunda para produzir notícias falsas, material difamatório ou conteúdo que perturbe a ordem social. Isso está alinhado com as leis mais amplas de segurança cibernética e proteção de dados da China, incluindo a Lei de Proteção de Informações Pessoais (PIPL), em vigor desde novembro de 2021.
Moderação de Conteúdo e Obrigações de Segurança
Os provedores de serviços devem implementar sistemas robustos de moderação de conteúdo. Eles são obrigados a revisar todo o conteúdo sintético em busca de material ilegal ou prejudicial, incluindo conteúdo que promova terrorismo, violência, pornografia ou subversão do poder estatal. Os regulamentos determinam que os provedores usem meios técnicos para identificar conteúdo sintético e prevenir seu uso indevido. Isso inclui manter registros das atividades dos usuários e da geração de conteúdo por pelo menos seis meses, sujeito às leis de retenção de dados.
Os provedores também devem garantir que seus algoritmos não reforcem comportamentos ilegais ou antiéticos. As regras exigem que os serviços de síntese profunda sejam projetados com recursos de segurança, como impedir a geração de conteúdo que se passe por funcionários do governo ou figuras públicas de maneira enganosa. Em casos em que o conteúdo sintético possa afetar a opinião pública ou a segurança nacional, espera-se que os provedores cooperem com as autoridades e tomem medidas imediatas para remover ou bloquear tal conteúdo.
Registro de Algoritmos e Avaliações de Segurança
Um mecanismo-chave de conformidade é o requisito de registrar algoritmos junto à CAC. Os provedores devem enviar informações detalhadas sobre seus algoritmos de síntese profunda, incluindo sua finalidade, fontes de dados e riscos potenciais. Esse processo de registro é semelhante ao dos algoritmos de recomendação sob os regulamentos de 2022. A CAC mantém um registro público de algoritmos registrados, e a falha em registrar pode resultar em penalidades.
Avaliações de segurança são exigidas antes do lançamento de novos serviços ou atualizações importantes. Essas avaliações avaliam os riscos potenciais à segurança nacional, estabilidade social e direitos individuais. As avaliações devem ser conduzidas por organizações terceirizadas qualificadas ou equipes internas, e os resultados devem ser submetidos à CAC. Os regulamentos também exigem que os provedores estabeleçam planos de resposta a emergências para incidentes de segurança, como campanhas de deepfake em larga escala.
Execução e Penalidades
Violações dos regulamentos podem levar a penalidades administrativas, incluindo multas, suspensão de serviços e revogação de licenças. A CAC e outros órgãos reguladores têm autoridade para realizar inspeções e exigir ações corretivas. Em casos graves, a responsabilidade criminal pode ser aplicada sob a Lei Penal da China, particularmente para ofensas relacionadas a fraude, difamação ou disseminação de informações falsas.
Desde que os regulamentos entraram em vigor, a CAC os tem aplicado ativamente. Em 2023, várias plataformas foram publicamente criticadas por não rotularem adequadamente o conteúdo sintético. A CAC também emitiu orientações sobre casos de uso específicos, como âncoras virtuais geradas por IA em transmissões ao vivo, exigindo que sejam claramente identificadas. A abordagem de execução reflete uma tendência mais ampla na China de regular a inteligência artificial por meio de regras setoriais específicas, em vez de uma única lei abrangente.
Impacto na Indústria e Contexto Global
Os regulamentos tiveram um impacto significativo tanto em empresas domésticas quanto internacionais. Grandes empresas de tecnologia chinesas, incluindo a Alibaba Cloud e outros provedores de nuvem, integraram recursos de conformidade em seus serviços de IA, como marca d'água automática e filtragem de conteúdo. Empresas internacionais que oferecem ferramentas de síntese profunda a usuários chineses também ajustaram suas práticas, frequentemente por meio de bloqueio geográfico ou adição de medidas locais de conformidade.
Globalmente, a abordagem da China tem sido influente. O Ato de IA da União Europeia, que entrou em vigor em agosto de 2024, inclui requisitos de transparência semelhantes para deepfakes, embora com mecanismos de execução diferentes. Os Estados Unidos adotaram uma abordagem mais fragmentada, com leis estaduais e diretrizes federais. Os regulamentos da China são notáveis por seu escopo abrangente e pela integração do registro de algoritmos, que é único entre as principais economias.
Desenvolvimentos Futuros e Desafios
Em 2025, a CAC sinalizou que atualizará os regulamentos para abordar tecnologias emergentes, como geração de conteúdo baseada em modelos de linguagem de grande escala e vídeo deepfake em tempo real. A rápida evolução da IA generativa apresenta desafios para a execução, pois os métodos de detecção ficam atrás das capacidades de geração. Os regulamentos também enfrentam críticas de alguns estudiosos que argumentam que os requisitos de rotulagem são insuficientes para prevenir desinformação, enquanto outros sustentam que as regras são excessivamente restritivas e dificultam a inovação.
Apesar desses desafios, os regulamentos estabeleceram uma linha de base para o uso responsável da síntese profunda na China. Eles estimularam o desenvolvimento de padrões técnicos para marca d'água e proveniência de conteúdo, e incentivaram a pesquisa em algoritmos de detecção. A eficácia de longo prazo dos regulamentos dependerá de atualizações contínuas e da capacidade dos reguladores de acompanhar a mudança tecnológica.
Análise Comparativa com Outras Jurisdições
Em comparação com o Ato de IA da UE, que categoriza deepfakes como um risco de transparência, os regulamentos da China são mais prescritivos, exigindo formatos específicos de rotulagem e registros de algoritmos. A UE depende de obrigações gerais de transparência e gerenciamento de riscos, enquanto a China determina conformidade técnica detalhada. Nos Estados Unidos, a ausência de uma lei federal levou a um mosaico de regulamentações estaduais, como a lei da Califórnia sobre deepfakes políticos, que entrou em vigor em 2020. A abordagem centralizada da China permite execução consistente, mas levanta preocupações sobre excesso de alcance e censura.
Os regulamentos também interagem com os requisitos de localização de dados da China, pois os provedores devem armazenar dados de usuários dentro do país. Isso tem implicações para empresas internacionais que operam globalmente. O requisito de registro de algoritmos foi comparado a medidas semelhantes em outros setores, como as regras de 2021 sobre algoritmos de recomendação, que têm sido usadas para controlar o fluxo de informações. No geral, os regulamentos de síntese profunda da China representam um esforço pioneiro para governar a mídia sintética, com apoiadores e críticos observando atentamente sua implementação.