A China desenvolveu um dos arcabouços regulatórios mais extensos e detalhados para inteligência artificial (IA) do mundo. Essas regulamentações, emitidas por diversos órgãos nacionais, incluindo a Administração do Ciberespaço da China (CAC), o Ministério da Indústria e Tecnologia da Informação e o Conselho de Estado, visam gerenciar a rápida implementação de tecnologias de inteligência artificial, ao mesmo tempo em que abordam preocupações sobre segurança nacional, estabilidade social e ordem pública. O arcabouço é notável por seu foco no controle de conteúdo, na transparência algorítmica e na responsabilidade legal dos provedores de serviços de IA, distinguindo-o de abordagens mais orientadas pelo mercado ou pela inovação, vistas em outras jurisdições.
O cenário regulatório evoluiu em resposta a desenvolvimentos tecnológicos específicos, particularmente o surgimento de sistemas de IA generativa e tecnologias de deepfake. Em 2022 e 2023, a China introduziu regras direcionadas para recomendação algorítmica, síntese profunda (deepfakes) e serviços de IA generativa. Essas medidas fazem parte de um esforço mais amplo para integrar a governança da IA às leis existentes de segurança cibernética e proteção de dados, criando um sistema em camadas que aplica diferentes requisitos com base no tipo de aplicação de IA e em seu risco potencial para a sociedade.
Contexto Histórico e Base Legal
A regulamentação de IA da China se baseia em leis anteriores, notavelmente a Lei de Segurança Cibernética de 2017 e a Lei de Segurança de Dados de 2021. Essas leis estabeleceram princípios para o tratamento de dados, transferências transfronteiriças de dados e a proteção de infraestrutura de informações críticas. A Lei de Proteção de Informações Pessoais (PIPL), em vigor desde novembro de 2021, adicionou requisitos rigorosos para consentimento, minimização de dados e direitos individuais, que afetam diretamente os sistemas de IA que processam dados pessoais.
A primeira medida regulatória específica para IA foi o "Regulamento de Gerenciamento de Recomendação Algorítmica de Serviços de Informação da Internet", em vigor desde 1º de março de 2022. Este regulamento visava algoritmos usados para recomendação de notícias, resultados de busca e feeds de conteúdo. Exigia que os provedores de serviços registrassem seus algoritmos na CAC, realizassem avaliações de segurança e garantissem que os resultados algorítmicos não violassem os valores fundamentais do socialismo nem divulgassem informações falsas. O regulamento também determinava que os usuários tivessem a opção de desativar os recursos de recomendação personalizada.
Regulamentações de Síntese Profunda (2022)
Em dezembro de 2022, a CAC divulgou o "Regulamento sobre a Administração de Síntese Profunda em Serviços de Informação da Internet", em vigor desde 10 de janeiro de 2023. Essas regras abordam especificamente a tecnologia deepfake, que usa métodos de aprendizado profundo e redes neurais para gerar ou alterar imagens, áudio e vídeo. Os regulamentos exigem que qualquer conteúdo gerado ou editado por IA que possa enganar os espectadores seja claramente rotulado como sintético. Os provedores de serviços devem obter consentimento do usuário antes de usar síntese profunda para edição e são proibidos de criar conteúdo que difame outros, espalhe boatos ou viole a ordem pública.
Os provedores de síntese profunda também devem implementar verificação de identidade real para usuários, manter registros das atividades de geração de conteúdo por pelo menos três meses e estabelecer mecanismos para prevenir o uso indevido de sua tecnologia para fraude ou manipulação política. As regras se aplicam tanto a empresas domésticas quanto a empresas estrangeiras que oferecem serviços na China, criando um ônus de conformidade para desenvolvedores internacionais de IA.
Medidas Provisórias para IA Generativa (2023)
A regulamentação mais significativa até o momento é a "Medida Provisória para o Gerenciamento de Serviços de Inteligência Artificial Generativa", em vigor desde 15 de agosto de 2023. Essas medidas foram emitidas conjuntamente pela CAC, pela Comissão Nacional de Desenvolvimento e Reforma, pelo Ministério da Ciência e Tecnologia e outras agências. Elas se aplicam a serviços que usam IA generativa para fornecer conteúdo ao público na China, incluindo chatbots baseados em modelos de linguagem de grande escala, geradores de imagem e outras ferramentas.
As principais disposições incluem:
- Requisitos de conteúdo: O conteúdo gerado deve aderir aos valores fundamentais do socialismo, evitando incitação à subversão do poder estatal, terrorismo, ódio étnico ou pornografia. Os provedores devem garantir que os dados de treinamento sejam legais e não infrinjam direitos de propriedade intelectual.
- Registro algorítmico: Os provedores devem registrar seus algoritmos e dados de treinamento na CAC antes de oferecer serviços ao público. Isso inclui o envio de avaliações de segurança e detalhes sobre a arquitetura do modelo.
- Rotulagem do usuário: O conteúdo gerado por IA deve ser claramente marcado como sintético, especialmente quando puder ser confundido com conteúdo criado por humanos.
- Proteção de dados pessoais: Os dados de treinamento não devem incluir informações pessoais sem consentimento, e os provedores devem proteger os dados do usuário de acordo com a PIPL.
- Responsabilidade e prestação de contas: Os provedores assumem responsabilidade legal pelo conteúdo que seus modelos geram, mesmo que não tenha sido explicitamente solicitado pelo usuário. Eles devem implementar mecanismos para filtrar e corrigir resultados prejudiciais.
As medidas provisórias também exigem que os serviços de IA generativa sejam projetados para prevenir a geração de conteúdo que possa ameaçar a segurança nacional ou a ordem pública. Isso levou a uma significativa autocensura por parte das empresas chinesas de IA, que frequentemente empregam revisores humanos e filtros de conteúdo para garantir a conformidade.
Escopo e Aplicação
As regulamentações de IA da China se aplicam a qualquer entidade que forneça serviços de IA a usuários na China, independentemente de onde a empresa esteja sediada. Esse alcance extraterritorial tem implicações para desenvolvedores globais de IA, que devem cumprir as regras chinesas ou bloquear o acesso aos seus serviços a partir da China. A aplicação é realizada pela CAC, que pode emitir advertências, multas, suspender serviços ou revogar licenças por não conformidade.
As penalidades variam conforme a violação. Para infrações menores, os reguladores podem ordenar correções e impor multas de até 100.000 yuans (aproximadamente US$ 14.000). Violações mais graves, como aquelas envolvendo segurança nacional, podem levar à responsabilidade criminal sob as leis existentes. A CAC também realiza auditorias regulares e pode exigir monitoramento em tempo real dos serviços de IA.
Impacto no Desenvolvimento e na Indústria de IA
As regulamentações moldaram o desenvolvimento da IA na China, particularmente para a IA generativa. Grandes empresas de tecnologia chinesas, incluindo Alibaba, Baidu e Tencent, lançaram seus próprios modelos de linguagem de grande escala, como o Tongyi Qianwen da Alibaba e o Ernie Bot da Baidu. Esses modelos são projetados com moderação de conteúdo integrada para cumprir as medidas provisórias. O requisito de registro algorítmico criou um processo burocrático que pode atrasar lançamentos de produtos, mas também fornece um grau de certeza regulatória para as empresas.
Para empresas internacionais, as regulamentações representam uma barreira à entrada. Empresas como OpenAI e Anthropic não oferecem seus serviços na China, em parte devido ao ônus da conformidade e ao risco de responsabilidade legal. Algumas empresas estrangeiras optaram por fazer parcerias com empresas chinesas ou desenvolver versões localizadas de seus modelos para atender aos requisitos regulatórios.
O foco no controle de conteúdo também influenciou a pesquisa e o desenvolvimento. Pesquisadores chineses de IA frequentemente priorizam a segurança e o alinhamento com as diretrizes governamentais, o que pode diferir das abordagens mais abertas em instituições ocidentais. Isso levou a uma divergência nos tipos de aplicações de IA que são comercialmente viáveis na China em comparação com outros lugares.
Comparação com Outras Jurisdições
A abordagem da China contrasta com a Lei de IA da União Europeia, que enfatiza a classificação baseada em risco e os direitos fundamentais, e com as diretrizes setoriais e voluntárias dos Estados Unidos. Enquanto a UE foca em transparência e supervisão humana, a China dá maior ênfase à segurança estatal e à moderação de conteúdo. Os EUA dependem amplamente da autorregulação da indústria e de ordens executivas, sem uma lei federal abrangente de IA até 2025.
As regulamentações da China também são mais prescritivas do que as de muitos outros países. O requisito de registro algorítmico e avaliações de segurança é único, assim como a determinação explícita de que o conteúdo gerado por IA deve estar alinhado com a ideologia estatal. Isso tornou a China um modelo para outros governos autoritários que buscam controlar a IA, mas também atraiu críticas de grupos de direitos humanos e observadores internacionais que argumentam que as regras sufocam a liberdade de expressão e a inovação.
Direções Futuras e Desafios
Até 2025, o arcabouço regulatório de IA da China continua evoluindo. As medidas provisórias para IA generativa são temporárias e espera-se que sejam substituídas por uma lei permanente. O Conselho de Estado tem trabalhado em uma "Lei de Inteligência Artificial" que consolidaria as regulamentações existentes e abordaria questões emergentes, como IA em veículos autônomos, saúde e aplicações militares. Versões preliminares desta lei foram circuladas para comentários, mas nenhum texto final foi publicado.
Desafios permanecem, incluindo a dificuldade de aplicar regras de conteúdo a modelos de código aberto e o ritmo acelerado das mudanças tecnológicas. O surgimento da IA multimodal, que combina texto, imagem e vídeo, pode exigir novas regulamentações. Além disso, a natureza global do desenvolvimento de IA significa que as regras da China podem entrar em conflito com padrões internacionais, criando atritos para empresas multinacionais.
Apesar desses desafios, a abordagem regulatória da China foi elogiada por alguns por fornecer diretrizes claras que reduzem a incerteza para as empresas. A ênfase em segurança e estabilidade está alinhada com os objetivos mais amplos do governo de autossuficiência tecnológica e controle social. À medida que a IA continua avançando, as regulamentações da China provavelmente servirão como ponto de referência para outras nações que lidam com como governar essa tecnologia poderosa.