Os Regulamentos de Recomendação Algorítmica da China, formalmente as Disposições de Gestão de Recomendação Algorítmica de Serviços de Informação da Internet, são regras administrativas emitidas pela Administração do Ciberespaço da China (CAC) que entraram em vigor em 1º de março de 2022. Os regulamentos visam provedores de serviços de recomendação baseados em algoritmos, incluindo aqueles que usam técnicas de aprendizado de máquina e aprendizado profundo, e impõem obrigações relacionadas à gestão de conteúdo, direitos do usuário e transparência algorítmica. Eles fazem parte do esforço mais amplo da China para regular aplicações de inteligência artificial e moldar o comportamento das plataformas de internet.
Os regulamentos se aplicam a qualquer entidade que ofereça serviços de recomendação algorítmica ao público na China, cobrindo áreas como推送 de notícias, resultados de busca, vídeos curtos, feeds de mídias sociais e recomendações de comércio eletrônico. Os provedores devem registrar seus algoritmos junto à CAC, submeter-se a avaliações de segurança e garantir que as recomendações não violem os valores fundamentais do socialismo nem disseminem informações ilegais ou prejudiciais. As regras também determinam que os usuários tenham opções para desativar recomendações algorítmicas ou excluir seus perfis de usuário, e que os provedores rotulem conteúdo gerado por algoritmos quando aplicável.
Contexto e Antecedentes
Os regulamentos surgiram em meio a crescentes preocupações sobre a influência dos algoritmos de recomendação na opinião pública, no comportamento do usuário e na estabilidade social. As autoridades chinesas haviam emitido diretrizes anteriores sobre recomendação algorítmica em 2020 e 2021, mas as disposições de 2022 codificaram essas diretrizes em um quadro regulatório formal. As regras estão alinhadas com a Lei de Segurança Cibernética da China, a Lei de Segurança de Dados e a Lei de Proteção de Informações Pessoais, criando um ambiente legal abrangente para plataformas digitais.
A abordagem da China contrasta com a de outras jurisdições, como o Ato de Serviços Digitais da União Europeia, que foca em transparência e responsabilidade, e os Estados Unidos, que têm dependido amplamente da autorregulação voluntária da indústria. Os regulamentos chineses são notáveis por sua exigência explícita de que os algoritmos adiram a valores definidos pelo Estado e pelo processo de registro obrigatório.
Disposições Principais
Registro e Arquivamento
Os provedores devem arquivar informações sobre seus sistemas de recomendação algorítmica junto à CAC, incluindo o tipo de algoritmo, propósito e riscos potenciais. Esse arquivamento é exigido antes do lançamento do serviço ou quando mudanças significativas são feitas. A CAC mantém um registro público de algoritmos arquivados, embora os detalhes sejam frequentemente editados por razões de segurança.
Governança de Conteúdo
Os provedores são responsáveis por garantir que o conteúdo recomendado não contenha informações ilegais, como apelos à secessão, subversão do poder estatal, terrorismo ou obscenidade. Eles também devem prevenir a disseminação de rumores e informações falsas, e tomar medidas para identificar e remover conteúdo que viole a ordem pública ou a moralidade social. Os regulamentos exigem que os provedores estabeleçam mecanismos de revisão de conteúdo e cooperem com as autoridades em investigações.
Direitos do Usuário
Os usuários têm o direito de saber como os algoritmos afetam o conteúdo que veem e de controlar sua experiência. Os provedores devem oferecer uma maneira simples para os usuários desativarem recomendações personalizadas e permitir que os usuários excluam seus dados pessoais usados para perfilamento algorítmico. Além disso, os provedores não devem usar algoritmos para praticar preços diferenciais com base nas características do usuário (por exemplo, "discriminação de preços por big data") sem divulgação clara.
Transparência Algorítmica
Os provedores devem explicar, em linguagem simples, os princípios básicos e a lógica de seus algoritmos de recomendação. Isso inclui divulgar os principais fatores que influenciam as recomendações, como comportamento do usuário, interesses e localização. Os regulamentos também exigem auditorias e avaliações periódicas para garantir conformidade, e os provedores devem enviar relatórios anuais à CAC.
Regras Especiais para Áreas Sensíveis
Para algoritmos usados na disseminação de notícias e informações, os provedores devem obter uma licença de notícias e garantir que as recomendações priorizem fontes autorizadas. Para algoritmos usados em mídias sociais, os provedores devem prevenir a criação de "casulos de informação" que isolem os usuários de pontos de vista diversos. Para algoritmos usados em comércio eletrônico, os provedores não devem usar algoritmos para manipular preços ou envolver-se em concorrência desleal.
Execução e Impacto
A execução é realizada pela CAC e pelos escritórios locais de administração do ciberespaço. As penalidades por violações incluem advertências, multas, suspensão de serviços e revogação de licenças. Em casos graves, os provedores podem ser ordenados a desligar completamente seus sistemas de recomendação. Desde que os regulamentos entraram em vigor, a CAC conduziu múltiplas rodadas de inspeções e nomeou e multou publicamente várias empresas por não conformidade.
Os regulamentos tiveram um impacto significativo tanto em empresas de tecnologia domésticas quanto internacionais que operam na China. Grandes plataformas como Alibaba Cloud, Alibaba Damiao Academy e outras tiveram que ajustar seus algoritmos e interfaces de usuário para cumprir. Algumas empresas introduziram botões de "não gostei" e opções de "não tenho interesse", enquanto outras adicionaram explicações sobre por que determinado conteúdo é recomendado.
Relação com Outros Regulamentos
Os Regulamentos de Recomendação Algorítmica fazem parte de um quadro regulatório mais amplo para algoritmos e IA na China. Em 2023, a China emitiu as Medidas Provisórias para a Gestão de Serviços de Inteligência Artificial Generativa, que se aplicam a sistemas de IA generativa como modelos de linguagem de grande escala. Os regulamentos de 2022 complementam essas medidas ao focar em sistemas de recomendação, enquanto as regras de 2023 abordam a geração de conteúdo. Juntos, eles criam uma abordagem em camadas para a governança de IA.
Influência Global e Comparações
Os regulamentos chineses influenciaram discussões políticas em outros países. Por exemplo, o Ato de IA da UE, proposto em 2021 e adotado em 2024, inclui disposições sobre transparência e gestão de riscos para sistemas de IA, embora não exija registro ou alinhamento de valores. O modelo chinês tem sido estudado por reguladores no Sudeste Asiático e no Oriente Médio, que o veem como um modelo para controlar a influência algorítmica.
Críticas e Desafios
Críticos argumentam que os regulamentos são excessivamente amplos e dão ao governo controle excessivo sobre o discurso online. Alguns observadores da indústria observam que o processo de registro é opaco e que a exigência de alinhamento com os "valores fundamentais do socialismo" é vaga, levando à autocensura por parte das plataformas. Outros apontam que os regulamentos podem sufocar a inovação ao impor custos de conformidade a empresas menores.
Apesar dessas críticas, os regulamentos foram elogiados por alguns por promoverem a agência do usuário e abordarem questões como viés algorítmico e bolhas de filtro. A exigência de oferecer opções não personalizadas foi vista como um passo positivo para a autonomia do usuário.
Desenvolvimentos Futuros
Em 2025, a CAC sinalizou que atualizará os regulamentos para abordar novos desafios colocados pela IA generativa e deepfakes. Emendas propostas exigiriam que os provedores rotulassem conteúdo gerado por IA de forma mais proeminente e implementassem salvaguardas mais fortes contra uso indevido. A evolução dessas regras provavelmente continuará a moldar a conversa global sobre regulação de IA.
Conclusão
Os Regulamentos de Recomendação Algorítmica da China representam uma tentativa pioneira de governar o mundo opaco das recomendações algorítmicas. Ao impor requisitos de registro, transparência e controle do usuário, as regras visam equilibrar inovação com estabilidade social. Embora a implementação tenha sido desafiadora, os regulamentos estabeleceram um precedente para outras nações que lidam com o impacto societal da distribuição de conteúdo impulsionada por IA.