Em 2021, a China introduziu um quadro regulatório fundamental para a inteligência artificial, marcando uma mudança significativa na forma como a tecnologia é governada domesticamente. As medidas, centradas nos princípios de IA de Pequim e nas regras de algoritmos, estabeleceram a abordagem do país para gerenciar a rápida implantação de sistemas de IA, particularmente aqueles que afetam o comportamento público e a disseminação de informações. Essas regulamentações estavam entre os primeiros esforços nacionais abrangentes para abordar os riscos sociais da IA, estabelecendo um precedente para debates posteriores de políticas globais.
O pacote regulatório compreendia vários documentos-chave emitidos pelas autoridades chinesas, incluindo a Administração do Ciberespaço da China. O mais proeminente foi as "Disposições sobre a Gestão de Recomendações Algorítmicas em Serviços de Informação da Internet", em vigor desde 1º de março de 2022, embora sua redação e consulta pública tenham ocorrido ao longo de 2021. Essas regras visavam tecnologias de recomendação algorítmica usadas por plataformas para notícias, busca e mídias sociais, exigindo transparência em como os algoritmos classificam e filtram conteúdo. Além disso, a "Especificação de Ética para Inteligência Artificial de Nova Geração", divulgada em setembro de 2021, delineou seis princípios éticos básicos: melhorar o bem-estar humano, promover justiça e equidade, proteger privacidade e segurança, garantir controlabilidade e confiabilidade, fortalecer responsabilidade e prestação de contas, e melhorar a literacia ética.
Escopo Regulatório e Requisitos
As regras de algoritmos se aplicavam a qualquer provedor de serviços de internet que usasse recomendação algorítmica, incluindo feeds personalizados, classificação e notificações push. As empresas eram obrigadas a registrar seus algoritmos junto às autoridades, fornecendo detalhes sobre sua finalidade, fontes de dados e riscos potenciais. Também tinham que oferecer aos usuários opções para desativar recomendações personalizadas e fornecer explicações para decisões algorítmicas, uma forma do "direito à explicação" visto em outras jurisdições. As regulamentações proibiam explicitamente algoritmos que pudessem manipular o comportamento do usuário de maneiras que minassem a ordem pública, espalhassem informações falsas ou criassem concorrência desleal.
Princípios Éticos e Governança
Os princípios de IA de Pequim, articulados na especificação de ética, enfatizavam uma abordagem centrada no ser humano. O documento destacava que o desenvolvimento de IA deveria priorizar o bem-estar público sobre interesses comerciais, com clara responsabilização por resultados adversos. Pedia justiça algorítmica, instando os desenvolvedores a evitar viés baseado em gênero, etnia ou outros atributos protegidos. Os princípios também exigiam supervisão humana de aplicações de IA de alto risco, particularmente em áreas como direção autônoma e diagnóstico médico, onde decisões poderiam ter consequências que alteram vidas. Essas diretrizes se aplicavam a toda pesquisa e implantação de IA na China, incluindo o trabalho de instituições acadêmicas e empresas privadas.
Implementação e Fiscalização
O mecanismo de fiscalização dependia de uma combinação de autoavaliação e inspeção governamental. As empresas tinham que realizar auditorias regulares de seus algoritmos e enviar relatórios de conformidade. A Administração do Ciberespaço poderia ordenar mudanças em algoritmos considerados violadores das regras, impor multas ou suspender serviços em casos graves. Na prática, isso levou a mudanças visíveis em grandes plataformas, como a nuvem da Alibaba e outras, que ajustaram seus sistemas de recomendação para reduzir conteúdo que pudesse ser considerado politicamente sensível ou socialmente desestabilizador. As regulamentações também incentivaram o desenvolvimento de padrões da indústria, com órgãos técnicos como o Comitê Nacional de Padronização de Segurança da Informação emitindo orientações complementares.
Impacto no Desenvolvimento de IA
As regulamentações de 2021 influenciaram a trajetória da inovação em inteligência artificial na China. Ao exigir transparência e responsabilização, elas empurraram as empresas a investir em IA explicável e ferramentas de justiça, áreas que antes recebiam menos atenção. As regras também criaram um fardo de conformidade, particularmente para startups menores, potencialmente consolidando poder de mercado entre empresas maiores com recursos para navegar pelos requisitos regulatórios. Internacionalmente, o quadro foi observado de perto por outros governos, incluindo a União Europeia, que estava redigindo sua própria Lei de IA, e os Estados Unidos, que posteriormente emitiram ordens executivas sobre segurança de IA. A abordagem chinesa, enfatizando supervisão estatal e estabilidade social, contrastava com modelos mais orientados ao mercado, gerando debates sobre o equilíbrio entre inovação e controle.
Significado Global e Legado
As ações da China em 2021 representaram um momento divisor de águas na governança de IA, demonstrando que grandes economias poderiam impor regras vinculantes sobre sistemas algorítmicos. Os princípios e regras tornaram-se pontos de referência para discussões políticas subsequentes, incluindo aquelas sobre IA generativa e sistemas de modelos de linguagem de grande escala que surgiram depois. Embora as regulamentações tenham sido inicialmente aplicadas a algoritmos de recomendação, sua lógica subjacente se estendeu a outras aplicações de IA, estabelecendo um modelo para leis futuras, como as medidas de 2023 sobre IA generativa. A ênfase na supervisão humana e na revisão ética influenciou práticas corporativas, com muitas empresas de tecnologia chinesas estabelecendo comitês de ética e avaliações de impacto algorítmico como procedimento padrão. Em 2025, o quadro permanece ativo, com atualizações periódicas para abordar novos desenvolvimentos tecnológicos, sublinhando seu papel como um pilar durável da estratégia de governança digital da China.