As Medidas Provisórias para a Gestão de Serviços de IA Generativa (em chinês: 生成式人工智能服务管理暂行办法; pinyin: Shēngchéng shì réngōng zhìnéng fúwù guǎnlǐ zànxíng bànfǎ) são um conjunto de regulamentações introduzidas pela China para governar a inteligência artificial generativa voltada ao público dentro do país. Essas medidas entraram em vigor em 15 de agosto de 2023, estabelecendo um quadro legal para o desenvolvimento, a implantação e a supervisão de sistemas de IA generativa que interagem com o público chinês. As regulamentações foram emitidas conjuntamente pela Administração do Ciberespaço da China e por outros seis órgãos reguladores nacionais: a Comissão Nacional de Desenvolvimento e Reforma, o Ministério da Educação, o Ministério da Ciência e Tecnologia, o Ministério da Indústria e Tecnologia da Informação, o Ministério da Segurança Pública e a Administração Nacional de Rádio e Televisão.
As medidas representam uma das primeiras tentativas regulatórias nacionais abrangentes voltadas especificamente para tecnologias de IA generativa, incluindo grandes modelos de linguagem e outras formas de IA generativa. Elas visam equilibrar a promoção da inovação tecnológica com a proteção da segurança nacional, da estabilidade social e dos direitos individuais. O quadro se aplica a serviços fornecidos ao público doméstico, ao mesmo tempo em que isenta usos corporativos e de pesquisa internos que não alcançam públicos externos.
Escopo e Princípios Gerais
A primeira seção das medidas estabelece o escopo fundamental e os princípios orientadores. O Artigo 1 declara a intenção de promover o desenvolvimento saudável e o uso regulamentado da IA generativa, ao mesmo tempo em que salvaguarda a segurança nacional, os interesses públicos sociais e os direitos legais de cidadãos e organizações. O Artigo 2 define o escopo como aplicável a serviços de IA generativa voltados ao público dentro da República Popular da China, isentando explicitamente serviços internos de empresas, instituições de pesquisa e outras organizações que não fornecem serviços ao público doméstico.
O Artigo 3 estabelece princípios regulatórios-chave: ênfase igual no desenvolvimento e na segurança, promoção da inovação juntamente com o estado de direito e adoção de uma abordagem inclusiva e prudente com supervisão classificada dos serviços de IA generativa. Esse foco duplo no desenvolvimento e na segurança reflete uma abordagem política mais ampla na governança tecnológica da China.
O Artigo 4 impõe requisitos substantivos de conteúdo. Os serviços de IA generativa devem aderir às leis relevantes e respeitar a moralidade social, alinhando-se aos Valores Socialistas Centrais. As medidas proíbem conteúdo que promova a derrubada do sistema socialista, prejudique a segurança nacional ou comprometa a estabilidade social. Elas também proíbem conteúdo que promova discriminação, terrorismo, extremismo, violência, obscenidade ou informações falsas e prejudiciais proibidas por lei. Os modelos devem ser projetados e treinados para evitar discriminação ou viés algorítmico, e os serviços devem respeitar os direitos de propriedade intelectual e a ética empresarial. Os provedores são obrigados a proteger os direitos de terceiros, evitar colocar em risco a saúde física e mental e tomar medidas eficazes para melhorar a transparência e a precisão de seus serviços.
Desenvolvimento Tecnológico e Governança
A segunda seção foca em incentivar a inovação, ao mesmo tempo em que estabelece requisitos de governança para a tecnologia subjacente. O Artigo 5 incentiva a aplicação inovadora da IA generativa em todos os setores para criar conteúdo positivo, saudável e de alta qualidade, apoiando a colaboração em inovação de IA, dados e desenvolvimento de aplicações. O Artigo 6 promove a inovação independente em tecnologias centrais de IA, desenvolvimento de infraestrutura e plataformas de recursos de dados, ao mesmo tempo em que incentiva a cooperação internacional, o compartilhamento colaborativo de recursos computacionais, a expansão de fontes de dados públicos de treinamento de alta qualidade e a adoção de chips e recursos seguros.
O Artigo 7 determina que os provedores empreguem medidas eficazes para garantir que os dados de treinamento sejam de alta qualidade, precisos, diversos e obtidos legitimamente, sem infringir direitos de propriedade intelectual. Quando informações pessoais são usadas no treinamento, os provedores devem obter consentimento do usuário. Essa disposição aborda diretamente preocupações sobre a proveniência de dados e a privacidade no desenvolvimento de sistemas de aprendizado de máquina.
O Artigo 8 exige que os provedores formulem regras de rotulagem de dados claras, específicas e operáveis, em conformidade com as medidas. Ele determina avaliação de qualidade, verificação por amostragem, treinamento de pessoal e supervisão para o trabalho de rotulagem, reconhecendo a importância da qualidade dos dados no treinamento de modelos de IA confiáveis.
Especificações de Serviço
A terceira seção detalha as obrigações dos provedores ao oferecer serviços ao público. O Artigo 9 estabelece legalmente os provedores como produtores de conteúdo online e processadores de dados pessoais, exigindo que assinem acordos de serviço com os usuários que definam direitos e obrigações. O Artigo 10 determina a tomada de medidas eficazes para prevenir o uso excessivo por menores, exigindo que os provedores esclareçam o uso apropriado e ajudem os usuários a entender a IA generativa.
O Artigo 11 obriga os provedores a proteger a privacidade do usuário, minimizar a coleta e a retenção de informações pessoais e evitar fornecer ilegalmente informações do usuário a terceiros. Os provedores devem aceitar solicitações dos usuários para revisar, copiar, modificar ou excluir suas informações pessoais, alinhando-se a princípios mais amplos de proteção de dados. O Artigo 12 exige a rotulagem de imagens, vídeos e outros conteúdos gerados sintetizados, abordando preocupações sobre deepfakes e desinformação.
O Artigo 13 exige serviços estáveis e contínuos para o uso normal pelos usuários. O Artigo 14 obriga os provedores a lidar prontamente com situações em que um serviço gera conteúdo ilegal ou é usado para atividades ilegais, potencialmente incluindo interromper a geração, retreinar um modelo, alertar usuários e relatar às autoridades relevantes. O Artigo 15 determina mecanismos de reclamação e denúncia para queixas públicas, com processamento e feedback em tempo hábil.
Supervisão e Responsabilidade Legal
A quarta seção estabelece o quadro de supervisão e as consequências legais. O Artigo 16 atribui papéis de supervisão regulatória à segurança cibernética, tecnologia, indústria, educação, segurança pública e outros órgãos governamentais relevantes. O Artigo 17 exige avaliações de segurança para serviços com influência na opinião pública, juntamente com procedimentos de registro de algoritmos, criando um mecanismo duplo de revisão pré-implantação e registro contínuo.
O Artigo 18 permite que os usuários reclamem às autoridades sobre serviços não conformes. O Artigo 19 possibilita inspeções de provedores por funcionários, exigindo cooperação e transparência. O Artigo 20 permite que o governo aborde serviços estrangeiros que violem as medidas, estendendo o alcance regulatório a provedores internacionais que operam na China. O Artigo 21 define as autoridades relevantes que podem punir provedores que violem as disposições, com crimes investigados de acordo com a lei.
Disposições Complementares
A quinta seção contém definições e detalhes de implementação. O Artigo 22 define termos-chave como IA generativa, provedores de serviços e usuários de serviços. O Artigo 23 exige a obtenção de licenças relevantes para fornecer serviços onde exigido por lei. O Artigo 24 estabelece que as medidas entram em vigor em 15 de agosto de 2023.
As medidas se aplicam a uma ampla gama de tecnologias de IA generativa, incluindo aquelas construídas sobre grandes modelos de linguagem e arquiteturas transformer. Elas afetam tanto empresas chinesas domésticas quanto empresas estrangeiras que oferecem serviços na China, exigindo conformidade com padrões de conteúdo, governança de dados e procedimentos de avaliação de segurança.
Implementação e Impacto
A implementação dessas medidas tem implicações significativas para a indústria de IA. Os provedores devem conduzir avaliações de segurança antes de lançar serviços que possam influenciar a opinião pública, e devem registrar seus algoritmos junto às autoridades. O requisito de regras de rotulagem de dados e avaliação de qualidade afeta como os conjuntos de dados de treinamento são construídos e validados.
As medidas também abordam o uso de técnicas de aprendizado profundo e redes neurais em sistemas generativos. Embora as regulamentações não determinem abordagens técnicas específicas, elas exigem que os modelos evitem viés algorítmico e discriminação, o que influencia o design do modelo e as práticas de treinamento.
Para empresas internacionais de IA, as medidas criam obrigações de conformidade ao oferecer serviços ao público chinês. Isso inclui adaptar sistemas de moderação de conteúdo, implementar mecanismos de consentimento do usuário para uso de dados pessoais e cooperar com inspeções governamentais. As disposições sobre serviços estrangeiros indicam que a aplicação extraterritorial é possível para violações.
A abordagem regulatória reflete uma tendência mais ampla na China em direção à governança abrangente de IA. As medidas complementam outras regulamentações sobre segurança cibernética, proteção de dados e sistemas de recomendação de algoritmos, criando um ambiente regulatório em camadas. A ênfase tanto no desenvolvimento quanto na segurança sugere um esforço contínuo para manter a competitividade tecnológica enquanto gerencia riscos potenciais.
A partir da data de vigência, as medidas representam um quadro de base que pode ser atualizado à medida que as tecnologias de IA generativa evoluem. O requisito de supervisão classificada sugere que diferentes tipos de serviços podem enfrentar diferentes níveis de escrutínio, dependendo de seu impacto potencial na opinião pública e na estabilidade social. As medidas também incentivam a cooperação internacional em inovação de IA, indicando uma abertura à colaboração global, apesar das restrições regulatórias.
A implementação prática dessas medidas continua a se desenvolver, com autoridades emitindo orientações e conduzindo avaliações. O impacto na pesquisa e no desenvolvimento de IA na China inclui maior atenção à qualidade dos dados, práticas de rotulagem e medidas de segurança de conteúdo. As medidas também influenciaram discussões sobre governança de IA em outras jurisdições, contribuindo para a conversa global sobre como regular tecnologias de IA generativa.