A Proposta de Lei de IA da UE de 2021 é a proposta legislativa inicial da Comissão Europeia para regular a inteligência artificial (IA) na União Europeia. Apresentada em 21 de abril de 2021, estabeleceu um quadro baseado em risco para classificar as aplicações de IA em quatro níveis - inaceitável, alto, limitado e mínimo - com obrigações correspondentes para fornecedores e implantadores. A proposta foi posteriormente revisada para abordar o surgimento de sistemas de IA generativa, como o ChatGPT, antes de ser adotada como a Lei de IA final em 2024.
A proposta surgiu de uma estratégia mais ampla da UE para posicionar o bloco como líder em IA confiável, equilibrando inovação com a proteção de direitos fundamentais. Baseou-se em trabalhos anteriores do Parlamento Europeu e do Grupo de Peritos de Alto Nível da Comissão sobre IA, que haviam pedido um quadro regulatório capaz de se adaptar a mudanças tecnológicas rápidas. O texto original visava harmonizar as regras nacionais, prevenir a fragmentação do mercado e garantir que os sistemas de IA colocados no mercado da UE fossem seguros e respeitassem as leis existentes.
Contexto e Histórico Legislativo
A Comissão Europeia vinha desenvolvendo políticas de IA desde 2018, quando publicou um plano coordenado sobre IA com os Estados-membros. Em fevereiro de 2020, a Comissão divulgou um Livro Branco sobre IA, que delineou opções políticas e lançou uma consulta pública. O feedback, combinado com avaliações de impacto, informou o projeto de regulamento apresentado em 21 de abril de 2021 pelo Comissário do Mercado Interno, Thierry Breton, e pela Vice-Presidente Margrethe Vestager.
A proposta fazia parte de um pacote digital mais amplo que também incluía a Lei de Serviços Digitais e a Lei de Mercados Digitais. Ao contrário desses regulamentos, que se concentravam em plataformas online, a Lei de IA visava a própria tecnologia, usando um modelo de segurança de produtos semelhante à legislação existente da UE sobre máquinas, brinquedos e dispositivos médicos. Essa abordagem atribuía deveres aos fornecedores de IA (desenvolvedores) e implantadores (usuários) com base no nível de risco que seus sistemas representavam.
O processo legislativo levou mais de três anos. O Parlamento Europeu e o Conselho da UE negociaram alterações, com mudanças significativas feitas em resposta à rápida adoção de ferramentas de IA generativa. O texto final foi aprovado pelo Parlamento em 13 de março de 2024 e pelo Conselho em 21 de maio de 2024, entrando em vigor em 1º de agosto de 2024. A proposta de 2021, no entanto, permanece historicamente significativa como a base para essas negociações.
Classificação Baseada em Risco
O núcleo da proposta era uma pirâmide de risco de quatro níveis, amplamente mantida na Lei final. As categorias foram projetadas para refletir o dano potencial que um sistema de IA poderia causar à saúde, segurança ou direitos fundamentais.
Risco Inaceitável
Aplicações consideradas de risco inaceitável deveriam ser proibidas diretamente. Isso incluía sistemas de IA que manipulam o comportamento humano para contornar o livre-arbítrio, aqueles que exploram vulnerabilidades de grupos específicos (como crianças ou pessoas com deficiência) e sistemas de pontuação social que classificavam indivíduos com base em características pessoais ou comportamento. A proposta também proibia a identificação biométrica remota em tempo real em espaços públicos acessíveis para fins de aplicação da lei, com exceções restritas para crimes específicos e com autorização judicial.
Risco Alto
Sistemas de IA de alto risco estavam sujeitos às obrigações mais extensas. A proposta listava oito áreas específicas: identificação e categorização biométrica de pessoas físicas; gestão e operação de infraestrutura crítica; educação e formação profissional; emprego e gestão de trabalhadores; acesso a serviços essenciais privados e públicos; aplicação da lei; migração, asilo e controle de fronteiras; e administração da justiça e processos democráticos. Fornecedores de sistemas de alto risco tinham que implementar sistemas de gestão de risco, usar dados de treinamento de alta qualidade, manter documentação técnica, permitir registro automático, garantir transparência e fornecer supervisão humana. Também tinham que passar por avaliações de conformidade antes da colocação no mercado e ao longo do ciclo de vida do sistema.
Risco Limitado
Sistemas de IA de risco limitado, como chatbots e geradores de deepfake, estavam sujeitos a obrigações de transparência. Os usuários tinham que ser informados quando interagiam com um sistema de IA, e o conteúdo gerado ou manipulado por IA tinha que ser rotulado como tal. Isso visava permitir que os indivíduos fizessem escolhas informadas e prevenir o engano.
Risco Mínimo
A maioria das aplicações de IA, incluindo videogames e filtros de spam, era considerada de risco mínimo e não era regulamentada. A proposta incentivava códigos de conduta voluntários para esses sistemas, mas não impunha requisitos vinculativos. Os Estados-membros também eram impedidos de adicionar regras nacionais extras para sistemas de risco mínimo, garantindo um mercado único para IA.
IA de Propósito Geral e Modelos Generativos
A proposta original de 2021 não abordava explicitamente sistemas de IA de propósito geral (GPAI), que podem realizar uma ampla gama de tarefas em diferentes domínios. Essa lacuna tornou-se evidente com o crescimento explosivo de modelos de IA generativa como o ChatGPT e outros modelos de fundação no final de 2022 e 2023. O projeto foi revisado para incluir uma categoria dedicada para GPAI, com obrigações em camadas.
Sob o quadro revisado, todos os modelos GPAI tinham que fornecer documentação técnica, publicar resumos de dados de treinamento e cumprir a lei de direitos autorais. Modelos de código aberto, onde pesos e design eram tornados públicos, enfrentavam requisitos reduzidos, como apenas precisar publicar um resumo de dados de treinamento e uma política de direitos autorais. Modelos de código fechado tinham que cumprir deveres de transparência mais amplos. Modelos de alto impacto que exigiam mais de 10^25 operações de ponto flutuante para treinar eram considerados como representando riscos sistêmicos e tinham que passar por avaliações adicionais, testes adversariais e medidas de segurança cibernética.
Essa revisão foi uma resposta direta aos desafios colocados por sistemas de aprendizado de máquina que poderiam ser ajustados para inúmeras aplicações, dificultando sua classificação sob as categorias de risco originais. A abordagem visava equilibrar inovação com supervisão, particularmente para os modelos mais poderosos desenvolvidos por empresas como Google DeepMind e Anthropic.
Execução e Governança
A proposta estabeleceu uma estrutura de governança para garantir aplicação consistente em toda a UE. Criou um Conselho Europeu de Inteligência Artificial, composto por representantes dos Estados-membros e da Comissão, para facilitar a cooperação e fornecer orientação. Autoridades nacionais de supervisão eram responsáveis por fazer cumprir o regulamento em seus territórios, com poder de conduzir vigilância de mercado e impor penalidades.
As penalidades por não conformidade foram fixadas em até 6% do faturamento anual global de uma empresa para violações envolvendo práticas proibidas, 4% para outras infrações e 2% para fornecimento de informações incorretas. Essas multas eram comparáveis às do Regulamento Geral de Proteção de Dados, refletindo o compromisso da UE com uma execução robusta.
A proposta também incluía disposições para aplicação extraterritorial, o que significa que fornecedores de fora da UE estariam sujeitos ao regulamento se oferecessem sistemas de IA a usuários dentro da UE. Isso espelhava a abordagem do GDPR e visava criar condições equitativas para desenvolvedores globais de IA.
Isenções e Escopo
Certos sistemas de IA foram excluídos do escopo da proposta. Isso incluía sistemas usados exclusivamente para fins militares, de defesa ou segurança nacional, bem como aqueles desenvolvidos e colocados em serviço exclusivamente para pesquisa e desenvolvimento científico. O regulamento também não se aplicava a IA usada para atividades pessoais e não profissionais. Essas isenções visavam respeitar a soberania dos Estados-membros em questões de segurança e evitar prejudicar a inovação em ambientes de pesquisa.
No entanto, a proposta não isentava sistemas de IA usados na aplicação da lei ou controle de migração, embora essas sejam frequentemente funções estatais. Em vez disso, sujeitava-os à categoria de alto risco, com salvaguardas adicionais, como supervisão humana e avaliações de impacto em direitos fundamentais.
Impacto e Legado
A proposta de 2021 foi um marco na regulamentação de IA, sendo o primeiro quadro legal abrangente para IA proposto por uma grande jurisdição. Influenciou esforços regulatórios subsequentes em todo o mundo, incluindo a Convenção de IA do Conselho da Europa e várias iniciativas nacionais. A abordagem baseada em risco foi amplamente debatida, com alguns estudiosos elogiando sua flexibilidade e outros criticando possíveis lacunas ou excesso de regulamentação.
Durante o processo legislativo, a proposta foi alterada para abordar preocupações da indústria e da sociedade civil. Por exemplo, a lista de aplicações de alto risco foi refinada, e a definição de IA foi alinhada com a da OCDE. A Lei final, adotada em 2024, manteve a estrutura central da proposta de 2021, mas adicionou a categoria GPAI e ajustou certos limites.
A proposta também gerou discussões acadêmicas e políticas sobre a natureza da regulamentação de IA. Alguns argumentaram que o modelo de segurança de produtos era apropriado para IA, enquanto outros pediram uma abordagem mais centrada nos direitos humanos. A inclusão de avaliações de impacto em direitos fundamentais foi vista como um passo progressivo, baseando-se em trabalhos anteriores sobre avaliações de impacto algorítmico.
Em 2025, as disposições da Lei de IA estão sendo implementadas gradualmente, com os primeiros prazos para práticas proibidas e obrigações de GPAI já em vigor. A proposta de 2021 permanece um ponto de referência fundamental para entender a evolução da governança de IA na UE e globalmente.