A Lei de Inteligência Artificial (AI Act) é um regulamento da União Europeia que estabelece um quadro regulatório e jurídico comum para a inteligência artificial em toda a UE. Ela classifica as aplicações de IA em quatro níveis de risco - inaceitável, alto, limitado e mínimo - além de uma categoria separada para IA de uso geral. Aplicações com riscos inaceitáveis são proibidas de forma absoluta, sujeitas a isenções específicas. O regulamento entrou em vigor em 1º de agosto de 2024, com disposições implementadas gradualmente ao longo dos 6 a 36 meses seguintes.
A proibição de sistemas de IA de risco inaceitável é o nível mais rigoroso da abordagem baseada em risco da AI Act. Ela visa aplicações de IA que representam uma ameaça clara aos direitos fundamentais, à segurança ou aos processos democráticos dos indivíduos na UE. Diferentemente dos sistemas de alto risco, que devem cumprir obrigações de conformidade, os sistemas de risco inaceitável não são permitidos no mercado da UE, a menos que se enquadrem em exceções estritamente definidas. Essa proibição se aplica extraterritorialmente, espelhando o Regulamento Geral sobre a Proteção de Dados, a provedores fora da UE que tenham usuários dentro da UE.
Escopo da Proibição
A AI Act proíbe aplicações de IA que manipulam o comportamento humano de maneiras que contornam o livre-arbítrio, como técnicas subliminares ou a exploração de vulnerabilidades de grupos específicos (por exemplo, crianças ou pessoas com deficiência) para causar danos. Ela também proíbe a pontuação social - a classificação de indivíduos com base em características pessoais, status socioeconômico ou comportamento - quando usada por autoridades públicas para tratamento prejudicial. A identificação biométrica remota em tempo real (incluindo reconhecimento facial) em espaços publicamente acessíveis é proibida para fins de aplicação da lei, com exceções limitadas para crimes graves específicos, terrorismo ou pessoas desaparecidas, sujeitas a autorização judicial.
Práticas adicionais proibidas incluem IA que explora vulnerabilidades devido à idade, deficiência ou situação social ou econômica, e IA que infere emoções em ambientes de trabalho ou educacionais, exceto por razões médicas ou de segurança. A lista é exaustiva; nenhuma outra prática é automaticamente proibida nesta categoria. A Comissão Europeia pode atualizar a lista por meio de atos delegados, mas qualquer expansão exige uma revisão legislativa completa.
Isenções da Proibição
Os artigos 2.3 e 2.6 da AI Act isentam sistemas de IA usados exclusivamente para fins militares, de defesa ou de segurança nacional, bem como pesquisa e desenvolvimento científico puro. Essas isenções são restritas: o sistema de IA deve ser usado somente para esses fins, não em capacidade de uso duplo. O uso pessoal não profissional de IA também está fora do escopo. As isenções não se aplicam à implantação comercial ou a sistemas usados em contextos civis, mesmo que desenvolvidos por agências militares ou de segurança.
Para identificação biométrica remota em tempo real, a proibição inclui uma exceção específica para a aplicação da lei em três cenários: busca por vítimas de sequestro ou tráfico, prevenção de uma ameaça terrorista iminente e grave, e localização ou identificação de uma pessoa suspeita de um crime grave (conforme definido pela legislação nacional). Qualquer uso deve ser autorizado por uma autoridade judicial ou administrativa independente, e a decisão deve ser baseada em evidências objetivas. A autorização é limitada no tempo e geograficamente restrita, com relatórios obrigatórios ao Conselho Europeu de Inteligência Artificial.
Contexto Histórico e Processo Legislativo
A Comissão Europeia propôs a AI Act em 21 de abril de 2021. O rascunho original não incluía uma categoria dedicada para IA de uso geral, mas o rápido avanço de sistemas de IA generativa como o ChatGPT - construídos sobre modelos de linguagem de grande escala - levou a uma revisão. O Parlamento Europeu aprovou a Lei em 13 de março de 2024, e o Conselho da UE a aprovou por unanimidade em 21 de maio de 2024. O texto final incorporou a categoria de IA de uso geral, adicionada em 2023 para abordar modelos de fundação que podem realizar uma ampla gama de tarefas.
A proibição de práticas de risco inaceitável estava presente na proposta inicial, mas seu escopo foi refinado durante as negociações. Rascunhos iniciais incluíam uma proibição mais ampla de IA usada para 'técnicas manipulativas', que foi restringida para focar em técnicas que contornam o livre-arbítrio. A proibição de pontuação social também foi esclarecida para se aplicar especificamente a autoridades públicas, não a entidades privadas, embora o uso privado que leve a tratamento prejudicial possa ainda ser capturado por outras disposições.
Conformidade e Fiscalização
O Conselho Europeu de Inteligência Artificial, estabelecido pela Lei, promove a cooperação nacional e garante a aplicação consistente. As autoridades nacionais de supervisão são responsáveis por monitorar a conformidade em seus estados-membros. Para sistemas de risco inaceitável, a obrigação principal é não colocá-los no mercado ou usá-los. Se um provedor ou implantador for encontrado usando um sistema proibido, eles enfrentam penalidades - até €35 milhões ou 7% do faturamento anual global, o que for maior, por violações da proibição.
A fiscalização é baseada em risco: as autoridades podem realizar vigilância de mercado, solicitar documentação e conduzir auditorias. A Lei não cria direitos individuais, portanto os cidadãos não podem processar diretamente por danos sob a própria AI Act; eles devem contar com leis nacionais existentes ou com o Regulamento Geral sobre a Proteção de Dados. No entanto, os cidadãos podem apresentar reclamações às autoridades nacionais sobre sistemas de IA, incluindo aqueles que acreditam se enquadrar na proibição de risco inaceitável.
Relação com Outras Categorias de Risco
A proibição de sistemas de risco inaceitável se situa ao lado de outros três níveis. Aplicações de alto risco - como IA usada em saúde, educação, recrutamento, infraestrutura crítica, aplicação da lei ou justiça - devem cumprir obrigações de segurança, transparência e qualidade, e passar por avaliações de conformidade. Alguns sistemas de alto risco exigem uma Avaliação de Impacto sobre Direitos Fundamentais antes da implantação. Sistemas de risco limitado, como geradores de deepfake, têm apenas obrigações de transparência. Sistemas de risco mínimo, como IA de videogames ou filtros de spam, não são regulamentados, e os estados-membros não podem impor regras adicionais devido à harmonização máxima.
A distinção entre risco inaceitável e alto risco nem sempre é clara na prática. Por exemplo, um sistema de IA usado para reconhecimento de emoções em contratações pode ser considerado de alto risco (porque afeta o recrutamento), mas também pode ser proibido se explorar vulnerabilidades. A Comissão Europeia publicou diretrizes para ajudar a classificar casos limítrofes, mas, até 2025, essas diretrizes são não vinculativas. Estudiosos do direito observam que o esquema baseado em risco segue um modelo de segurança de produto, onde os deveres regulatórios aumentam com o impacto potencial na saúde, segurança ou direitos fundamentais.
IA de Uso Geral e a Proibição
Modelos de IA de uso geral, incluindo modelos de fundação, não são automaticamente proibidos, mas estão sujeitos a requisitos de transparência. Modelos de código aberto devem publicar um resumo dos dados de treinamento e uma política de direitos autorais; modelos de código fechado enfrentam deveres de transparência mais amplos. Modelos de alto impacto que exigem mais de 10^25 operações de ponto flutuante para treinar devem passar por avaliação extra para riscos sistêmicos. O Código de Prática para IA de Uso Geral, publicado em 10 de julho de 2025, descreve capítulos sobre transparência, direitos autorais e segurança, embora a participação seja voluntária.
A proibição de práticas de risco inaceitável se aplica à IA de uso geral quando usada em aplicações proibidas. Por exemplo, um sistema de IA generativa usado para pontuação social seria proibido, mesmo que o modelo subjacente seja legal de outra forma. Isso cria uma obrigação dupla: os provedores devem garantir que seus modelos não sejam usados de maneiras proibidas, e os implantadores não devem usá-los em tais contextos. A Lei não exige que os provedores incorporem salvaguardas técnicas contra usos proibidos, mas eles devem fornecer documentação que ajude os implantadores a entender as capacidades e limitações do modelo.
Impacto e Críticas
A proibição foi elogiada por grupos da sociedade civil por estabelecer um precedente forte na regulamentação de IA, particularmente em relação ao reconhecimento facial e à pontuação social. No entanto, críticos da indústria argumentam que a proibição é excessivamente ampla e pode sufocar a inovação, especialmente em aplicações de aprendizado de máquina que têm usos legítimos. Alguns especialistas jurídicos notaram que as isenções para fins militares e de segurança nacional são amplas e podem ser exploradas, embora a Lei exija que tais sistemas sejam usados 'exclusivamente' para esses fins.
O alcance extraterritorial da proibição também chamou atenção. Empresas não pertencentes à UE, incluindo grandes desenvolvedores de IA como OpenAI, Anthropic e Google DeepMind, devem garantir que seus sistemas não se envolvam em práticas proibidas ao atender usuários da UE. Isso levou a esforços de conformidade, como bloqueio geográfico ou ajuste do comportamento do sistema. Até 2025, nenhuma ação de fiscalização importante foi publicamente relatada, mas a Comissão Europeia indicou que priorizará o monitoramento de sistemas de risco inaceitável.
A proibição de IA de risco inaceitável na AI Act representa um afastamento significativo de abordagens anteriores, mais voluntárias, à governança de IA. Ela estabelece uma linha vermelha clara para certas aplicações, enquanto deixa espaço para sistemas de alto risco operarem sob condições estritas. A implementação gradual das disposições significa que a aplicação completa da proibição será concluída até agosto de 2027, com prazos anteriores para obrigações específicas. O impacto prático dependerá de como as autoridades nacionais interpretarem as isenções e de como a Comissão Europeia atualizar a lista de práticas proibidas em resposta aos desenvolvimentos tecnológicos.