O Regulamento da UE sobre IA é um regulamento da União Europeia que estabelece um quadro regulamentar comum para a inteligência artificial. Entrou em vigor em 1º de agosto de 2024, com disposições implementadas gradualmente ao longo de 6 a 36 meses. O Regulamento classifica as aplicações de IA em categorias de risco: inaceitável, alto, limitado e mínimo, além de uma categoria específica para IA de uso geral. Aplicações consideradas de risco inaceitável são proibidas de imediato. O Regulamento não cria direitos individuais, mas impõe obrigações a provedores e implantadores profissionais; pode ser aplicado extraterritorialmente a provedores não pertencentes à UE com usuários no bloco.
A proibição de práticas de "risco inaceitável" é uma das partes mais relevantes do regulamento. Ela reflete uma escolha política de estabelecer uma linha firme contra certos usos de IA que poderiam minar direitos fundamentais e valores democráticos. Embora o Regulamento permita alguma flexibilidade, essas proibições são absolutas, a menos que uma isenção específica se aplique, e a Comissão Europeia forneceu orientações para esclarecer o escopo das proibições.
Práticas Proibidas sob as Disposições de Proibição
As proibições do Regulamento abrangem sistemas de IA que exploram vulnerabilidades, manipulam comportamento, possibilitam pontuação social ou implementam certas formas de vigilância biométrica. Especificamente, o seguinte é considerado inaceitável onde quer que ocorra dentro da UE, sujeito a exceções estritas:
Manipulação comportamental e exploração. Sistemas de IA que usam técnicas subliminares, manipulativas ou enganosas destinadas a distorcer o comportamento de uma pessoa e causar danos significativos são proibidas. Isso inclui a exploração de vulnerabilidades de indivíduos - como aquelas relacionadas à idade, deficiência ou situação socioeconômica - quando a prática distorce materialmente o comportamento e causa ou pode causar dano a essa pessoa ou a outra. Por exemplo, um brinquedo que usa assistência por voz para encorajar uma criança a realizar atos perigosos é proibido.
Scoring social. O Regulamento proíbe sistemas de IA que avaliam ou classificam pessoas com base em seu comportamento social em diferentes contextos, quando a pontuação social resultante leva a um tratamento desfavorável ou prejudicial que seja desproporcional aos dados ou às circunstâncias originais. A proibição visa a prática de atribuir de créditos a cidadãos por atores públicos ou privados que resultam em pior tratamento em contextos não relacionados à coleta original dos dados.
As proibições foram elaboradas para abordar as práticas específicas que são consideradas as mais adversas e para alinhar a lei europeia às expectativas públicas e às obrigações de direitos humanos.
Vigilância Biométrica em Tempo Real
O regulamento proíbe sistemas de IA para identificação biométrica remota em tempo real em espaços publicamente acessíveis para fins de aplicação da lei, exceto em circunstâncias estritamente definidas. Tempo real refere-se ao processamento que ocorre sem atraso significativo e não em diferido. A proibição se aplica em espaços públicos (por exemplo, parques, ruas, estádios e versões digitais desses espaços). Ela visa particularmente tecnologias de reconhecimento facial que identificam indivíduos em tempo real para fins de segurança.
No entanto, exceções estritamente delineadas permitem que as autoridades de aplicação da lei as usem se forem necessárias. para seus fins específicos ou proteção de. Isso inclui segurança nacional ou casos identificados no regulamento:
- A busca de pessoas protegidas ou suspeitas.
- Resposta a ameaças de ataque terrorista.
- Procedimentos de investigação ou proibição de fatores de medida dos crimes, como homicídio, abuso sexual de crianças ou estupro - quando o uso for necessário, o prazo de curto prazo deve ser autorizado previamente por uma autoridade administrativa ou tribunal com indicador de utilização.
Tais usos devem ser autorizados por uma decisão administrativa ou ordem judicial. A autorização deve basear-se em casos específicos e definir, em termos de tempo por período, qual é utilizada para de forma a não poder ajudar a identificação generalizada. Na prática, essas exceções permitirão que as autoridades usem em polícia em casos excepcionais, desde que o jeito legal seja cumprido pelo menos.
Escopo e Isenções
Vários casos estão totalmente fora do escopo do Regulamento de IA, incluindo sistemas usados exclusivamente para fins militares, de defesa ou de segurança nacional, e aqueles usados para pesquisa ou desenvolvimento científico puro, conforme Artigo 2.3. Também podem ser aplicados ferramentas para finalidades pessoais e não profissionais não estão ainda incluídos. A proibição não se aplica a tais casos, mas não impedem que os países apliquem requisitos de leis nacionais mais raras.
Cronograma de Implementação e Proibições
A proibição de práticas de risco inaceitável, definida no Artigo 5, aplicar-se-á a partir de 2 de fevereiro de 2025. Isso foi definido como certo após a entrada em vigor. A proposta foi feita pela Comissão Europeia em 21 de abril de 2021, o Parlamento Europeu aprovou em 13 de março de 2024, e o Conselho da UE aprovou em 21 de maio de 2024. O texto final foi adaptado para considerar o crescimento de IA de uso geral, como facial, por exemplo, e os proibições foram refinados para abranger usos manipuladores e reconhecimento de emoções.
O período de transição foi criado para deratar aos provedores tempo de adaptar seus sistemas de IA às novas restrições e também permite que as autoridades se preparem. Desde a proibição, empresas, organizações e órgãos públicos têm auditado seus sistemas de IA para garantir que não dependam de nenhum dos métodos proibidos ou incluam nas categorias banidas.
A Comissão Europeia emitiu orientações sobre a interpretação, mas o texto ainda é bastante amplo, pois o redação é o resultado de um compromisso político. Alguns comportamentos, como uso de técnicas de manipulação poderosas e suisceptível, não são estritamente proibidos se o dano não for graves ou intenção não for maliciosa. Além disso, a proibição sobre novamente os pontos negativos de discriminação, outros efeitos menos graves podem ser capturados pela categoria de alto risco ou outras obrigações regulatórias.
Conformidade e Penalidades
Cada Estado-Membro deve designar uma autoridade responsável pela supervisão do mercado. Essas autoridades têm competência para aplicar penalidades financeiras por violações. No caso de práticas banidas, elas podem exigir multa - até 35 milhões de euros ou 7% do volume de negócios anual mundial da empresa, o que for maior. Isso segue a abordagem do Regulamento Geral de Proteção de Dados (GDPR), e as autoridades podem ainda tomar medidas coletivas, como retirar o sistema de IA do mercado.
Devido à escopo extraterritorial, os provedores baseados na UE devem ter um representante autorizado no bloco para garantir comunicação com as autoridades. Eles podem ser considerados responsáveis se colocarem seus sistemas no mercado ou prestarem serviços a usuários na UE, mas estando a partir de sede em outro país.
O Conselho Europeu de Inteligência Artificial
Para a seguir este quadro regulamentar, cria-se um Conselho Europeu de IA, composto por representantes dos Estados-membros e o Autoridade Europeia para a Proteção de Dados. O conselho coordena as autoridades nacionais de fiscalização e emite um parecer e sugestões. Em particular, é responsável por uma abordagem uniforme de ***interpretação e aplicação das proibições.
O conselho pode ainda assumir um papel relevante em certos cases não listados que são considerados proibidos após a avaliação, no entanto, a limitação está em capacidade de iniciativas próprias. Ele é importante para a prática das restrições e para garantir aplicação delas.
Contexto Mais Amplo: Modelo de Risco da IA
As práticas proibidas representam o topo da pirâmide de riscos. As aplicações de alto risco enfrentam obrigações de conformidade, e as de risco limitado (por exemplo, os sistemas de geração de conteúdo), devem declarar que o conteúdo é IA-ciado, como com os deepfakes. A lista de proibidas tem como alvo estreito ameaças reais a pessoas e à sociedade.
Note que a categoria de aplicações de alto risco inclui alguns sistemas biométricos "de bem", mas esses não são proibidos. Esses devem passar por avaliação de conformidade, mas são permitidos porque não atuam em funções de vigilância. Por exemplo, um sistema que analisa impressões digitais de criminosos em um banco de dados não é risco inaceitável; mas, para um sistema de identificação remota em tempo real em um local público, isso é. Isso é uma prioridade.
O AI Act cria, como regulamento de produto, não cria privado de ação, mas obrigações ao provedor. Também cria painel técnico para orientação e assessoria técnica para conformidade. Algumas avaliações de impacto mencionam a necessidade de distinguir entre um sistema proibido e um de alto risco, especialmente para exceções de sistemas biométricos reais. A Comissão prometeu mais esclarecimento nessa área.
Potencial Influência Global
A proibição sobre pontuação social e vigilância biométrica - em países como o Canadá e outros, e também a tecnologia indústria foi influenciada. Especificamente, o modelo de banir identificação biométrica em espaços públicos reflete um consenso que qualquer uso é inaceitável para segurança e direitos fundamentais.
Ainda se perguntado se exceções para identificação biométrica de baixo risco serão mal utilizadas. No curto prazo, grandes empresas de tecnologia como OpenAI, Anthropic e Google DeepMind têm ajustado suas políticas aos regulamentos. Essa aspecto criou um precedente de que certas práticas são não é aceitável em uma sociedade democrática.
Conclusão
A proibição da UE sobre práticas inaceitáveis é um recurso que distingue o regulamento. Definir uma linha vermelha contra a manipulação coercitiva, scoring social e vigilância biométrica in tempo real é uma inovação legal importante, com vantagens de direitos fundamentais sobre o avanço tecnológico irrestrito. A partir de 2025 algumas empresas devem fazer auditoria em seus sistemas de IA para garantir conformidade, e os outros regulados estão sendo aplicados gradualmente nos próximos dois anos. O papel da Conselho para definir os limites das práticas proibidas é crítico, e a proibição está sujeita a revisão contínua. Qualquer mudança na legislação exigiria emenda, mas não há intenção da UE de diminuir as proibições atualmente.
Com cada ato, os limites podem ser recalibrados, mas a proscrição estrita de risco inaceitável permaneceria como base do AI Act e da política digital europeia.