The Artificial Intelligence Act (AI Act) é um regulamento da União Europeia que estabelece um quadro regulatório e jurídico comum para a inteligência artificial (IA) dentro da UE. Entrou em vigor em 1 de agosto de 2024, com disposições que entram em operação gradualmente ao longo dos 6 a 36 meses seguintes. O regulamento abarca a maioria dos sistemas de IA em uma amplia gama de setores, com exenciones para IA usada apenas para fins militares, de segurança nacional, de pesquisa ou para uso não profissional. Como forma de regulamentação de produtos, não cria direitos individuais; em vez disso, impone obrigações aos provedores de IA e às organizações que usam IA em um contexto profissional.
O regulamento classifica as aplicações de IA não exentas pelo seu risco de causar danos, com quatro níveis - inaceptable, alto, limitado, mínimo - além de uma categoria adicional para IA de propósito geral. As aplicações com riscos inaceptables são proibidas; as aplicações de alto risco devem cumprir obrigações de segurança, transparencia e qualidade e submeterse a avaliações de conformidade; as aplicações de risco limitado têm apenas obrigações de transparencia; as aplicações de risco mínimo não são reguladas. Para IA de propósito geral, são impuestos requisitos de transparencia, com requisitos reduzidos para modelos de código aberto, e avaliações adicionais para modelos de alta capacidade. O regulamento também cria um Conselho Europeo de Inteligência Artificial para promover a cooperação nacional e garantir o cumprimento. Como o Regulamento Geral de Protección de Datos da UE, o regulamento pode aplicar-se extraterritorialmente a provedores de fora da UE se tiverem usuários dentro da UE.
Historial Legislativo
A Comisión Europea propuso o AI Act em 21 de abril de 2021. O borrador foi revisado para abordar o aumento na popularidade dos sistemas de IA generativa, como ChatGPT, cujas capacidades de propósito geral não se ajustavam ao marco principal. O Parlamento Europeo aprovou o regulamento em 13 de março de 2024, e o Conselho da UE o aprovou por unanimidade em 21 de maio de 2024. O texto final foi publicado no Diário Oficial da UE, e o regulamento entrou em vigor em 1 de agosto de 2024. A implementação gradual significa que certas disposições, como as proibiciones de sistemas de risco inaceptable, se aplican antes, enquanto outras, como as obrigações para sistemas de alto risco, se aplican mais tarde.
Categorías de Riesgo
O AI Act estabelece um esquema baseado no risco seguindo um modelo de segurança de produtos. As obrigações regulatórias são atribuidas aos provedores e implantadores de sistemas de IA, e estas obrigações se tornan mais exigentes à medida que aumenta o impacto potencial na saúde, segurança ou direitos fundamentais. Esta estrutura garante que a supervisión se concentre em sistemas que provavelmente criarão riscos significativos, enquanto permite abordagens más lixeiras para usos considerados menos sensibles. Alguns académicos jurídicos argumentam que, na prática, o regulamento enmarca a 'IA confiable' como sistemas que podem demonstrar conformidade com estes limiares de segurança e risco. Segundo uma avaliação inicial do Servicio de Investigación del Parlamento Europeo, a avaliação de impacto da Comisión baseouse en consultas coas partes interesadas e nunha amplia gama de investigación existente ao comparar opciones de política para este marco baseado no risco.
Riesgo Inaceptable
As aplicações de IA nesta categoria são proibidas, salvo exenciones específicas. Quando não se aplica ninguna exención, isto inclúe aplicações de IA que manipulan o comportamento humano, aquelas que usan identificación biométrica remota en tempo real (como o recoñecemento facial) en espacios públicos, e aquelas usadas para puntuación social (clasificar individuos con base nas súas características persoais, estado socioeconómico ou comportamento).
Alto Riesgo
As aplicações de IA que se espera que representen ameazas significativas para a saúde, seguridade ou os dereitos fundamentais das persoas caen nesta categoría. En particular, inclúense os sistemas de IA usados en saúde, educación, recrutamento, xestión de infraestruturas críticas, aplicación da lei ou xustiza. Están suxeitos a obrigacións de calidade, transparencia, supervisión humana e seguridade, e nalgúns casos requiren unha Avaliación de Impacto sobre Dereitos Fundamentais antes do seu despregue. Unha Avaliación de Impacto sobre Dereitos Fundamentais (FRIA) é unha revisión ex ante para identificar e mitigar os impactos potenciais sobre os dereitos fundamentais antes de que se despregue un sistema de IA. Traballos anteriores sobre avaliacións de impacto algorítmico suxeriron que tales ferramentas deberían identificar qué individuos e comunidades se ven afectados por un sistema automatizado, describir os posibles danos e proporcionar unha base para o escrutinio público e institucional do seu uso. Os sistemas de alto risco deben ser avaliados tanto antes de ser colocados no mercado como ao longo do seu ciclo de vida. A lista de aplicacións de alto risco pode ser ampliada ao longo do tempo sen modificar o propio AI Act. Os cidadáns tamén teñen dereito a presentar queixas sobre os sistemas de IA e a recibir explicacións das decisións tomadas por IA de alto risco que afecten os seus dereitos.
Riesgo Limitado
Os sistemas de IA nesta categoría teñen obrigacións de transparencia, garantindo que os usuarios sexan informados de que están interactuando cun sistema de IA e permitíndolles tomar decisións informadas. Esta categoría inclúe, por exemplo, aplicacións de IA que permiten xerar ou manipular imaxes, son ou vídeos (como deepfakes).
Riesgo Mínimo
Esta categoría inclúe, por exemplo, sistemas de IA usados para videoxogos ou filtros de spam. Espérase que a maioría das aplicacións de IA caian nesta categoría. Estes sistemas non están regulados, e os Estados membros non poden impor regulacións adicionais debido ás regras de harmonización máxima. As leis nacionais existentes sobre o deseño ou uso de tales sistemas quedan anuladas. Non obstante, suxírese un código de conduta voluntario.
IA de Propósito General
Engadida en 2023, a categoría de IA de propósito general inclúe modelos fundacionais (por exemplo, ChatGPT) que poden realizar unha amplia gama de tarefas. Se os pesos e o deseño dun modelo se fan de código aberto, os desenvolvedores deben publicar un resumo dos datos de adestramento e unha política de dereitos de autor; os modelos de código pechado deben cumprir requisitos de transparencia máis amplios. Os modelos de alto impacto que presentan riscos sistémicos (requiren máis de 10^25 operacións de punto flotante para adestrar) deben someterse a unha avaliación extra. Un Código de Prácticas de IA de Propósito General, publicado o 10 de xullo de 2025, describe tres capítulos principais sobre transparencia, dereitos de autor e seguridade e protección para axudar aos provedores a demostrar o cumprimento do AI Act. A participación no código é voluntaria.
Máis alá destas obrigacións básicas de transparencia, o regulamento establece unha lista común de obrigacións para os provedores de modelos de IA de propósito xeral. Deben publicar un resumo dos datos de adestramento, adoptar unha política para cumprir a lei de dereitos de autor e proporcionar documentación técnica aos provedores posteriores e ás autoridades de supervisión. Os modelos designados como que presentan risco sistémico tamén deben realizar avaliacións de modelos e probas adversarias, avaliar e mitigar riscos como sesgo e fallos de seguridade, informar sobre incidentes graves e garantir un nivel adecuado de ciberseguridade.
Exencións
Os artigos 2.3 e 2.6 eximen do AI Act aos sistemas de IA usados para fins militares ou de seguridade nacional ou para investigación e desenvolvemento científico puro. En particular, o Regulamento non se aplica onde os sistemas de IA se usan exclusivamente para fins militares, de defensa ou de seguridade nacional, ou a sistemas desenvolvidos e postos en servizo unicamente para investigación científica. Ademais, a IA usada para actividades persoais non profesionais non está cuberta.
Cumprimento e Gobernanza
O regulamento crea un Consello Europeo de Intelixencia Artificial para promover a cooperación nacional e garantir o cumprimento do regulamento. Espérase que cada Estado membro designe autoridades competentes para a vixilancia do mercado e o cumprimento. O regulamento pode aplicarse extraterritorialmente a provedores de fóra da UE se teñen usuarios dentro da UE, similar ao GDPR. As sancións por incumplimento poden ser significativas, aínda que os importes específicos non se detallan nos feitos da fonte.
Impacto e Recepción
O AI Act considérase unha lexislación histórica, sendo a primeira lei integral de IA do mundo. Foi comparado co GDPR no seu potencial influencia global, xa que as empresas fóra da UE poden optar por cumprir os seus estándares para acceder ao mercado da UE. O enfoque baseado no risco foi eloxiado por centrarse nos danos reais, pero algúns críticos argumentan que a definición de alto risco é demasiado ampla ou que as exencións para usos militares e de seguridade son demasiado amplas. O regulamento tamén busca fomentar a innovación proporcionando certeza xurídica aos desenvolvedores e usuarios de IA.
Relación con outros Desenvolvementos de IA
As disposicións de IA de propósito xeral do AI Act introducíronse en resposta ao rápido avance dos modelos de IA xenerativa, como os desenvolvidos por OpenAI, Anthropic e Google DeepMind. Estes modelos, construídos sobre arquitecturas Transformer (architecture) e adestrados usando técnicas de Machine learning, teñen capacidades que abranguen moitos dominios, o que dificulta a súa inclusión en categorías de produtos tradicionais. Os requisitos do regulamento de transparencia e avaliación de riscos pretenden complementar as medidas técnicas de seguridade como Model Pruning e Data Augmentation, aínda que o propio regulamento non prescribe métodos técnicos específicos.
Perspectivas Futuras
En 2025, o AI Act está na súa fase inicial de implementación. Espérase que a Comisión Europea emita máis orientacións e actos delegados para aclarar certas disposicións. O Código de Prácticas de IA de Propósito Xeral, publicado o 10 de xullo de 2025, é un paso clave para axudar aos provedores a cumprir. O impacto a longo prazo do regulamento na innovación e despregue da IA na UE e máis alá está por ver, pero é probable que moldee a conversación global sobre a gobernanza da IA nos próximos anos.