The Artificial Intelligence Act (AI Act) é um regulamento da União Europeia que estabelece um quadro regulatório e jurídico comum para a inteligência artificial (IA) em toda a UE. Entrou em vigor em 1 de agosto de 2024, com a maioria das disposições sendo aplicada gradualmente ao longo dos 6 a 36 meses seguintes. O Regulamento introduz uma classificação baseada no risco, imponendo obrigações mais estrictas aos sistemas de IA que representam um maior potencial de dano para a saúde, a segurança ou os direitos fundamentais. Regula principalmente os provedores e implantadores de sistemas de IA em contextos profissionais, em vez de criar direitos individuais.
Proposto pela Comisión Europea em 21 de abril de 2021, o Regulamento foi aprovado pelo Parlamento Europeo em 13 de marzo de 2024 e aprovado por unanimidade pelo Consejo de la UE em 21 de mayo de 2024. O texto final foi revisado para abordar o rápido surgimento de sistemas de IA generativa como ChatGPT, que introduziu capacidades de propósito geral não previstas no quadro original.
Categorías de Riesgo
O Regulamento divide as aplicações de IA não exentas em quatro níveis de risco, além de uma categoria separada para IA de propósito geral.
Riesgo inaceptable: Estas aplicações de IA estão proibidas, salvo excepciones específicas. Las prohibiciones cubren sistemas que manipulan el comportamiento humano, los utilizados para la puntuación social (clasificación de individuos según características personales, estatus socioeconómico o comportamiento) y la identificación biométrica remota en tiempo real (como el reconocimiento facial) en espacios públicos.
Riesgo alto: Los sistemas de IA que representan amenazas significativas para la salud, la seguridad o los derechos fundamentales cuando se utilizan en sectores críticos como la salud, la educación, la contratación, la gestión de infraestructuras críticas, la aplicación de la ley o la justicia. Estos sistemas deben cumplir con obligaciones de seguridad, transparencia y calidad, y someterse a evaluaciones de conformidad antes de su comercialización y a lo largo de su ciclo de vida. Algunos usos de alto riesgo requieren una Evaluación de Impacto sobre los Derechos Fundamentales (FRIA, por sus siglas en inglés) antes de su despliegue - una revisión ex ante para identificar y mitigar los impactos sobre los derechos fundamentales. Los ciudadanos pueden presentar quejas sobre sistemas de IA de alto riesgo y recibir explicaciones sobre las decisiones que afectan a sus derechos.
Riesgo limitado: Los sistemas de IA en esta categoría conllevan obligaciones de transparencia, que requieren que los usuarios sean informados cuando interactúan con IA. Esto se aplica a sistemas que generan o manipulan imágenes, sonido o vídeo, como los deepfakes.
Riesgo mínimo: La mayoría de las aplicaciones de IA, incluidos los videojuegos y los filtros de spam, se encuentran aquí. No están reguladas y los Estados miembros no pueden imponer reglas adicionales debido a la armonización máxima. Se sugiere un código de conducta voluntario.
El enfoque basado en el riesgo sigue un modelo de seguridad de productos donde los deberes aumentan con el impacto potencial. Los académicos del derecho señalan que el Reglamento enmarca la "IA confiable" como sistemas que demuestran cumplimiento con estos umbrales de seguridad.
IA de Propósito General
Añadida en 2023, esta categoría cubre modelos fundacionales capaces de realizar una amplia gama de tareas. Los modelos de código abierto con pesos disponibles públicamente deben publicar un resumen de los datos de entrenamiento y una política de derechos de autor. Los modelos de código cerrado enfrentan requisitos de transparencia más amplios. Los modelos de alto impacto que representan un riesgo sistémico - que requieren más de 10^25 operaciones de coma flotante para entrenarse - deben someterse a evaluaciones adicionales, incluyendo pruebas de modelo y pruebas adversariales. El Código de Prácticas de IA de Propósito General, publicado el 10 de julio de 2025, proporciona orientación voluntaria sobre transparencia, derechos de autor y seguridad.
Exenciones
Los artículos 2.3 y 2.6 eximen la IA utilizada para fines militares, de seguridad nacional o de investigación científica pura. El Reglamento no se aplica a sistemas utilizados exclusivamente para fines militares, de defensa o de seguridad nacional, ni a aquellos desarrollados únicamente para investigación y desarrollo.
Aplicación y Gobernanza
El Reglamento crea una Junta Europea de Inteligencia Artificial para promover la cooperación entre las autoridades nacionales y garantizar un cumplimiento coherente. Al igual que el GDPR, el Reglamento puede aplicarse extraterritorialmente a proveedores fuera de la UE si tienen usuarios dentro de la UE.
Cronograma de Implementación
El Reglamento entró en vigor el 1 de agosto de 2024, pero las disposiciones se implementan gradualmente en un período de 6 a 36 meses. Los plazos tempranos incluyen las prohibiciones de aplicaciones de riesgo inaceptable para febrero de 2025, las obligaciones de IA de propósito general para agosto de 2025 y los requisitos de sistemas de alto riesgo para agosto de 2026, con obligaciones adicionales para ciertos usos de alto riesgo para 2027. A finales de 2025, la Comisión Europea ha emitido orientaciones y abierto procesos de consulta para apoyar la implementación.
Impacto en el Ecosistema de IA
El alcance extraterritorial del Reglamento significa que empresas como OpenAI, Anthropic, Google DeepMind y otras que ofrecen servicios de IA a usuarios de la UE deben cumplir, independientemente de su sede. La clasificación de sistemas basada en el riesgo ha llevado a los desarrolladores a invertir en documentación, evaluaciones de modelos y medidas de transparencia. Por ejemplo, los proveedores de modelos de lenguaje grandes como ChatGPT ahora publican resúmenes de datos de entrenamiento y cumplen con políticas de derechos de autor. El código de práctica voluntario para IA de propósito general, publicado en julio de 2025, ha sido respaldado por varios proveedores importantes, señalando un cambio hacia la autorregulación dentro de un marco legal.
Las disposiciones del Reglamento también afectan a aplicaciones de aprendizaje automático, aprendizaje profundo y redes neuronales en todos los sectores. Los usos de alto riesgo en salud y contratación deben someterse a evaluaciones de conformidad, lo que potencialmente ralentiza el despliegue pero busca construir confianza pública. La interacción con la investigación y el desarrollo ha sido debatida, ya que la exención para la investigación científica cubre el trabajo no comercial, pero los sistemas desplegados aún deben cumplir. El diseño del Reglamento como regulación de productos significa que complementa las leyes sectoriales existentes, como las reglas de protección de datos, sin crear derechos individuales directos.
Críticas y Desafíos
Los grupos de la industria han expresado preocupaciones de que la complejidad de la clasificación de riesgos y las cargas de cumplimiento pueden ralentizar la innovación, particularmente para las pequeñas y medianas empresas. Algunos académicos argumentan que el requisito de FRIA carece de estándares claros, lo que potencialmente lleva a una implementación inconsistente. La aplicación sigue siendo un desafío debido a la necesidad de una acción coordinada entre las autoridades nacionales en términos prácticos. El Reglamento también enfrenta desafíos legales de entidades que afirman que ciertas disposiciones infringen derechos fundamentales, pero a mediados de 2025, no se han emitido fallos importantes.
A pesar de estos desafíos, el AI Act establece un precedente global, influyendo en esfuerzos legislativos similares en otras jurisdicciones, como Estados Unidos y Japón, y dando forma a los debates internacionales sobre seguridad de la IA. Su enfoque gradual da tiempo a las partes interesadas para adaptarse, pero el impacto completo solo se conocerá a medida que las disposiciones individuales se vuelvan aplicables en los próximos años.
Conclusión
El AI Act de la UE representa un intento histórico de regular la IA de manera integral y basada en el riesgo. Al establecer categorías y obligaciones claras, busca equilibrar la innovación con la protección de la salud, la seguridad y los derechos fundamentales. Su entrada en vigor marca el comienzo de un período de transición donde tanto los proveedores como los implantadores deben implementar medidas de cumplimiento. El éxito del Reglamento dependerá de una gobernanza efectiva, la cooperación internacional y la capacidad de adaptarse a cambios tecnológicos rápidos. A medida que el marco se desarrolle, es probable que influya en la regulación de la IA en todo el mundo, estableciendo un punto de referencia para el desarrollo de IA confiable.