A Diretiva da UE sobre Responsabilidade Civil em IA é um instrumento jurídico proposto pela Comissão Europeia em 28 de setembro de 2022. O seu objetivo é harmonizar as regras de responsabilidade civil em toda a União Europeia para danos causados por sistemas de inteligência artificial. A diretiva complementa o Regulamento da UE sobre IA, que se centra na regulamentação dos requisitos dos sistemas de IA, abordando a questão de quem assume a responsabilidade legal quando um sistema de IA causa danos. Não cria um regime de responsabilidade objetiva, mas antes ajusta as regras processuais para facilitar o ónus da prova para as vítimas em pedidos de indemnização relacionados com IA.
A proposta faz parte da estratégia digital mais ampla da Comissão, que procura construir confiança na IA, garantindo que os indivíduos prejudicados por sistemas de IA tenham um caminho realista para a compensação. A diretiva aplica-se a pedidos de indemnização contratuais e extracontratuais, abrangendo uma vasta gama de aplicações de IA, desde dispositivos médicos a veículos autónomos. Foi concebida para funcionar em conjunto com os quadros nacionais de responsabilidade existentes, como as regras de responsabilidade do produto, em vez de os substituir integralmente.
Contexto e Enquadramento Legislativo
A União Europeia tem vindo a desenvolver um quadro regulamentar abrangente para a IA desde o final da década de 2010. O Regulamento da UE sobre IA, proposto pela primeira vez em abril de 2021, estabelece requisitos baseados no risco para os sistemas de IA, incluindo obrigações de transparência e supervisão humana. No entanto, o Regulamento da UE sobre IA não aborda a responsabilidade civil - define regras sobre como os sistemas de IA devem ser construídos e utilizados, mas não quem paga pelos danos que causam. A Diretiva sobre Responsabilidade Civil em IA preenche esta lacuna ao criar uma abordagem harmonizada para os pedidos de indemnização nos Estados-Membros.
A diretiva foi desenvolvida na sequência de uma resolução do Parlamento Europeu de 2020 que apelou a um quadro de responsabilidade moderno para a IA. A Comissão realizou uma avaliação de impacto que identificou lacunas significativas nas leis nacionais existentes, que muitas vezes deixavam as vítimas sem conseguir provar a causalidade quando sistemas de IA estavam envolvidos. A proposta também responde à crescente implementação de sistemas de Machine learning em setores críticos, onde os seus processos de tomada de decisão opacos dificultam os pedidos legais tradicionais.
O processo legislativo tem estado em curso desde a publicação da proposta. A Comissão dos Assuntos Jurídicos do Parlamento Europeu tem vindo a analisar o texto, com negociações previstas para continuar até 2024 e 2025. A diretiva está estreitamente ligada ao Regulamento da UE sobre IA, e a sua forma final dependerá do resultado dessas negociações paralelas.
Disposições Principais
A diretiva introduz dois mecanismos principais para enfrentar os desafios da responsabilidade civil em IA. Em primeiro lugar, cria uma presunção ilidível de causalidade nos casos em que o requerente possa demonstrar que a culpa de um sistema de IA causou o dano. Esta presunção aplica-se quando o requerente mostra que o requerido não cumpriu uma obrigação legal, como as previstas no Regulamento da UE sobre IA, e que o dano é uma consequência plausível dessa falha. O requerido pode ilidir a presunção provando que o dano foi causado por outros fatores.
Em segundo lugar, a diretiva concede aos requerentes o direito de solicitar a divulgação de provas relevantes aos fornecedores ou utilizadores de sistemas de IA. Este direito é limitado ao que for necessário e proporcionado para o pedido, e protege segredos comerciais e informações confidenciais. Os tribunais só podem ordenar a divulgação quando o requerente apresentar factos suficientes para apoiar a plausibilidade do seu pedido. As provas podem incluir dados de treino, parâmetros do modelo e registos do sistema, que são frequentemente essenciais para estabelecer a causalidade.
A diretiva também clarifica a responsabilidade dos diferentes intervenientes na cadeia de valor da IA. Distingue entre o fornecedor de um sistema de IA, o utilizador que o implementa e o importador ou distribuidor em certos casos. A presunção de causalidade pode aplicar-se a qualquer uma destas partes, dependendo de quem tinha controlo sobre o aspeto relevante do sistema. Para sistemas de IA de alto risco, a diretiva alinha-se com as obrigações do Regulamento da UE sobre IA, o que significa que o incumprimento dessas obrigações pode desencadear a presunção.
Âmbito e Exclusões
A diretiva aplica-se a pedidos de indemnização por danos causados por sistemas de IA, incluindo danos físicos, danos materiais e perdas económicas. Abrange condutas intencionais e negligentes, mas não cria responsabilidade objetiva - os requerentes devem ainda provar culpa ou violação legal. A proposta exclui explicitamente pedidos decorrentes de danos nucleares, acidentes de viação cobertos por regimes nacionais de seguro automóvel e certas outras áreas já reguladas por leis específicas da UE.
A diretiva aplica-se a sistemas de IA conforme definidos no Regulamento da UE sobre IA, que inclui software capaz de gerar resultados como previsões, recomendações ou decisões. Esta definição abrange uma vasta gama de tecnologias, incluindo modelos de Generative AI e sistemas de Large language model. No entanto, a diretiva não se aplica a sistemas de IA utilizados exclusivamente para fins militares, de segurança nacional ou de segurança pública, que estão fora da competência da UE.
A proposta também inclui um prazo de prescrição de três anos para apresentar pedidos, a contar da data em que o requerente tomou conhecimento ou deveria ter tomado conhecimento do dano e do nexo causal. Isto alinha-se com a prática comum nos Estados-Membros da UE, mas fornece uma base uniforme em toda a União.
Relação com a Diretiva de Responsabilidade do Produto
A Diretiva sobre Responsabilidade Civil em IA opera em conjunto com a Diretiva de Responsabilidade do Produto existente, que foi revista em paralelo. A Diretiva de Responsabilidade do Produto cobre pedidos por produtos defeituosos, incluindo software, sob um regime de responsabilidade objetiva - os requerentes não precisam de provar culpa, apenas que o produto era defeituoso e causou dano. A Diretiva sobre Responsabilidade Civil em IA complementa esta ao cobrir casos em que o dano decorre da utilização de um sistema de IA em vez de um defeito no próprio produto.
Por exemplo, se um dispositivo médico alimentado por IA funcionar mal devido a um defeito de fabrico, aplica-se a Diretiva de Responsabilidade do Produto. Se o dano resultar da forma como o sistema de IA foi treinado ou utilizado, como tomada de decisão tendenciosa, a Diretiva sobre Responsabilidade Civil em IA pode aplicar-se. As duas diretivas são concebidas para serem mutuamente exclusivas, com a Diretiva sobre Responsabilidade Civil em IA a aplicar-se apenas onde a Diretiva de Responsabilidade do Produto não se aplica.
A Comissão enfatizou que a Diretiva sobre Responsabilidade Civil em IA não altera os princípios fundamentais do direito nacional de responsabilidade. Não harmoniza a definição de culpa nem o cálculo de danos, que permanecem regidos pelas leis dos Estados-Membros. Em vez disso, foca-se em regras processuais que facilitam o acesso à justiça para as vítimas em casos relacionados com IA.
Impacto nos Programadores e Utilizadores de IA
A diretiva impõe novas obrigações aos fornecedores e utilizadores de sistemas de IA, particularmente no que diz respeito à preservação de provas e documentação. Os fornecedores devem manter registos que possam ser utilizados em processos legais, incluindo informações sobre a conceção do sistema, dados de treino e parâmetros operacionais. Este requisito alinha-se com as obrigações de documentação do Regulamento da UE sobre IA, mas adiciona uma dimensão específica de responsabilidade.
Para os programadores de IA, a diretiva cria um incentivo para implementar processos robustos de teste e monitorização. A presunção de causalidade significa que o incumprimento dos requisitos do Regulamento da UE sobre IA pode transferir o ónus da prova para o requerido, facilitando o sucesso dos requerentes. Isto pode encorajar a adoção de Model Pruning e outras técnicas que melhoram a transparência do sistema, bem como práticas mais rigorosas de Data Augmentation para reduzir a tendenciosidade.
A diretiva também afeta os utilizadores de IA, incluindo empresas que implementam sistemas de IA nas suas operações. Os utilizadores podem ser responsabilizados se não supervisionarem adequadamente o sistema ou se o utilizarem de formas que violem obrigações legais. A diretiva incentiva os utilizadores a manter políticas claras para a implementação de IA, incluindo mecanismos de supervisão humana e procedimentos de comunicação de incidentes.
Críticas e Debates
A proposta gerou um debate significativo entre as partes interessadas. As organizações de consumidores acolheram a diretiva como um passo para proteger as vítimas, mas argumentam que não vai suficientemente longe. Alguns apelaram a um regime de responsabilidade objetiva para sistemas de IA de alto risco, que eliminaria a necessidade de provar culpa. A Comissão rejeitou esta abordagem, argumentando que sufocaria a inovação e imporia custos excessivos aos programadores de IA.
Os grupos industriais expressaram preocupações sobre o ónus da divulgação de provas, particularmente em relação a segredos comerciais. A diretiva inclui salvaguardas, como supervisão judicial e medidas de confidencialidade, mas algumas empresas argumentam que o risco de expor informações proprietárias permanece demasiado elevado. O texto final pode incluir proteções adicionais para os fornecedores de IA, como permitir que apresentem provas em forma resumida.
Os académicos jurídicos também debateram a presunção de causalidade, que é um afastamento do direito tradicional de responsabilidade civil em muitos Estados-Membros. Alguns argumentam que a presunção é demasiado ampla e pode levar a pedidos frívolos, enquanto outros sustentam que é necessária para abordar o problema da "caixa negra" dos sistemas de IA. O Parlamento Europeu propôs alterações para clarificar o âmbito da presunção e garantir que se aplica apenas a sistemas de IA de alto risco.
Estado Atual e Próximos Passos
Em 2024, a Diretiva sobre Responsabilidade Civil em IA permanece em negociação. O Parlamento Europeu e o Conselho da União Europeia estão a trabalhar nas suas respetivas posições, com discussões de trílogo esperadas para começar assim que ambas as instituições concordarem com as suas alterações. A diretiva está estreitamente ligada ao Regulamento da UE sobre IA, que foi adotado em março de 2024, e as regras finais de responsabilidade terão de alinhar com os requisitos do Regulamento.
A Comissão indicou que a diretiva deve ser transposta para o direito nacional no prazo de dois anos após a sua adoção. Este calendário colocaria a diretiva em vigor na maioria dos Estados-Membros até 2026 ou 2027, dependendo do calendário legislativo final. A Comissão também se comprometeu a monitorizar a implementação da diretiva e pode propor revisões com base na experiência.
A diretiva faz parte de uma tendência global mais ampla em direção à regulamentação da responsabilidade em IA. Outras jurisdições, incluindo os Estados Unidos e a China, estão a desenvolver as suas próprias abordagens à responsabilização da IA. O quadro da UE provavelmente influenciará estes esforços, particularmente em áreas como a divulgação de provas e a presunção de causalidade. O resultado do processo legislativo terá, portanto, implicações além da União Europeia, moldando os padrões globais para a responsabilidade em IA.