A Convenção de IA do Conselho da Europa, formalmente a Convenção-Quadro sobre Inteligência Artificial, Direitos Humanos, Democracia e Estado de Direito, é um tratado internacional aberto para assinatura em 5 de setembro de 2024, em Vilnius, Lituânia. Representa o primeiro instrumento juridicamente vinculante especificamente voltado para a inteligência artificial, visando garantir que os sistemas de IA sejam desenvolvidos e usados de maneiras compatíveis com os direitos humanos, os processos democráticos e o estado de direito. A convenção se aplica às atividades de autoridades públicas e de atores privados que atuem em seu nome, com disposições para avaliação e mitigação de riscos ao longo de todo o ciclo de vida dos sistemas de IA.
O tratado emergiu de um processo de vários anos no âmbito do Conselho da Europa, que começou em 2019 com o estabelecimento do Comitê Ad Hoc sobre Inteligência Artificial (CAHAI). Após o estudo de viabilidade do CAHAI, o Comitê sobre Inteligência Artificial (CAI) foi incumbido de redigir a convenção em 2022. As negociações foram concluídas em março de 2024, e o texto foi adotado pelo Comitê de Ministros em 17 de maio de 2024. A convenção também está aberta a estados não europeus, refletindo sua ambição global. No início de 2025, vários países, incluindo o Reino Unido, os Estados Unidos e o Japão, assinaram o tratado, mas ainda não o ratificaram.
Contexto e Antecedentes
O rápido avanço das tecnologias de inteligência artificial, incluindo modelos de aprendizado de máquina e aprendizado profundo, impulsionou esforços internacionais para estabelecer normas comuns. O Conselho da Europa, com seu foco de longa data em direitos humanos, posicionou-se como um fórum-chave para tal regulamentação. A convenção se baseia em instrumentos existentes, como a Convenção Europeia de Direitos Humanos e a Convenção para a Proteção de Indivíduos com relação ao Processamento Automático de Dados Pessoais. Diferentemente do Ato de IA da União Europeia, que é um regulamento regional, a convenção do Conselho da Europa é projetada para ser um quadro global, aberto a países além da Europa.
O processo de redação envolveu ampla consulta à sociedade civil, à academia e à indústria. Figuras-chave nas negociações incluíram o presidente do CAI e representantes de estados membros e estados observadores. O escopo da convenção cobre todo o ciclo de vida dos sistemas de IA, desde o design e desenvolvimento até a implantação e descomissionamento, com foco em atividades que possam interferir nos direitos humanos.
Disposições Principais
A convenção estabelece princípios gerais para sistemas de IA, incluindo transparência, responsabilização e não discriminação. Exige que as partes adotem medidas para garantir que os sistemas de IA sejam usados de maneira consistente com a dignidade humana e a autonomia individual. Disposições específicas abordam a proteção de dados pessoais, o direito à privacidade e o direito a um recurso efetivo para aqueles afetados negativamente por decisões de IA. O tratado também enfatiza a importância da conscientização pública e da educação sobre IA.
Um dos elementos centrais da convenção é o requisito de avaliação e mitigação de riscos. As partes devem identificar, avaliar e abordar os riscos representados pelos sistemas de IA, particularmente aqueles que possam levar à discriminação ou a outras violações de direitos humanos. A convenção distingue entre aplicações de alto e baixo risco, com obrigações mais estritas para as primeiras. Também determina que os sistemas de IA estejam sujeitos à supervisão humana, garantindo que os humanos possam intervir nos processos de tomada de decisão quando necessário.
Signatários e Processo de Ratificação
No início de 2025, a convenção foi assinada por mais de 20 países, incluindo o Reino Unido, os Estados Unidos, o Japão e várias nações europeias. A cerimônia de assinatura ocorreu em Vilnius, com representantes desses países presentes. A ratificação exige aprovação doméstica em cada estado signatário; a convenção entrará em vigor três meses após a quinta ratificação, incluindo pelo menos três estados membros do Conselho da Europa. Até o corte de conhecimento, nenhum país ratificou ainda, mas o processo está em andamento em várias jurisdições.
A natureza aberta da convenção permite que estados não membros adiram, o que tem sido visto como uma forma de promover padrões globais. Por exemplo, os Estados Unidos, que não são membros do Conselho da Europa, assinaram o tratado, sinalizando sua disposição de se alinhar às normas internacionais sobre governança de IA. No entanto, a ratificação não é garantida, e a eficácia do tratado dependerá do compromisso dos signatários em implementar suas disposições.
Comparação com o Ato de IA da UE
A Convenção de IA do Conselho da Europa e o Ato de IA da UE são instrumentos complementares, mas distintos. O Ato de IA da UE é um regulamento abrangente que se aplica a todos os sistemas de IA colocados no mercado da UE, com uma classificação baseada em risco e requisitos vinculantes para provedores e usuários. Em contraste, a convenção do Conselho da Europa é um tratado-quadro que estabelece princípios e obrigações gerais, deixando os detalhes de implementação para a legislação nacional. A convenção é menos prescritiva, permitindo que as partes tenham flexibilidade em como alcançar seus objetivos.
Ambos os instrumentos enfatizam direitos humanos e segurança, mas a convenção tem um alcance geográfico mais amplo, potencialmente influenciando a governança de IA além da Europa. O Ato de IA da UE, que foi aprovado pelo Conselho Europeu em maio de 2024, deve servir como modelo para muitos países, mas o tratado do Conselho da Europa oferece um caminho alternativo ou complementar para estados não pertencentes à UE. A relação entre os dois não é hierárquica; em vez disso, eles operam em paralelo, com o Ato de IA da UE se aplicando aos estados membros da UE e a convenção fornecendo uma linha de base global.
Implementação e Fiscalização
A convenção exige que cada parte estabeleça ou designe uma autoridade supervisora para supervisionar a conformidade. Essas autoridades devem ter o poder de investigar, impor sanções e fornecer recursos para violações. O tratado também incentiva a cooperação internacional, incluindo assistência mútua e troca de informações entre autoridades. No entanto, os mecanismos de fiscalização são relativamente fracos em comparação com o Ato de IA da UE, que inclui multas de até 7% do faturamento global para certas violações.
A implementação exigirá mudanças legais e institucionais significativas em muitos países. Por exemplo, as partes devem garantir que suas leis domésticas estejam alinhadas com os princípios da convenção, o que pode envolver a alteração de leis existentes de proteção de dados e antidiscriminação. A convenção também pede o desenvolvimento de padrões e diretrizes, possivelmente em colaboração com outros órgãos internacionais, como a OCDE e a UNESCO.
Reações e Críticas
A convenção recebeu reações mistas. Apoiadores, incluindo muitas organizações de direitos humanos, elogiam-na como um passo histórico em direção a normas internacionais vinculantes para a IA. Eles argumentam que ela fornece um contrapeso necessário à rápida implantação de sistemas de IA por empresas como OpenAI, Anthropic e Google DeepMind, que estão desenvolvendo modelos de linguagem de grande escala cada vez mais poderosos. Críticos, no entanto, contendem que a convenção é vaga demais e carece de força de fiscalização. Alguns grupos da sociedade civil pediram disposições mais fortes sobre a proibição de certas aplicações de IA, como sistemas de pontuação social, e regras de responsabilidade mais claras.
Representantes da indústria expressaram preocupações sobre o potencial de fragmentação regulatória, já que diferentes países podem interpretar a convenção de maneiras distintas. Eles também se preocupam com o ônus da conformidade, particularmente para pequenas e médias empresas. No entanto, muitas empresas de tecnologia apoiaram publicamente os objetivos da convenção, vendo-a como uma forma de construir confiança pública na IA.
Perspectivas Futuras
No início de 2025, a convenção está na fase de ratificação. Sua entrada em vigor é esperada nos próximos anos, dependendo da velocidade das ratificações. O impacto do tratado provavelmente será significativo, pois estabelece um precedente para a governança internacional da IA. Também pode influenciar o desenvolvimento de outros quadros regionais, como aqueles na África e na América Latina. O sucesso da convenção dependerá de quão efetivamente as partes implementarem seus princípios e se ela puder se adaptar ao cenário em evolução da IA, incluindo avanços em IA generativa e sistemas autônomos.
O Conselho da Europa planeja realizar reuniões regulares das partes para revisar a implementação e compartilhar melhores práticas. Há também a possibilidade de protocolos adicionais para abordar questões específicas, como IA no domínio militar ou na saúde. A convenção é um instrumento vivo, projetado para evoluir com os desenvolvimentos tecnológicos.
Conclusão
A Convenção de IA do Conselho da Europa marca um marco na governança global da inteligência artificial. Ao estabelecer obrigações vinculantes para os estados protegerem os direitos humanos no contexto da IA, ela define um novo padrão para a cooperação internacional. Embora sua eficácia ainda esteja por ser vista, a convenção representa um esforço coletivo para garantir que a IA sirva à humanidade em vez de prejudicá-la. À medida que os países avançam em direção à ratificação, os princípios do tratado provavelmente moldarão leis nacionais e práticas corporativas em todo o mundo, contribuindo para um ecossistema de IA mais responsável e centrado no ser humano.