A Declaração de Bletchley 2023 é um acordo internacional histórico sobre os riscos de segurança da inteligência artificial avançada, assinado em 1º de novembro de 2023 em Bletchley Park, no Reino Unido. A declaração foi o principal resultado da Cúpula de Segurança de IA, sediada pelo governo do Reino Unido, e foi assinada por representantes de 28 países, incluindo Estados Unidos, China, União Europeia e Reino Unido. Marcou a primeira vez que grandes potências globais, incluindo China e EUA, reconheceram conjuntamente o potencial de danos catastróficos dos sistemas de IA de fronteira e se comprometeram com ações cooperativas em segurança de IA.
A declaração foca nos riscos representados pela "IA de fronteira" - modelos de propósito geral altamente capazes, incluindo aqueles baseados em grandes modelos de linguagem e IA generativa. Reconhece que esses sistemas podem exibir capacidades que não são totalmente compreendidas ou controláveis, potencialmente levando a danos graves ou catastróficos, seja por uso indevido ou acidentes. O texto enfatiza a importância de uma IA centrada no ser humano e confiável, e pede colaboração internacional para desenvolver padrões e pesquisas compartilhadas de segurança, ao mesmo tempo em que reconhece a necessidade de equilibrar segurança com inovação e promoção de crescimento econômico inclusivo.
Contexto e Antecedentes
A declaração surgiu em um cenário de rápidos avanços nas capacidades de IA, particularmente no desenvolvimento de modelos de aprendizado profundo e arquiteturas transformer. Nos anos anteriores à cúpula, empresas como OpenAI, Anthropic e Google DeepMind lançaram sistemas cada vez mais poderosos, levantando preocupações entre pesquisadores e formuladores de políticas sobre riscos potenciais, incluindo a disseminação de desinformação, ameaças à segurança cibernética e a possibilidade de perda de controle sobre sistemas superinteligentes.
O governo do Reino Unido, sob o primeiro-ministro Rishi Sunak, posicionou-se como líder na governança de segurança de IA, propondo a cúpula como um fórum para diálogo internacional. A escolha de Bletchley Park, o local histórico da quebra de códigos da Segunda Guerra Mundial, foi simbólica, ligando as contribuições passadas do Reino Unido à computação com suas ambições de moldar o futuro da regulamentação de IA.
Principais Disposições e Compromissos
A Declaração de Bletchley é uma declaração política não vinculativa, mas estabelece vários compromissos-chave. Os signatários concordaram em:
- Reconhecer os riscos significativos representados pela IA, particularmente em segurança cibernética, biotecnologia e o potencial de sistemas de IA agirem autonomamente de maneiras que possam causar danos.
- Apoiar a cooperação internacional para desenvolver uma compreensão científica compartilhada dos riscos de IA e construir medidas de segurança baseadas em evidências.
- Incentivar o desenvolvimento de IA que seja segura, centrada no ser humano, confiável e responsável, em linha com estruturas internacionais existentes, como os Objetivos de Desenvolvimento Sustentável da ONU.
- Continuar a convocar discussões internacionais sobre segurança de IA, incluindo por meio de cúpulas futuras, com a próxima planejada para a Coreia do Sul em 2024.
A declaração também enfatiza a necessidade de atores dos setores público e privado abordarem os riscos de IA, e pede pesquisa sobre a interpretabilidade e o alinhamento dos sistemas de IA, bem como o desenvolvimento de métodos robustos de avaliação.
Signatários e Resposta Internacional
A declaração foi assinada por 28 países, incluindo Austrália, Canadá, França, Alemanha, Índia, Japão e Coreia do Sul, além da UE. Notavelmente, a China foi signatária, apesar de suas próprias regulamentações separadas de IA, o que foi visto como uma conquista diplomática significativa. A participação da China foi controversa, com alguns críticos argumentando que legitimava um governo com práticas opacas de IA, enquanto outros a viam como essencial para qualquer acordo global significativo.
Empresas de tecnologia também participaram da cúpula, incluindo representantes de OpenAI, Anthropic, Google DeepMind e Microsoft, mas não assinaram a declaração, que era um documento de nível governamental. Em vez disso, fizeram compromissos voluntários separados para publicar políticas de segurança e apoiar os objetivos da cúpula.
Críticas e Limitações
Apesar de sua natureza histórica, a Declaração de Bletchley enfrentou críticas. Alguns especialistas argumentam que é vaga demais, carecendo de metas específicas, prazos ou mecanismos de aplicação. A natureza não vinculativa significa que os signatários não são legalmente obrigados a tomar quaisquer ações específicas. Outros notaram que a declaração foca fortemente em riscos existenciais da IA de fronteira, potencialmente ofuscando preocupações mais imediatas, como viés algorítmico, deslocamento de empregos e violações de privacidade.
Além disso, a lista de convidados da cúpula foi criticada por excluir muitos países em desenvolvimento e organizações da sociedade civil, levantando questões sobre a inclusividade da governança global de IA. A declaração menciona a necessidade de apoiar países em desenvolvimento, mas os críticos argumentam que medidas concretas estão ausentes.
Legado e Impacto
A Declaração de Bletchley 2023 é amplamente considerada um passo fundamental na governança internacional de IA. Estabeleceu um precedente para o engajamento diplomático de alto nível em segurança de IA e abriu caminho para iniciativas subsequentes, como a Cúpula de Segurança de IA em Seul em maio de 2024 e o trabalho contínuo do Relatório Internacional de Segurança de IA. Embora seu impacto prático ainda esteja por ser visto, a declaração sinalizou um consenso global de que os riscos de IA exigem ação coordenada, uma mudança em relação às abordagens amplamente nacionais e lideradas por empresas do passado.
A declaração também influenciou políticas domésticas, com vários países, incluindo Reino Unido e EUA, anunciando novos institutos de segurança de IA nos meses seguintes à cúpula. Esses institutos têm a tarefa de avaliar modelos de IA de fronteira e compartilhar melhores práticas, refletindo diretamente o chamado da declaração por colaboração internacional.