A Cúpula de Segurança de IA em Bletchley Park foi um encontro internacional realizado em 1 e 2 de novembro de 2023, em Bletchley Park, no Reino Unido, local histórico do esforço britânico de decifrar códigos durante a Segunda Guerra Mundial, convocado pelo governo do Reino Unido para coordenar políticas internacionais sobre o risco de IA de fronteira. Representantes de 28 países e da União Europeia, juntamente com grandes empresas de IA e pesquisadores, participaram, produzindo a Declaração de Bletchley, um comunicado conjunto que reconhece os riscos da IA avançada e se compromete com a cooperação internacional.
A declaração
A Declaração de Bletchley foi assinada por todos os governos participantes, incluindo Estados Unidos, China e União Europeia, um caso incomum de rivais geopolíticos concordando com uma linguagem compartilhada sobre o risco da IA. Ela afirmou que a maioria dos riscos da IA surge de problemas não intencionais de controle, bem como de possível uso indevido, e sinalizou especificamente os riscos associados à IA de fronteira capaz de causar danos graves, seja deliberadamente ou não, ecoando preocupações levantadas anteriormente naquele ano na Carta pela Pausa em Experimentos Gigantes de IA. A declaração não propôs regras vinculantes, concentrando-se em vez disso no entendimento científico compartilhado e na cooperação futura.
Participantes e resultados paralelos
Executivos e pesquisadores de laboratórios líderes participaram, incluindo representantes de OpenAI, Google DeepMind e Anthropic, juntamente com acadêmicos e pesquisadores de segurança, como Yoshua Bengio, que foi encarregado de liderar um relatório científico internacional "Estado da IA" modelado de forma flexível nas avaliações da ciência climática. A cúpula está intimamente associada ao anúncio de institutos nacionais de segurança de IA, incluindo o Instituto de Segurança de IA do Reino Unido e o Instituto de Segurança de IA dos EUA, órgãos destinados a realizar avaliações de modelos de fronteira antes e depois do lançamento, conectando-se a esforços mais amplos em torno de testes de adversários e avaliação de sistemas avançados.
Legado
A cúpula de Bletchley foi a primeira de uma série planejada de cúpulas de segurança de IA, seguida por uma cúpula sul-coreana em 2024 e uma cúpula francesa em 2025, refletindo uma tentativa de institucionalizar a coordenação internacional recorrente sobre o risco da IA de maneira comparável à diplomacia climática. Seu efeito prático foi principalmente declaratório, em vez de regulatório, em contraste com medidas vinculantes, como a Lei de IA da UE, mas é frequentemente citada como o marco em que o risco da IA de fronteira se tornou uma questão mainstream de diplomacia de nível de chefe de Estado, em vez de uma preocupação de pesquisa de nicho, alimentando debates contínuos sobre governança de IA e o papel dos argumentos de risco existencial na formulação de políticas.