A Cúpula de Segurança de IA de 2023 foi uma conferência internacional sobre a segurança e regulação da inteligência artificial. Organizada pelo governo britânico, foi realizada em novembro de 2023 em Bletchley Park, Milton Keynes, Inglaterra. O evento foi a primeira cúpula global já realizada sobre inteligência artificial, reunindo líderes governamentais, executivos de tecnologia e pesquisadores para abordar os riscos e oportunidades apresentados por sistemas avançados de IA. A cúpula resultou na divulgação da Declaração de Bletchley, um acordo conjunto focado em identificar riscos de segurança de IA de preocupação compartilhada e construir políticas baseadas em risco para garantir que os benefícios da tecnologia possam ser aproveitados de forma responsável para o bem de todos.
A cúpula marcou um marco significativo na governança internacional de IA, pois foi a primeira vez que grandes potências mundiais, incluindo os Estados Unidos, a China e a União Europeia, concordaram formalmente com uma estrutura comum para abordar os riscos da IA. O evento ocorreu em Bletchley Park, um local de importância histórica na computação e criptografia, que serviu como pano de fundo simbólico para discussões sobre o futuro da IA.
Contexto
O primeiro-ministro do Reino Unido na época, Rishi Sunak, tornou a IA uma das prioridades de seu governo, anunciando que o Reino Unido sediaria uma conferência global de segurança de IA no outono de 2023. O anúncio veio em meio à crescente preocupação global sobre o rápido avanço das tecnologias de inteligência artificial, particularmente o surgimento de poderosos modelos de linguagem de grande escala e sistemas de IA generativa. O governo de Sunak buscou posicionar o Reino Unido como líder em segurança e regulação de IA, com base nos pontos fortes existentes do país em pesquisa e desenvolvimento de IA.
A cúpula foi planejada como resposta aos apelos de pesquisadores de IA e líderes da indústria por uma ação internacional coordenada sobre segurança de IA. Nos meses que antecederam o evento, várias figuras proeminentes da comunidade de IA, incluindo executivos da OpenAI, Google DeepMind e Anthropic, defenderam publicamente a intervenção governamental para mitigar os riscos potenciais associados a sistemas avançados de IA.
Local
Bletchley Park foi uma instalação de decifração de códigos da Segunda Guerra Mundial estabelecida pelo governo britânico no local de uma mansão vitoriana e está localizado na cidade britânica de Milton Keynes. Ele desempenhou um papel importante na história da computação, com alguns dos primeiros computadores modernos sendo construídos na instalação. Durante a Segunda Guerra Mundial, o local abrigou a Escola de Códigos e Cifras do Governo, onde decifradores de códigos liderados por figuras como Alan Turing decriptaram com sucesso as comunicações alemãs, contribuindo significativamente para o esforço de guerra dos Aliados.
A escolha de Bletchley Park como local foi deliberada, simbolizando as contribuições históricas do Reino Unido para a computação e seu compromisso em enfrentar os desafios da era digital. A instalação agora opera como um museu e local de patrimônio, e seus edifícios históricos forneceram um cenário único para os procedimentos da cúpula. A justaposição da história de guerra do local com os desafios modernos da segurança de IA serviu para enfatizar a importância da cooperação internacional na abordagem de ameaças tecnológicas.
Declaração de Bletchley
O principal resultado da cúpula foi a Declaração de Bletchley, um acordo assinado por 28 países, incluindo Estados Unidos, China, Austrália e União Europeia. A declaração pedia cooperação internacional para gerenciar os desafios e riscos da inteligência artificial. Ela afirmava que a IA deveria ser projetada, desenvolvida, implantada e usada de maneira segura, centrada no ser humano, confiável e responsável.
A declaração focava em identificar riscos de segurança de IA de preocupação compartilhada e construir políticas baseadas em risco para garantir que os benefícios da tecnologia pudessem ser aproveitados de forma responsável para o bem de todos. Ela reconhecia o potencial da IA para transformar sociedades e economias, ao mesmo tempo em que reconhecia a necessidade de vigilância contra possíveis danos. O acordo enfatizava a importância da transparência, responsabilidade e colaboração internacional na governança de IA.
Foi dada ênfase à regulação da "IA de Fronteira", um termo para os sistemas de IA mais recentes e poderosos. As preocupações levantadas na cúpula incluíam o uso potencial da IA para terrorismo, atividades criminosas e guerra, bem como o risco existencial representado para a humanidade como um todo. A declaração não estabeleceu regulamentações vinculativas, mas sim definiu uma estrutura para futura cooperação e desenvolvimento de políticas.
Resultados e Compromissos
Além da Declaração de Bletchley, a cúpula produziu vários outros resultados notáveis. O presidente dos Estados Unidos, Joe Biden, assinou uma ordem executiva exigindo que desenvolvedores de IA compartilhassem resultados de segurança com o governo dos EUA. O governo dos EUA também anunciou a criação de um Instituto Americano de Segurança de IA, como parte do Instituto Nacional de Padrões e Tecnologia. Essas ações sinalizaram uma abordagem mais proativa à regulação de IA nos Estados Unidos.
O empreendedor de tecnologia Elon Musk e Sunak fizeram uma entrevista ao vivo sobre segurança de IA em 2 de novembro no X, a plataforma de mídia social de propriedade de Musk. A conversa cobriu tópicos como os benefícios e riscos potenciais da IA, a necessidade de regulação e o futuro do desenvolvimento de IA. A entrevista foi amplamente assistida e gerou atenção significativa da mídia, aumentando ainda mais o perfil da cúpula.
Vários países participantes anunciaram suas próprias iniciativas de segurança de IA após a cúpula. O governo do Reino Unido se comprometeu a estabelecer seu próprio Instituto de Segurança de IA, enquanto outras nações prometeram aumentar o financiamento para pesquisa em segurança de IA. A cúpula também facilitou discussões bilaterais entre países, incluindo conversas entre os EUA e a China sobre questões de governança de IA.
Participantes Notáveis
Os seguintes indivíduos participaram da cúpula:
- Rishi Sunak, Primeiro-Ministro do Reino Unido
- Kamala Harris, Vice-Presidente dos Estados Unidos
- Charles III, Rei do Reino Unido (participando virtualmente)
- Elon Musk, CEO da Tesla, proprietário do X, SpaceX, Neuralink e xAI
- Giorgia Meloni, Primeira-Ministra da Itália
- Ursula von der Leyen, Presidente da Comissão Europeia
- Sam Altman, CEO da OpenAI
- Nick Clegg, ex-político britânico e presidente de assuntos globais na Meta Platforms
- Mustafa Suleyman, cofundador da DeepMind
- Michelle Donelan, secretária de Estado do Reino Unido para Ciência, Inovação e Tecnologia
- Věra Jourová, vice-presidente da Comissão Europeia para Valores e Transparência
- Gina Raimondo, secretária de comércio dos Estados Unidos
- Wu Zhaohui, vice-ministro chinês de ciência e tecnologia
A presença de um grupo tão diverso de líderes políticos e executivos de tecnologia destacou a importância global da cúpula. A presença de representantes tanto dos EUA quanto da China, dois países com visões frequentemente divergentes sobre política de tecnologia, foi particularmente notável e destacou o potencial para cooperação internacional em segurança de IA.
Reações e Críticas
A cúpula recebeu reações mistas de várias partes interessadas. Os apoiadores a elogiaram como um primeiro passo necessário em direção à governança internacional de IA, observando que ela reuniu os principais atores do campo pela primeira vez. A Declaração de Bletchley foi vista como um desenvolvimento positivo, mesmo que seus compromissos fossem em grande parte não vinculativos.
Críticos, no entanto, argumentaram que a cúpula carecia de ação concreta e que a declaração era vaga demais para ter um impacto significativo. Alguns pesquisadores de segurança de IA expressaram decepção por a cúpula não ter produzido compromissos mais específicos sobre questões como transparência de IA, responsabilidade e prevenção do uso indevido de IA. Outros questionaram se o foco da cúpula em riscos existenciais ofuscava preocupações mais imediatas, como viés algorítmico, deslocamento de empregos e a concentração do poder de IA em algumas grandes corporações.
Alguns observadores também notaram a ausência de certas partes interessadas importantes, incluindo representantes de muitos países em desenvolvimento e organizações da sociedade civil. A cúpula foi criticada por ser dominada por governos ocidentais e empresas de tecnologia, com contribuição limitada de outras perspectivas.
Série de Cúpulas Globais de IA
A cúpula de Bletchley Park foi a primeira de uma série de cúpulas globais de segurança de IA. Eventos subsequentes foram planejados para aproveitar o impulso gerado pela reunião inicial e abordar desafios contínuos na governança de IA. A série foi projetada para fornecer um fórum regular para diálogo internacional sobre segurança de IA, com o objetivo de desenvolver estruturas políticas mais concretas ao longo do tempo.
A série de cúpulas refletiu um reconhecimento crescente de que a segurança de IA é uma questão global que requer ação coordenada através das fronteiras nacionais. À medida que as tecnologias de IA continuam a avançar, a necessidade de mecanismos de governança eficazes tornou-se cada vez mais urgente. A cúpula de Bletchley Park e suas sucessoras representam um esforço importante para abordar esses desafios por meio da cooperação internacional.
Legado e Impacto
A Cúpula de Segurança de IA de Bletchley Park marcou um ponto de virada na conversa global sobre regulação de IA. Ela estabeleceu a segurança de IA como uma questão prioritária para governos em todo o mundo e criou uma base para o desenvolvimento futuro de políticas. A ênfase da cúpula na IA de fronteira ajudou a focar a atenção nos sistemas de IA mais avançados e potencialmente mais perigosos, enquanto seu apelo à cooperação internacional estabeleceu um precedente para o engajamento multilateral na governança de tecnologia.
A cúpula também contribuiu para uma mudança mais ampla no discurso público sobre IA, indo além das discussões sobre capacidades tecnológicas para considerar as implicações sociais e éticas da implantação de IA. Os princípios da Declaração de Bletchley de segurança, centralidade no ser humano, confiabilidade e responsabilidade foram desde então referenciados em vários documentos de política nacional e internacional. A partir de 2024, a série de cúpulas continua a evoluir, com reuniões subsequentes abordando novos desafios e construindo sobre as fundações estabelecidas em Bletchley Park.