A Cúpula de Segurança de IA de 2023 foi uma conferência internacional focada na segurança e na regulação da inteligência artificial. Organizada pelo governo britânico, foi realizada em novembro de 2023 em Bletchley Park, Milton Keynes, Inglaterra. O evento foi a primeira cúpula global sobre inteligência artificial, reunindo líderes governamentais, executivos de tecnologia e pesquisadores para abordar os riscos associados aos sistemas avançados de IA. A cúpula resultou na divulgação da Declaração de Bletchley, que se concentrou em "identificar riscos de segurança de IA de preocupação compartilhada" e "construir políticas baseadas em risco respectivas" para "garantir que os benefícios da tecnologia possam ser aproveitados de forma responsável para o bem e para todos".
A cúpula marcou um momento significativo na conversa global sobre a governança da Artificial intelligence, pois foi a primeira vez que as principais potências mundiais, incluindo os Estados Unidos e a China, concordaram com uma declaração conjunta sobre segurança de IA. O evento também destacou a importância crescente das tecnologias de Large language model e Generative AI, que avançaram rapidamente nos anos que antecederam a cúpula.
Antecedentes
O primeiro-ministro do Reino Unido na época, Rishi Sunak, tornou a IA uma das prioridades de seu governo, anunciando que o Reino Unido sediaria uma conferência global de segurança de IA no outono de 2023. O anúncio ocorreu em meio a uma crescente preocupação pública e governamental sobre os riscos potenciais da IA, incluindo seu uso em desinformação, ataques cibernéticos e armas autônomas. O governo de Sunak buscou posicionar o Reino Unido como líder na regulação de segurança de IA, com base nas contribuições históricas do país para a computação e em seus fortes setores acadêmico e industrial de IA.
A cúpula foi planejada como um evento diplomático de alto nível, com convites estendidos a chefes de estado, CEOs de empresas de tecnologia e principais pesquisadores de IA. O governo britânico enfatizou a necessidade de cooperação internacional, argumentando que os riscos da IA eram de natureza global e exigiam respostas coordenadas.
Local
Bletchley Park foi uma instalação de decifração de códigos da Segunda Guerra Mundial estabelecida pelo governo britânico no local de uma mansão vitoriana e está localizada na cidade britânica de Milton Keynes. Desempenhou um papel importante na história da computação, com alguns dos primeiros computadores modernos sendo construídos na instalação. A escolha do local foi simbólica, pois Bletchley Park é amplamente considerado o berço da computação moderna, onde figuras como Alan Turing trabalharam na quebra do código Enigma.
O significado histórico do local foi destacado por palestrantes e participantes, que traçaram paralelos entre os esforços de decifração de códigos da década de 1940 e o desafio contemporâneo de entender e controlar a IA. O cenário também serviu para lembrar os participantes do legado do Reino Unido na inovação tecnológica, desde os primeiros dias da computação até o desenvolvimento de arquiteturas de Transformer (architecture) que sustentam os sistemas modernos de IA.
Resultados
28 países na cúpula, incluindo Estados Unidos, China, Austrália e União Europeia, emitiram um acordo conhecido como Declaração de Bletchley, pedindo cooperação internacional para gerenciar os desafios e riscos da inteligência artificial. A Declaração de Bletchley afirma que a IA deve ser projetada, desenvolvida, implantada e usada de maneira segura, centrada no ser humano, confiável e responsável.
Foi dada ênfase à regulação da "IA de fronteira", um termo para os sistemas de IA mais recentes e poderosos. As preocupações levantadas na cúpula incluíram o uso potencial da IA para terrorismo, atividades criminosas e guerra, bem como o risco existencial representado para a humanidade como um todo. A declaração não estabeleceu metas regulatórias específicas, mas criou uma estrutura para discussões futuras, incluindo um compromisso de realizar cúpulas adicionais.
Além da declaração, várias iniciativas nacionais foram anunciadas. O presidente dos Estados Unidos, Joe Biden, assinou uma ordem executiva exigindo que os desenvolvedores de IA compartilhassem resultados de segurança com o governo dos EUA. O governo dos EUA também anunciou a criação de um Instituto Americano de Segurança de IA, como parte do Instituto Nacional de Padrões e Tecnologia. Essas ações foram vistas como uma resposta direta à ênfase da cúpula na transparência e responsabilidade no desenvolvimento de IA.
O empreendedor de tecnologia Elon Musk e Sunak fizeram uma entrevista ao vivo sobre segurança de IA em 2 de novembro no X, a plataforma de mídia social de propriedade de Musk. A entrevista, transmitida para um amplo público, cobriu tópicos como o potencial da IA para superar a inteligência humana e a necessidade de supervisão regulatória. Musk, que havia pedido anteriormente uma pausa no desenvolvimento de IA, reiterou suas preocupações sobre riscos existenciais.
Participantes notáveis
As seguintes pessoas participaram da cúpula:
- Rishi Sunak, Primeiro-Ministro do Reino Unido
- Kamala Harris, Vice-Presidente dos Estados Unidos
- Charles III, Rei do Reino Unido (participando virtualmente)
- Elon Musk, CEO da Tesla, proprietário do X, SpaceX, Neuralink e xAI
- Giorgia Meloni, Primeira-Ministra da Itália
- Ursula von der Leyen, Presidente da Comissão Europeia
- Sam Altman, CEO da OpenAI
- Nick Clegg, ex-político britânico e presidente de assuntos globais da Meta Platforms
- Mustafa Suleyman, cofundador da Google DeepMind
- Michelle Donelan, secretária de Estado do Reino Unido para Ciência, Inovação e Tecnologia
- Věra Jourová, vice-presidente da Comissão Europeia para Valores e Transparência
- Gina Raimondo, secretária de comércio dos Estados Unidos
- Wu Zhaohui, vice-ministro chinês de ciência e tecnologia
A presença de figuras políticas de alto nível de potências ocidentais e orientais destacou o significado global do evento. A participação de líderes da indústria como Sam Altman e Mustafa Suleyman destacou a relação próxima entre desenvolvedores de IA e formuladores de políticas, bem como a influência crescente de empresas como Anthropic e Google DeepMind na formação do cenário regulatório.
Série de Cúpulas Globais de IA
A cúpula de Bletchley Park foi concebida para ser a primeira de uma série de reuniões internacionais sobre segurança de IA. A declaração incluiu um compromisso de realizar cúpulas futuras, com o objetivo de construir sobre os acordos iniciais e abordar desafios emergentes. A série foi projetada para ser inclusiva, reunindo não apenas governos, mas também empresas de tecnologia, academia e sociedade civil.
A cúpula de acompanhamento foi agendada para ser realizada na Coreia do Sul em 2024, com uma terceira planejada para a França. Esperava-se que essas reuniões subsequentes se concentrassem em propostas regulatórias mais detalhadas, incluindo padrões para teste e avaliação de IA, bem como mecanismos para cooperação internacional na aplicação.
A série de cúpulas refletiu uma tendência mais ampla em direção à formalização da governança de IA, à medida que países ao redor do mundo lidavam com o ritmo rápido do desenvolvimento de IA. As discussões em Bletchley Park foram informadas por pesquisas de instituições como MIT CSAIL, Stanford AI Lab e BAIR (Berkeley AI Research), bem como pelo trabalho de pesquisadores proeminentes de IA como Samy Bengio e Melanie Mitchell, que pediram maior atenção à segurança e ética.
Significado e legado
A Cúpula de Segurança de IA de Bletchley Park foi amplamente considerada um evento marcante na história da governança de IA. Foi a primeira vez que uma ampla coalizão de nações, incluindo governos democráticos e autoritários, concordou com uma estrutura compartilhada para abordar os riscos da IA. A cúpula também ajudou a elevar a questão da segurança de IA no discurso público, provocando maior cobertura da mídia e debate público.
Críticos, no entanto, notaram que os resultados da cúpula foram em grande parte simbólicos, com a Declaração de Bletchley carecendo de compromissos vinculativos ou mecanismos específicos de aplicação. Alguns pesquisadores argumentaram que o foco em riscos existenciais da IA de fronteira ofuscou preocupações mais imediatas, como viés algorítmico, deslocamento de empregos e a concentração de poder em algumas grandes empresas de tecnologia.
Apesar dessas críticas, a cúpula conseguiu estabelecer um canal diplomático para a governança de IA, que foi considerado essencial dada a natureza global do desenvolvimento e implantação da IA. O evento também destacou o papel do Reino Unido como potência convocadora na política de tecnologia, com base em seus pontos fortes em pesquisa e inovação.
O legado da cúpula provavelmente será medido pela eficácia da Série de Cúpulas Globais de IA em traduzir declarações em ação concreta. Em 2024, os acordos iniciais ainda não haviam levado a mudanças regulatórias importantes, mas o diálogo contínuo foi visto como um passo positivo para gerenciar os riscos da IA enquanto aproveita seus benefícios.