O UK AI Safety Institute (AISI) é uma organização apoiada pelo Estado, estabelecida em novembro de 2023 para avaliar e garantir a segurança de modelos avançados de inteligência artificial (IA), frequentemente chamados de modelos de IA de fronteira. Originou-se da Frontier AI Taskforce e foi oficialmente lançado durante a Cúpula de Segurança de IA sediada pelo Reino Unido. A missão principal do instituto é conduzir avaliações de segurança independentes de sistemas de IA de ponta, abordando preocupações de que empresas de IA não podem confiavelmente "corrigir seus próprios deveres de casa" ao avaliar riscos. Em 2025, o instituto foi renomeado para AI Security Institute, refletindo um foco mais amplo em aspectos relacionados à segurança da IA.
A criação do UK AISI fez parte de um movimento global que ganhou impulso em 2023, impulsionado por declarações públicas sobre potenciais riscos existenciais da IA. O instituto opera a partir de sua sede em Londres e abriu um escritório em São Francisco em maio de 2024 para ficar mais próximo dos principais desenvolvedores de IA. Colabora com contrapartes internacionais por meio de uma rede de institutos de segurança de IA, visando estabelecer novos padrões internacionais para a avaliação de segurança de IA.
Estabelecimento e Desenvolvimento Inicial
O UK AISI foi formalmente estabelecido em novembro de 2023 durante a Cúpula de Segurança de IA, um evento convocado pelo então primeiro-ministro Rishi Sunak. Sunak havia expressado sua intenção de "tornar o Reino Unido não apenas o lar intelectual, mas o lar geográfico da regulação global de segurança de IA", enfatizando a necessidade de supervisão independente. O instituto evoluiu da Frontier AI Taskforce, um órgão governamental criado anteriormente em 2023 para avaliar riscos associados à IA avançada. Seu foco inicial era avaliar grandes modelos de linguagem e outros sistemas de IA generativa quanto a danos potenciais, incluindo viés, desinformação e uso indevido.
Em abril de 2024, o UK AISI concluiu um acordo com o US AI Safety Institute para colaborar em pelo menos um teste de segurança conjunto. Essa parceria visava harmonizar procedimentos de avaliação e reduzir a duplicação de esforços. A Politico relatou em abril de 2024 que muitas empresas de IA não haviam compartilhado acesso pré-implantação aos seus modelos mais avançados para avaliação, em parte porque aguardavam que os institutos do Reino Unido e dos EUA concordassem sobre regras comuns. Nick Clegg, presidente de assuntos globais da Meta, observou que as empresas buscavam clareza sobre os padrões de avaliação antes de conceder acesso.
O instituto anunciou em maio de 2024 que abriria um escritório em São Francisco, onde muitas das principais empresas de IA, como OpenAI e Anthropic, estão sediadas. Essa mudança fez parte de um plano para "estabelecer novos padrões internacionais sobre segurança de IA", de acordo com a ministra de tecnologia do Reino Unido, Michele Donelan. O escritório em São Francisco destinava-se a facilitar o engajamento direto com desenvolvedores e permitir testes pré-implantação de modelos de fronteira.
Missão e Objetivos
A missão central do UK AISI é avaliar modelos de IA de fronteira para identificar riscos potenciais de segurança antes de sua implantação. Isso inclui avaliar capacidades em áreas como segurança cibernética, biossegurança e tomada de decisão autônoma. O instituto visa fornecer orientação baseada em evidências a formuladores de políticas e desenvolvedores, ajudando a mitigar riscos associados à IA avançada. Seu trabalho é fundamentado no princípio da avaliação independente, garantindo que as avaliações de segurança não sejam influenciadas por interesses comerciais.
O instituto também contribui para o desenvolvimento de padrões internacionais para a segurança de IA. Ao colaborar com outros institutos nacionais, busca criar uma estrutura comum para avaliar sistemas de IA, que possa ser adotada globalmente. Isso inclui compartilhar metodologias, conduzir testes conjuntos e publicar descobertas para informar o discurso público. A pesquisa do instituto frequentemente envolve testes de estresse de modelos de grandes desenvolvedores, incluindo Google DeepMind e outros laboratórios líderes.
Em 2025, o instituto foi renomeado para AI Security Institute, sinalizando um foco expandido em ameaças relacionadas à segurança, como o uso de IA em ataques cibernéticos ou a proliferação de conteúdo prejudicial. Essa mudança refletiu prioridades em evolução na governança de IA, à medida que as preocupações mudaram da segurança geral para implicações específicas de segurança.
Rede Internacional
Na Cúpula de IA de Seul em maio de 2024, líderes internacionais concordaram em formar uma rede de institutos de segurança de IA, composta por órgãos do Reino Unido, EUA, Japão, França, Alemanha, Itália, Singapura, Coreia do Sul, Austrália, Canadá e União Europeia. O UK AISI desempenha um papel central nessa rede, que visa coordenar esforços de avaliação e compartilhar melhores práticas. A rede realizou um exercício em julho de 2025 para explorar questões com a avaliação de agentes de IA, particularmente em relação a vazamento de informações sensíveis e segurança cibernética. Os membros também se reuniram no NeurIPS 2025 em San Diego para discutir avanços recentes na pesquisa de segurança de IA.
A formação da rede marcou um passo significativo em direção à cooperação global na governança de IA. Cada instituto membro opera dentro de seu contexto nacional, mas contribui para um esforço coletivo para garantir o desenvolvimento seguro da IA de fronteira. A colaboração do UK AISI com o instituto dos EUA, em particular, foi fundamental para alinhar padrões de avaliação entre as duas nações líderes em IA.
Institutos Específicos
Austrália
O Australian AI Safety Institute foi anunciado em 25 de novembro de 2025 pelo governo Albanese. Está alojado dentro do Departamento de Indústria, Ciência e Recursos e é apoiado por um orçamento de A$29.900.000 ao longo de quatro anos. Seu gerente geral é Kate Conroy, que também lidera iniciativas de IA responsável na Força Aérea Real Australiana. O instituto foca na avaliação de sistemas de IA para aplicações domésticas, incluindo defesa e serviços públicos.
Canadá
O Canadá anunciou planos para criar um instituto de segurança de IA em abril de 2024, e o instituto foi oficialmente fundado em novembro de 2024. Opera sob a Inovação, Ciência e Desenvolvimento Econômico do Canadá, em parceria com o Instituto Canadense de Pesquisa Avançada (CIFAR). O instituto é apoiado por um orçamento de CA$50.000.000 ao longo de cinco anos, financiando atividades de pesquisa e avaliação em vários setores.
União Europeia
O EU AI Office, fundado em maio de 2024, é um membro da rede internacional de institutos de segurança de IA. Coordena esforços de segurança de IA entre os estados membros, focando na conformidade regulatória e avaliação de riscos. O escritório trabalha em estreita colaboração com institutos nacionais para garantir uma abordagem coesa à governança de IA dentro da UE.
França
A França criou o Institut national pour l'évaluation et la sécurité de l'intelligence artificielle (INESIA) em 31 de janeiro de 2025. Este instituto nacional para avaliação e segurança de IA é encarregado de avaliar a segurança de sistemas de IA usados nas indústrias e serviços públicos franceses. Colabora com outros institutos europeus para harmonizar metodologias de avaliação.
Índia
O Ministério de Eletrônica e Tecnologia da Informação (MeitY) realizou consultas em 7 de outubro de 2024 com várias partes interessadas, incluindo Meta Platforms, Google, Microsoft, IBM, OpenAI, NASSCOM e Institutos Indianos de Tecnologia (IITs), sobre o estabelecimento de um Instituto de Segurança de IA. A decisão foi tomada para mudar o foco da regulação para o estabelecimento de padrões, identificação de riscos e detecção de danos. O instituto pode usar os ₹20 crore alocados ao Pilar Seguro e Confiável da Missão IndiaAI para seu orçamento inicial. O ministro Ashwini Vaishnaw anunciou a criação do IndiaAI Safety Institute em 30 de janeiro de 2025, para promover P&D doméstico fundamentado na diversidade social, econômica, cultural e linguística da Índia. Opera sob um modelo "hub-and-spoke" com colaboração de instituições acadêmicas, empresas de tecnologia e organizações internacionais como a UNESCO.
Japão
O Japan AISI (J-AISI) foi fundado em fevereiro de 2024 como parte da Agência de Promoção de Tecnologia da Informação. Emprega cerca de 23 pessoas e consiste no Conselho do AISI, no Comitê Diretor do AISI e em um secretariado com seis equipes. Akiko Murakami, anteriormente da IBM Japão e Sompo Japão, atua como diretora executiva, com Kenji Hiramoto e Suguru Nishimura como diretores executivos adjuntos. O instituto foca na avaliação de sistemas de IA para as necessidades do mercado japonês.
Quênia
O Quênia concordou em se juntar à rede internacional de institutos de segurança de IA, mas não anunciou detalhes específicos. É o único estado africano na rede, destacando o alcance global crescente dos esforços de segurança de IA.
Singapura
O Digital Trust Centre, inicialmente fundado em junho de 2022, foi renomeado para Singapore AISI em maio de 2024. Parte da Universidade Tecnológica de Nanyang, o instituto faz parceria com a Autoridade de Desenvolvimento de Mídia Infocomm e é apoiado por um investimento de S$10.000.000 por ano. Foca na avaliação de sistemas de IA para confiança e segurança no Sudeste Asiático.
Coreia do Sul
A Coreia do Sul anunciou em maio de 2024 que criaria um instituto de segurança de IA sob o Instituto de Pesquisa em Eletrônica e Telecomunicações. É apoiado por um investimento provisório de 10 a 20 milhões de won sul-coreanos por ano e emprega pelo menos 30 pessoas. O instituto foi fundado em novembro de 2024 e está sediado no Distrito de Bundang.
Impacto e Direções Futuras
O UK AISI influenciou significativamente o discurso global sobre segurança de IA, estabelecendo precedentes para avaliação independente. Seu trabalho informou decisões políticas no Reino Unido e no exterior, contribuindo para o desenvolvimento de estruturas regulatórias. A colaboração do instituto com parceiros internacionais facilitou o compartilhamento de técnicas de avaliação e ferramentas de avaliação de riscos.
Olhando para o futuro, o instituto enfrenta desafios em acompanhar os avanços rápidos em IA, particularmente em áreas como IA generativa e sistemas autônomos. Seu foco renomeado em segurança sugere uma mudança em direção a abordar ameaças imediatas, como ataques cibernéticos habilitados por IA. O papel do instituto na rede internacional provavelmente se expandirá à medida que mais países estabelecerem seus próprios órgãos de segurança.
A missão do UK AISI permanece central para garantir que modelos de IA de fronteira sejam desenvolvidos e implantados de forma responsável. Ao fornecer avaliações rigorosas e independentes, visa mitigar riscos enquanto promove inovação. À medida que as tecnologias de IA evoluem, os métodos e prioridades do instituto precisarão se adaptar, mas seu objetivo central de salvaguardar os interesses públicos perdura.