O UK AI Safety Institute (UK AISI) foi uma organização respaldada pelo Estado, estabelecida em novembro de 2023 para avaliar e garantir a segurança de modelos avançados de inteligência artificial (IA), particularmente sistemas de IA de fronteira. A sua criação marcou um passo significativo no movimento global rumo à regulamentação formal da segurança da IA, após declarações públicas em 2023 sobre potenciais riscos existenciais da IA. O instituto evolucionou da Frontier AI Taskforce e foi anunciado pelo Primeiro-Ministro Rishi Sunak, que enfatizou a necessidade de avaliações de segurança independentes, afirmando que as empresas de IA não podem "corrigir os seus próprios deveres". Inicialmente sediado em Londres, o UK AISI expandiu-se posteriormente a San Francisco em maio de 2024 para estar mais próximo dos principais desenvolvedores de IA. Em 2025, foi renomeado AI Security Institute, refletindo um foco mais amplo em preocupações de segurança.
Antecedentes e Motivação
O conceito de um instituto de segurança da inteligência artificial emergiu como um tipo de organização respaldada pelo Estado, destinada a avaliar e garantir a segurança de modelos avançados de IA. Em 2023, a segurança da IA ganhou proeminência, com declarações públicas notables de investigadores e líderes da indústria sobre os potenciais riscos existenciais representados pela IA. O governo do Reino Unido, sob o Primeiro-Ministro Rishi Sunak, procurou posicionar o país como líder na regulamentação da segurança da IA. Sunak expressou a sua intenção de "fazer do Reino Unido não apenas o lar intelectual, mas também o lar geográfico da regulamentação global da segurança da IA", e revelou planos para uma Cimeira sobre Segurança da IA. A cimeira foi realizada em novembro de 2023 em Bletchley Park, um local histórico conhecido pelo seu papel na decifração de códigos durante a Segunda Guerra Mundial, simbolizando o compromiso do Reino Unido com a segurança tecnológica.
Estabelecimento e Evolução
O UK AISI foi oficialmente estabelecido durante a Cimeira sobre Segurança da IA em novembro de 2023, evoluindo da Frontier AI Taskforce, que havia sido criada anteriormente nesse ano. A missão principal do instituto era realizar avaliações de segurança de modelos de IA de fronteira antes da sua implantação, focando-se em capacidades como raciocinio de modelos de linguagem de grande escala, geração de conteúdo de IA generativa e potencial uso indebido. O instituto visava fornecer avaliações independentes, reduzindo a dependência das auto-evaluaciones das empresas de IA. Em abril de 2024, o Reino Unido e os Estados Unidos concluíram um acordo para colaborar em pelo menos um teste de segurança conjunto, marcando um hito na cooperação internacional. O UK AISI anunció em maio de 2024 que abriría um escritório em San Francisco, onde muitas das principais empresas de IA, incluindo OpenAI, Anthropic e Google DeepMind, têm sede. Este movimento fez parte de um plano para "establecer novos estándares internacionais sobre segurança da IA", segundo a ministra de tecnologia do Reino Unido, Michele Donelan.
Rede Internacional
A criação do UK AISI catalizou a formação de uma rede global de institutos de segurança da IA. Na Cimeira de IA de Seúl em maio de 2024, líderes internacionais acordaron formar uma rede composta por institutos do Reino Unido, Estados Unidos, Japón, França, Alemania, Italia, Singapur, Corea do Sul, Australia, Canadá e a Unión Europea. Esta rede visava harmonizar procedimentos de avaliação e compartir boas práticas. Em julho de 2025, a rede realizou um exercício para explorar problemas na avaliação de agentes de IA, particularmente em relação à fuga de información sensible ou ciberseguridad. Os membros também se reunieron na NeurIPS 2025 em San Diego, uma conferência importante para a pesquisa de aprendizagem automática, para discutir progressos e direções futuras.
Institutos Específicos
Australia
O governo Albanese anunciou a criação do Instituto Australiano de Segurança da IA em 25 de novembro de 2025. O instituto está alojado dentro do Departamento de Indústria, Ciência e Recursos e é apoiado por um orçamento de A$29.900.000 ao longo de quatro anos. O seu gerente geral é Kate Conroy, que também lidera iniciativas de IA responsável na Real Força Aérea Australiana.
Canadá
Canadá anunciou em abril de 2024 que criaríia um instituto de segurança da IA, que foi oficialmente fundado em novembro de 2024. O instituto opera sob Innovation, Science and Economic Development Canada, em parceria com o Instituto Canadiense de Investigación Avanzada (CIFAR). É apoiado por um orçamento de CA$50.000.000 ao longo de cinco anos.
Unión Europea
O AI Office da UE, fundado em maio de 2024, é membro da rede internacional de institutos de segurança da IA. Coordina os esforços de segurança da IA entre os estados membros, focando-se na regulamentação e nos estándares.
França
Em 31 de janeiro de 2025, o governo francés criou o Institut national pour l'évaluation et la sécurité de l'intelligence artificielle (INESIA), ou Instituto Nacional para a Avaliação e Segurança da IA. Este instituto visa avaliar sistemas de IA e contribuir aos estándares de segurança europeos e internacionais.
India
O Ministério de Electrónica e Tecnología da Información realizou consultas com várias partes interessadas, incluindo meta-platforms (Meta), Google, Microsoft, IBM, OpenAI, NASSCOM e Institutos Indios de Tecnología (IITs), em 7 de outubro de 2024, sobre o estabelecimiento de um Instituto de Segurança da IA. Foi tomada a decisión de cambiar o foco da regulamentación ao establecimiento de estándares, identificación de riscos e detección de danos. O Ministro Ashwini Vaishnaw anunciou a creación de un Instituto de Segurança da IA IndiaAI em 30 de janeiro de 2025, para garantir aplicações éticas e seguras da IA. O instituto promoverá I+D doméstica baseada na diversidade social, económica, cultural e lingüística da India, utilizando conjuntos de datos indios. Opera sob un modelo "hub-and-spoke" con socios académicos e do sector privado, incluindo IITs e organizacións internacionais como UNESCO.
Japón
O J-AISI foi fundado em febreiro de 2024 como parte da Axencia de Promoción da Tecnología da Información. Emprega a aproximadamente 23 persoas e consiste no Consello de AISI, o Comité Directivo de AISI e unha secretaría con seis equipos. Akiko Murakami, anteriormente de IBM Japan e Sompo Japan, exerce como directora executiva, con Kenji Hiramoto e Suguru Nishimura como directores executivos adxuntos.
Kenya
Kenya acordou unirse á rede internacional de institutos de seguridade da IA, convertíndose no único estado africano na rede, aínda que aínda non se anunciaron detalles específicos.
Singapur
O Digital Trust Centre, inicialmente fundado en xuño de 2022, foi renomeado Singapore AISI en maio de 2024. Forma parte da Universidade Tecnolóxica de Nanyang e asóciase coa Infocomm Media Development Authority, apoiado por un investimento de S$10.000.000 ao ano.
Corea do Sur
Corea do Sur anunciou en maio de 2024 que crearía un instituto de seguridade da IA baixo o Electronics and Telecommunications Research Institute. O instituto foi fundado en novembro de 2024, con sede no distrito de Bundang, cun investimento provisional de 10 a 20 millóns de won surcoreanos ao ano e polo menos 30 empregados.
Impacto e Legado
A fundación do UK AI Safety Institute estableceu un precedente para a avaliación estatal da seguridade da IA, influíndo na creación de organismos similares en todo o mundo. A súa evolución cara ao AI Security Institute en 2025 reflectiu un alcance máis amplo para incluír preocupacións de seguridade máis alá da seguridade. O traballo do instituto contribuíu ao desenvolvemento de estándares internacionais, aínda que seguen existindo desafíos, como sinalou Politico en abril de 2024, cando moitas empresas de IA non compartiran acceso previo á implantación dos seus modelos máis avanzados para a súa avaliación. O presidente de asuntos globais de Meta, Nick Clegg, sinalou que as empresas estaban agardando regras e procedementos de avaliación comúns, que os institutos do Reino Unido e dos Estados Unidos traballaron para establecer. A rede internacional segue xogando un papel crucial na coordinación dos esforzos de seguridade da IA, con exercicios e reunións regulares para abordar desafíos emerxentes na gobernanza da intelixencia artificial.