O Instituto de Seguridad de IA dos EUA (AISI) é uma organização respaldada pelo Estado dentro do Instituto Nacional de Padrões e Tecnologia (NIST) que avalia e promue a segurança de modelos avançados de inteligência artificial (IA), frequentemente chamados de IA de fronteira. Foi criado em novembro de 2023 durante a Cúpula de Seguridad de IA no Reino Unido, junto com o Instituto de Seguridad de IA do Reino Unido, em resposta a preocupações crescentes sobre riscos existenciais potenciais da IA. Em 2025, o instituto foi renomeado como Centro de Padrões e Inovação de IA (CAISI), refletindo um foco mais amplo em padrões e inovação.
O instituto opera como parte do NIST, uma agência não reguladora do Departamento de Comercio dos EUA. Sua missão principal é desenvolver ciência de medição, padrões e métodos de avaliação para a segurança da IA, incluindo testar modelos de fronteira para riscos como viés, uso indebido e vulnerabilidades de cibersegurança. Colabora com outras agências governamentais, instituições acadêmicas e empresas privadas para avançar na pesquisa e prática da segurança da IA.
Estabelecimento e atividades iniciais
O AISI dos EUA foi anunciado em 1 de novembro de 2023, na Cúpula de Seguridad de IA em Bletchley Park, onde o Reino Unido e os EUA se comprometeram a criar institutos nacionais de segurança de IA. O instituto dos EUA foi lançado sob o NIST, com financiamento inicial e pessoal proveniente dos programas existentes de IA do NIST. Em abril de 2024, os AISIs dos EUA e do Reino Unido concordaram a colaborar em pelo menos um teste de segurança conjunto, visando harmonizar os procedimentos de avaliação. Esta parceria fez parte de um esforzo mais amplo para estabelecer padrões internacionais para a segurança da IA, já que muitas empresas de IA ainda não haviam compartilhado acesso pré-implementación a seus modelos mais avançados para avaliação.
Red internacional e colaboração
Na Cúpula de IA de Seúl em maio de 2024, líderes internacionais acordaron formar uma rede de Institutos de Seguridad de IA, incluindo os EUA, Reino Unido, Japón, França, Alemania, Italia, Singapur, Corea do Sul, Australia, Canadá e a Unión Europea. O AISI dos EUA participa nesta rede, que realiza exercícios conjuntos e compartilha boas práticas. Em julho de 2025, a rede realizou um exercício para explorar problemas com a avaliação de agentes de IA, particularmente em relação ao vazamento de informações sensíveis e ciberseguridad. Os membros também se reuniram na NeurIPS 2025 em San Diego para discutir métodos de avaliação de segurança de IA.
O AISI dos EUA também se engaja com parceiros internacionais bilateralmente. Por exemplo, trabalhou com o AISI do Reino Unido para alinear padrões de avaliação, e participou em discussões com o Escritorio de IA da UE e outros institutos nacionais para desenvolver marcos comuns para testar IA de fronteira.
Áreas de foco e produtos clave
O instituto se concentra em várias áreas clave: desenvolver benchmarks de avaliação para grandes modelos de linguagem e outros sistemas generativos de IA, criar guías para a gestión de riscos de IA, e realizar pesquisa sobre segurança de IA em colaboração com laboratorios acadêmicos como MIT CSAIL e Stanford AI Lab. Também trabalha em padrões para transparencia, responsabilidade e robustez da IA, frequentemente em coordinação com as iniciativas mais amplas de IA do NIST.
Produtos clave incluyen informes técnicos sobre avaliações de modelos de IA, conjuntos de dados públicos para testes de segurança, e marcos para avaliar riscos de IA. O instituto também contribuye a esforzos de padrões internacionais, como os liderados pela Organización Internacional para la Estandarización (ISO), para garantir que as práticas de segurança de IA sejam globalmente consistentes.
Relación com indústria e academia
O AISI dos EUA colabora com empresas líderes de IA, incluindo OpenAI, Anthropic e Google DeepMind, para obter acesso a modelos de fronteira para testes pré-implementación. Também se associa com instituições acadêmicas para avançar na pesquisa sobre segurança de IA, como Berkeley AI Research e Carnegie Mellon University. Estas parcerias visam preencher a brecha entre pesquisa teórica e avaliações práticas de segurança.
Em 2024, o instituto enfrentou desafíos para obter acesso pré-implementación a alguns modelos avançados, como informado por Politico. No entanto, continuou desenvolvendo programas de avaliação voluntária, encorajando empresas a submeter modelos para testes. O trabalho do instituto é complementado por outros esforzos governamentais, como a Carta de Direitos de IA da Casa Branca e ordens executivas sobre segurança de IA.
Evolución para CAISI
Em 2025, o AISI dos EUA foi renomeado como Centro de Padrões e Inovação de IA (CAISI), señalando um cambio hacia um mandato más amplio que incluye promover a inovação junto com a segurança. Este cambio se alinea com o papel crescente do instituto em estabelecer padrões para a avaliação de IA e sua participação em redes internacionais. A renomeação reflete uma evolución contínua em como os governos abordam a governança de IA, equilibrando segurança com competitividade económica.
A partir de 2025, CAISI continua operando sob o NIST, com um foco em desenvolver padrões, herramientas e avaliações para garantir que as tecnologias de IA sejam seguras, seguras e confiables. Seu trabalho permanece crítico à medida que os sistemas de IA se tornan más capaces e integrados na sociedade.