O Instituto de Segurança de IA dos EUA (AISI) é uma organização apoiada pelo estado dentro do Instituto Nacional de Padrões e Tecnologia (NIST), encarregada de avaliar e garantir a segurança de modelos avançados de inteligência artificial (IA), também conhecidos como IA de fronteira. Foi estabelecido em novembro de 2023 durante a Cúpula de Segurança de IA no Reino Unido, juntamente com o Instituto de Segurança de IA do Reino Unido. O instituto foca no desenvolvimento de ciência de medição, padrões e diretrizes para a segurança de IA, incluindo testes pré-implantação de modelos de fronteira. Em 2025, o AISI dos EUA foi renomeado para Centro de Padrões e Inovação em IA (CAISI), refletindo seu papel expandido na definição de padrões e inovação.
Estabelecimento e Atividades Iniciais
O AISI dos EUA foi criado como parte do NIST, uma agência do Departamento de Comércio dos EUA. Sua fundação seguiu preocupações crescentes sobre a segurança de IA, particularmente após declarações públicas em 2023 sobre riscos existenciais potenciais da IA avançada. Durante a Cúpula de Segurança de IA em novembro de 2023, os EUA e o Reino Unido anunciaram ambos a criação de seus respectivos institutos. A missão inicial do AISI dos EUA incluía o desenvolvimento de métodos de avaliação para modelos de IA de fronteira, que são frequentemente desenvolvidos por empresas como OpenAI, Anthropic e Google DeepMind. Em abril de 2024, os AISIs dos EUA e do Reino Unido concordaram em colaborar em pelo menos um teste de segurança conjunto, visando harmonizar os procedimentos de avaliação. No entanto, conforme relatado pela Politico em abril de 2024, muitas empresas de IA ainda não haviam compartilhado acesso pré-implantação aos seus modelos mais avançados para avaliação, com algumas esperando que os institutos concordassem em regras comuns.
Rede Internacional e Colaboração
Em maio de 2024, na Cúpula de IA de Seul, líderes internacionais concordaram em formar uma rede de Institutos de Segurança de IA, incluindo os do Reino Unido, EUA, Japão, França, Alemanha, Itália, Singapura, Coreia do Sul, Austrália, Canadá e União Europeia. O AISI dos EUA participa desta rede, que visa coordenar avaliações de segurança e compartilhar melhores práticas. Em julho de 2025, a rede realizou um exercício para explorar questões com a avaliação de agentes de IA, particularmente em relação a vazamento de informações sensíveis ou segurança cibernética. Membros da rede também se reuniram no NeurIPS 2025 em San Diego. O AISI dos EUA também colabora com outros institutos nacionais, como o Instituto de Segurança de IA do Reino Unido (posteriormente renomeado Instituto de Segurança de IA) e o AISI do Japão, para avançar os padrões globais de segurança de IA.
Papel e Funções
O AISI dos EUA opera sob o NIST, que é conhecido por sua ciência de medição e desenvolvimento de padrões. As funções-chave do instituto incluem conduzir avaliações de modelos de IA de fronteira, desenvolver metodologias de teste e criar diretrizes para segurança e confiabilidade de IA. Ele trabalha com partes interessadas do governo e do setor privado, incluindo desenvolvedores de IA e pesquisadores. O instituto também contribui para esforços de padrões internacionais, alinhando-se com a missão mais ampla do NIST. A partir de 2025, o instituto foi renomeado CAISI, mas seu foco central em padrões e inovação de IA permanece. O instituto faz parte da estratégia mais ampla do governo dos EUA para gerenciar riscos de IA enquanto promove inovação em campos como aprendizado de máquina e IA generativa.
Relação com Outros Esforços de Segurança de IA
O AISI dos EUA é distinto de outros órgãos nacionais de segurança de IA, como o Instituto de Segurança de IA do Reino Unido, que foi estabelecido em Londres e posteriormente abriu um escritório em São Francisco em maio de 2024. O instituto dos EUA também coordena com o Escritório de IA da UE, fundado em maio de 2024, e outros membros da rede internacional. Enquanto o AISI dos EUA foca em padrões e avaliações domésticas, ele participa de discussões globais sobre segurança de IA, incluindo aquelas na Cúpula de IA de Seul e reuniões subsequentes. O trabalho do instituto é complementar ao de outras organizações, como o Laboratório de Pesquisa em IA de Berkeley e o MIT CSAIL, que conduzem pesquisa acadêmica sobre segurança de IA. No entanto, o papel primário do AISI dos EUA é regulatório e baseado em padrões, em vez de puramente orientado à pesquisa.
Direções Futuras
A partir de 2025, espera-se que o AISI dos EUA (agora CAISI) continue seu trabalho em padrões e avaliação de IA, particularmente à medida que os modelos de IA de fronteira se tornam mais capazes. O instituto provavelmente desempenhará um papel-chave na formulação da política de IA dos EUA, especialmente em áreas como modelos de linguagem de grande escala e aprendizado profundo. A renomeação para CAISI sugere um mandato mais amplo que inclui fomentar inovação, não apenas segurança. O instituto também continuará a participar da rede internacional, que pode se expandir para incluir mais países. À medida que a tecnologia de IA evolui, o AISI dos EUA precisará adaptar seus métodos de avaliação para abordar novos riscos, como aqueles de agentes de IA e sistemas autônomos. O sucesso do instituto dependerá de sua capacidade de colaborar com a indústria, academia e parceiros internacionais.