O Instituto Nacional de Padrões e Tecnologia (NIST) é uma agência federal dos EUA que desenvolveu um programa abrangente para a segurança e confiabilidade da inteligência artificial. A IA do NIST abrange um conjunto de estruturas voluntárias, padrões e recursos de teste projetados para ajudar organizações a gerenciar riscos associados a sistemas de IA. O trabalho da agência nessa área ganhou impulso significativo após a Ordem Executiva de 2023 sobre Desenvolvimento e Uso Seguro, Protegido e Confiável de Inteligência Artificial, que direcionou o NIST a liderar os esforços federais em segurança de IA.
A principal contribuição do NIST é a Estrutura de Gerenciamento de Riscos de IA (AI RMF), publicada pela primeira vez em janeiro de 2023. Essa estrutura fornece uma abordagem estruturada para que organizações identifiquem, avaliem e mitiguem riscos ao longo do ciclo de vida da IA. Ela é organizada em torno de quatro funções principais - Governar, Mapear, Medir e Gerenciar - e é projetada para ser voluntária e adaptável entre setores. A estrutura enfatiza princípios como validade, confiabilidade, segurança, proteção, resiliência, responsabilidade, transparência e imparcialidade.
AI RMF e Publicações Relacionadas
A AI RMF 1.0 foi lançada em 26 de janeiro de 2023, após um processo com múltiplas partes interessadas que incluiu comentários públicos e workshops. O NIST posteriormente publicou o Perfil de IA Generativa da AI RMF em julho de 2024, que aborda riscos únicos apresentados por sistemas de IA generativa, incluindo modelos de linguagem de grande escala. Esse perfil cobre questões como alucinação, viés prejudicial e o potencial de uso indevido. O NIST também lançou documentos complementares sobre desenvolvimento seguro de software para IA e uma taxonomia de incidentes de IA.
Além da RMF, o NIST emitiu várias outras publicações relacionadas à IA. O Manual da AI RMF fornece orientação prática para implementar a estrutura. O NIST também desenvolveu a taxonomia de Aprendizado de Máquina Adversarial (AML), publicada em março de 2024, que categoriza ataques a sistemas de aprendizado de máquina e fornece estratégias de mitigação. Esses recursos são destinados ao uso por desenvolvedores, implantadores e avaliadores de IA na indústria, academia e governo.
Programas de Teste e Avaliação
O NIST opera o programa de Teste, Avaliação, Validação e Verificação de IA (TEVV), que visa desenvolver métricas e métodos para avaliar o desempenho e a segurança de sistemas de IA. Isso inclui a criação de bancos de teste e conjuntos de dados de referência para avaliar capacidades de IA. Em 2024, o NIST lançou o Instituto de Segurança de IA dos EUA (AISI), estabelecido sob o Departamento de Comércio, com o NIST fornecendo liderança técnica. O AISI conduz pesquisas sobre segurança de IA, desenvolve protocolos de teste e colabora com parceiros internacionais.
Uma iniciativa notável é o programa GenAI, que foca na avaliação de tecnologias de IA generativa. Esse programa desenvolve ferramentas de medição para avaliar a qualidade, segurança e confiabilidade de conteúdo gerado por IA. O NIST também participa do Relatório Internacional de Segurança de IA, um esforço global para sintetizar conhecimento científico sobre riscos de IA.
Padrões e Colaboração Internacional
O NIST desempenha um papel fundamental no desenvolvimento de padrões internacionais de IA por meio de seu engajamento com organizações como a Organização Internacional de Padronização (ISO) e a Comissão Eletrotécnica Internacional (IEC). O NIST contribui para o padrão ISO/IEC 42001 para sistemas de gerenciamento de IA e o padrão ISO/IEC 23894 sobre gerenciamento de riscos de IA. A agência também trabalha com o Centro Nacional de Excelência em Cibersegurança (NCOE) para integrar a segurança de IA em práticas mais amplas de cibersegurança.
O trabalho de IA do NIST é informado por sua pesquisa mais ampla em inteligência artificial e aprendizado profundo. O Laboratório de Tecnologia da Informação da agência conduz pesquisa fundamental em áreas como visão computacional, processamento de linguagem natural e robustez de redes neurais. Essa pesquisa alimenta o desenvolvimento de diretrizes práticas e métodos de teste.
Desafios e Direções Futuras
A IA do NIST enfrenta desafios contínuos para acompanhar os rápidos avanços tecnológicos. A natureza voluntária da AI RMF significa que a adoção não é obrigatória, embora agências federais sejam cada vez mais obrigadas a se alinhar a ela. O NIST continua atualizando suas diretrizes para abordar questões emergentes, como ataques cibernéticos habilitados por IA, riscos de privacidade e o impacto ambiental do treinamento de IA. A partir de 2025, o NIST está desenvolvendo perfis adicionais para setores específicos, incluindo saúde e finanças, e expandindo suas capacidades de teste para modelos de IA de fronteira.
O trabalho da agência é complementado por colaborações com instituições acadêmicas como MIT CSAIL e Stanford AI Lab, bem como parceiros da indústria. O NIST também se envolve com órgãos internacionais para harmonizar padrões de segurança de IA globalmente, reconhecendo que sistemas de IA frequentemente operam além das fronteiras.
Impacto no Ecossistema de IA
As estruturas de IA do NIST influenciaram como organizações abordam a governança de IA. Grandes empresas de tecnologia, incluindo OpenAI, Anthropic e Google DeepMind, referenciaram a AI RMF em suas práticas de segurança. A estrutura também foi adotada por agências governamentais e parceiros internacionais, como o Ato de IA da União Europeia, que se baseia em princípios semelhantes baseados em risco. A ênfase do NIST em critérios mensuráveis e testáveis ajudou a direcionar a indústria de IA para práticas de avaliação mais rigorosas.
Apesar de sua natureza voluntária, a IA do NIST se tornou um ponto de referência de fato para discussões sobre segurança de IA nos Estados Unidos e além. Suas publicações são amplamente citadas na literatura acadêmica e em relatórios da indústria, e seus programas de teste fornecem um terreno neutro para avaliar sistemas de IA. À medida que as capacidades de IA continuam a evoluir, o papel do NIST na definição de padrões de segurança provavelmente se expandirá, particularmente em áreas como sistemas autônomos e tomada de decisão orientada por IA.