El Instituto Nacional de Estándares y Tecnología (NIST) es una agencia federal de EE. UU. que ha desarrollado un programa integral para la seguridad y confiabilidad de la inteligencia artificial. El NIST AI abarca un conjunto de marcos voluntarios, estándares y recursos de prueba diseñados para ayudar a las organizaciones a gestionar los riesgos asociados con los sistemas de IA. El trabajo de la agencia en esta área ganó un impulso significativo tras la Orden Ejecutiva de 2023 sobre el Desarrollo y Uso Seguro, Protegido y Confiable de la Inteligencia Artificial, que instruyó al NIST a liderar los esfuerzos federales en seguridad de la IA.
La contribución principal del NIST es el Marco de Gestión de Riesgos de IA (AI RMF), publicado por primera vez en enero de 2023. Este marco proporciona un enfoque estructurado para que las organizaciones identifiquen, evalúen y mitiguen riesgos a lo largo del ciclo de vida de la IA. Está organizado en torno a cuatro funciones principales - Gobernar, Mapear, Medir y Gestionar - y está diseñado para ser voluntario y adaptable entre sectores. El marco enfatiza principios como validez, confiabilidad, seguridad, protección, resiliencia, responsabilidad, transparencia y equidad.
AI RMF y Publicaciones Relacionadas
El AI RMF 1.0 se publicó el 26 de enero de 2023, tras un proceso de múltiples partes interesadas que incluyó comentarios públicos y talleres. El NIST publicó posteriormente el Perfil de IA Generativa del AI RMF en julio de 2024, que aborda los riesgos únicos planteados por los sistemas de IA generativa, incluidos los modelos de lenguaje grandes. Este perfil cubre cuestiones como la alucinación, el sesgo dañino y el potencial de uso indebido. El NIST también publicó documentos complementarios sobre desarrollo de software seguro para IA y una taxonomía de incidentes de IA.
Además del RMF, el NIST ha emitido varias otras publicaciones relacionadas con la IA. El Libro de Jugadas del AI RMF proporciona orientación práctica para implementar el marco. El NIST también ha desarrollado la taxonomía de Aprendizaje Automático Adversarial (AML), publicada en marzo de 2024, que categoriza los ataques a sistemas de aprendizaje automático y proporciona estrategias de mitigación. Estos recursos están destinados a desarrolladores, implementadores y evaluadores de IA en la industria, la academia y el gobierno.
Programas de Pruebas y Evaluación
El NIST opera el programa de Pruebas, Evaluación, Validación y Verificación de IA (TEVV), que tiene como objetivo desarrollar métricas y métodos para evaluar el rendimiento y la seguridad de los sistemas de IA. Esto incluye la creación de bancos de pruebas y conjuntos de datos de referencia para evaluar las capacidades de la IA. En 2024, el NIST lanzó el Instituto de Seguridad de IA de EE. UU. (AISI), establecido bajo el Departamento de Comercio, con el NIST proporcionando liderazgo técnico. El AISI realiza investigaciones sobre seguridad de la IA, desarrolla protocolos de prueba y colabora con socios internacionales.
Una iniciativa notable es el programa GenAI, que se centra en evaluar tecnologías de IA generativa. Este programa desarrolla herramientas de medición para evaluar la calidad, seguridad y confiabilidad del contenido generado por IA. El NIST también participa en el Informe Internacional de Seguridad de IA, un esfuerzo global para sintetizar el conocimiento científico sobre los riesgos de la IA.
Estándares y Colaboración Internacional
El NIST desempeña un papel clave en el desarrollo de estándares internacionales de IA a través de su participación con organizaciones como la Organización Internacional de Normalización (ISO) y la Comisión Electrotécnica Internacional (IEC). El NIST contribuye al estándar ISO/IEC 42001 para sistemas de gestión de IA y al estándar ISO/IEC 23894 sobre gestión de riesgos de IA. La agencia también trabaja con el Centro Nacional de Excelencia en Ciberseguridad (NCOE) para integrar la seguridad de la IA en prácticas más amplias de ciberseguridad.
El trabajo de IA del NIST se basa en su investigación más amplia en inteligencia artificial y aprendizaje profundo. El Laboratorio de Tecnología de la Información de la agencia realiza investigación fundamental en áreas como visión por computadora, procesamiento de lenguaje natural y robustez de redes neuronales. Esta investigación alimenta el desarrollo de guías prácticas y métodos de prueba.
Desafíos y Direcciones Futuras
El NIST AI enfrenta desafíos continuos para mantenerse al día con los rápidos avances tecnológicos. La naturaleza voluntaria del AI RMF significa que la adopción no es obligatoria, aunque se requiere cada vez más que las agencias federales se alineen con él. El NIST continúa actualizando su guía para abordar problemas emergentes como ciberataques habilitados por IA, riesgos de privacidad y el impacto ambiental del entrenamiento de IA. A partir de 2025, el NIST está desarrollando perfiles adicionales para sectores específicos, incluidos la atención médica y las finanzas, y expandiendo sus capacidades de prueba para modelos de IA fronterizos.
El trabajo de la agencia se complementa con colaboraciones con instituciones académicas como MIT CSAIL y Stanford AI Lab, así como con socios de la industria. El NIST también colabora con organismos internacionales para armonizar los estándares de seguridad de IA a nivel global, reconociendo que los sistemas de IA a menudo operan a través de fronteras.
Impacto en el Ecosistema de IA
Los marcos de IA del NIST han influido en cómo las organizaciones abordan la gobernanza de la IA. Grandes empresas tecnológicas, incluidas OpenAI, Anthropic y Google DeepMind, han hecho referencia al AI RMF en sus prácticas de seguridad. El marco también ha sido adoptado por agencias gubernamentales y socios internacionales, como la Ley de IA de la Unión Europea, que se basa en principios similares basados en riesgos. El énfasis del NIST en criterios medibles y comprobables ha ayudado a orientar la industria de la IA hacia prácticas de evaluación más rigurosas.
A pesar de su naturaleza voluntaria, el NIST AI se ha convertido en un punto de referencia de facto para las discusiones sobre seguridad de la IA en los Estados Unidos y más allá. Sus publicaciones son ampliamente citadas en la literatura académica y los informes de la industria, y sus programas de prueba proporcionan un terreno neutral para evaluar sistemas de IA. A medida que las capacidades de la IA continúan evolucionando, es probable que el papel del NIST en la definición de estándares de seguridad se expanda, particularmente en áreas como sistemas autónomos y toma de decisiones impulsada por IA.