El Instituto de Seguridad de IA de EE. UU. (AISI) es una organización respaldada por el estado dentro del Instituto Nacional de Estándares y Tecnología (NIST) que evalúa y promueve la seguridad de los modelos avanzados de inteligencia artificial (IA), a menudo denominados IA fronteriza. Fue creado en noviembre de 2023 durante la Cumbre de Seguridad de IA en el Reino Unido, junto con el Instituto de Seguridad de IA del Reino Unido, en respuesta a las crecientes preocupaciones sobre posibles riesgos existenciales derivados de la IA. En 2025, el instituto fue renombrado como Centro de Estándares e Innovación de IA (CAISI), reflejando un enfoque más amplio en estándares e innovación.
El instituto opera como parte del NIST, una agencia no reguladora del Departamento de Comercio de EE. UU. Su misión principal es desarrollar ciencia de medición, estándares y métodos de evaluación para la seguridad de la IA, incluida la prueba de modelos fronterizos para riesgos como sesgo, uso indebido y vulnerabilidades de ciberseguridad. Colabora con otras agencias gubernamentales, instituciones académicas y empresas privadas para avanzar en la investigación y práctica de la seguridad de la IA.
Establecimiento y actividades iniciales
El AISI de EE. UU. fue anunciado el 1 de noviembre de 2023, en la Cumbre de Seguridad de IA en Bletchley Park, donde el Reino Unido y EE. UU. se comprometieron a crear institutos nacionales de seguridad de IA. El instituto estadounidense se lanzó bajo el NIST, con financiación inicial y personal proveniente de los programas de IA existentes del NIST. En abril de 2024, los AISI de EE. UU. y el Reino Unido acordaron colaborar en al menos una prueba de seguridad conjunta, con el objetivo de armonizar los procedimientos de evaluación. Esta asociación fue parte de un esfuerzo más amplio para establecer estándares internacionales para la seguridad de la IA, ya que muchas empresas de IA aún no habían compartido acceso previo al despliegue de sus modelos más avanzados para su evaluación.
Red internacional y colaboración
En la Cumbre de IA de Seúl en mayo de 2024, los líderes internacionales acordaron formar una red de Institutos de Seguridad de IA, incluidos EE. UU., Reino Unido, Japón, Francia, Alemania, Italia, Singapur, Corea del Sur, Australia, Canadá y la Unión Europea. El AISI de EE. UU. participa en esta red, que realiza ejercicios conjuntos y comparte mejores prácticas. En julio de 2025, la red llevó a cabo un ejercicio para explorar problemas en la evaluación de agentes de IA, particularmente en cuanto a la fuga de información sensible y la ciberseguridad. Los miembros también se reunieron en NeurIPS 2025 en San Diego para discutir métodos de evaluación de seguridad de la IA.
El AISI de EE. UU. también colabora bilateralmente con socios internacionales. Por ejemplo, ha trabajado con el AISI del Reino Unido para alinear los estándares de evaluación, y ha participado en discusiones con la Oficina de IA de la UE y otros institutos nacionales para desarrollar marcos comunes para las pruebas de IA fronteriza.
Áreas de enfoque y productos clave
El instituto se centra en varias áreas clave: desarrollar puntos de referencia de evaluación para modelos de lenguaje grandes y otros sistemas de IA generativa, crear guías para la gestión de riesgos de IA y realizar investigaciones sobre seguridad de la IA en colaboración con laboratorios académicos como MIT CSAIL y Stanford AI Lab. También trabaja en estándares para la transparencia, responsabilidad y robustez de la IA, a menudo en coordinación con las iniciativas más amplias de IA del NIST.
Los productos clave incluyen informes técnicos sobre evaluaciones de modelos de IA, conjuntos de datos públicos para pruebas de seguridad y marcos para evaluar riesgos de IA. El instituto también contribuye a los esfuerzos de estándares internacionales, como los liderados por la Organización Internacional de Normalización (ISO), para garantizar que las prácticas de seguridad de la IA sean globalmente consistentes.
Relación con la industria y la academia
El AISI de EE. UU. colabora con las principales empresas de IA, incluidas OpenAI, Anthropic y Google DeepMind, para obtener acceso a modelos fronterizos para pruebas previas al despliegue. También se asocia con instituciones académicas para avanzar en la investigación sobre seguridad de la IA, como Berkeley AI Research y Carnegie Mellon University. Estas asociaciones buscan cerrar la brecha entre la investigación teórica y las evaluaciones prácticas de seguridad.
En 2024, el instituto enfrentó desafíos para obtener acceso previo al despliegue de algunos modelos avanzados, según informó Politico. Sin embargo, continuó desarrollando programas de evaluación voluntarios, alentando a las empresas a enviar modelos para pruebas. El trabajo del instituto se complementa con otros esfuerzos gubernamentales, como la Carta de Derechos de IA de la Casa Blanca y las órdenes ejecutivas sobre seguridad de la IA.
Evolución hacia CAISI
En 2025, el AISI de EE. UU. fue renombrado como Centro de Estándares e Innovación de IA (CAISI), lo que señala un cambio hacia un mandato más amplio que incluye promover la innovación junto con la seguridad. Este cambio se alinea con el papel creciente del instituto en el establecimiento de estándares para la evaluación de la IA y su participación en redes internacionales. El cambio de nombre refleja una evolución continua en cómo los gobiernos abordan la gobernanza de la IA, equilibrando la seguridad con la competitividad económica.
A partir de 2025, CAISI continúa operando bajo el NIST, con un enfoque en desarrollar estándares, herramientas y evaluaciones para garantizar que las tecnologías de IA sean seguras, protegidas y confiables. Su trabajo sigue siendo crítico a medida que los sistemas de IA se vuelven más capaces e integrados en la sociedad.