El Instituto de Seguridad de IA de EE. UU. (AISI) es una organización respaldada por el estado dentro del Instituto Nacional de Estándares y Tecnología (NIST), encargada de evaluar y garantizar la seguridad de modelos avanzados de inteligencia artificial (IA), también conocidos como IA fronteriza. Fue establecido en noviembre de 2023 durante la Cumbre de Seguridad de IA en el Reino Unido, junto con el Instituto de Seguridad de IA del Reino Unido. El instituto se centra en desarrollar ciencia de medición, estándares y pautas para la seguridad de la IA, incluidas pruebas previas al despliegue de modelos fronterizos. En 2025, el AISI de EE. UU. fue renombrado como Centro para Estándares e Innovación de IA (CAISI), reflejando su papel ampliado en el establecimiento de estándares e innovación.
Establecimiento y Actividades Iniciales
El AISI de EE. UU. fue creado como parte del NIST, una agencia del Departamento de Comercio de EE. UU. Su fundación siguió a crecientes preocupaciones sobre la seguridad de la IA, particularmente después de declaraciones públicas en 2023 sobre posibles riesgos existenciales de la IA avanzada. Durante la Cumbre de Seguridad de IA en noviembre de 2023, EE. UU. y el Reino Unido anunciaron ambos la creación de sus respectivos institutos. La misión inicial del AISI de EE. UU. incluía desarrollar métodos de evaluación para modelos de IA fronteriza, que a menudo son desarrollados por empresas como OpenAI, Anthropic y Google DeepMind. En abril de 2024, los AISI de EE. UU. y el Reino Unido acordaron colaborar en al menos una prueba de seguridad conjunta, con el objetivo de armonizar los procedimientos de evaluación. Sin embargo, según informó Politico en abril de 2024, muchas empresas de IA aún no habían compartido acceso previo al despliegue de sus modelos más avanzados para evaluación, con algunas esperando a que los institutos acordaran reglas comunes.
Red Internacional y Colaboración
En mayo de 2024, en la Cumbre de IA de Seúl, líderes internacionales acordaron formar una red de institutos de seguridad de IA, incluidos los del Reino Unido, EE. UU., Japón, Francia, Alemania, Italia, Singapur, Corea del Sur, Australia, Canadá y la Unión Europea. El AISI de EE. UU. participa en esta red, que tiene como objetivo coordinar evaluaciones de seguridad y compartir mejores prácticas. En julio de 2025, la red llevó a cabo un ejercicio para explorar problemas en la evaluación de agentes de IA, particularmente en lo que respecta a la fuga de información sensible o la ciberseguridad. Los miembros de la red también se reunieron en NeurIPS 2025 en San Diego. El AISI de EE. UU. también colabora con otros institutos nacionales, como el Instituto de Seguridad de IA del Reino Unido (posteriormente renombrado como Instituto de Seguridad de IA y Ciberseguridad) y el AISI de Japón, para avanzar en los estándares globales de seguridad de la IA.
Rol y Funciones
El AISI de EE. UU. opera bajo el NIST, conocido por su ciencia de medición y desarrollo de estándares. Las funciones clave del instituto incluyen realizar evaluaciones de modelos de IA fronteriza, desarrollar metodologías de prueba y crear pautas para la seguridad y confiabilidad de la IA. Trabaja con partes interesadas tanto del gobierno como del sector privado, incluidos desarrolladores e investigadores de IA. El instituto también contribuye a los esfuerzos de estándares internacionales, alineándose con la misión más amplia del NIST. A partir de 2025, el instituto ha sido renombrado CAISI, pero su enfoque central en estándares e innovación de IA permanece. El instituto forma parte de la estrategia más amplia del gobierno de EE. UU. para gestionar los riesgos de la IA mientras promueve la innovación en campos como el aprendizaje automático y la IA generativa.
Relación con Otros Esfuerzos de Seguridad de IA
El AISI de EE. UU. es distinto de otros organismos nacionales de seguridad de IA, como el Instituto de Seguridad de IA del Reino Unido, que fue establecido en Londres y posteriormente abrió una oficina en San Francisco en mayo de 2024. El instituto estadounidense también coordina con la Oficina de IA de la UE, fundada en mayo de 2024, y otros miembros de la red internacional. Mientras el AISI de EE. UU. se centra en estándares y evaluaciones nacionales, participa en discusiones globales sobre seguridad de la IA, incluidas las de la Cumbre de IA de Seúl y reuniones posteriores. El trabajo del instituto es complementario al de otras organizaciones, como el laboratorio Berkeley AI Research y MIT CSAIL, que realizan investigación académica sobre seguridad de la IA. Sin embargo, el papel principal del AISI de EE. UU. es regulatorio y basado en estándares, más que puramente orientado a la investigación.
Direcciones Futuras
A partir de 2025, se espera que el AISI de EE. UU. (ahora CAISI) continúe su trabajo en estándares y evaluación de IA, particularmente a medida que los modelos de IA fronteriza se vuelvan más capaces. El instituto probablemente desempeñará un papel clave en la configuración de la política de IA de EE. UU., especialmente en áreas como los modelos de lenguaje grandes y el aprendizaje profundo. El renombramiento a CAISI sugiere un mandato más amplio que incluye fomentar la innovación, no solo la seguridad. El instituto también continuará participando en la red internacional, que podría expandirse para incluir más países. A medida que la tecnología de IA evolucione, el AISI de EE. UU. necesitará adaptar sus métodos de evaluación para abordar nuevos riesgos, como los de los agentes de IA y los sistemas autónomos. El éxito del instituto dependerá de su capacidad para colaborar con la industria, la academia y los socios internacionales.