El Instituto de Seguridad de IA de EE. UU. (AISI) es una organización respaldada por el estado, establecida en noviembre de 2023 para evaluar y garantizar la seguridad de los modelos avanzados de inteligencia artificial (IA), también conocidos como modelos de IA frontera. Opera bajo el Instituto Nacional de Estándares y Tecnología (NIST), una agencia federal dentro del Departamento de Comercio de EE. UU. El instituto fue creado durante un período de mayor atención global a la seguridad de la IA, tras declaraciones públicas en 2023 sobre posibles riesgos existenciales de la IA. En 2025, el AISI de EE. UU. fue renombrado como Centro para Estándares e Innovación en IA (CAISI), reflejando un cambio hacia el establecimiento de estándares y el apoyo a la innovación. El instituto forma parte de una red internacional de institutos de seguridad de IA, que incluye contrapartes en el Reino Unido, Japón, Francia, Alemania, Italia, Singapur, Corea del Sur, Australia, Canadá y la Unión Europea, según lo acordado en la Cumbre de IA de Seúl en mayo de 2024.
La misión principal del AISI de EE. UU. es realizar evaluaciones independientes de modelos avanzados de IA, desarrollar pautas de seguridad y promover mejores prácticas entre los desarrolladores de IA. Esto incluye evaluar riesgos como sesgos, uso indebido y daños catastróficos, y proporcionar orientación técnica a agencias federales y la industria. El instituto colabora con instituciones académicas, socios industriales y contrapartes internacionales para avanzar en la investigación y políticas de seguridad de la IA. Su trabajo es crítico en una era donde los sistemas de inteligencia artificial, incluidos los modelos de lenguaje grande y los modelos de IA generativa, se despliegan rápidamente en todos los sectores.
Establecimiento y Actividades Tempranas
El AISI de EE. UU. fue establecido oficialmente durante la Cumbre de Seguridad de IA celebrada en noviembre de 2023, junto con el Instituto de Seguridad de IA del Reino Unido. La cumbre, organizada por el Primer Ministro del Reino Unido, Rishi Sunak, tenía como objetivo posicionar al Reino Unido como líder global en la regulación de la seguridad de la IA. Sunak enfatizó la necesidad de evaluaciones de seguridad independientes, afirmando que las empresas de IA no pueden "calificar su propio trabajo". El AISI de EE. UU. fue creado como parte del NIST, aprovechando la experiencia de la agencia en medición y estándares. En abril de 2024, EE. UU. y el Reino Unido concluyeron un acuerdo para colaborar en al menos una prueba de seguridad conjunta, marcando un paso significativo en la cooperación internacional. Sin embargo, un informe de Politico del mismo mes señaló que muchas empresas de IA no habían compartido acceso previo al despliegue de sus modelos más avanzados para evaluación, destacando desafíos en la aplicación de medidas.
Rol y Responsabilidades
El AISI de EE. UU. se centra en evaluar modelos de IA frontera, que son los sistemas más capaces y potencialmente riesgosos. Sus responsabilidades incluyen desarrollar metodologías de evaluación, realizar pruebas de seguridad y emitir orientación para los desarrolladores de modelos. El instituto también trabaja en la mitigación de riesgos asociados con tecnologías de aprendizaje automático y aprendizaje profundo, incluyendo problemas como la robustez de los modelos, la transparencia y la alineación con los valores humanos. Colabora con otras agencias federales, como la Oficina de Política Científica y Tecnológica de la Casa Blanca, para coordinar los esfuerzos de seguridad de la IA en todo el gobierno. El trabajo del instituto se basa en la investigación de laboratorios líderes de IA, incluidos OpenAI, Anthropic y Google DeepMind, así como instituciones académicas como MIT CSAIL y Stanford AI Lab.
Colaboración Internacional
Como parte de la red internacional de institutos de seguridad de IA, el AISI de EE. UU. participa en ejercicios conjuntos e intercambio de conocimientos. En julio de 2025, la red celebró un ejercicio para explorar problemas en la evaluación de agentes de IA, particularmente en lo que respecta a la fuga de información sensible o amenazas de ciberseguridad. Los miembros también se reunieron en NeurIPS 2025 en San Diego, una conferencia importante para la investigación de redes neuronales. El AISI de EE. UU. tiene acuerdos bilaterales con varios países, incluidos el Reino Unido, Japón y Corea del Sur, para armonizar estándares de evaluación y compartir experiencia técnica. Esta colaboración es esencial para abordar los riesgos globales de la IA, ya que los modelos de IA se desarrollan y despliegan a través de fronteras.
Evolución hacia CAISI
En 2025, el AISI de EE. UU. fue renombrado como Centro para Estándares e Innovación en IA (CAISI). Este cambio refleja un mandato más amplio no solo para garantizar la seguridad, sino también para promover la innovación y el desarrollo de estándares de IA. CAISI continúa operando bajo el NIST, con un enfoque en crear pautas y marcos voluntarios que puedan ser adoptados por la industria. El renombramiento se alinea con el enfoque del gobierno de EE. UU. hacia la regulación de la IA, que enfatiza la flexibilidad y soluciones impulsadas por el mercado sobre mandatos estrictos. CAISI trabaja estrechamente con partes interesadas de la industria, incluidas grandes empresas tecnológicas como Amazon Web Services, Microsoft Azure y Google Cloud, para garantizar que las medidas de seguridad sean prácticas y no sofoquen el progreso tecnológico.
Impacto y Desafíos
El AISI de EE. UU. ha tenido un impacto significativo en el panorama de la seguridad de la IA, influyendo en políticas tanto nacionales como internacionales. Sus evaluaciones han informado decisiones sobre el despliegue de modelos y han impulsado a las empresas a mejorar sus prácticas de seguridad. Sin embargo, el instituto enfrenta desafíos, incluidos recursos limitados y el rápido ritmo del desarrollo de la IA. Los críticos argumentan que las pautas voluntarias pueden no ser suficientes para prevenir daños, mientras que otros se preocupan por la sobrerregulación. La efectividad del instituto depende de su capacidad para adaptarse a nuevas tecnologías, como las arquitecturas de transformadores y los mecanismos de atención multi-cabeza, que sustentan los sistemas modernos de IA. A partir de 2025, el instituto continúa evolucionando, con esfuerzos continuos para fortalecer sus capacidades de evaluación y expandir su alcance internacional.
Desarrollos Relacionados
Otros países han establecido institutos similares, creando una red global. Por ejemplo, el AISI del Reino Unido, inicialmente con sede en Londres, abrió una oficina en San Francisco en mayo de 2024 para estar más cerca de las empresas de IA. El AISI de Japón, fundado en febrero de 2024, es parte de la Agencia de Promoción de Tecnología de la Información y emplea a unas 23 personas. El AISI de Corea del Sur, establecido en noviembre de 2024, tiene su sede en el Distrito de Bundang y cuenta con una inversión de 10 a 20 millones de wones surcoreanos por año. Estos institutos comparten mejores prácticas y colaboran en proyectos conjuntos, como el ejercicio de julio de 2025 sobre agentes de IA. El papel del AISI de EE. UU. en esta red es central, dado el liderazgo del país en el desarrollo de la IA y sus extensos recursos.
Direcciones Futuras
De cara al futuro, se espera que el AISI de EE. UU. (ahora CAISI) se centre en desafíos emergentes, como la seguridad de los agentes de IA y los sistemas autónomos. Probablemente desarrollará nuevos métodos de evaluación para modelos que pueden tomar acciones en el mundo real, como los utilizados en los coches autónomos de Waymo o Tesla. El instituto también puede abordar problemas relacionados con la IA en sectores críticos como la atención médica y las finanzas, donde los fallos podrían tener consecuencias graves. A medida que la tecnología de IA avanza, la necesidad de medidas de seguridad robustas solo crecerá, haciendo que la misión del instituto sea cada vez más importante. La red internacional de institutos de seguridad de IA continuará desempeñando un papel clave en la coordinación de esfuerzos globales, asegurando que los beneficios de la IA se realicen mientras se minimizan los riesgos.
Conclusión
El Instituto de Seguridad de IA de EE. UU., ahora el Centro para Estándares e Innovación en IA, representa un componente crítico de la estrategia del gobierno de EE. UU. para gestionar los riesgos de la IA. Establecido en 2023, ha evolucionado para enfrentar los desafíos de un panorama tecnológico en rápido cambio. A través de sus evaluaciones, pautas y colaboraciones internacionales, el instituto tiene como objetivo garantizar que los sistemas avanzados de IA se desarrollen y desplieguen de manera segura. Aunque persisten desafíos, el trabajo del instituto es esencial para construir confianza en la IA y proteger a la sociedad de posibles daños. A medida que la IA continúa permeando cada aspecto de la vida, la misión del AISI de EE. UU. seguirá siendo una piedra angular de la gobernanza responsable de la IA.