El Instituto de Seguridad de la IA del Reino Unido (UK AISI) fue una organización respaldada por el estado establecida en noviembre de 2023 para evaluar y garantizar la seguridad de los modelos avanzados de inteligencia artificial (IA), en particular los sistemas de IA fronteriza. Su creación marcó un paso significativo en el movimiento global hacia una regulación formal de la seguridad de la IA, tras las declaraciones públicas de 2023 sobre los posibles riesgos existenciales de la IA. El instituto evolucionó a partir del Grupo de Trabajo de IA Fronteriza y fue anunciado por el Primer Ministro Rishi Sunak, quien enfatizó la necesidad de evaluaciones de seguridad independientes, afirmando que las empresas de IA no pueden "corregir sus propios deberes". Con sede inicial en Londres, el UK AISI se expandió posteriormente a San Francisco en mayo de 2024 para estar más cerca de los principales desarrolladores de IA. En 2025, fue renombrado como Instituto de Seguridad de la IA, reflejando un enfoque más amplio en las preocupaciones de seguridad.
Antecedentes y Motivación
El concepto de un instituto de seguridad de la inteligencia artificial surgió como un tipo de organización respaldada por el estado destinada a evaluar y garantizar la seguridad de los modelos avanzados de IA. En 2023, la seguridad de la IA ganó prominencia, con declaraciones públicas notables de investigadores y líderes de la industria sobre los posibles riesgos existenciales que plantea la IA. El gobierno del Reino Unido, bajo el Primer Ministro Rishi Sunak, buscó posicionar al país como líder en la regulación de la seguridad de la IA. Sunak expresó su intención de "convertir al Reino Unido no solo en el hogar intelectual sino también en el hogar geográfico de la regulación global de la seguridad de la IA", y dio a conocer planes para una Cumbre de Seguridad de la IA. La cumbre se celebró en noviembre de 2023 en Bletchley Park, un sitio histórico conocido por su papel en el descifrado de códigos durante la Segunda Guerra Mundial, simbolizando el compromiso del Reino Unido con la seguridad tecnológica.
Establecimiento y Evolución
El UK AISI se estableció oficialmente durante la Cumbre de Seguridad de la IA en noviembre de 2023, evolucionando a partir del Grupo de Trabajo de IA Fronteriza, que se había creado a principios de ese año. La misión principal del instituto era realizar evaluaciones de seguridad de los modelos de IA fronteriza antes de su despliegue, centrándose en capacidades como el razonamiento de modelos de lenguaje de gran escala, la generación de contenido de IA generativa y el posible uso indebido. El instituto buscaba proporcionar evaluaciones independientes, reduciendo la dependencia de las autoevaluaciones de las empresas de IA. En abril de 2024, el Reino Unido y los Estados Unidos concluyeron un acuerdo para colaborar en al menos una prueba de seguridad conjunta, marcando un hito en la cooperación internacional. El UK AISI anunció en mayo de 2024 que abriría una oficina en San Francisco, donde tienen su sede muchas de las principales empresas de IA, incluidas OpenAI, Anthropic y Google DeepMind. Este movimiento fue parte de un plan para "establecer nuevos estándares internacionales en seguridad de la IA", según la ministra de tecnología del Reino Unido, Michele Donelan.
Red Internacional
La creación del UK AISI catalizó la formación de una red global de institutos de seguridad de la IA. En la Cumbre de IA de Seúl en mayo de 2024, los líderes internacionales acordaron formar una red que comprende institutos del Reino Unido, los Estados Unidos, Japón, Francia, Alemania, Italia, Singapur, Corea del Sur, Australia, Canadá y la Unión Europea. Esta red tenía como objetivo armonizar los procedimientos de evaluación y compartir las mejores prácticas. En julio de 2025, la red llevó a cabo un ejercicio para explorar problemas con la evaluación de agentes de IA, particularmente en relación con la filtración de información sensible o la ciberseguridad. Los miembros también se reunieron en NeurIPS 2025 en San Diego, una conferencia importante para la investigación de aprendizaje automático, para discutir el progreso y las direcciones futuras.
Institutos Específicos
Australia
El gobierno de Albanese anunció la creación del Instituto Australiano de Seguridad de la IA el 25 de noviembre de 2025. El instituto está ubicado dentro del Departamento de Industria, Ciencia y Recursos y cuenta con un presupuesto de A$29.900.000 durante cuatro años. Su gerente general es Kate Conroy, quien también lidera iniciativas de IA responsable en la Real Fuerza Aérea Australiana.
Canadá
Canadá anunció en abril de 2024 que crearía un instituto de seguridad de la IA, que se fundó oficialmente en noviembre de 2024. El instituto opera bajo Innovación, Ciencia y Desarrollo Económico de Canadá, en asociación con el Instituto Canadiense de Investigación Avanzada (CIFAR). Cuenta con un presupuesto de CA$50.000.000 durante cinco años.
Unión Europea
La Oficina de IA de la UE, fundada en mayo de 2024, es miembro de la red internacional de institutos de seguridad de la IA. Coordina los esfuerzos de seguridad de la IA en todos los estados miembros, centrándose en la regulación y los estándares.
Francia
El 31 de enero de 2025, el gobierno francés creó el Institut national pour l'évaluation et la sécurité de l'intelligence artificielle (INESIA), o el Instituto Nacional para la Evaluación y Seguridad de la IA. Este instituto tiene como objetivo evaluar los sistemas de IA y contribuir a los estándares de seguridad europeos e internacionales.
India
El Ministerio de Electrónica y Tecnología de la Información celebró consultas con diversas partes interesadas, incluidas meta-platforms (Meta), Google, Microsoft, IBM, OpenAI, NASSCOM e Institutos Indios de Tecnología (IIT), el 7 de octubre de 2024, sobre el establecimiento de un Instituto de Seguridad de la IA. Se tomó la decisión de cambiar el enfoque de la regulación al establecimiento de estándares, la identificación de riesgos y la detección de daños. El Ministro Ashwini Vaishnaw anunció la creación de un Instituto de Seguridad de la IA de IndiaAI el 30 de enero de 2025, para garantizar aplicaciones de IA éticas y seguras. El instituto promoverá la I+D nacional basada en la diversidad social, económica, cultural y lingüística de la India, utilizando conjuntos de datos indios. Opera bajo un modelo de "centro y radio" con socios académicos y del sector privado, incluidos los IIT y organizaciones internacionales como la UNESCO.
Japón
El AISI de Japón (J-AISI) se fundó en febrero de 2024 como parte de la Agencia de Promoción de la Tecnología de la Información. Emplea a unas 23 personas y consta del Consejo de AISI, el Comité Directivo de AISI y una secretaría con seis equipos. Akiko Murakami, anteriormente de IBM Japón y Sompo Japón, se desempeña como directora ejecutiva, con Kenji Hiramoto y Suguru Nishimura como directores ejecutivos adjuntos.
Kenia
Kenia acordó unirse a la red internacional de institutos de seguridad de la IA, convirtiéndose en el único estado africano en la red, aunque aún no se han anunciado detalles específicos.
Singapur
El Centro de Confianza Digital, fundado inicialmente en junio de 2022, fue renombrado como AISI de Singapur en mayo de 2024. Es parte de la Universidad Tecnológica de Nanyang y se asocia con la Autoridad de Desarrollo de Medios de Infocomm, respaldado por una inversión de S$10.000.000 por año.
Corea del Sur
Corea del Sur anunció en mayo de 2024 que crearía un instituto de seguridad de la IA bajo el Instituto de Investigación de Electrónica y Telecomunicaciones. El instituto se fundó en noviembre de 2024, con sede en el Distrito de Bundang, con una inversión tentativa de 10 a 20 millones de wones surcoreanos por año y al menos 30 empleados.
Impacto y Legado
La fundación del Instituto de Seguridad de la IA del Reino Unido sentó un precedente para la evaluación de la seguridad de la IA respaldada por el estado, influyendo en la creación de organismos similares en todo el mundo. Su evolución hacia el Instituto de Seguridad de la IA en 2025 reflejó un alcance más amplio que incluye preocupaciones de seguridad más allá de la seguridad. El trabajo del instituto ha contribuido al desarrollo de estándares internacionales, aunque persisten desafíos, como señaló Politico en abril de 2024, cuando muchas empresas de IA no habían compartido acceso previo al despliegue de sus modelos más avanzados para su evaluación. El presidente de asuntos globales de Meta, Nick Clegg, señaló que las empresas esperaban reglas y procedimientos de evaluación comunes, que los institutos del Reino Unido y los Estados Unidos trabajaron para establecer. La red internacional continúa desempeñando un papel crucial en la coordinación de los esfuerzos de seguridad de la IA, con ejercicios y reuniones regulares para abordar los desafíos emergentes en la gobernanza de la inteligencia artificial.