El Instituto de Seguridad de la IA del Reino Unido (AISI) es una organización respaldada por el estado, establecida en noviembre de 2023 para evaluar y garantizar la seguridad de los modelos avanzados de inteligencia artificial (IA), a menudo denominados modelos de IA frontera. Se originó a partir del Grupo de Trabajo sobre IA Frontera y se lanzó oficialmente durante la Cumbre de Seguridad de la IA organizada por el Reino Unido. La misión principal del instituto es realizar evaluaciones de seguridad independientes de los sistemas de IA de vanguardia, abordando las preocupaciones de que las empresas de IA no pueden "calificar su propio trabajo" de manera fiable al evaluar riesgos. En 2025, el instituto fue renombrado como Instituto de Seguridad de la IA, reflejando un enfoque más amplio en aspectos relacionados con la seguridad dentro de la protección de la IA.
La creación del AISI del Reino Unido fue parte de un movimiento global que ganó impulso en 2023, impulsado por declaraciones públicas sobre posibles riesgos existenciales de la IA. El instituto opera desde su sede en Londres y abrió una oficina en San Francisco en mayo de 2024 para estar más cerca de los principales desarrolladores de IA. Colabora con contrapartes internacionales a través de una red de institutos de seguridad de la IA, con el objetivo de establecer nuevos estándares internacionales para la evaluación de la seguridad de la IA.
Establecimiento y Desarrollo Temprano
El AISI del Reino Unido se estableció formalmente en noviembre de 2023 durante la Cumbre de Seguridad de la IA, un evento convocado por el entonces Primer Ministro Rishi Sunak. Sunak había expresado su intención de "convertir al Reino Unido no solo en el hogar intelectual, sino también en el hogar geográfico de la regulación global de la seguridad de la IA", enfatizando la necesidad de una supervisión independiente. El instituto evolucionó a partir del Grupo de Trabajo sobre IA Frontera, un organismo gubernamental creado a principios de 2023 para evaluar los riesgos asociados con la IA avanzada. Su enfoque inicial fue evaluar los grandes modelos de lenguaje y otros sistemas de IA generativa para detectar posibles daños, incluidos sesgos, desinformación y uso indebido.
En abril de 2024, el AISI del Reino Unido concluyó un acuerdo con el Instituto de Seguridad de la IA de EE. UU. para colaborar en al menos una prueba de seguridad conjunta. Esta asociación tenía como objetivo armonizar los procedimientos de evaluación y reducir la duplicación de esfuerzos. Politico informó en abril de 2024 que muchas empresas de IA no habían compartido el acceso previo al despliegue de sus modelos más avanzados para su evaluación, en parte porque esperaban que los institutos del Reino Unido y EE. UU. acordaran reglas comunes. Nick Clegg, presidente de asuntos globales de Meta, señaló que las empresas buscaban claridad sobre los estándares de evaluación antes de otorgar acceso.
El instituto anunció en mayo de 2024 que abriría una oficina en San Francisco, donde se encuentran muchas de las principales empresas de IA, como OpenAI y Anthropic. Este movimiento fue parte de un plan para "establecer nuevos estándares internacionales sobre la seguridad de la IA", según la ministra de tecnología del Reino Unido, Michele Donelan. La oficina de San Francisco estaba destinada a facilitar la interacción directa con los desarrolladores y permitir pruebas previas al despliegue de los modelos frontera.
Misión y Objetivos
La misión central del AISI del Reino Unido es evaluar los modelos de IA frontera para identificar posibles riesgos de seguridad antes de su despliegue. Esto incluye evaluar capacidades en áreas como ciberseguridad, bioseguridad y toma de decisiones autónoma. El instituto tiene como objetivo proporcionar orientación basada en evidencia a los responsables políticos y desarrolladores, ayudando a mitigar los riesgos asociados con la IA avanzada. Su trabajo se fundamenta en el principio de evaluación independiente, garantizando que las evaluaciones de seguridad no estén influenciadas por intereses comerciales.
El instituto también contribuye al desarrollo de estándares internacionales para la seguridad de la IA. Al colaborar con otros institutos nacionales, busca crear un marco común para evaluar los sistemas de IA, que pueda adoptarse a nivel global. Esto incluye compartir metodologías, realizar pruebas conjuntas y publicar hallazgos para informar el discurso público. La investigación del instituto a menudo implica pruebas de estrés de modelos de desarrolladores importantes, incluidos Google DeepMind y otros laboratorios líderes.
En 2025, el instituto fue renombrado como Instituto de Seguridad de la IA, señalando un enfoque ampliado en amenazas relacionadas con la seguridad, como el uso de la IA en ciberataques o la proliferación de contenido dañino. Este cambio reflejó prioridades evolutivas en la gobernanza de la IA, a medida que las preocupaciones pasaron de la seguridad general a implicaciones de seguridad específicas.
Red Internacional
En la Cumbre de IA de Seúl en mayo de 2024, los líderes internacionales acordaron formar una red de institutos de seguridad de la IA, que comprende organismos del Reino Unido, EE. UU., Japón, Francia, Alemania, Italia, Singapur, Corea del Sur, Australia, Canadá y la Unión Europea. El AISI del Reino Unido desempeña un papel central en esta red, que tiene como objetivo coordinar los esfuerzos de evaluación y compartir mejores prácticas. La red realizó un ejercicio en julio de 2025 para explorar problemas con la evaluación de agentes de IA, particularmente en lo que respecta a la fuga de información sensible y la ciberseguridad. Los miembros también se reunieron en NeurIPS 2025 en San Diego para discutir avances recientes en la investigación de seguridad de la IA.
La formación de la red marcó un paso significativo hacia la cooperación global en la gobernanza de la IA. Cada instituto miembro opera dentro de su contexto nacional, pero contribuye a un esfuerzo colectivo para garantizar el desarrollo seguro de la IA frontera. La colaboración del AISI del Reino Unido con el instituto de EE. UU., en particular, ha sido fundamental para alinear los estándares de evaluación entre las dos naciones líderes en IA.
Institutos Específicos
Australia
El Instituto Australiano de Seguridad de la IA fue anunciado el 25 de noviembre de 2025 por el gobierno de Albanese. Está alojado dentro del Departamento de Industria, Ciencia y Recursos y cuenta con un presupuesto de A$29,900,000 durante cuatro años. Su gerente general es Kate Conroy, quien también lidera iniciativas de IA responsable en la Real Fuerza Aérea Australiana. El instituto se centra en evaluar sistemas de IA para aplicaciones domésticas, incluidos la defensa y los servicios públicos.
Canadá
Canadá anunció planes para crear un instituto de seguridad de la IA en abril de 2024, y el instituto se fundó oficialmente en noviembre de 2024. Opera bajo Innovación, Ciencia y Desarrollo Económico de Canadá, en asociación con el Instituto Canadiense de Investigación Avanzada (CIFAR). El instituto cuenta con un presupuesto de CA$50,000,000 durante cinco años, financiando actividades de investigación y evaluación en varios sectores.
Unión Europea
La Oficina de IA de la UE, fundada en mayo de 2024, es miembro de la red internacional de institutos de seguridad de la IA. Coordina los esfuerzos de seguridad de la IA en todos los estados miembros, centrándose en el cumplimiento regulatorio y la evaluación de riesgos. La oficina trabaja estrechamente con los institutos nacionales para garantizar un enfoque cohesivo en la gobernanza de la IA dentro de la UE.
Francia
Francia creó el Institut national pour l'évaluation et la sécurité de l'intelligence artificielle (INESIA) el 31 de enero de 2025. Este instituto nacional para la evaluación y seguridad de la IA tiene la tarea de evaluar la seguridad de los sistemas de IA utilizados en las industrias y servicios públicos franceses. Colabora con otros institutos europeos para armonizar las metodologías de evaluación.
India
El Ministerio de Electrónica y Tecnología de la Información (MeitY) celebró consultas el 7 de octubre de 2024 con varias partes interesadas, incluidas Meta Platforms, Google, Microsoft, IBM, OpenAI, NASSCOM e Institutos Indios de Tecnología (IIT), sobre el establecimiento de un Instituto de Seguridad de la IA. Se tomó la decisión de cambiar el enfoque de la regulación al establecimiento de estándares, identificación de riesgos y detección de daños. El instituto puede utilizar los ₹20 crore asignados al Pilar Seguro y Confiable de la Misión IndiaAI para su presupuesto inicial. El ministro Ashwini Vaishnaw anunció la creación del Instituto de Seguridad de la IA de IndiaAI el 30 de enero de 2025, para promover la I+D nacional basada en la diversidad social, económica, cultural y lingüística de la India. Opera bajo un modelo de "centro y radio" con colaboración de instituciones académicas, empresas tecnológicas y organizaciones internacionales como la UNESCO.
Japón
El AISI de Japón (J-AISI) se fundó en febrero de 2024 como parte de la Agencia de Promoción de Tecnología de la Información. Emplea a unas 23 personas y consiste en el Consejo del AISI, el Comité Directivo del AISI y una secretaría con seis equipos. Akiko Murakami, anteriormente de IBM Japón y Sompo Japón, sirve como directora ejecutiva, con Kenji Hiramoto y Suguru Nishimura como subdirectores ejecutivos. El instituto se centra en evaluar sistemas de IA para las necesidades del mercado japonés.
Kenia
Kenia acordó unirse a la red internacional de institutos de seguridad de la IA, pero no ha anunciado detalles específicos. Es el único estado africano en la red, destacando el creciente alcance global de los esfuerzos de seguridad de la IA.
Singapur
El Centro de Confianza Digital, fundado inicialmente en junio de 2022, fue renombrado como AISI de Singapur en mayo de 2024. Parte de la Universidad Tecnológica de Nanyang, el instituto se asocia con la Autoridad de Desarrollo de Medios e Infocomm y cuenta con una inversión de S$10,000,000 por año. Se centra en evaluar sistemas de IA para la confianza y seguridad en el sudeste asiático.
Corea del Sur
Corea del Sur anunció en mayo de 2024 que crearía un instituto de seguridad de la IA bajo el Instituto de Investigación de Electrónica y Telecomunicaciones. Cuenta con una inversión tentativa de 10 a 20 millones de wones surcoreanos por año y emplea al menos a 30 personas. El instituto se fundó en noviembre de 2024 y tiene su sede en el Distrito de Bundang.
Impacto y Direcciones Futuras
El AISI del Reino Unido ha influido significativamente en el discurso global sobre la seguridad de la IA, estableciendo precedentes para la evaluación independiente. Su trabajo ha informado decisiones políticas en el Reino Unido y en el extranjero, contribuyendo al desarrollo de marcos regulatorios. La colaboración del instituto con socios internacionales ha facilitado el intercambio de técnicas de evaluación y herramientas de evaluación de riesgos.
De cara al futuro, el instituto enfrenta desafíos para mantenerse al día con los rápidos avances en IA, particularmente en áreas como IA generativa y sistemas autónomos. Su enfoque renombrado en la seguridad sugiere un cambio hacia abordar amenazas inmediatas, como ciberataques habilitados por IA. El papel del instituto en la red internacional probablemente se expandirá a medida que más países establezcan sus propios organismos de seguridad.
La misión del AISI del Reino Unido sigue siendo central para garantizar que los modelos de IA frontera se desarrollen y desplieguen de manera responsable. Al proporcionar evaluaciones rigurosas e independientes, busca mitigar riesgos mientras fomenta la innovación. A medida que las tecnologías de IA evolucionan, los métodos y prioridades del instituto deberán adaptarse, pero su objetivo central de salvaguardar los intereses públicos perdura.