La Declaración de Seúl es un compromiso formal adoptado en la Cumbre de IA de Seúl 2024, celebrada en mayo de 2024 y copresidida por los gobiernos de Corea del Sur y el Reino Unido. La declaración aborda los desafíos y oportunidades que presenta la tecnología de inteligencia artificial, basándose en esfuerzos internacionales anteriores como la Declaración de Bletchley. Representa un consenso entre las naciones participantes para promover un desarrollo de la IA seguro, innovador e inclusivo mediante una mayor cooperación global y el establecimiento de marcos de gobernanza interoperables.
La declaración fue firmada por líderes de la Unión Europea, los Estados Unidos, el Reino Unido, Australia, Canadá, Alemania, Francia, Italia, Japón, Corea del Sur y Singapur. Su adopción marcó un paso significativo en el panorama cambiante de la política internacional de IA, avanzando más allá del mero reconocimiento de riesgos hacia compromisos concretos para una gobernanza colaborativa.
Antecedentes
La Cumbre de IA de Seúl fue la segunda reunión internacional importante dedicada a la seguridad de la IA, después de la Cumbre de Seguridad de la IA celebrada en el Reino Unido en noviembre de 2023. En la reunión anterior en Bletchley Park, los países participantes habían acordado priorizar la identificación de los riesgos de seguridad de la IA de preocupación compartida. La Cumbre de Seúl se basó en esta base, y los líderes también reconocieron la importancia más amplia de la IA para el crecimiento económico, el avance científico y el bienestar social.
La cumbre tuvo lugar en un contexto de rápidos desarrollos en las tecnologías de IA generativa y modelos de lenguaje de gran escala. Empresas como OpenAI, Google DeepMind y Anthropic habían lanzado sistemas cada vez más capaces, lo que impulsó a los gobiernos a acelerar los esfuerzos para establecer salvaguardas. La Declaración de Bletchley había establecido un marco preliminar, pero la Declaración de Seúl buscaba operacionalizar esos principios mediante compromisos más específicos.
Asistentes notables
A la cumbre asistieron líderes de los países del Grupo de los Siete, incluidos los Estados Unidos, Canadá, Francia y Alemania, así como Corea del Sur, Singapur y Australia. También participaron representantes de organizaciones internacionales, incluidas las Naciones Unidas, la Organización para la Cooperación y el Desarrollo Económicos y la Unión Europea.
La representación de la industria fue sustancial, lo que refleja la creciente intersección entre tecnología y política. Entre los asistentes notables se encontraban el CEO de Tesla, Elon Musk, el presidente de Samsung Electronics, Lee Jae-yong, y representantes de OpenAI, Google, Microsoft, Meta y Naver, el principal operador de portales de Corea del Sur. La presencia de estos líderes tecnológicos subrayó la importancia de la participación del sector privado en la configuración de la gobernanza de la IA.
Centro de Seguridad de IA de Corea del Sur
Un resultado clave de la cumbre fue el compromiso de Corea del Sur de establecer un centro nacional de investigación de seguridad de la IA. El ministro de Ciencia, Lee Jong-ho, anunció que Corea del Sur planeaba abrir un Instituto de Seguridad de la IA en 2024, posicionando al país como un actor significativo en el ecosistema global de seguridad de la IA.
La iniciativa incluía planes para unirse a una red internacional de instituciones similares, facilitando el intercambio de información y la investigación colaborativa sobre los desafíos de la seguridad de la IA. Lee también expresó la intención de Corea del Sur de fortalecer la cooperación para el desarrollo de estándares internacionales, reconociendo la necesidad de especificaciones técnicas armonizadas a través de las fronteras.
Este movimiento reflejó una tendencia más amplia entre las naciones de crear instituciones dedicadas a la investigación de la seguridad de la IA. El establecimiento de tales centros se consideró esencial para desarrollar la experiencia técnica necesaria para evaluar y mitigar los riesgos asociados con los sistemas avanzados de IA.
Declaración de Seúl para una IA Segura, Innovadora e Inclusiva
La Declaración de Seúl para una IA Segura, Innovadora e Inclusiva fue el documento de resultado principal de la cumbre. Fue adoptada por líderes que representaban a la UE, los EE. UU., el Reino Unido, Australia, Canadá, Alemania, Francia, Italia, Japón, Corea del Sur y Singapur. La declaración compromete a los signatarios a fomentar la cooperación internacional para ayudar a desarrollar marcos de gobernanza de la IA que sean interoperables entre países.
Un elemento significativo de la declaración es su integración del Código de Conducta Internacional del Proceso de Hiroshima para Organizaciones que Desarrollan Sistemas Avanzados de IA. Este código, desarrollado bajo la presidencia japonesa del G7, proporciona orientación para las organizaciones que desarrollan sistemas avanzados de IA, cubriendo áreas como la gestión de riesgos, la transparencia y la rendición de cuentas.
La declaración aboga por el desarrollo de una IA centrada en el ser humano, enfatizando la colaboración con el sector privado, el mundo académico y la sociedad civil. Este enfoque de múltiples partes interesadas reconoce que una gobernanza efectiva de la IA requiere la contribución de una diversa gama de actores, no solo de los gobiernos.
La Declaración de Seúl también aborda la necesidad de innovación, reconociendo que regulaciones excesivamente restrictivas podrían sofocar las aplicaciones beneficiosas de la IA. El desafío para los responsables políticos es crear marcos que protejan contra los daños mientras permiten el progreso tecnológico continuo.
Declaración Ministerial de Seúl para Avanzar en la Seguridad de la IA
Además de la declaración de los líderes, la cumbre produjo la Declaración Ministerial de Seúl para avanzar en la seguridad de la IA. Esta declaración conjunta fue adoptada por ministros de un grupo más amplio de países, incluidos Australia, Canadá, Chile, Francia, Alemania, India, Indonesia, Israel, Italia, Japón, Kenia, México, los Países Bajos, Nigeria, Nueva Zelanda, Filipinas, Corea del Sur, Ruanda, Arabia Saudita, Singapur, España, Suiza, Turquía, Ucrania, los Emiratos Árabes Unidos, el Reino Unido y los EE. UU., así como un representante de la UE.
La declaración ministerial pidió mejorar la seguridad, la innovación y la inclusividad de las tecnologías de IA. Incluyó un compromiso notable de desarrollar chips de bajo consumo, reconociendo que la rápida expansión de la industria de la IA conduciría a un consumo masivo de energía. Este enfoque en la eficiencia energética reflejó las crecientes preocupaciones sobre el impacto ambiental del entrenamiento y la ejecución de grandes modelos de IA.
La participación más amplia en la declaración ministerial demostró el alcance global de los esfuerzos de gobernanza de la IA, extendiéndose más allá de los aliados occidentales tradicionales para incluir países de África, Oriente Medio y Asia. Esta inclusividad se consideró esencial para garantizar que los beneficios de la IA se compartan equitativamente en todo el mundo.
Serie de Cumbres Globales de IA
La Cumbre de IA de Seúl fue parte de una serie continua de reuniones internacionales dedicadas a la gobernanza de la IA. La serie comenzó con la Cumbre de Seguridad de la IA en Bletchley Park, Reino Unido, en noviembre de 2023, y continuó con la Cumbre de Seúl en mayo de 2024. Se planearon reuniones posteriores para desarrollar aún más el marco internacional para la gobernanza de la IA.
Esta serie representa una nueva forma de diplomacia internacional, que aborda una tecnología que evoluciona mucho más rápido que los procesos regulatorios tradicionales. Las cumbres proporcionan un foro para que los gobiernos compartan conocimientos, alineen enfoques y construyan consenso sobre cuestiones técnicas y éticas complejas.
La serie también refleja el creciente reconocimiento de que la IA es un problema global que requiere respuestas coordinadas. Ningún país puede regular eficazmente la IA de forma aislada, dada la naturaleza internacional del desarrollo y la implementación de la IA.
Véase también
- Inteligencia artificial
- Relaciones exteriores de Corea del Sur
- Cumbre de Acción sobre la IA
- Cumbre de Impacto de la IA
Referencias
El contenido de este artículo se basa en la Declaración de Seúl y documentos relacionados de la Cumbre de IA de Seúl 2024, así como en declaraciones oficiales de los gobiernos y organizaciones participantes.