La Cumbre de Seguridad de la IA 2023 fue una conferencia internacional sobre la seguridad y regulación de la inteligencia artificial. Organizada por el gobierno británico, se celebró en noviembre de 2023 en Bletchley Park, Milton Keynes, Inglaterra. El evento fue la primera cumbre global sobre inteligencia artificial, reuniendo a representantes gubernamentales, ejecutivos tecnológicos e investigadores para discutir los riesgos y la gobernanza de los sistemas avanzados de IA.
La cumbre resultó en la Declaración de Bletchley, un acuerdo firmado por 28 países, incluidos Estados Unidos, China, Australia y la Unión Europea. La declaración se centró en "identificar los riesgos de seguridad de la IA de preocupación compartida" y "construir políticas basadas en riesgos respectivas" para "garantizar que los beneficios de la tecnología puedan aprovecharse de manera responsable para el bien y para todos". Afirmó que la IA debe diseñarse, desarrollarse, desplegarse y utilizarse de manera segura, centrada en el ser humano, confiable y responsable.
Antecedentes
El primer ministro del Reino Unido en ese momento, Rishi Sunak, hizo de la IA una de las prioridades de su gobierno. A principios de 2023, anunció que el Reino Unido albergaría una conferencia global sobre seguridad de la IA en otoño de ese año. El anuncio llegó en medio de rápidos avances en la tecnología de modelos de lenguaje grandes, incluido el lanzamiento de GPT-4 por OpenAI y la proliferación de herramientas de IA generativa, lo que aumentó la preocupación pública y gubernamental sobre los riesgos potenciales.
El gobierno del Reino Unido se posicionó como líder en las discusiones sobre seguridad de la IA, con el objetivo de crear un foro internacional para el diálogo. La cumbre fue diseñada para reunir a un conjunto diverso de partes interesadas, incluidos gobiernos, academia e industria, para abordar tanto los riesgos a corto plazo, como el mal uso para terrorismo o actividades delictivas, como los riesgos existenciales a largo plazo para la humanidad.
Lugar
Bletchley Park, ubicado en la ciudad británica de Milton Keynes, sirvió como lugar para la cumbre. El sitio fue una instalación de descifrado de códigos de la Segunda Guerra Mundial establecida por el gobierno británico en los terrenos de una mansión victoriana. Desempeñó un papel importante en la historia de la computación, con algunas de las primeras computadoras modernas, incluido el Colossus, construidas allí para descifrar mensajes alemanes.
Elegir Bletchley Park fue simbólico, vinculando la cumbre con las contribuciones históricas del Reino Unido a la computación y la criptografía. El lugar también subrayó el tema del esfuerzo colectivo para abordar los desafíos tecnológicos, haciendo eco de la colaboración de los descifradores de códigos en tiempos de guerra.
Resultados
El resultado principal fue la Declaración de Bletchley, que pidió cooperación internacional para gestionar los desafíos y riesgos de la inteligencia artificial. La declaración enfatizó la necesidad de un desarrollo de IA seguro, centrado en el ser humano, confiable y responsable. También destacó la importancia de regular la "IA fronteriza", un término que se refiere a los sistemas de IA más recientes y potentes, como los modelos avanzados de redes neuronales.
Las preocupaciones planteadas en la cumbre incluyeron el uso potencial de la IA para terrorismo, actividades delictivas y guerra, así como el riesgo existencial planteado para la humanidad en su conjunto. Los delegados discutieron la necesidad de medidas de seguridad sólidas, transparencia y rendición de cuentas en el desarrollo de la IA.
En paralelo, el presidente de los Estados Unidos, Joe Biden, firmó una orden ejecutiva que requiere que los desarrolladores de IA compartan los resultados de seguridad con el gobierno de los EE. UU. La orden también llevó a la creación de un Instituto Americano de Seguridad de la IA, como parte del Instituto Nacional de Estándares y Tecnología, para apoyar la investigación y los estándares para la seguridad de la IA.
Asistentes notables
La cumbre atrajo a participantes de alto nivel del gobierno y la industria. Los asistentes notables incluyeron:
- Rishi Sunak, Primer Ministro del Reino Unido
- Kamala Harris, Vicepresidenta de los Estados Unidos
- Carlos III, Rey del Reino Unido (asistió virtualmente)
- Elon Musk, CEO de Tesla, propietario de X, SpaceX, Neuralink y xAI
- Giorgia Meloni, Primera Ministra de Italia
- Ursula von der Leyen, Presidenta de la Comisión Europea
- Sam Altman, CEO de OpenAI
- Nick Clegg, ex político británico y presidente de asuntos globales en Meta Platforms
- Mustafa Suleyman, cofundador de Google DeepMind
- Michelle Donelan, secretaria de Estado del Reino Unido para Ciencia, Innovación y Tecnología
- Věra Jourová, vicepresidenta de la Comisión Europea para Valores y Transparencia
- Gina Raimondo, secretaria de comercio de los Estados Unidos
- Wu Zhaohui, viceministro de ciencia y tecnología de China
El 2 de noviembre, Elon Musk y Rishi Sunak realizaron una entrevista en vivo sobre seguridad de la IA, transmitida en X, donde discutieron los beneficios y riesgos potenciales de la IA, incluidas las amenazas existenciales y la necesidad de regulación.
Serie de cumbres globales sobre IA
La Cumbre de Seguridad de la IA 2023 fue la primera de una serie planificada de cumbres globales sobre seguridad de la IA. El evento estableció un marco para el diálogo internacional continuo, con cumbres posteriores anticipadas para basarse en la Declaración de Bletchley. La serie tiene como objetivo fomentar la cooperación continua entre las naciones para abordar los desafíos evolutivos de la IA, garantizando que se realicen los beneficios de la tecnología mientras se mitigan sus riesgos.
Referencias
- Cumbre de Seguridad de la IA 2023 - Wikipedia (CC BY-SA)