La Cumbre de Seguridad de la IA 2023 fue una conferencia internacional centrada en la seguridad y regulación de la inteligencia artificial. Organizada por el gobierno británico, se celebró en noviembre de 2023 en Bletchley Park, Milton Keynes, Inglaterra. El evento fue la primera cumbre global sobre inteligencia artificial, reuniendo a líderes gubernamentales, ejecutivos de tecnología e investigadores para abordar los riesgos asociados con los sistemas avanzados de IA. La cumbre condujo a la publicación de la Declaración de Bletchley, que se centró en "identificar los riesgos de seguridad de la IA de preocupación compartida" y "construir políticas basadas en riesgos respectivas" para "garantizar que los beneficios de la tecnología puedan aprovecharse de manera responsable para el bien y para todos".
La cumbre marcó un momento significativo en la conversación global sobre la gobernanza de la inteligencia artificial, ya que fue la primera vez que las principales potencias mundiales, incluidos Estados Unidos y China, acordaron una declaración conjunta sobre la seguridad de la IA. El evento también subrayó la creciente importancia de las tecnologías de modelo de lenguaje grande y IA generativa, que habían avanzado rápidamente en los años previos a la cumbre.
Antecedentes
El primer ministro del Reino Unido en ese momento, Rishi Sunak, hizo de la IA una de las prioridades de su gobierno, anunciando que el Reino Unido albergaría una conferencia global de seguridad de la IA en otoño de 2023. El anuncio se produjo en medio de una creciente preocupación pública y gubernamental sobre los riesgos potenciales de la IA, incluido su uso en desinformación, ciberataques y armas autónomas. El gobierno de Sunak buscó posicionar al Reino Unido como líder en la regulación de la seguridad de la IA, basándose en las contribuciones históricas del país a la informática y sus sólidos sectores académicos e industriales de IA.
La cumbre se planificó como un evento diplomático de alto nivel, con invitaciones extendidas a jefes de estado, directores ejecutivos de empresas tecnológicas y destacados investigadores de IA. El gobierno británico enfatizó la necesidad de cooperación internacional, argumentando que los riesgos de la IA eran de naturaleza global y requerían respuestas coordinadas.
Lugar
Bletchley Park fue una instalación de descifrado de códigos de la Segunda Guerra Mundial establecida por el gobierno británico en el sitio de una mansión victoriana y se encuentra en la ciudad británica de Milton Keynes. Ha desempeñado un papel importante en la historia de la informática, con algunas de las primeras computadoras modernas construidas en la instalación. La elección del lugar fue simbólica, ya que Bletchley Park es ampliamente considerado el lugar de nacimiento de la informática moderna, donde figuras como Alan Turing trabajaron en el descifrado del código Enigma.
La importancia histórica del lugar fue destacada por los oradores y asistentes, quienes trazaron paralelismos entre los esfuerzos de descifrado de códigos de la década de 1940 y el desafío contemporáneo de comprender y controlar la IA. El entorno también sirvió para recordar a los participantes el legado del Reino Unido en la innovación tecnológica, desde los primeros días de la informática hasta el desarrollo de las arquitecturas de transformador que sustentan los sistemas modernos de IA.
Resultados
28 países en la cumbre, incluidos Estados Unidos, China, Australia y la Unión Europea, emitieron un acuerdo conocido como la Declaración de Bletchley, que pedía cooperación internacional para gestionar los desafíos y riesgos de la inteligencia artificial. La Declaración de Bletchley afirma que la IA debe diseñarse, desarrollarse, implementarse y utilizarse de manera segura, centrada en el ser humano, confiable y responsable.
Se ha hecho hincapié en regular la "IA fronteriza", un término para los sistemas de IA más recientes y potentes. Las preocupaciones planteadas en la cumbre incluyen el uso potencial de la IA para el terrorismo, la actividad criminal y la guerra, así como el riesgo existencial planteado para la humanidad en su conjunto. La declaración no estableció objetivos regulatorios específicos, pero estableció un marco para futuras discusiones, incluido el compromiso de celebrar más cumbres.
Además de la declaración, se anunciaron varias iniciativas nacionales. El presidente de Estados Unidos, Joe Biden, firmó una orden ejecutiva que exige a los desarrolladores de IA compartir los resultados de seguridad con el gobierno estadounidense. El gobierno de EE. UU. también anunció la creación de un Instituto Americano de Seguridad de la IA, como parte del Instituto Nacional de Estándares y Tecnología. Estas acciones se consideraron una respuesta directa al énfasis de la cumbre en la transparencia y la rendición de cuentas en el desarrollo de la IA.
El empresario tecnológico Elon Musk y Sunak realizaron una entrevista en vivo sobre seguridad de la IA el 2 de noviembre en X, la plataforma de redes sociales propiedad de Musk. La entrevista, transmitida a una amplia audiencia, cubrió temas como el potencial de la IA para superar la inteligencia humana y la necesidad de supervisión regulatoria. Musk, quien anteriormente había pedido una pausa en el desarrollo de la IA, reiteró sus preocupaciones sobre los riesgos existenciales.
Asistentes notables
Las siguientes personas asistieron a la cumbre:
- Rishi Sunak, Primer Ministro del Reino Unido
- Kamala Harris, Vicepresidenta de Estados Unidos
- Carlos III, Rey del Reino Unido (asistió virtualmente)
- Elon Musk, CEO de Tesla, propietario de X, SpaceX, Neuralink y xAI
- Giorgia Meloni, Primera Ministra de Italia
- Ursula von der Leyen, Presidenta de la Comisión Europea
- Sam Altman, CEO de OpenAI
- Nick Clegg, ex político británico y presidente de asuntos globales en Meta Platforms
- Mustafa Suleyman, cofundador de Google DeepMind
- Michelle Donelan, secretaria de Estado de Ciencia, Innovación y Tecnología del Reino Unido
- Věra Jourová, vicepresidenta de la Comisión Europea para Valores y Transparencia
- Gina Raimondo, secretaria de comercio de Estados Unidos
- Wu Zhaohui, viceministro chino de ciencia y tecnología
La presencia de figuras políticas de alto nivel tanto de potencias occidentales como orientales subrayó la importancia global del evento. La participación de líderes de la industria como Sam Altman y Mustafa Suleyman destacó la estrecha relación entre los desarrolladores de IA y los responsables políticos, así como la creciente influencia de empresas como Anthropic y Google DeepMind en la configuración del panorama regulatorio.
Serie de Cumbres Globales de IA
La cumbre de Bletchley Park estaba destinada a ser la primera de una serie de reuniones internacionales sobre seguridad de la IA. La declaración incluyó el compromiso de celebrar futuras cumbres, con el objetivo de construir sobre los acuerdos iniciales y abordar los desafíos emergentes. La serie fue diseñada para ser inclusiva, reuniendo no solo a gobiernos, sino también a empresas tecnológicas, academia y sociedad civil.
La cumbre de seguimiento estaba programada para celebrarse en Corea del Sur en 2024, con una tercera planificada para Francia. Se esperaba que estas reuniones posteriores se centraran en propuestas regulatorias más detalladas, incluidos estándares para pruebas y evaluación de IA, así como mecanismos para la cooperación internacional en la aplicación de normas.
La serie de cumbres reflejó una tendencia más amplia hacia la formalización de la gobernanza de la IA, mientras los países de todo el mundo lidiaban con el rápido ritmo del desarrollo de la IA. Las discusiones en Bletchley Park se basaron en investigaciones de instituciones como MIT CSAIL, Stanford AI Lab y BAIR (Berkeley AI Research), así como en el trabajo de destacados investigadores de IA como Samy Bengio y Melanie Mitchell, quienes habían pedido una mayor atención a la seguridad y la ética.
Importancia y legado
La Cumbre de Seguridad de la IA de Bletchley Park fue ampliamente considerada un evento histórico en la gobernanza de la IA. Fue la primera vez que una amplia coalición de naciones, incluyendo tanto gobiernos democráticos como autoritarios, acordó un marco compartido para abordar los riesgos de la IA. La cumbre también ayudó a elevar el tema de la seguridad de la IA en el discurso público, provocando una mayor cobertura mediática y debate público.
Los críticos, sin embargo, señalaron que los resultados de la cumbre fueron en gran medida simbólicos, ya que la Declaración de Bletchley carecía de compromisos vinculantes o mecanismos de aplicación específicos. Algunos investigadores argumentaron que el enfoque en los riesgos existenciales de la IA fronteriza eclipsaba preocupaciones más inmediatas, como el sesgo algorítmico, el desplazamiento laboral y la concentración de poder en unas pocas grandes empresas tecnológicas.
A pesar de estas críticas, la cumbre logró establecer un canal diplomático para la gobernanza de la IA, que se consideró esencial dada la naturaleza global del desarrollo y despliegue de la IA. El evento también destacó el papel del Reino Unido como potencia convocante en la política tecnológica, basándose en sus fortalezas en investigación e innovación.
El legado de la cumbre probablemente se medirá por la efectividad de la Serie de Cumbres Globales de IA en traducir las declaraciones en acciones concretas. A partir de 2024, los acuerdos iniciales aún no habían llevado a cambios regulatorios importantes, pero el diálogo continuo se consideró un paso positivo hacia la gestión de los riesgos de la IA mientras se aprovechan sus beneficios.