La Declaración de Bletchley es un acuerdo internacional emitido el 1 de noviembre de 2023 en la Cumbre de Seguridad de la IA, la primera conferencia global dedicada a la seguridad y regulación de la inteligencia artificial. Organizada por el gobierno británico y celebrada en Bletchley Park en Milton Keynes, Inglaterra, la declaración fue firmada por 28 países, incluidos Estados Unidos, China, Australia y la Unión Europea. Se centra en "identificar los riesgos de seguridad de la IA de preocupación compartida" y "construir políticas basadas en riesgos respectivas" para garantizar que los beneficios de la tecnología puedan aprovecharse de manera responsable para el bien y para todos.
La declaración afirma que la IA debe diseñarse, desarrollarse, desplegarse y utilizarse de manera segura, centrada en el ser humano, confiable y responsable. Enfatiza la necesidad de cooperación internacional para gestionar los desafíos y riesgos de la IA, particularmente aquellos planteados por la "IA fronteriza", un término que se refiere a los sistemas de IA más recientes y potentes. El acuerdo marca un paso significativo en la gobernanza global de la IA, aunque no es vinculante y depende de compromisos voluntarios de las naciones participantes.
Antecedentes
La Cumbre de Seguridad de la IA 2023 fue anunciada por Rishi Sunak, el Primer Ministro del Reino Unido, quien hizo de la IA una prioridad de su gobierno. En la primavera de 2023, Sunak indicó que el Reino Unido albergaría una conferencia global de seguridad de la IA en otoño de ese año. La cumbre fue parte de una estrategia británica más amplia para posicionar al país como líder en regulación e innovación de la IA, basándose en iniciativas existentes como la Estrategia Nacional de IA del Reino Unido publicada en 2021.
La decisión de celebrar la cumbre en Bletchley Park fue deliberada, dada la importancia histórica del sitio. Bletchley Park fue una instalación de descifrado de códigos de la Segunda Guerra Mundial establecida por el gobierno británico en el sitio de una mansión victoriana. Desempeñó un papel crucial en la historia de la computación, con algunas de las primeras computadoras modernas, como el Colossus, construidas allí. La elección del lugar vinculó el desarrollo contemporáneo de la IA con la herencia informática del Reino Unido.
Lugar y Organización
Bletchley Park está ubicado en Milton Keynes, una ciudad en Buckinghamshire, Inglaterra. La instalación operó como la Escuela de Códigos y Cifrados del Gobierno durante la Segunda Guerra Mundial, donde criptoanalistas como Alan Turing trabajaron para descifrar comunicaciones alemanas. El sitio ahora alberga un museo y sirve como símbolo del logro tecnológico británico.
La cumbre fue organizada por el Departamento de Ciencia, Innovación y Tecnología del Reino Unido, con el apoyo de la Oficina del Gabinete. El evento abarcó dos días, con el primer día centrado en líderes gubernamentales e industriales y el segundo día dedicado a discusiones técnicas entre investigadores y académicos. La cumbre contó con la asistencia de representantes de gobiernos, empresas tecnológicas e instituciones académicas de todo el mundo.
Resultados Clave
El resultado principal de la cumbre fue la Declaración de Bletchley, firmada por 28 países y la Unión Europea. La declaración reconoce el potencial transformador de la IA para el crecimiento económico, el descubrimiento científico y el progreso social, al tiempo que reconoce los riesgos significativos que plantea. Estos riesgos incluyen el posible uso de la IA para terrorismo, actividades delictivas y guerra, así como el riesgo existencial planteado a la humanidad en su conjunto.
La declaración compromete a los firmantes a:
- Identificar y comprender los riesgos de seguridad de la IA de preocupación compartida
- Construir políticas basadas en riesgos respectivas para garantizar el desarrollo y uso seguro de la IA
- Apoyar la cooperación internacional en la investigación de seguridad de la IA
- Promover la transparencia y la rendición de cuentas en el desarrollo de la IA
La cumbre también condujo a varias iniciativas nacionales. El presidente de los Estados Unidos, Joe Biden, firmó una orden ejecutiva que requiere que los desarrolladores de IA compartan resultados de seguridad con el gobierno de los EE. UU. El gobierno de los EE. UU. anunció la creación de un Instituto Americano de Seguridad de la IA, como parte del Instituto Nacional de Estándares y Tecnología (NIST), para desarrollar estándares para pruebas y evaluación de la IA.
Asistentes Notables
La cumbre atrajo a figuras políticas e industriales de alto nivel. Los asistentes notables incluyeron:
- Rishi Sunak, Primer Ministro del Reino Unido
- Kamala Harris, Vicepresidenta de los Estados Unidos
- Carlos III, Rey del Reino Unido (asistió virtualmente)
- Elon Musk, CEO de Tesla, propietario de X, SpaceX, Neuralink y xAI
- Giorgia Meloni, Primera Ministra de Italia
- Ursula von der Leyen, Presidenta de la Comisión Europea
- Sam Altman, CEO de OpenAI
- Nick Clegg, ex político británico y presidente de asuntos globales en Meta Platforms
- Mustafa Suleyman, cofundador de DeepMind
- Michelle Donelan, secretaria de Estado de Ciencia, Innovación y Tecnología del Reino Unido
- Věra Jourová, vicepresidenta de la Comisión Europea para Valores y Transparencia
- Gina Raimondo, secretaria de comercio de los Estados Unidos
- Wu Zhaohui, viceministro chino de ciencia y tecnología
La presencia de funcionarios chinos fue notable, ya que marcó una rara instancia de cooperación de alto nivel entre EE. UU. y China en la gobernanza de la IA. La cumbre también incluyó representantes de importantes empresas de IA como Anthropic, Google DeepMind y Amazon Web Services.
Discusiones y Debates
Durante la cumbre, los participantes discutieron una variedad de problemas de seguridad de la IA. Un tema clave fue la regulación de la IA fronteriza, con algunos asistentes abogando por una supervisión estricta y otros favoreciendo un enfoque más permisivo. Se plantearon preocupaciones sobre el potencial de la IA para ser utilizada en campañas de desinformación, ciberataques y armas autónomas.
Un evento notable fue una entrevista en vivo entre Elon Musk y Rishi Sunak el 2 de noviembre, transmitida en X (anteriormente Twitter). En la conversación, Musk advirtió sobre los riesgos existenciales de la IA y pidió una regulación proactiva, mientras que Sunak enfatizó los beneficios económicos de la tecnología. La entrevista atrajo una atención mediática significativa y provocó un debate sobre el equilibrio apropiado entre innovación y seguridad.
Reacciones y Críticas
La Declaración de Bletchley recibió reacciones mixtas. Los partidarios la elogiaron como un primer paso histórico hacia la gobernanza internacional de la IA, señalando que reunió a las principales potencias, incluidos EE. UU. y China. Los críticos, sin embargo, señalaron que la declaración no era vinculante y carecía de mecanismos de aplicación concretos. Algunos expertos argumentaron que la cumbre se centró demasiado en riesgos existenciales especulativos en lugar de daños inmediatos como el sesgo algorítmico, las violaciones de privacidad y el desplazamiento laboral.
Las organizaciones de la sociedad civil también expresaron preocupaciones sobre la exclusión de voces no occidentales y el dominio de representantes de la industria en las discusiones. La cumbre fue criticada por no incluir representantes de sindicatos, grupos de consumidores o países en desarrollo, lo que podría limitar la inclusividad de las políticas resultantes.
Serie Global de Cumbres de IA
La Cumbre de Bletchley fue concebida como la primera de una serie de reuniones internacionales sobre seguridad de la IA. La declaración estableció un marco para el diálogo continuo, con cumbres posteriores planificadas en otros países. Corea del Sur fue anunciada como anfitriona de la próxima cumbre, programada para 2024, seguida de Francia en 2025. Esta serie tiene como objetivo aprovechar el impulso de la Declaración de Bletchley y desarrollar acuerdos internacionales más concretos sobre la gobernanza de la IA.
La serie refleja un reconocimiento creciente de que la seguridad de la IA es un problema global que requiere acción coordinada. A medida que los sistemas de IA se vuelven más potentes y generalizados, es probable que aumente la necesidad de normas y estándares internacionales. La Declaración de Bletchley, aunque inicial y no vinculante, representa un documento fundacional en este proceso continuo.
Legado y Significado
La Declaración de Bletchley es significativa como el primer acuerdo internacional que aborda específicamente la seguridad de la IA a nivel gubernamental. Estableció un lenguaje común para discutir los riesgos de la IA y sentó un precedente para futuros esfuerzos diplomáticos. La elección de Bletchley Park como lugar subrayó la conexión histórica entre la computación y la seguridad nacional, recordando a los participantes la naturaleza de doble uso de la tecnología.
Si bien el impacto práctico de la declaración aún está por verse, ha influido en discusiones políticas posteriores. La creación de institutos nacionales de seguridad de la IA, como el Instituto Americano de Seguridad de la IA, y la serie continua de cumbres globales sugieren que la Declaración de Bletchley ha catalizado respuestas institucionales a los riesgos de la IA. A partir de 2025, la declaración continúa siendo referenciada en debates políticos y sirve como punto de referencia para la cooperación internacional en la gobernanza de la IA.