La Declaración de Bletchley 2023 es un acuerdo internacional histórico sobre los riesgos de seguridad de la inteligencia artificial avanzada, firmado el 1 de noviembre de 2023 en Bletchley Park, en el Reino Unido. La declaración fue el principal resultado de la Cumbre de Seguridad de la IA, organizada por el gobierno del Reino Unido, y fue firmada por representantes de 28 países, incluidos Estados Unidos, China, la Unión Europea y el Reino Unido. Marcó la primera vez que las principales potencias mundiales, incluidas China y Estados Unidos, reconocieron conjuntamente el potencial de daño catastrófico de los sistemas de IA de frontera y se comprometieron a una acción cooperativa en materia de seguridad de la IA.
La declaración se centra en los riesgos que plantea la "IA de frontera" - modelos de propósito general altamente capaces, incluidos aquellos basados en grandes modelos de lenguaje y IA generativa. Reconoce que estos sistemas pueden exhibir capacidades que no se comprenden ni controlan por completo, lo que podría provocar daños graves o catastróficos, ya sea por uso indebido o accidentes. El texto enfatiza la importancia de una IA centrada en el ser humano y confiable, y pide colaboración internacional para desarrollar estándares de seguridad e investigación compartidos, al tiempo que reconoce la necesidad de equilibrar la seguridad con la innovación y la promoción de un crecimiento económico inclusivo.
Antecedentes y Contexto
La declaración surgió en un contexto de rápidos avances en las capacidades de la IA, particularmente en el desarrollo de modelos de aprendizaje profundo y arquitecturas de transformador. En los años previos a la cumbre, empresas como OpenAI, Anthropic y Google DeepMind habían lanzado sistemas cada vez más potentes, lo que generó preocupaciones entre investigadores y responsables políticos sobre riesgos potenciales, incluida la difusión de desinformación, amenazas de ciberseguridad y la posibilidad de pérdida de control sobre sistemas superinteligentes.
El gobierno del Reino Unido, bajo el primer ministro Rishi Sunak, se posicionó como líder en la gobernanza de la seguridad de la IA, proponiendo la cumbre como un foro para el diálogo internacional. La elección de Bletchley Park, el sitio histórico del descifrado de códigos de la Segunda Guerra Mundial, fue simbólica, vinculando las contribuciones pasadas del Reino Unido a la informática con sus ambiciones de dar forma al futuro de la regulación de la IA.
Disposiciones Clave y Compromisos
La Declaración de Bletchley es una declaración política no vinculante, pero establece varios compromisos clave. Los firmantes acordaron:
- Reconocer los riesgos significativos que plantea la IA, particularmente en ciberseguridad, biotecnología y la posibilidad de que los sistemas de IA actúen de manera autónoma de formas que puedan causar daño.
- Apoyar la cooperación internacional para desarrollar una comprensión científica compartida de los riesgos de la IA y construir medidas de seguridad basadas en evidencia.
- Fomentar el desarrollo de una IA que sea segura, centrada en el ser humano, confiable y responsable, en línea con los marcos internacionales existentes, como los Objetivos de Desarrollo Sostenible de la ONU.
- Continuar convocando discusiones internacionales sobre seguridad de la IA, incluso a través de futuras cumbres, con la próxima planificada para Corea del Sur en 2024.
La declaración también enfatiza la necesidad de que tanto los actores del sector público como del privado aborden los riesgos de la IA, y pide investigación sobre la interpretabilidad y alineación de los sistemas de IA, así como el desarrollo de métodos de evaluación sólidos.
Firmantes y Respuesta Internacional
La declaración fue firmada por 28 países, incluidos Australia, Canadá, Francia, Alemania, India, Japón y Corea del Sur, además de la UE. Notablemente, China fue firmante, a pesar de sus propias regulaciones separadas de IA, lo que se consideró un logro diplomático significativo. La participación de China fue controvertida, con algunos críticos argumentando que legitimaba a un gobierno con prácticas opacas de IA, mientras que otros la veían como esencial para cualquier acuerdo global significativo.
Las empresas tecnológicas también asistieron a la cumbre, incluidos representantes de OpenAI, Anthropic, Google DeepMind y Microsoft, pero no firmaron la declaración, que era un documento a nivel gubernamental. En su lugar, hicieron compromisos voluntarios separados para publicar políticas de seguridad y apoyar los objetivos de la cumbre.
Críticas y Limitaciones
A pesar de su naturaleza histórica, la Declaración de Bletchley ha enfrentado críticas. Algunos expertos argumentan que es demasiado vaga, careciendo de objetivos específicos, plazos o mecanismos de aplicación. La naturaleza no vinculante significa que los firmantes no están legalmente obligados a tomar acciones particulares. Otros han señalado que la declaración se centra en gran medida en riesgos existenciales de la IA de frontera, lo que podría eclipsar preocupaciones más inmediatas como el sesgo algorítmico, el desplazamiento laboral y las violaciones de privacidad.
Además, la lista de invitados de la cumbre fue criticada por excluir a muchos países en desarrollo y organizaciones de la sociedad civil, lo que plantea preguntas sobre la inclusividad de la gobernanza global de la IA. La declaración menciona la necesidad de apoyar a los países en desarrollo, pero los críticos argumentan que faltan medidas concretas.
Legado e Impacto
La Declaración de Bletchley 2023 es ampliamente considerada como un paso fundamental en la gobernanza internacional de la IA. Estableció un precedente para el compromiso diplomático de alto nivel sobre seguridad de la IA y allanó el camino para iniciativas posteriores, como la Cumbre de Seguridad de la IA en Seúl en mayo de 2024 y el trabajo continuo del Informe Internacional de Seguridad de la IA. Si bien su impacto práctico aún está por verse, la declaración señaló un consenso global de que los riesgos de la IA requieren una acción coordinada, un cambio respecto de los enfoques mayormente nacionales y liderados por corporaciones del pasado.
La declaración también influyó en las políticas nacionales, con varios países, incluidos el Reino Unido y Estados Unidos, anunciando nuevos institutos de seguridad de la IA en los meses posteriores a la cumbre. Estos institutos tienen la tarea de evaluar los modelos de IA de frontera y compartir mejores prácticas, reflejando directamente el llamado de la declaración a la colaboración internacional.