La Cumbre de Seguridad de IA en Bletchley Park fue una reunión internacional celebrada el 1 y 2 de noviembre de 2023 en Bletchley Park, Reino Unido, el sitio histórico del esfuerzo británico de descifrado de códigos durante la Segunda Guerra Mundial, convocada por el gobierno del Reino Unido para coordinar políticas internacionales sobre el riesgo de la IA fronteriza. Representantes de 28 países y de la Unión Europea, junto con importantes empresas de IA e investigadores, asistieron al evento, produciendo la Declaración de Bletchley, un comunicado conjunto que reconocía los riesgos de la IA avanzada y se comprometía con la cooperación internacional.
La declaración
La Declaración de Bletchley fue firmada por todos los gobiernos asistentes, incluidos Estados Unidos, China y la Unión Europea, un caso inusual de rivales geopolíticos que acuerdan un lenguaje común sobre el riesgo de la IA. En ella se afirmaba que la mayoría de los riesgos de la IA surgen de problemas no intencionados de control, así como de un posible uso indebido, y señalaba específicamente los riesgos asociados con la IA fronteriza capaz de causar daños graves, ya sea de forma deliberada o no intencionada, haciendo eco de las preocupaciones planteadas a principios de ese año en la Carta para una Pausa en los Experimentos Gigantes de IA. La declaración se abstuvo de proponer reglas vinculantes, centrándose en cambio en la comprensión científica compartida y la cooperación futura.
Participantes y resultados secundarios
Ejecutivos e investigadores de los principales laboratorios asistieron, incluidos representantes de OpenAI, Google DeepMind y Anthropic, junto con académicos e investigadores de seguridad como Yoshua Bengio, a quien se le encargó liderar un informe científico internacional "Estado de la IA" modelado de manera flexible sobre las evaluaciones de la ciencia climática. La cumbre está estrechamente asociada con el anuncio de institutos nacionales de seguridad de IA, incluidos el Instituto de Seguridad de IA del Reino Unido y el Instituto de Seguridad de IA de Estados Unidos, organismos destinados a realizar evaluaciones de los modelos fronterizos antes y después de su lanzamiento, conectando con esfuerzos más amplios en torno al equipo rojo y la evaluación de sistemas avanzados.
Legado
La cumbre de Bletchley fue la primera de una serie planificada de cumbres de seguridad de IA, seguida por una cumbre en Corea del Sur en 2024 y una cumbre en Francia en 2025, lo que refleja un intento de institucionalizar la coordinación internacional recurrente sobre el riesgo de la IA de manera comparable a la diplomacia climática. Su efecto práctico fue mayormente declaratorio más que regulatorio, en contraste con medidas vinculantes como la Ley de IA de la UE, pero se cita con frecuencia como el punto en el que el riesgo de la IA fronteriza se convirtió en un asunto principal de la diplomacia a nivel de jefes de Estado, en lugar de una preocupación de investigación de nicho, alimentando debates en curso sobre la gobernanza de la IA y el papel de los argumentos de riesgo existencial en la configuración de políticas.