2023年人工智能安全峰会是一场关于人工智能安全与监管的国际会议。会议由英国政府组织，于2023年11月在英格兰米尔顿凯恩斯的布莱切利园举行。这是有史以来首次全球人工智能峰会。峰会发布了《布莱切利宣言》，该宣言聚焦于识别共同关切的人工智能安全风险，并制定各自基于风险的政策，以确保该技术的益处能够以负责任的方式为所有人谋取福祉。
会议汇集了来自28个国家的政府代表、科技高管和研究人员，包括美国、中国、澳大利亚和欧盟。这标志着国际社会应对先进人工智能系统所带来的挑战迈出了重要一步。
背景
时任英国首相里希·苏纳克将人工智能列为其政府的优先事项之一，宣布英国将于2023年秋季主办一场全球人工智能安全会议。这一宣布正值人们对大型语言模型及其他生成式人工智能技术快速发展的担忧日益加剧之际，这些技术在前几年已取得显著进展。
此次峰会是更广泛的国际人工智能治理讨论的一部分。在活动前的几个月里，各国政府和组织已开始提出管理日益强大的人工智能系统相关风险的框架。
会场
布莱切利园是英国政府在维多利亚式庄园旧址上建立的二战密码破译设施，位于英国城市米尔顿凯恩斯。它在计算机史上发挥了重要作用，一些最早的现代计算机就是在该设施中建造的。选择这一会场具有象征意义，将密码破译和早期计算的历史重要性与当代人工智能安全讨论联系起来。
该设施是战时重要情报工作的所在地，包括破解恩尼格玛密码。选择此地举办峰会凸显了英国在计算和密码学方面的历史贡献。
成果
峰会上，包括美国、中国、澳大利亚和欧盟在内的28个国家发布了一项名为《布莱切利宣言》的协议，呼吁国际合作以应对人工智能带来的挑战和风险。《布莱切利宣言》确认，人工智能的设计、开发、部署和使用应以安全、以人为本、可信赖和负责任的方式进行。
峰会重点强调了对“前沿人工智能”的监管，这一术语指代最新、最强大的人工智能系统。峰会上提出的关切包括人工智能可能被用于恐怖主义、犯罪活动和战争，以及对整个人类构成的生存风险。
美国总统乔·拜登签署了一项行政命令，要求人工智能开发者与美国政府共享安全结果。美国政府还宣布成立美国人工智能安全研究所，作为国家标准与技术研究院的一部分。
科技企业家埃隆·马斯克和苏纳克于11月2日在X平台上就人工智能安全进行了现场访谈。
主要与会者
以下人士出席了峰会：
- 里希·苏纳克，英国首相
- 卡玛拉·哈里斯，美国副总统
- 查尔斯三世，英国国王（线上出席）
- 埃隆·马斯克，特斯拉首席执行官，X、SpaceX、Neuralink和xAI的所有者
- 焦尔吉娅·梅洛尼，意大利总理
- 乌尔苏拉·冯德莱恩，欧盟委员会主席
- 萨姆·奥尔特曼，OpenAI首席执行官
- 尼克·克莱格，前英国政治家，Meta Platforms全球事务总裁
- 穆斯塔法·苏莱曼，DeepMind联合创始人
- 米歇尔·多内兰，英国科学、创新和技术大臣
- 维拉·尤罗娃，欧盟委员会负责价值观与透明度的副主席
- 吉娜·雷蒙多，美国商务部长
- 吴朝晖，中国科学技术部副部长
来自主要人工智能大国（包括美国和中国）的高层官员出席，凸显了该事件的全球重要性。
全球人工智能峰会系列
2023年峰会开启了一系列关于人工智能安全的国际会议。该活动为各国就如何应对先进人工智能技术带来的风险和机遇进行持续对话建立了框架。《布莱切利宣言》成为该系列后续讨论的基础性文件。