2023年AI安全峰会是一场关于人工智能安全与监管的国际会议。会议由英国政府组织，于2023年11月在英格兰米尔顿凯恩斯的布莱切利园举行。此次峰会是史上首次全球性人工智能峰会，汇聚了政府代表、科技企业高管和研究人员，共同探讨先进AI系统的风险与治理。
峰会达成了《布莱切利宣言》，这是一项由包括美国、中国、澳大利亚和欧盟在内的28个国家签署的协议。宣言聚焦于“识别共同关切的AI安全风险”和“制定各自基于风险的政策”，以“确保该技术的益处能够以负责任的方式为所有人谋福”。宣言确认，AI的设计、开发、部署和使用应以安全、以人为本、值得信赖和负责任的方式进行。
背景
时任英国首相里希·苏纳克将AI列为其政府的优先事项之一。2023年初，他宣布英国将于当年秋季主办一场全球AI安全会议。这一宣布正值Large language model技术快速进步之际，包括OpenAI发布GPT-4以及Generative AI工具的普及，这些进展加剧了公众和政府对潜在风险的担忧。
英国政府将自身定位为AI安全讨论的领导者，旨在创建一个国际对话论坛。峰会旨在汇聚包括政府、学术界和产业界在内的多元利益相关方，共同应对近期风险（如被用于恐怖主义或犯罪活动）以及对人类构成的长期生存风险。
会场
位于英国米尔顿凯恩斯的布莱切利园是峰会的举办地。该场地是二战期间英国政府在一座维多利亚式庄园内建立的密码破译设施。它在计算史上占有重要地位，包括巨像计算机在内的首批现代计算机就是在这里建造，用于解密德国情报。
选择布莱切利园具有象征意义，将峰会与英国在计算和密码学方面的历史贡献联系起来。该场地也强调了以集体努力应对技术挑战的主题，呼应了战时密码破译者的协作精神。
成果
峰会的主要成果是《布莱切利宣言》，该宣言呼吁国际合作以应对人工智能带来的挑战和风险。宣言强调了安全、以人为本、值得信赖和负责任的AI发展的必要性，并指出了监管“前沿AI”的重要性，该术语指的是最新、最强大的AI系统，如先进的Neural network模型。
峰会上提出的关切包括AI可能被用于恐怖主义、犯罪活动和战争，以及对整个人类构成的生存风险。与会代表讨论了在AI开发中建立强有力的安全措施、透明度和问责制的必要性。
与此同时，美国总统乔·拜登签署了一项行政命令，要求AI开发者与美国政府共享安全测试结果。该命令还促成了美国AI安全研究所的成立，作为国家标准与技术研究院的一部分，以支持AI安全的研究和标准制定。
主要与会者
峰会吸引了来自政府和产业界的高层参与者。主要与会者包括：
- 里希·苏纳克，英国首相
- 卡玛拉·哈里斯，美国副总统
- 查尔斯三世，英国国王（线上出席）
- 埃隆·马斯克，特斯拉CEO，X、SpaceX、Neuralink和xAI的所有者
- 焦尔吉娅·梅洛尼，意大利总理
- 乌尔苏拉·冯德莱恩，欧盟委员会主席
- 山姆·奥特曼，OpenAI CEO
- 尼克·克莱格，前英国政治家，Meta Platforms全球事务总裁
- 穆斯塔法·苏莱曼，Google DeepMind联合创始人
- 米歇尔·多内兰，英国科学、创新和技术大臣
- 薇拉·尤罗娃，欧盟委员会价值观与透明度事务副主席
- 吉娜·雷蒙多，美国商务部长
- 吴朝晖，中国科技部副部长
11月2日，埃隆·马斯克和里希·苏纳克在X平台上进行了关于AI安全的直播访谈，讨论了AI的潜在益处和风险，包括生存威胁和监管的必要性。
全球AI峰会系列
2023年AI安全峰会是计划中的全球AI安全峰会系列的首届。该会议建立了一个持续国际对话的框架，后续峰会预计将在《布莱切利宣言》的基础上继续推进。该系列旨在促进各国之间的持续合作，以应对不断演变的AI挑战，确保在降低风险的同时实现该技术的益处。
参考文献
- AI安全峰会2023 - 维基百科