2023年AI安全峰会是一场聚焦人工智能安全与监管的国际会议。会议由英国政府组织，于2023年11月在英格兰米尔顿凯恩斯的布莱切利园举行。这是有史以来首次全球人工智能峰会，汇聚了政府领导人、科技企业高管和研究人员，共同应对先进AI系统带来的风险。峰会最终发布了《布莱切利宣言》，该宣言聚焦于“识别共同关切的AI安全风险”和“制定各自基于风险的政策”，以“确保技术的好处能够以负责任的方式为所有人谋福祉”。
此次峰会是全球关于人工智能治理对话中的一个重要时刻，因为这是美国和中国等主要世界大国首次就AI安全达成联合声明。峰会还凸显了大语言模型和生成式人工智能技术日益增长的重要性，这些技术在峰会召开前的几年里发展迅速。
背景
时任英国首相里希·苏纳克将AI列为其政府的优先事项之一，宣布英国将于2023年秋季主办一场全球AI安全会议。这一宣布正值公众和政府对AI潜在风险（包括其在虚假信息、网络攻击和自主武器中的应用）日益担忧之际。苏纳克政府力求将英国定位为AI安全监管的领导者，依托该国在计算领域的历史贡献以及其强大的学术和产业AI部门。
峰会计划作为一次高层外交活动，邀请对象包括国家元首、科技公司CEO和顶尖AI研究人员。英国政府强调国际合作的必要性，认为AI风险具有全球性，需要协调一致的应对措施。
会场
布莱切利园是英国政府在维多利亚式庄园遗址上建立的二战密码破译设施，位于英国城市米尔顿凯恩斯。它在计算史上发挥了重要作用，一些最早的现代计算机就是在该设施中建造的。选择这一会场具有象征意义，因为布莱切利园被广泛视为现代计算的诞生地，艾伦·图灵等人曾在此破解恩尼格玛密码。
会场的历史意义被发言人和与会者多次强调，他们将1940年代的密码破译工作与当代理解和控制AI的挑战相提并论。这一环境也提醒参与者英国在技术创新方面的遗产，从计算的早期阶段到支撑现代AI系统的Transformer架构的发展。
成果
峰会上，包括美国、中国、澳大利亚和欧盟在内的28个国家发布了名为《布莱切利宣言》的协议，呼吁国际合作以应对人工智能的挑战和风险。《布莱切利宣言》确认，AI应以安全、以人为本、可信赖和负责任的方式设计、开发、部署和使用。
重点被放在监管“前沿AI”上，这一术语指的是最新、最强大的AI系统。峰会上提出的担忧包括AI可能被用于恐怖主义、犯罪活动和战争，以及对整个人类构成的生存风险。宣言未设定具体的监管目标，但为未来讨论建立了框架，包括承诺举办更多峰会。
除宣言外，还宣布了多项国家举措。美国总统乔·拜登签署了一项行政命令，要求AI开发者与美国政府共享安全结果。美国政府还宣布成立美国AI安全研究所，作为国家标准与技术研究院的一部分。这些行动被视为对峰会强调AI开发透明度和问责制的直接回应。
科技企业家埃隆·马斯克和苏纳克于11月2日在X（马斯克拥有的社交媒体平台）上进行了关于AI安全的直播访谈。该访谈面向广泛受众播出，涵盖AI超越人类智能的可能性以及监管监督的必要性等话题。马斯克此前曾呼吁暂停AI开发，他在访谈中重申了对生存风险的担忧。
主要与会者
以下人士出席了峰会：
- 里希·苏纳克，英国首相
- 卡玛拉·哈里斯，美国副总统
- 查尔斯三世，英国国王（虚拟出席）
- 埃隆·马斯克，特斯拉CEO，X、SpaceX、Neuralink和xAI的所有者
- 焦尔吉娅·梅洛尼，意大利总理
- 乌尔苏拉·冯德莱恩，欧盟委员会主席
- 萨姆·奥尔特曼，OpenAI CEO
- 尼克·克莱格，前英国政治家，Meta Platforms全球事务总裁
- 穆斯塔法·苏莱曼，Google DeepMind联合创始人
- 米歇尔·多内兰，英国科学、创新和技术大臣
- 维拉·尤罗娃，欧盟委员会负责价值观和透明度的副主席
- 吉娜·雷蒙多，美国商务部长
- 吴朝晖，中国科技部副部长
来自东西方大国的高级政治人物的出席凸显了此次活动的全球重要性。萨姆·奥尔特曼和穆斯塔法·苏莱曼等行业领袖的参与，强调了AI开发者与政策制定者之间的密切关系，以及Anthropic和Google DeepMind等公司在塑造监管格局方面日益增长的影响力。
全球AI峰会系列
布莱切利园峰会被设计为一系列AI安全国际会议中的第一场。宣言包括举办未来峰会的承诺，旨在基于初步协议继续推进并应对新出现的挑战。该系列会议被设计为具有包容性，不仅汇集政府，还包括科技公司、学术界和公民社会。
后续峰会计划于2024年在韩国举行，第三场则计划在法国举办。这些后续会议预计将聚焦更详细的监管提案，包括AI测试和评估标准，以及国际执法合作机制。
该峰会系列反映了AI治理正式化的更广泛趋势，世界各国都在应对AI开发的快速步伐。布莱切利园的讨论参考了MIT CSAIL、斯坦福AI实验室和伯克利AI研究等机构的研究，以及萨米·本吉奥和梅兰妮·米切尔等知名AI研究者的工作，他们呼吁更加关注安全性和伦理问题。
意义与遗产
布莱切利园AI安全峰会被广泛视为AI治理历史上的里程碑事件。这是首次包括民主和威权政府在内的广泛国家联盟就应对AI风险的共享框架达成一致。峰会还帮助提升了AI安全在公共话语中的重要性，促使媒体报道和公众辩论增加。
然而，批评者指出，峰会的成果在很大程度上是象征性的，《布莱切利宣言》缺乏具有约束力的承诺或具体的执行机制。一些研究人员认为，对前沿AI生存风险的关注掩盖了更紧迫的问题，如算法偏见、就业替代以及权力集中在少数大型科技公司手中。
尽管存在这些批评，峰会成功建立了AI治理的外交渠道，鉴于AI开发和部署的全球性，这被视为至关重要。此次活动还凸显了英国作为技术政策召集力量的角色，依托其在研究和创新方面的优势。
峰会的遗产很可能将通过全球AI峰会系列在将宣言转化为具体行动方面的有效性来衡量。截至2024年，初步协议尚未带来重大监管变革，但持续的对话被视为朝着管理AI风险同时利用其益处迈出的积极一步。