布莱奇利峰会的成果涵盖了2023年人工智能安全峰会的各项结果，该峰会是一场关于人工智能安全与监管的国际会议，于2023年11月在英格兰米尔顿凯恩斯的布莱奇利庄园举行。此次峰会由英国政府组织，是首个专门讨论人工智能的全球峰会。其主要成果是《布莱奇利宣言》，这是一项由28个国家共同签署的协议，旨在识别共同的人工智能安全风险，并制定基于风险的政策，以确保负责任地利用该技术的益处。
此次峰会标志着人工智能治理方面国际合作迈出了重要一步，汇聚了政府领导人、科技公司高管和研究人员。它为前沿人工智能风险的持续对话建立了一个框架，并为后续关于人工智能监管的全球讨论开创了先例。
背景
时任英国首相里希·苏纳克将人工智能列为其政府的优先事项，并于2023年初宣布英国将在当年秋季主办一场全球人工智能安全会议。这一宣布正值公众和专家对大型语言模型系统及其他生成式人工智能技术的快速发展日益担忧之际。苏纳克政府将英国定位为人工智能治理的领导者，力求在创新与安全措施之间取得平衡。
峰会的筹备工作历时数月，英国政府与国际伙伴、科技公司和学术机构进行了磋商。选择该地点是经过深思熟虑的，旨在将现代人工智能的关切与密码破译和计算的历史遗产联系起来。
会场
布莱奇利庄园是第二次世界大战期间英国政府在一座维多利亚式庄园旧址上建立的密码破译机构，位于英国城市米尔顿凯恩斯。它在计算史上发挥了重要作用，该机构建造了最早的一批现代计算机，包括用于解密德国通信的“巨人”计算机。该遗址现已成为博物馆和遗产景点。
选择布莱奇利庄园象征着历史性的密码学成就与当代人工智能安全挑战之间的联系。会场的容量和安全安排满足了高级别外交会议、闭门会议和面向公众的活动需求。
布莱奇利宣言
核心成果是《布莱奇利宣言》，由包括美国、中国、澳大利亚和欧盟在内的28个国家签署。宣言申明，人工智能的设计、开发、部署和使用方式应当安全、以人为本、值得信赖且负责任。宣言呼吁开展国际合作以应对人工智能带来的挑战和风险，强调需要达成共识并采取协调一致的行动。
宣言重点关注两个主要领域：识别共同关切的人工智能安全风险，以及制定各自基于风险的政策。宣言承认，前沿人工智能系统，，即最新、最强大的模型，，构成了超越国界的独特风险。签署国承诺就人工智能安全研究和监管继续进行对话与合作。
主要关切与主题
重点放在监管前沿人工智能上，该术语指代最先进、能力最强的人工智能系统。峰会上提出的关切包括人工智能可能被用于恐怖主义、犯罪活动和战争，以及对整个人类构成的生存风险。与会者讨论了从机器学习系统中的偏见和错误信息，到涉及超级智能系统失控等更具推测性的情景在内的各种风险。
其他主题包括人工智能开发透明度的必要性、部署前安全测试的重要性，以及国际标准的作用。讨论还涉及人工智能的经济影响，包括工作岗位流失以及权力集中在少数大型科技公司手中等问题。
知名与会者
此次峰会吸引了政府和行业的高层参与。里希·苏纳克主持了此次活动。美国副总统卡玛拉·哈里斯亲自出席，而英国国王查尔斯三世则远程参与。特斯拉首席执行官兼X平台所有者埃隆·马斯克出席，并于11月2日在X平台上与苏纳克进行了现场访谈。
其他与会者包括意大利总理焦尔吉娅·梅洛尼；欧盟委员会主席乌尔苏拉·冯·德·莱恩；OpenAI首席执行官萨姆·奥尔特曼；前英国政治家、Meta Platforms全球事务总裁尼克·克莱格；Google DeepMind联合创始人穆斯塔法·苏莱曼；英国科学、创新与技术国务大臣米歇尔·多内兰；欧盟委员会负责价值观与透明度的副主席维拉·尤罗娃；美国商务部长吉娜·雷蒙多；以及中国科学技术部副部长吴朝晖。
来自主要人工智能公司（包括Anthropic和Google DeepMind）代表的出席，凸显了业界对监管进程的参与。
美国行动
在峰会召开的同时，美国总统乔·拜登签署了一项行政命令，要求人工智能开发者与美国政府共享安全结果。该命令规定，开发大规模人工智能系统的公司必须报告安全测试和风险缓解措施。美国政府还宣布成立美国人工智能安全研究所，隶属于国家标准与技术研究院（NIST）。
这些行动对国际宣言形成了补充，展示了国内的监管方针，同时支持了全球合作。该行政命令被视为美国人工智能政策的重要一步，既解决了直接风险，也处理了长期治理问题。
全球人工智能峰会系列
布莱奇利峰会开启了一系列全球人工智能安全峰会。后续会议计划在宣言原则的基础上继续推进，下一届峰会将于2024年由韩国主办。该系列峰会旨在保持人工智能治理的势头，汇集政府、业界和民间社会以应对不断演变的挑战。
这一系列峰会反映出人们的认识，即人工智能安全是一个跨国界问题，需要持续合作。每届会议预计都将产生更具体的承诺和技术标准，从广泛的宣言转向可操作的政策。
遗产与影响
布莱奇利峰会的成果为国际人工智能治理奠定了基线。宣言中对以人为本和负责任的人工智能发展的强调，影响了随后多个国家的政策讨论。峰会还凸显了前沿人工智能公司在安全讨论中的作用，鼓励在政府监管之外作出自愿承诺。
批评者指出，该宣言不具有约束力，且缺乏具体的执行机制。然而，支持者认为，峰会的价值在于建立了一个共享框架和为未来行动创造政治意愿。此次活动还提高了公众对人工智能风险的认识，促进了关于该技术发展轨迹的更广泛社会辩论。
参考文献
- 2023年人工智能安全峰会官方文件
- 《布莱奇利宣言》文本
- 英国政府关于峰会的新闻稿