2023年AI安全峰会是一场关于人工智能安全与监管的国际会议。会议由英国政府组织，于2023年11月在英格兰米尔顿凯恩斯的布莱切利园举行。此次峰会是全球首届人工智能峰会，汇聚了政府领导人、科技企业高管和研究人员，共同应对先进AI系统带来的风险与机遇。峰会发布了《布莱切利宣言》，这是一项联合协议，重点在于识别共同关切的人工智能安全风险，并制定各自基于风险的政策，以确保该技术的益处能够负责任地惠及所有人。
此次峰会标志着国际AI治理的一个重要里程碑，因为这是美国、中国和欧盟等主要世界大国首次就应对AI风险的共同框架正式达成一致。峰会选址于布莱切利园，这一在计算和密码学领域具有历史意义的地点，为关于AI未来的讨论提供了象征性的背景。
背景
时任英国首相里希·苏纳克将AI列为其政府的优先事项之一，宣布英国将于2023年秋季主办一场全球AI安全会议。这一宣布正值全球对人工智能技术快速发展的担忧日益加剧之际，尤其是功能强大的大型语言模型和生成式AI系统的出现。苏纳克政府力求将英国定位为AI安全与监管的领导者，依托该国在AI研发方面的现有优势。
此次峰会旨在回应AI研究人员和行业领袖关于国际社会协调行动应对AI安全的呼吁。在峰会召开前的几个月里，AI领域的多位知名人士，包括OpenAI、Google DeepMind和Anthropic的高管，都公开倡导政府干预以减轻先进AI系统可能带来的风险。
会场
布莱切利园是英国政府在维多利亚时代庄园旧址上建立的二战密码破译设施，位于英国城市米尔顿凯恩斯。该设施在计算史上发挥了重要作用，一些最早的现代计算机就是在这里建造的。二战期间，这里设有政府密码与密码学校，由艾伦·图灵等人领导的密码破译者成功解密了德国的通信，为盟军胜利作出了重大贡献。
选择布莱切利园作为会场是经过深思熟虑的，象征着英国对计算的历史贡献及其应对数字时代挑战的承诺。该设施现作为博物馆和遗产地运营，其历史建筑为峰会进程提供了独特的场所。该遗址的战争历史与AI安全的现代挑战之间的对比，强调了国际合作应对技术威胁的重要性。
布莱切利宣言
峰会的主要成果是《布莱切利宣言》，这是一项由包括美国、中国、澳大利亚和欧盟在内的28个国家签署的协议。宣言呼吁国际合作以应对人工智能的挑战和风险，并确认AI应以安全、以人为本、可信赖和负责任的方式进行设计、开发、部署和使用。
宣言聚焦于识别共同关切的人工智能安全风险，并制定各自基于风险的政策，以确保该技术的益处能够负责任地惠及所有人。宣言认识到AI有潜力改变社会和经济，同时也承认需要对潜在危害保持警惕。协议强调了透明度、问责制和国际合作在AI治理中的重要性。
重点放在监管“前沿AI”上，这一术语指的是最新、最强大的AI系统。峰会上提出的关切包括AI可能被用于恐怖主义、犯罪活动和战争，以及对整个人类构成的生存风险。宣言并未建立具有约束力的法规，而是为未来的合作和政策制定设定了框架。
成果与承诺
除了《布莱切利宣言》外，峰会还产生了其他几项显著成果。美国总统乔·拜登签署了一项行政命令，要求AI开发者与美国政府共享安全结果。美国政府还宣布成立美国AI安全研究所，隶属于国家标准与技术研究院。这些行动表明美国在AI监管方面采取了更为主动的做法。
科技企业家埃隆·马斯克和苏纳克于11月2日在X（马斯克拥有的社交媒体平台）上进行了关于AI安全的现场访谈。对话涵盖了AI的潜在益处和风险、监管需求以及AI发展的未来等话题。这次访谈被广泛观看并引发了大量媒体关注，进一步提升了峰会的知名度。
多个与会国在峰会结束后宣布了自己的AI安全倡议。英国政府承诺建立自己的AI安全研究所，而其他国家则承诺增加对AI安全研究的资助。峰会还促进了国家间的双边讨论，包括美中两国关于AI治理问题的会谈。
知名与会者
以下人士出席了峰会：
- 里希·苏纳克，英国首相
- 卡玛拉·哈里斯，美国副总统
- 查尔斯三世，英国国王（虚拟出席）
- 埃隆·马斯克，特斯拉CEO、X所有者、SpaceX、Neuralink和xAI负责人
- 焦尔吉娅·梅洛尼，意大利总理
- 乌尔苏拉·冯德莱恩，欧盟委员会主席
- 萨姆·奥尔特曼，OpenAI CEO
- 尼克·克莱格，英国前政治家、Meta Platforms全球事务总裁
- 穆斯塔法·苏莱曼，DeepMind联合创始人
- 米歇尔·多内兰，英国科学、创新和技术大臣
- 维拉·尤罗娃，欧盟委员会价值观与透明度副主席
- 吉娜·雷蒙多，美国商务部长
- 吴朝晖，中国科学技术部副部长
如此多元的政治领导人和科技高管出席，凸显了此次峰会的全球重要性。美国和中国这两个在技术政策上往往持不同观点的国家的代表出席尤为引人注目，并突显了在AI安全方面开展国际合作的潜力。
反应与批评
峰会收到了各利益相关方的不同反应。支持者称赞这是迈向国际AI治理的必要第一步，指出这是该领域关键参与者首次齐聚一堂。《布莱切利宣言》被视为积极进展，尽管其承诺在很大程度上不具约束力。
然而，批评者认为峰会缺乏具体行动，宣言过于模糊，难以产生实质性影响。一些AI安全研究人员对峰会未能在AI透明度、问责制和防止AI滥用等问题上作出更具体承诺表示失望。其他人则质疑峰会聚焦生存风险是否掩盖了更紧迫的问题，如算法偏见、就业替代以及AI权力集中在少数大公司手中。
一些观察者还指出，某些关键利益相关方缺席，包括许多发展中国家和公民社会组织的代表。峰会因由西方政府和技术公司主导、其他视角的投入有限而受到批评。
全球AI峰会系列
布莱切利园峰会是全球AI安全峰会系列的首届。后续活动计划在首次会议产生的势头基础上继续推进，并应对AI治理中的持续挑战。该系列旨在为国际AI安全对话提供定期论坛，目标是随着时间推移制定更具体的政策框架。
峰会系列反映了人们日益认识到AI安全是一个需要跨国界协调行动的全球性问题。随着AI技术的不断进步，有效治理机制的需求变得越来越紧迫。布莱切利园峰会及其后续会议代表了通过国际合作应对这些挑战的重要努力。
遗产与影响
布莱切利园AI安全峰会标志着全球AI监管对话的一个转折点。它将AI安全确立为世界各国政府的优先议题，并为未来的政策制定奠定了基础。峰会对前沿AI的强调有助于将注意力集中在最先进、潜在最危险的AI系统上，而其呼吁国际合作则为多边参与技术治理开创了先例。
峰会还推动了公众对AI讨论的更广泛转变，从单纯讨论技术能力转向考虑AI部署的社会和伦理影响。《布莱切利宣言》中关于安全、以人为本、可信赖和负责任的原则此后在多项国家和国际政策文件中被引用。截至2024年，峰会系列仍在持续发展，后续会议正在应对新挑战，并在布莱切利园奠定的基础上继续推进。