ब्लेचले पार्क एआई सुरक्षा शिखर सम्मेलन

2023年AI安全峰会是一场专注于人工智能安全与监管的国际会议。会议由英国政府组织，于2023年11月在英格兰米尔顿凯恩斯的布莱切利园举行。这是有史以来首次全球人工智能峰会，汇集了政府领导人、科技高管和研究人员，以应对先进AI系统带来的风险。峰会发布了《布莱切利宣言》，该宣言聚焦于“识别共同关注的AI安全风险”和“制定各自基于风险的政策”，以确保“技术的益处能够以负责任的方式为所有人带来好处”。

此次峰会是全球关于人工智能治理对话中的一个重要时刻，因为这是包括美国和中国在内的主要世界大国首次就AI安全达成联合声明。峰会还突显了大型语言模型和生成式AI技术日益增长的重要性，这些技术在峰会前的几年中迅速发展。

背景

时任英国首相里希·苏纳克将AI列为其政府的优先事项之一，宣布英国将于2023年秋季主办一场全球AI安全会议。这一宣布正值公众和政府对AI潜在风险（包括其在虚假信息、网络攻击和自主武器中的使用）日益关注之际。苏纳克政府力求将英国定位为AI安全监管的领导者，依托该国在计算领域的历史贡献及其强大的学术和工业AI部门。

峰会计划作为一次高层外交活动，邀请对象包括国家元首、科技公司CEO和顶尖AI研究人员。英国政府强调国际合作的必要性，认为AI风险具有全球性，需要协调一致的应对措施。

会场

布莱切利园是英国政府在维多利亚式庄园遗址上建立的二战密码破译设施，位于英国城市米尔顿凯恩斯。它在计算史上发挥了重要作用，一些最早的现代计算机就是在该设施中建造的。选择这一会场具有象征意义，因为布莱切利园被广泛视为现代计算的诞生地，艾伦·图灵等人曾在此致力于破解恩尼格玛密码。

会场的历史意义被演讲者和与会者所强调，他们将1940年代的密码破译努力与当代理解和控制AI的挑战相提并论。这一环境也提醒参与者英国在技术创新方面的遗产，从计算的早期时代到支撑现代AI系统的变换器架构的发展。

成果

峰会上，包括美国、中国、澳大利亚和欧盟在内的28个国家发布了一项名为《布莱切利宣言》的协议，呼吁国际合作以管理人工智能的挑战和风险。《布莱切利宣言》确认，AI应以安全、以人为本、可信赖和负责任的方式设计、开发、部署和使用。

重点放在监管“前沿AI”上，这是指最新、最强大的AI系统。峰会上提出的担忧包括AI可能被用于恐怖主义、犯罪活动和战争，以及对整个人类构成的生存风险。宣言未设定具体监管目标，但建立了未来讨论的框架，包括承诺举行更多峰会。

除宣言外，还宣布了几项国家举措。美国总统乔·拜登签署了一项行政命令，要求AI开发者与美国政府分享安全结果。美国政府还宣布成立美国AI安全研究所，作为国家标准与技术研究院的一部分。这些行动被视为对峰会强调AI开发透明度和问责制的直接回应。

科技企业家埃隆·马斯克和苏纳克于11月2日在X（马斯克拥有的社交媒体平台）上进行了关于AI安全的现场访谈。该访谈向广泛受众播出，涵盖了AI超越人类智能的可能性以及监管监督的必要性等话题。马斯克此前曾呼吁暂停AI开发，他重申了对生存风险的担忧。

重要与会者

以下人士出席了峰会：

• 里希·苏纳克，英国首相
• 卡玛拉·哈里斯，美国副总统
• 查尔斯三世，英国国王（虚拟出席）
• 埃隆·马斯克，特斯拉CEO、X、SpaceX、Neuralink和xAI的所有者
• 乔治亚·梅洛尼，意大利总理
• 乌尔苏拉·冯德莱恩，欧盟委员会主席
• 萨姆·奥尔特曼，OpenAI CEO
• 尼克·克莱格，前英国政治家、Meta Platforms全球事务总裁
• 穆斯塔法·苏莱曼，谷歌深度思维联合创始人
• 米歇尔·多内兰，英国科学、创新与技术大臣
• 维拉·尤罗娃，欧盟委员会价值观与透明度副主席
• 吉娜·雷蒙多，美国商务部长
• 吴朝晖，中国科技部副部长

来自东西方大国的高层政治人物的出席突显了该事件的全球意义。萨姆·奥尔特曼和穆斯塔法·苏莱曼等行业领袖的参与，凸显了AI开发者与政策制定者之间的紧密关系，以及Anthropic和谷歌深度思维等公司在塑造监管格局方面日益增长的影响力。

全球AI峰会系列

布莱切利园峰会被设计为一系列关于AI安全的国际会议中的第一场。宣言包括承诺举行未来峰会，旨在基于初步协议并应对新出现的挑战。该系列旨在具有包容性，不仅汇集政府，还包括科技公司、学术界和公民社会。

后续峰会计划于2024年在韩国举行，第三场计划在法国举行。这些后续会议预计将聚焦于更详细的监管提案，包括AI测试和评估标准，以及国际执法合作的机制。

峰会系列反映了将AI治理正式化的更广泛趋势，世界各国都在应对AI开发的快速步伐。布莱切利园的讨论参考了麻省理工学院计算机科学与人工智能实验室、斯坦福AI实验室和伯克利AI研究等机构的研究，以及萨米·本吉奥和梅兰妮·米切尔等著名AI研究者的工作，他们呼吁更加关注安全性和伦理。

意义与遗产

布莱切利园AI安全峰会被广泛视为AI治理历史上的里程碑事件。这是首次包括民主和威权政府在内的广泛国家联盟就应对AI风险的共享框架达成一致。峰会还帮助提升了AI安全在公共话语中的地位，促使媒体更多报道和公众辩论。

然而，批评者指出，峰会的成果在很大程度上是象征性的，《布莱切利宣言》缺乏具有约束力的承诺或具体的执行机制。一些研究者认为，对前沿AI生存风险的关注掩盖了更紧迫的问题，如算法偏见、就业替代以及权力集中在少数大型科技公司手中。

尽管存在这些批评，峰会成功建立了AI治理的外交渠道，鉴于AI开发和部署的全球性，这被视为至关重要。该事件还突显了英国作为技术政策召集者的角色，依托其在研究和创新方面的优势。

峰会的遗产很可能通过全球AI峰会系列将宣言转化为具体行动的有效性来衡量。截至2024年，初步协议尚未导致重大监管变化，但持续的对话被视为朝着管理AI风险同时利用其益处迈出的积极一步。