首尔AI峰会宣言是一项国际协议，于2024年5月在由韩国政府和英国政府共同主办的AI首尔峰会上通过。该宣言涉及人工智能技术及相关挑战与机遇，建立在早期国际努力的基础上，旨在规范先进AI系统的开发与部署。宣言承诺参与国在各国间可互操作的AI治理框架方面促进国际合作。
该宣言源自继2023年11月在英国举行的AI安全峰会之后的第二次全球AI安全重大会议。在早先的布莱切利公园会议上，参与国同意优先识别共同关切的AI安全风险。首尔宣言在此基础上进一步扩展，承认AI创新与安全考量同等重要。
背景
AI首尔峰会于2024年5月举行，是继英国AI安全峰会之后的第二次此类会议。2023年11月会议的布莱切利宣言在参与国之间确立了识别共同关切的AI安全风险的必要性共识。首尔峰会在此基础上增加了对AI技术所带来机遇的关注。
此次峰会的举办背景是人工智能系统的快速进步，包括大型语言模型和生成式AI技术。OpenAI、Google DeepMind和Anthropic等公司对这些系统的快速部署促使世界各国政府考虑监管应对措施。
主要与会者
峰会由七国集团国家的领导人出席，包括美国、加拿大、法国和德国，以及韩国、新加坡和澳大利亚。联合国、经济合作与发展组织和欧洲联盟的代表也参与了会议。
企业代表包括特斯拉CEO埃隆·马斯克、三星电子董事长李在镕，以及来自OpenAI、谷歌、微软、Meta和韩国最大门户网站运营商Naver的高管。行业领袖的出席反映了峰会对政府与私营部门在AI治理中合作的重视。
韩国AI安全中心
峰会期间，韩国官员宣布计划在韩国建立AI安全研究中心。科学技术信息通信部部长李宗昊表示，韩国计划于2024年开设AI安全研究所。该部长还表达了韩国加强合作以制定AI安全国际标准的意愿。
拟议中的中心旨在加入类似机构网络，以提升全球AI安全性。这一举措将韩国定位为国际AI治理努力中的重要参与者，补充了布莱切利峰会后在其他国家建立的类似机构。
首尔安全、创新和包容性AI宣言
首尔宣言在峰会上由代表欧洲联盟、美国、英国、澳大利亚、加拿大、德国、法国、意大利、日本、韩国和新加坡的领导人通过。宣言承诺签署国促进国际合作，以帮助制定各国间可互操作的AI治理框架。
宣言的一个关键要素是整合了广岛进程先进AI系统开发组织国际行为准则。该准则在日本G7主席国任内制定，为开发先进AI系统的组织提供指导。宣言倡导与私营部门、学术界和民间社会合作开发以人为本的AI。
宣言强调需要在不同国家监管体系之间有效运作的治理方法，同时保持安全标准。它认识到AI技术跨越国界运作，有效的治理需要国际协调。
首尔推进AI安全部长级声明
在峰会部长级会议上，与会者通过了首尔部长级声明，这是一份呼吁改善AI技术安全性、创新性和包容性的联合声明。该声明由来自澳大利亚、加拿大、智利、法国、德国、印度、印度尼西亚、以色列、意大利、日本、肯尼亚、墨西哥、荷兰、尼日利亚、新西兰、菲律宾、韩国、卢旺达、沙特阿拉伯、新加坡、西班牙、瑞士、土耳其、乌克兰、阿拉伯联合酋长国、英国和美国的部长以及一位欧洲联盟代表通过。
部长级声明特别关注开发用于AI应用的低功耗芯片。这反映了对AI行业快速扩张所预期的大规模能源消耗的担忧。对节能硬件的重视承认了大规模AI部署所带来的环境和基础设施挑战。
与领导人宣言相比，部长级声明的更广泛参与表明国际社会对AI治理的共识不断扩大。来自非洲、中东、拉丁美洲和东南亚的国家加入了部长级声明，表明全球对AI安全问题的参与日益增加。
全球AI峰会系列
首尔峰会构成了一系列关于AI治理的国际会议的一部分。该系列始于2023年11月在英国举行的AI安全峰会，随后是2024年5月的AI首尔峰会。该系列的后续会议计划讨论AI治理和安全的不同方面。
这一系列代表了一种尝试，旨在建立关于AI问题的持续国际对话，而非一次性会议。从布莱切利到首尔的进展表明，关注点从纯粹的安全问题演变为涵盖创新和包容性的更广泛议程。
意义与影响
首尔AI峰会宣言通过将安全承诺与对AI潜在益处的认可相结合，标志着国际AI治理的重要一步。宣言对可互操作治理框架的强调承认了AI开发和部署的全球性。
峰会的成果反映了日益增长的共识，即AI治理既需要政府监管，也需要行业合作。主要AI公司与政府领导人一同参与，表明有效治理需要来自技术开发者和部署者的意见。
宣言对广岛进程行为准则的整合为开发先进AI系统的组织提供了具体框架。这代表了朝着落实在布莱切利峰会上以更一般性术语阐述的AI安全原则所取得的进展。
韩国AI安全中心的建立为致力于AI安全研究的国家机构日益增长的网络增添了一员。这些机构预计将为AI开发的国际标准和最佳实践的发展做出贡献。
参见
- 人工智能
- 韩国外交关系
- AI行动峰会
- AI影响峰会