《首尔宣言》是一项正式承诺，于2024年5月举行的AI首尔峰会上通过，该峰会由韩国和英国政府共同主办。宣言应对了人工智能技术带来的挑战与机遇，并在此前如《布莱切利宣言》等国际努力的基础上进一步推进。它代表了参与国之间形成的共识，即通过加强全球合作和建立可互操作的治理框架，促进安全、创新和包容性的AI发展。
该宣言由来自欧盟、美国、英国、澳大利亚、加拿大、德国、法国、意大利、日本、韩国和新加坡的领导人签署。其通过标志着国际AI政策格局演变中的重要一步，超越了仅仅认识风险的层面，转向对协作治理的具体承诺。
背景
AI首尔峰会是继2023年11月在英国举行的AI安全峰会之后，第二次专门讨论AI安全的重大国际会议。在早先的布莱切利公园会议上，参与国已同意优先识别共同关切的AI安全风险。首尔峰会在这一基础上进一步推进，领导人还认识到AI对经济增长、科学进步和社会福祉的更广泛重要性。
此次峰会的背景是生成式AI和大语言模型技术的快速发展。诸如OpenAI、Google DeepMind和Anthropic等公司已发布能力日益强大的系统，促使各国政府加快建立防护措施。《布莱切利宣言》确立了初步框架，但《首尔宣言》试图通过更具体的承诺将这些原则付诸实施。
主要与会者
峰会由七国集团国家的领导人出席，包括美国、加拿大、法国和德国，以及韩国、新加坡和澳大利亚。来自联合国、经济合作与发展组织和欧盟等国际组织的代表也参与了会议。
行业代表阵容强大，反映了技术与政策日益交织的趋势。 notable与会者包括特斯拉首席执行官埃隆·马斯克、三星电子董事长李在镕，以及来自OpenAI、谷歌、微软、Meta和韩国领先门户运营商Naver的代表。这些科技领袖的出席凸显了私营部门参与塑造AI治理的重要性。
韩国AI安全中心
峰会的一项关键成果是韩国承诺建立国内AI安全研究中心。科学技术部长李宗昊宣布，韩国计划于2024年开设AI安全研究所，使该国成为全球AI安全生态系统中的重要参与者。
该举措包括计划加入一个由类似机构组成的国际网络，促进AI安全挑战方面的信息共享和协作研究。李宗昊还表示，韩国打算加强合作以制定国际标准，认识到跨边界协调技术规范的必要性。
此举反映了各国为AI安全研究设立专门机构的更广泛趋势。建立此类中心被视为发展评估和缓解先进AI系统相关风险所需技术专长的关键。
关于安全、创新和包容性AI的首尔宣言
《关于安全、创新和包容性AI的首尔宣言》是峰会的主要成果文件。它由代表欧盟、美国、英国、澳大利亚、加拿大、德国、法国、意大利、日本、韩国和新加坡的领导人通过。宣言承诺签署国促进国际合作，以帮助制定各国之间可互操作的AI治理框架。
宣言的一个重要元素是其整合了《广岛进程先进AI系统开发组织国际行为准则》。该准则在日本担任七国集团主席国期间制定，为开发先进AI系统的组织提供指导，涵盖风险管理、透明度和问责制等领域。
宣言倡导发展以人为本的AI，强调与私营部门、学术界和民间社会的合作。这种多利益相关方方法认识到，有效的AI治理需要来自多样化行为者的投入，而不仅仅是政府。
《首尔宣言》还涉及创新的必要性，承认过于严格的监管可能扼杀AI的有益应用。政策制定者面临的挑战是创建既能防范危害又能允许持续技术进步的框架。
关于推进AI安全的首尔部长级声明
除了领导人宣言外，峰会还产生了关于推进AI安全的《首尔部长级声明》。该联合声明由来自更广泛国家集团的部长通过，包括澳大利亚、加拿大、智利、法国、德国、印度、印度尼西亚、以色列、意大利、日本、肯尼亚、墨西哥、荷兰、尼日利亚、新西兰、菲律宾、韩国、卢旺达、沙特阿拉伯、新加坡、西班牙、瑞士、土耳其、乌克兰、阿拉伯联合酋长国、英国和美国，以及欧盟的一位代表。
部长级声明呼吁改善AI技术的安全性、创新性和包容性。它包含一项 notable承诺，即开发低功耗芯片，认识到AI行业的快速扩张将导致巨大的能源消耗。这种对能源效率的关注反映了对训练和运行大型AI模型环境影响日益增长的担忧。
部长级声明的更广泛参与表明AI治理努力的全球影响力，超越了传统西方盟友，扩展到非洲、中东和亚洲的国家。这种包容性被视为确保AI利益在全球公平分享的关键。
全球AI峰会系列
AI首尔峰会是致力于AI治理的持续国际会议系列的一部分。该系列始于2023年11月在英国布莱切利公园举行的AI安全峰会，并于2024年5月继续举行首尔峰会。后续会议计划进一步制定AI治理的国际框架。
该系列代表了一种新型国际外交形式，应对一种远比传统监管流程演变更快的技术。这些峰会为各国政府提供了一个论坛，以分享知识、协调方法，并就复杂的技术和伦理问题建立共识。
该系列还反映了日益增长的认识，即AI是一个需要协调应对的全球性问题。鉴于AI开发和部署的国际性质，任何单一国家都无法孤立地有效监管AI。
参见
- 人工智能
- 韩国外交关系
- AI行动峰会
- AI影响峰会
参考文献
本文内容基于《首尔宣言》及2024年AI首尔峰会的相关文件，以及参与政府和组织的官方声明。