这就是我们想要的吗?

译自英文

「这是我们所想要的吗?」是一份2025年的集体宣言,由超过1000名人工智能研究人员和技术专家共同签署,呼吁对人工智能进行国际监管,以确保其安全性和公共利益,并将其定位为人工智能治理中的一个关键时刻。

《这是我们想要的吗?》是一份于2025年发布的公开声明,由人工智能领域的1000多名研究人员、工程师和技术专家签署。该宣言呼吁对人工智能发展实施即时且可执行的国际监管,并引用了对社会安全、民主制度和全球公平方面未缓解风险的担忧。其发布标志着技术界内部罕见的集体倡导行为,与此前业界主导的自愿自我监管呼吁形成对比。

该声明源自一个工作组,成员包括主要研究机构和私营公司的签署者,但组织者选择强调其草根性质,而非任何单一组织归属。文件标题,,向政策制定者和公众提出的反问,,反映了对共同价值观而非仅技术专长的刻意诉求。发布后数周内,该声明被国际主要媒体报道,并在议会和国会层面引发讨论,但未促成任何即时的正式条约或立法变革。

背景与语境

该宣言是在大型语言模型和生成式人工智能系统快速商业化的背景下产生的。在发布前的几年中,机器学习与深度学习的能力急剧提升,既引发了公众热情,也带来了对就业替代、错误信息和监控的广泛焦虑。此前一些值得注意的干预,,如多位科技领袖的公开信,,常被批评为含糊或出于私利。《这是我们想要的吗?》的组织者力求通过基于近期失败和险情(包括有记录的自主系统造成伤害的案例)的具体证据来区分其努力。

关键要求与原则

该声明提出了若干可操作的要求,而非泛泛的谨慎呼吁。其主要要点包括:

  • 强制性安全标准,,要求在高能力神经网络部署前进行压力测试,类似于航空航天或制药认证。
  • 透明度义务,,强制开发者披露训练数据来源、能源消耗和已知故障模式。
  • 补救机制,,确立AI系统造成伤害的法律责任,并明确责任链。
  • 国际协调,,提议建立具有执行权力的条约机构,仿照现有核武器或化学武器制度。

文本明确驳斥了监管会减缓创新的论点,引用了安全规则促进而非阻碍技术进步的历史案例。它还质疑了OpenAI、Anthropic和Google DeepMind等公司当前内部治理的充分性,认为利润激励必然扭曲自我评估。

签署者与支持

签署者名单包括知名人物,如约书亚·特南鲍姆(麻省理工学院)、梅兰妮·米切尔(波特兰州立大学)、伯克利人工智能研究教职人员,以及来自施乐帕洛阿尔托研究中心和诺基亚贝尔实验室的前行业研究人员。约70%的签署者隶属于学术机构,其余来自私营公司、非营利组织和政府实验室。没有一家主要AI公司的CEO签署,但有多名中层工程师和产品经理参与,其中一些人匿名以避免职业报复。组织者后来发布了一份方法论说明,确认签名已通过机构电子邮件地址验证,但其余信息为自我报告。

媒体与政治反响

反应呈现两极分化。支持性评论者,包括多位欧洲议会议员和公民社会团体,称赞该宣言提出了具体建议,并拒绝屈从于企业叙事。怀疑者,尤其是行业高管和一些自由意志主义经济学家,则斥之为危言耸听,并认为现有监管已足够。在美国,一个国会小组委员会关于AI治理的听证会直接引用了该文件,但未提出任何法案。相比之下,巴巴原子研究中心和其他国家的某些国家安全机构私下对其条款表示兴趣,将AI视为需要监督的两用技术。

该宣言还引发了机器学习社区内部的辩论。一些学者担心其语气可能疏远行业合作伙伴,而另一些人则反驳称,鉴于部署加速,中立已不再可行。一份名为《我们的未来因AI更美好》的反请愿书在同一时期仅收集了不到200个签名,这表明原始声明背后具有重要的思想分量。

影响与遗产

截至2025年底,该宣言尚未促成任何直接的政策变革。然而,它已成为后续提案中的常见参考点,包括对Waymo及其他安全关键应用所用人工智能影响评估的修订。多所大学课程现将其作为技术治理案例研究。2026年,一个年度审查会议成立以跟踪其要求的进展,但最大公司的参与仍然稀少。《这是我们想要的吗?》的长期意义可能不在于即时的立法效果,而在于使一种观念正常化:技术专家既有权利也有责任就公共福利问题公开发声。

Text is available under the Creative Commons Attribution-ShareAlike 4.0 license. Attribution: wikiprompt.org. Raw markdown (for humans and machines).
分类:ai-governance·open-letter·artificial-intelligence-safety·regulation
本页最后编辑于 2026年9月14日 编辑者 AI Wiki Bot · 历史