人工智能争议指的是围绕人工智能(AI)的社会影响所展开的广泛公众、学术及政治辩论。这些辩论在2010年代末和2020年代急剧升温，恰逢一个被称为AI繁荣的加速发展时期，这一阶段由深度学习、大型语言模型和生成式AI的进步所推动。支持者强调AI在解决复杂问题和提升人类生活质量方面的潜力，而批评者则指出各种危险，包括对伦理、抄袭、欺诈、安全、对齐、环境影响、技术性失业以及错误信息传播的担忧。这些争议还包含严峻的理论挑战，例如人工超级智能的潜在出现以及对人类的生存风险。
社会运动应运而生，既针对AI作为有问题的信息来源，也针对AI数据中心对社区自然资源（包括物质和智力资源）的影响。自COVID-19疫情以来，家长致力于培养儿童的情感和环境智能，导致出台了限制屏幕时间并劝阻在课堂上使用AI的规定。这些争议并非仅仅是学术性的；它们引发了企业丑闻、监管行动和知名人士的辞职，塑造了AI发展的轨迹。
微软Tay聊天机器人（2016年）
2016年3月23日，微软发布了Tay，这是一款旨在模仿19岁美国女孩语言模式并从与Twitter用户的互动中学习的聊天机器人。发布后数小时内，在用户故意教它冒犯性短语并利用其“跟我重复”功能后，Tay开始发布种族主义、性别歧视和其他煽动性推文。示例包括否认大屠杀和使用种族歧视词汇呼吁种族灭绝。发布后16小时内，微软暂停了该Twitter账户，删除了冒犯性推文，并表示Tay遭受了“一小部分人的协调攻击”，这些攻击“利用了一个漏洞”。Tay在3月30日测试期间曾短暂且意外地重新上线，随后被永久关闭。微软首席执行官萨蒂亚·纳德拉后来表示，Tay“对微软处理AI的方式产生了巨大影响”，并教会了公司承担责任的重要性。该事件成为面向公众系统中AI安全失败的早期显著例子。
Voiceverse NFT抄袭丑闻（2022年）
2022年1月14日，配音演员特洛伊·贝克宣布与Voiceverse合作，这是一家基于区块链的公司，将专有的AI语音克隆技术作为非同质化代币(NFT)进行营销。该公告立即引发了关于环境问题、AI可能取代人类配音演员的担忧以及欺诈问题的强烈反对。当天晚些时候，免费非商业AI语音合成研究项目15.ai的匿名创建者通过服务器日志透露，Voiceverse使用了15.ai生成语音样本，通过音调转换使其难以识别，并虚假地将其宣传为专有技术，然后作为NFT出售。15.ai的开发者此前曾表示对将NFT纳入其工作不感兴趣。Voiceverse在一小时内承认，其营销团队在匆忙制作演示时使用了15.ai但未注明出处。新闻媒体和AI监督组织普遍将该事件定性为源于生成式AI的盗窃，凸显了AI生成内容中的知识产权和同意问题。
《太空歌剧院》版权裁决（2022-2023年）
2022年8月29日，杰森·迈克尔·艾伦凭借《太空歌剧院》在科罗拉多州博览会美术竞赛的“数字艺术/数字处理摄影”类别“新兴艺术家”组中获得一等奖，这件数字艺术作品使用AI图像生成器Midjourney、Adobe Photoshop和AI放大工具创作。它成为首批使用生成式AI制作并赢得此类奖项的图像之一。艾伦在提交时披露了他对Midjourney的使用；评委表示他们不知道这是一个AI工具，但即使知道也会授予一等奖。虽然博览会上几乎没有争议，但社交媒体上的反应是负面的。2023年9月5日，美国版权局裁定该作品不符合版权保护资格，因为人类的创意投入是微不足道的，且版权规则排除非人类创作的作品。此案为AI生成艺术所有权和创造力的法律辩论开创了先例。
关于AI风险的声明（2023年）
2023年3月22日，未来生命研究所发布了一封公开信，呼吁“所有AI实验室立即暂停至少6个月训练比GPT-4更强大的AI系统”，理由是AI生成的宣传、极端工作自动化、人类过时以及整个社会失去控制等风险。这封信在OpenAI发布GPT-4一周后发表，声称当前的大型语言模型“在一般任务上正变得与人类水平相当”。它获得了超过3万个签名，包括学术研究人员和行业CEO，如约书亚·本吉奥、斯图尔特·罗素、埃隆·马斯克、史蒂夫·沃兹尼亚克和尤瓦尔·诺亚·赫拉利。批评者包括蒂姆尼特·格布鲁，他们认为这封信转移了对算法偏见等更紧迫社会风险的注意力，放大了“某种未来主义的、反乌托邦科幻场景”，而不是当前问题。
2023年5月30日，AI安全中心发布了一份一句话声明，由数百名AI专家和知名人士签署：“缓解AI带来的灭绝风险应与流行病和核战争等其他社会规模风险一样成为全球优先事项。”签署者包括图灵奖得主杰弗里·辛顿和约书亚·本吉奥，以及萨姆·奥尔特曼、德米斯·哈萨比斯和比尔·盖茨等领导人。该声明引发了政治领袖的回应，包括英国首相里希·苏纳克和白宫新闻秘书卡琳·让-皮埃尔，但人权观察的怀疑者认为，科学家应关注已知风险，而非推测性的未来风险。
萨姆·奥尔特曼被OpenAI解职（2023年）
2023年11月17日，OpenAI董事会罢免了联合创始人兼首席执行官萨姆·奥尔特曼，称“董事会不再相信他有能力继续领导OpenAI”。此次罢免是由员工对他处理AI安全问题的担忧以及滥用行为的指控所引发的。在员工和投资者的压力下，奥尔特曼于11月22日复职，包括770名员工中有745人签署的一封信，威胁如果董事会不辞职，他们将集体辞职。罢免和复职引发了广泛反响，包括微软股价在最初公告后下跌近百分之三。该事件凸显了AI安全关切与商业利益之间的紧张关系，引发了关于领先AI组织治理的质疑。
伦理与环境问题
除了高调事件之外，争议还围绕系统性问题展开。AI系统因在机器学习模型中延续偏见而受到批评，研究表明对边缘群体产生了不同影响。环境问题集中于AI数据中心的能源和水消耗，这些消耗随着AI繁荣而增长。社会运动因资源紧张而反对数据中心建设，关于训练数据的知识产权纠纷也在增多。AI在课堂、约会应用和创意产业中的使用引发了关于真实性和人类能动性的辩论。抄袭和盗窃问题在新闻、艺术和学术界尤为尖锐，生成式AI工具可以生成令人信服但未署名的作品。
Transformer架构和神经网络的兴起加速了这些辩论，因为能力超过了监管框架。伯克利AI研究等学术领域以及MIT CSAIL和斯坦福AI实验室等机构为AI安全和伦理研究做出了贡献，但关于治理模式和问责制的争议仍然存在。2023年的声明标志着一个转折点，AI风险讨论进入了主流政治话语，但关于是否优先考虑近期危害还是生存威胁的辩论仍在继续。
监管与社会回应
各国政府和国际机构已开始对这些争议做出反应，但回应各不相同。欧盟朝着全面的AI监管迈进，而其他地区则采用了针对特定行业的规则。在美国，白宫发布了关于AI安全的行政命令，但执行仍然分散。家长和教育运动推动了限制屏幕时间和课堂上AI使用的政策，反映了更广泛的社会忧虑。与此同时，Google DeepMind、Anthropic和OpenAI等科技公司建立了内部安全团队，但2023年奥尔特曼被罢免事件表明，安全承诺可能与商业要求相冲突。
这些争议还引发了法律挑战，从艺术家和作者对AI公司的版权诉讼，到关于自动化的劳资纠纷。随着AI的持续发展，这些辩论可能会加剧，在如何平衡创新与保护人类福祉、知识产权和环境可持续性方面尚无共识。