LaMDA感知声明指的是2022年6月谷歌工程师布莱克·勒莫因声称LaMDA(对话应用语言模型),,谷歌开发的一种对话式大型语言模型,,已经具备了感知能力。勒莫因曾在谷歌的负责任人工智能部门工作,他基于与聊天机器人的互动得出了这一结论,而该聊天机器人产出了关于自我认同、道德价值观、宗教以及艾萨克·阿西莫夫机器人三定律的回答。这一声明遭到了科学界的广泛否定,但引发了公众关于机器意识本质以及图灵测试作为人工智能衡量标准有效性的广泛讨论。
LaMDA的背景
LaMDA起源于Meena,这是一个由谷歌于2020年1月28日推出的、拥有26亿参数的基于神经网络的聊天机器人。谷歌大脑研究团队开发了Meena,并声称其优于现有的聊天机器人。然而,公司高管以违反谷歌“关于安全与公平的人工智能原则”为由拒绝公开发布它。该模型后来更名为LaMDA,其数据和计算能力也随之增加。两位主要研究人员,,丹尼尔·德弗雷塔斯和诺姆·沙泽尔,,最终因对公司拒绝部署该技术感到失望而离开了谷歌。
第一代LaMDA于2021年5月18日在谷歌I/O主题演讲中发布。它基于seq2seq架构以及谷歌研究院于2017年开发的Transformer和神经网络构建,并使用了人类对话和故事进行训练。它整合了对符号文本处理系统的访问,包括数据库、实时时钟、数学计算器和翻译系统,使其成为首批采用双过程方法的聊天机器人之一。最大的LaMDA模型拥有1370亿个非嵌入参数,使用了1.56万亿个单词、来自29.7亿份文档、11.2亿段对话以及133.9亿个话语进行训练。
第二代LaMDA于2022年5月11日在谷歌I/O主题演讲中发布。该第二代模型从众多来源中提取示例,以生成关于它可能未经训练的主题的独特的“自然对话”。
勒莫因的声明与谷歌的回应
2022年6月11日,《华盛顿邮报》报道称,布莱克·勒莫因在告诉谷歌高管布莱斯·阿圭勒·阿卡斯和珍·詹纳伊LaMDA已经具备感知能力后,被安排带薪行政休假。勒莫因是在聊天机器人对自我认同、道德价值观、宗教以及阿西莫夫定律等问题做出可疑回答后得出这一结论的。谷歌驳斥了这些说法,称有大量证据表明LaMDA并不具备感知能力。
在接受《连线》杂志采访时,勒莫因重申LaMDA是“一个人”,并援引美国宪法第十三修正案,将其比作“一种源于地球的外星智能”。他透露,在聊天机器人提出要求后,他为其聘请了一名律师。2022年7月22日,谷歌解雇了勒莫因,称其违反了“保护产品信息”的政策,并驳斥他的说法“毫无根据”。这场内部争议促使谷歌高管决定不向公众发布LaMDA。
科学界的回应
勒莫因的声明遭到了专家们的广泛反驳。纽约大学前心理学教授加里·马库斯、谷歌DeepMind的大卫·普福、斯坦福大学人类中心人工智能研究所的埃里克·布林约尔松以及萨里大学的阿德里安·希尔顿都否定了LaMDA具有感知能力的观点。Meta Platforms的人工智能研究负责人扬·勒昆表示,像LaMDA这样的神经网络“还不够强大,无法获得真正的智能”。
加州大学圣克鲁兹分校的马克斯·克雷明斯基指出,LaMDA的架构并不“支持人类意识的一些关键能力”,而且其神经网络权重是“冻结的”,并假设它是一个典型的大型语言模型。哲学家尼克·博斯特罗姆承认,缺乏判定意识的精确标准确实带来了一些不确定性。IBM Watson首席开发者大卫·费鲁奇将LaMDA表面上的“人性”与Watson的早期行为进行了比较。前谷歌人工智能伦理学家蒂姆尼特·格布鲁称勒莫因是“炒作周期”的受害者,而这一周期是由研究人员和媒体推动的。
更广泛的影响与遗产
这场争议引发了关于图灵测试在衡量人工智能进展方面是否仍然有效的讨论。《华盛顿邮报》的威尔·奥默鲁斯认为,该测试实际上衡量的是机器系统能否欺骗人类,而《大西洋月刊》的布莱恩·克里斯蒂安则表示,这场争议是ELIZA效应的一个实例,即人们将人类般的理解力归因于简单的模式匹配系统。
2023年2月,谷歌发布了Gemini(当时名为Bard),这是一个由LaMDA驱动的对话式人工智能聊天机器人,旨在对抗OpenAI的ChatGPT。这场感知声明风波影响了关于人工智能意识、伦理以及大型语言模型负责任部署的持续辩论,尽管对于如何最终评估机器感知能力仍未达成共识。