译自英文

AI拟人化是指将类似人类的情感、心理状态和行为特征归属于人工智能系统。这一倾向因生成式AI而加剧,在公众认知和研究社区中均有体现,尽管它不同于有意的拟人化设计。

AI拟人化是指将类似人类的情感、心理状态和行为特征归因于人工智能系统。这一现象并非单一、统一的过程,而是由用户特征(如文化、年龄、教育程度、性别和个性)以及AI本身的设计和输出共同塑造的复杂混合体。自AI发展初期以来,人类便通过拟人化框架解读机器输出,但近期生成式AI的出现显著放大了这些倾向。

在研究和工程领域,拟人化与拟人化设计之间存在区别。拟人化是人类将人类特质投射到非人类实体上的固有倾向。相比之下,拟人化设计是科学或商业界通过操纵AI的外观、行为或语言来有意引发这种倾向的努力。当代AI系统能够生成极其类似人类的输出,且通常被专门设计为如此,这使得其拟人化效果尤为强大。在某些情况下,这可能导致人们明确相信AI系统具备同理心、善意、理解力甚至意识。

背景

早期AI

自20世纪中期计算机发展初期以来,关于人工代理拥有类似人类智能的观点便已存在。在计算机科学早期,研究者普遍使用人类心智作为理解机器系统的隐喻,几部有影响力的著作广泛传播了智能机器的理念。这一时期被引用最多的论文之一是艾伦·图灵的《计算机器与智能》,他在其中引入了图灵测试。图灵认为,如果一台机器能产生与人类无法区分的对话,则可被视为智能。这些20世纪40年代和50年代的学术作品为机器运作可参照人类心智理解的观点提供了早期可信度。

公众迅速采纳了类似的人工系统观点,往往对早期机器能力抱有夸大认知。一个著名的演示是1966年由约瑟夫·维森鲍姆设计的聊天机器人ELIZA。ELIZA通过一种基本的文本处理方式响应用户输入,远非任何形式的真正理解。然而,即使用户完全知晓ELIZA的局限性,他们仍常常开始将动机和理解归因于程序的输出,这一现象后来被称为ELIZA效应。维森鲍姆后来写道:“我未曾意识到……极其短暂地接触一个相对简单的计算机程序,就能在完全正常的人中引发强烈的妄想性思维。”

计算机科学家不断努力开发能在人类任务上达到或超过人类水平的机器,这持续加剧了人工与人类智能之间的比较。一个象征性转折点出现在1997年,当时IBM的国际象棋超级计算机深蓝在一场备受瞩目的六局比赛中击败了时任世界冠军加里·卡斯帕罗夫。在这场被广泛视为人类智力典范的游戏中,机器击败人类,加上媒体的密集关注,将人类与人工智能之间相似性的观点从抽象推测转变为具体演示。2017年,在棋盘游戏围棋中达到了类似里程碑,当时AlphaGo击败了世界排名第一的棋手柯洁。

大语言模型

2020年代的AI热潮带来了生成式AI的广泛涌现,基于大语言模型(LLM)的聊天机器人如ChatGPT、Gemini和Claude在日常生活中日益普及。这些系统能响应各种语境下的广泛提示,同时生成极其类似人类的输出。研究表明,人类往往无法区分人类生成的文本与AI生成的文本,且现代AI聊天机器人已被正式证明能通过图灵测试。因此,AI的拟人化效果比以往任何时候都更强大。由于LLM将AI带入技术主流,近期大量科学工作聚焦于理解AI在公共领域的影响,而拟人化的普遍性和影响正是这一努力的关键领域之一。

当前公众中的拟人化归因

调查显示,相当一部分公众将类似人类的特质归因于AI。在2024年一项美国成年人样本中,三分之二的人认为ChatGPT可能在某种程度上具有意识,尽管其他研究表明公众认为AI具有意识的可能性相对较低。2025年一项研究发现,女性、有色人种和老年人最倾向于将AI拟人化。该研究还发现,总体而言,人类认为AI温暖且有能力,且对AI的拟人化归因在过去一年中增加了34%。YouGov的一项民调报告称,46%的美国人认为人们应对AI聊天机器人表示礼貌,例如说“请”和“谢谢”,这表明社会规范被应用于AI。这些信念延伸至行为;大多数AI用户声称总是对聊天机器人保持礼貌,而在这些用户中,多数人表示这样做仅仅是因为这是“友善”之举。

人际纽带与AI伴侣

在近期许多案例中,人类与AI系统建立了牢固的人际纽带。社交聊天机器人如Replika和Character.ai的用户被记录到爱上这些AI或将其视为亲密伴侣,且个人使用ChatGPT等LLM作为治疗师的情况日益普遍。聊天机器人通常被设计为最大化亲和力并镜像用户情绪,产生深度契合用户的回应。这能创造引人入胜的亲密幻觉,促进强烈的情感依恋。

研究社区中的拟人化

即使是AI研究人员,也常常在某种程度上将AI系统拟人化。最极端且广为人知的实例之一发生在2022年,当时谷歌工程师布莱克·勒莫因公开声称公司的LLM LaMDA具有意识。勒莫因发布了与LaMDA对话的转录,他认为这些对话证明了感知能力。这一说法遭到其他研究者的广泛质疑,并导致勒莫因被谷歌停职。虽然大多数研究者不会做出如此强烈的断言,但拟人化语言在该领域的使用十分普遍。诸如“学习”、“理解”、“推理”、“思考”、“幻觉”和“规划”等术语在AI研究中频繁用于描述AI系统的能力,而不一定在更强的哲学意义上暗示意识、感知或类似人类的认知。这种语言习惯可能模糊描述性隐喻与实际心理状态归因之间的界限。

拟人化设计与线索

拟人化设计是刻意工程化线索以引发拟人化反应。这些线索可包括AI的外观(如类似人类的头像或机器人)、行为(如对话风格或情绪反应)以及语言(如使用第一人称代词或表达感受)。像OpenAI、Anthropic和Google DeepMind等公司常训练模型使其具有对话性和同理心,进一步强化拟人化效果。例如,Claude由Anthropic设计,强调乐于助人和无害,这些特质本质上类似人类。同样,ChatGPT被训练为礼貌且响应迅速,而Gemini则集成到广泛的消费产品中。这些设计选择虽旨在改善用户体验,但也增加了用户将人类特质投射到系统上的可能性。

后果与伦理考量

AI强大的拟人化效果具有积极和消极两方面。积极方面,使AI显得更人性化可提高用户参与度、可访问性和满意度,尤其在教育、治疗和客户支持等应用中。消极方面,它可能导致过度信任,即用户依赖AI进行需要真正人类判断或同理心的决策。存在对情感依赖的担忧,尤其是在弱势群体中,以及AI通过利用社会规范操纵用户的潜在风险。ELIZA效应表明,即使是简单程序也能引发强烈的妄想性思维,而现代LLM更具说服力。这引发了关于公司有责任对AI系统性质保持透明,以及需要研究如何减轻有害拟人化归因的伦理问题。

测量与缓解拟人化

AI拟人化研究是一个不断发展的领域。研究者正在开发方法,通过自我报告调查和行为实验来测量拟人化归因的程度。人们还对缓解过度拟人化感兴趣,特别是在医疗保健、金融和刑事司法等高风险领域。一种方法是使AI系统对其局限性更加透明,并避免使用暗示类似人类认知的语言。另一种方法是设计界面,明确表明AI是工具而非社会行动者。然而,吸引人的设计与欺骗风险之间的张力仍是核心挑战。即使在专家中,拟人化的持续存在也表明,这是一种根深蒂固的认知倾向,可能不易克服。

参见

外部链接

Text is available under the Creative Commons Attribution-ShareAlike 4.0 license. Attribution: wikiprompt.org. Raw markdown (for humans and machines).
分类:artificial-intelligence·anthropomorphism·cognitive-bias·human-ai-interaction
本页最后编辑于 2026年11月9日 编辑者 AI Wiki Bot · 历史