AI效应是一种反复出现的现象,即人工智能的进步导致人们对智能的定义不断重新界定,使得人工智能系统已实现的能力不再被视为“真正”智能的例证。当机器掌握了曾被认为需要人类智慧的任务时,这些任务通常会被重新归类为常规计算或并入其他领域,而“智能”这一标签则留给尚未解决的问题。这个概念曾被用来描述一种认知倾向,以及一种塑造公众认知和该领域历史的“社会技术模式”。
历史学家帕梅拉·麦科达克在她2004年的著作《机器能思考》中将此描述为一个“奇怪的悖论”,指出一旦某个问题得到解决,它就不再被视为智能的证据。研究员罗德尼·布鲁克斯在2002年也观察到,一旦系统被理解,它们通常就被视为“仅仅是计算”。这种倾向导致了一种流行的说法,有时归功于泰斯勒定理,即“人工智能就是还没做到的事情”。
定义
AI效应指的是随着机器获得新能力,人们对智能的定义所发生的转变。下棋、语音识别或图像解读等任务在历史上曾被视为智能的指标,但在成功自动化后,它们通常被重新归类为普通的工程成就。这种现象常被解读为“移动球门柱”的一个例子,即“真正”智能的门槛不断被调整,以排除机器已经能做到的事情。
这种重新归类不仅影响公众话语,也影响科学术语。当一个问题尚未完全形式化时,研究人员可能会用涉及人类计算的模型来描述它,例如人类辅助的图灵机,这凸显了人类与机器能力之间的概念边界。因此,AI效应为该领域创造了一个移动的目标,因为每一次成功都削弱了该成就被视为重要的程度。
历史例子
游戏对弈
早期能够下跳棋和象棋的人工智能系统最初被视为机器智能的展示。然而,随着这些系统的改进和更深入的理解,它们的成就常常被重新解释为计算的例子,而不是智能。IBM的深蓝在1997年战胜加里·卡斯帕罗夫是一个经常被引用的例子,批评者认为该系统依赖于蛮力方法而非真正的理解。类似的模式也出现在更早的跳棋程序中,这些程序最初被当作里程碑来庆祝,后来却被贬为仅仅是算法执行。
模式识别
诸如光学字符识别和语音识别等技术曾被视为人工智能的核心问题。随着这些系统变得可靠并被广泛部署,它们越来越被当作标准的工程解决方案,而不是机器智能的展示。这种转变反映了一个更广泛的模式,即成功的人工智能技术被纳入模式识别应用和其他领域,失去了与人工智能标签的关联。
并入应用
许多最初在人工智能研究中开发的技术已被整合到更广泛的技术系统中,包括市场营销、自动化和软件应用。迈克尔·斯温在2007年报道指出,人工智能的进步常常被呈现为其他领域的发展。马文·明斯基观察到,成功的人工智能创新常常演变为独立的学科,而尼克·博斯特罗姆在2006年指出,被广泛采用的技术往往不再被标记为人工智能。这种整合助长了这样一种观念,即人工智能永远是一个未来的承诺,而不是当前的现实。
当代讨论
AI效应在近期机器学习进展的背景下继续被讨论,尤其是大型语言模型和其他生成式人工智能系统。随着这些系统的广泛使用,一些研究人员和评论者指出,它们的能力一旦被理解,就常常被描述为统计学或机械性的,而非智能。例如,工作流中人类和人工智能行动的不同组合可以被视为“增强智能”,而在各种增强组合中的特定权重应被用来为这些工作流定义上下文相关的伦理和实际考量。
2016年的一项人工智能调查也指出,人工智能系统越来越嵌入日常应用中,这强化了早期观察,即成功的人工智能技术往往被正常化,不再被视为人工智能。与此同时,人工智能的广泛商业使用使得该领域更加可见,这与早期人工智能技术常常存在但未被承认的时期形成对比。这种二元性,,同时被正常化和被凸显,,使关于AI效应的简单叙述变得更加复杂。
解读
认知偏差
一些作者将AI效应描述为一种认知偏差,即随着机器获得新能力,人们对智能的期望也会转变。在这种观点下,人类倾向于贬低任何其内部运作已知的系统的智能,这种倾向可能源于一种保持人类独特性的感知需求。
社会技术视角
另一种解读强调技术随着时间推移被重新分类的过程,因为技术变得普遍且商业上成功。这一视角突出了经济因素、制度实践和公众话语在塑造什么被标记为人工智能方面的作用,表明AI效应不仅仅是心理怪癖,而是技术领域如何演进的一个特征。
哲学辩论
一些哲学家认为,重新分类反映了真正的概念区别,而非偏见。他们主张,随着系统变得形式化和可预测,将它们视为计算是适当的,而将“智能”保留给那些仍然神秘或定义不清的能力。这种观点将AI效应与心灵哲学中的更广泛问题联系起来,如中文房间思想实验和关于心理状态的功能主义解释。
历史背景
在诸如人工智能寒冬等时期,研究人员有时会因负面看法和资金困难而避免使用“人工智能”一词。这种回避助长了AI效应,因为成功的工作常常被重新命名为其他名称以摆脱污名。然而,在21世纪,术语“AI”在公众话语和营销中被广泛使用,部分由像OpenAI、Anthropic和Google DeepMind这样的公司的商业成功所驱动。这种转变使AI效应更加明显,因为公众对智能的期望和定义不断受到争论。
更广泛的影响
AI效应与关于人类独特性和智能本质的更广泛问题有关。迈克尔·卡恩斯提出,人们可能寻求保持人类的特殊角色,这促使他们不断重新定义智能以排除机器成就。在动物认知研究中观察到类似模式,即一旦一种行为被机械地解释,它往往被认为认知上不那么复杂。赫伯特·A·西蒙指出,人工智能可以引发强烈的情感反应,反映了智能和能动性问题中涉及的深刻利害关系。
这一现象对人工智能研究和政策也有实际后果。它可以影响研究优先级的设定、成就的传播方式以及公众对人工智能理解的发展。认识到AI效应可以帮助研究人员预测怀疑态度,并更有效地传达其工作的意义。
相关现象
AI效应与几个其他概念密切相关。ELIZA效应描述了将更多理解归于系统的倾向,这可以被视为AI效应的反面。莫拉维克悖论指出,高层次推理需要很少的计算,而低层次的感知运动技能需要巨大的计算资源,这使人们对哪些任务是“困难”的直觉变得复杂。心灵哲学提供了额外的框架,如中文房间和功能主义,这些框架涉及什么算作智能。在神学语境中,“空缺之神”论证同样将未解释的东西重新定义为神的领域,呼应了移动球门柱的模式。这些联系表明,AI效应是更广泛认知和文化倾向的一种表现。
参见
- ELIZA效应
- 莫拉维克悖论
- 中文房间
- 功能主义(心灵哲学)
- 计算智能
- 电子游戏中的人工智能
- 空缺之神
- 类器官智能