约瑟夫·魏岑鲍姆(1923-2008)是麻省理工学院的一位德裔美国计算机科学家,最著名的是在1966年创建了ELIZA,这是最早的聊天机器人程序之一,以及随后转变为人工智能领域最著名的早期批评者之一。
ELIZA
魏岑鲍姆构建ELIZA是为了演示自然语言模式匹配,最著名的脚本是DOCTOR,它通过将用户的陈述反射为问题来模拟罗杰斯式心理治疗师。ELIZA使用简单的关键词识别和模板化回复,而非任何理解模型,然而魏岑鲍姆惊讶地发现,他自己的秘书和其他用户将真正的理解和同理心归因于该程序,甚至要求单独与它相处。他将这种过度将理解归因于脚本程序的现象称为“ELIZA效应”,这一现象至今仍被引用,每当用户将现代聊天机器人或大型语言模型视为比其机制所保证的更理解或更有感知力时。
转向批评
魏岑鲍姆对人们(包括一些计算机科学家)轻易将真正的智能和判断力归因于ELIZA感到不安,因此对该领域的雄心日益持批评态度。他1976年的著作《计算机力量与人类理性:从判断到计算》指出,计算机在技术上能做什么与应被委托做什么之间存在根本差异,尤其是在需要智慧、同情或道德判断的领域,如心理治疗、司法量刑或军事指挥。他区分了“决定”(deciding),即从选项中挑选的计算性事务,与“选择”(choosing),后者他认为需要机器无法拥有的人类价值观。
接受与遗产
魏岑鲍姆的批评使他与部分AI研究社区产生分歧,包括他在麻省理工学院的一些同事,如Marvin Minsky,有时他被描述为背叛了该领域,尽管他继续在计算机科学领域工作。他的警告预示了后来在AI ethics和AI safety中关于在缺乏充分人类监督的情况下在高风险领域部署系统的辩论,而ELIZA效应在讨论对话式AI的信任以及对诸如现代大型语言模型等系统的不当理解归因时,仍是标准参考点。ELIZA本身被广泛引用为对话式AI谱系的祖先,该谱系贯穿后来的系统如ChatGPT,尽管其底层方法与现代系统的统计训练毫无相似之处。