约瑟夫·魏岑鲍姆(1923年-2008年)是一位德裔美国计算机科学家,任职于麻省理工学院,他以开发ELIZA而闻名,这是1966年最早出现的聊天机器人程序之一,此后他又成为人工智能领域最著名的早期批评者之一。
ELIZA
魏岑鲍姆构建ELIZA,旨在演示自然语言模式匹配,其中最著名的脚本名为DOCTOR,模拟了罗杰斯式心理治疗师,通过将用户的陈述以提问形式反馈回去。ELIZA仅使用简单的关键词匹配和模板化回应,并不具备任何理解能力,然而魏岑鲍姆惊讶地发现,他自己的秘书及其他用户竟将理解和共情归因于该程序,甚至请求单独与它相处。他将这种倾向--即用户过度解读脚本化程序的智能--称为“ELIZA效应”,这一现象至今仍被引用,每当用户对待现代聊天机器人或大型语言模型时,仿佛它们比其机制所实际具备的更具理解力或感知力。
转向批评
魏岑鲍姆对人们--包括一些计算机科学家--轻易将真正的智能和判断力归因于ELIZA感到不安,因此他对人工智能领域的雄心日益持批判态度。他在1975年出版的著作《计算机权力与人类理性:从判断到计算》中主张,计算机能够被技术性地用于做什么,与它们应当被委托做什么之间存在根本区别,尤其是在需要智慧、同情或道德判断的领域,例如心理治疗、司法量刑或军事指挥。他区分了“决定”(deciding)--即在选项中进行计算性选择--与“抉择”(choosing)--后者需要人类价值观,而机器无法具备。
反响与遗产
魏岑鲍姆的批评使他与人工智能研究界的部分成员产生分歧,其中包括他在麻省理工学院的同事,如马文·明斯基;他有时被指责为背叛了该领域,尽管他仍继续在计算机科学内部工作。他的警告预示了后来关于人工智能伦理和人工智能安全的辩论,涉及在缺乏充分人类监督的情况下于高风险领域部署系统的问题。ELIZA效应至今仍是讨论用户对对话式人工智能信任度以及对其理解力过度归因时的标准参考点。ELIZA本身也被广泛视为对话式人工智能谱系的先驱,这一谱系延续至后来的系统,如ChatGPT,尽管其底层方法与现代系统的统计训练毫无相似之处。