《计算机力量与人类理性：从判断到计算》是计算机科学家约瑟夫·维森鲍姆于1976年出版的一本书。它是对人工智能（AI）及其对人类事务不加批判地应用计算思维的奠基性批判。维森鲍姆在20世纪60年代于麻省理工学院创建了ELIZA聊天机器人，他利用这本书论证，计算机虽然强大，但不能也不应取代人类的判断、同理心和道德责任。该书成为计算哲学领域的里程碑，并持续影响关于AI伦理和技术局限性的辩论。
这部作品源于维森鲍姆对AI研究方向幻灭的经历。他观察到，许多研究者将人类推理视为纯粹的信息处理任务，忽视了作为人类智能组成部分的情感、社会和伦理维度。他警告说，这种还原论观点可能导致社会在需要人类智慧的决策中（如医学、法律和战争）过度依赖计算机。
ELIZA效应与计算的局限性
维森鲍姆最著名的例子是ELIZA，一个通过将用户陈述改写为问题来模拟罗杰斯式心理治疗师的简单程序。尽管其简单，许多用户却对ELIZA产生情感依恋，将其视为真正的治疗师。这一现象后来被称为“ELIZA效应”，表明人们多么容易将计算机拟人化。维森鲍姆认为，这种倾向是危险的，因为它模糊了机器模式匹配与真正人类理解之间的根本区别。
他主张，计算机只能根据形式规则操作符号；它们缺乏把握意义、语境或意向性的能力。相比之下，人类推理嵌入在一个充满价值观、关系和身体经验的生活世界中。因此，无论算法多么复杂，计算机都无法真正理解人类问题或做出道德判断。
工具理性批判
维森鲍姆借鉴了工具理性的哲学概念，该概念将所有思维简化为对给定目的的有效手段计算。他认为，计算机体现了这种思维模式，其广泛采用鼓励人们将自己和他人视为待优化的对象。这导致了他所称的“工具理性帝国主义”，即人类问题被重新定义为技术问题，剥离了其伦理和政治维度。
他特别批评了计算机在军事和政府决策中的使用，例如核战争规划的自动化系统。他认为，这类应用使决策者和受影响人群都非人化，使灾难性选择看起来合理且不可避免。
科学家的责任
维森鲍姆强调计算机科学家的道德责任。他认为，研究者不能躲在工具中立性的背后；他们必须考虑其工作的社会后果。他著名地指出，有些任务无论技术上是否可行，都不应让计算机执行，因为这样做会损害人类尊严。
他批评AI社区的傲慢，特别是声称机器最终能复制所有人类认知能力的说法。他认为这是一种自我欺骗，忽视了人类生活中不可还原的主观和情感方面。相反，他呼吁对技术采取更谦逊和反思的态度，尊重计算的局限性。
遗产与当代相关性
《计算机力量与人类理性》在AI伦理、人机交互和技术哲学的讨论中被广泛引用。其对过度依赖算法危险的警告在大语言模型、生成式AI和机器学习时代引起强烈共鸣。例如，即使在医学或法律等领域，将AI输出视为权威的倾向也呼应了ELIZA效应。该书还预示了关于AI对齐、偏见和人类监督需求的辩论。
维森鲍姆对工具理性的批判现在已成为许多关于人工智能社会批判的核心，包括对监控、自动化和人类能动性侵蚀的担忧。他对技术专家道德责任的坚持反映在当代对AI伦理委员会和负责任AI发展的呼吁中。
尽管年代久远，这本书仍然是那些质疑“更多计算能力总是带来更好结果”假设的人们的试金石。它挑战读者思考，在一个日益由机器塑造的世界中，成为人类意味着什么。