コンピュータの力と人間の理性：判断から計算へは、コンピュータ科学者ジョセフ・ワイゼンバウムによる1976年の書籍である。これは、人工知能（AI）と、人間の諸問題への計算論的思考の無批判な適用に対する基盤的な批判である。1960年代にMITでELIZAチャットボットを開発したワイゼンバウムは、この本を通じて、コンピュータは強力ではあるものの、人間の判断、共感、道徳的責任を代替することはできず、またそうすべきではないと論じた。この本は計算機哲学における画期的な著作となり、現在もAI倫理や技術の限界に関する議論に影響を与え続けている。
この著作は、AI研究の方向性に対するワイゼンバウムの幻滅から生まれた。彼は、多くの研究者が人間の推論を単なる情報処理タスクとして扱い、人間の知性に不可欠な感情的、社会的、倫理的側面を無視していることを観察した。彼は、このような還元主義的見解が、医療、法律、戦争など、人間の知恵を必要とする決定においてコンピュータに過度に依存する社会につながる可能性があると警告した。
ELIZA効果と計算の限界
ワイゼンバウムの最も有名な例は、ユーザーの発言を質問に言い換えることでロジャーズ派の心理療法士を模倣した単純なプログラムであるELIZAであった。その単純さにもかかわらず、多くのユーザーがELIZAに感情的に執着し、本物のセラピストとして扱った。後に「ELIZA効果」と呼ばれるこの現象は、人々がどれほど容易にコンピュータを擬人化するかを示した。ワイゼンバウムは、この傾向は、機械のパターンマッチングと真の人間の理解との間の根本的な違いを曖昧にするため、危険であると論じた。
彼は、コンピュータは形式的な規則に従って記号を操作することしかできず、意味、文脈、意図性を把握する能力を欠いていると主張した。対照的に、人間の推論は、価値観、人間関係、身体経験という生きた世界に埋め込まれている。したがって、アルゴリズムがどれほど洗練されていても、コンピュータは人間の問題を真に理解したり、道徳的判断を下したりすることはできない。
道具的理性批判
ワイゼンバウムは、すべての思考を所与の目的に対する手段の効率的な計算に還元する哲学的 concept である道具的理性に依拠した。彼は、コンピュータがこの思考様式を体現しており、その広範な採用は、人々が自分自身や他者を最適化される対象として見ることを促すと論じた。これは、人間の問題が技術的問題として再定義され、その倫理的・政治的側面が剥奪される「道具的理性の帝国主義」と彼が呼ぶものにつながる。
彼は特に、核戦争計画の自動化システムなど、軍事・政府の意思決定におけるコンピュータの使用を批判した。彼は、そのような応用は意思決定者と影響を受ける人々の両方を非人間化し、破滅的な選択を合理的で不可避なものに見せかけると論じた。
科学者の責任
ワイゼンバウムは、コンピュータ科学者の道徳的責任を強く強調した。彼は、研究者は自らのツールの中立性の背後に隠れることはできず、仕事の社会的結果を考慮しなければならないと論じた。彼は、技術的実現可能性に関係なく、コンピュータに決して依頼すべきではないタスクが存在すると有名に述べた。なぜなら、そうすることは人間の尊厳を損なうからである。
彼は、機械が最終的にすべての人間の認知能力を再現できるという主張、特にAIコミュニティの傲慢さを批判した。彼はこれを、人間の生活の不可分に主観的で感情的な側面を無視する自己欺瞞の一種と見なした。その代わりに、彼は計算の限界を尊重する、より謙虚で内省的な技術へのアプローチを求めた。
遺産と現代における関連性
コンピュータの力と人間の理性は、AI倫理、人間とコンピュータの相互作用、技術哲学の議論において広く引用されている。アルゴリズムへの過度の依存の危険性に関するその警告は、Large language model、Generative AI、Machine learningの時代に強く共鳴する。例えば、医療や法律などの分野でさえAIの出力を権威あるものとして扱う傾向は、ELIZA効果を反映している。この本はまた、AIアライメント、バイアス、人間による監視の必要性に関する議論を先取りしていた。
道具的理性に対するワイゼンバウムの批判は、現在、監視、自動化、人間の主体性の侵食に関する懸念を含む、社会におけるArtificial intelligenceへの多くの批判の中心となっている。技術者の道徳的責任に関する彼の主張は、AI倫理委員会や責任あるAI開発を求める現代の呼びかけに反映されている。
その古さにもかかわらず、この本は、より多くの計算能力が常により良い結果につながるという前提に疑問を投げかける人々にとっての試金石であり続けている。それは読者に、機械によってますます形成される世界において人間であることの意味を考察するよう促している。