ジョセフ・ワイゼンバウム（1923年-2008年）は、MITに所属したドイツ系アメリカ人の計算機科学者であり、1966年に最初のチャットボットプログラムの一つであるELIZAを開発したことで最もよく知られ、その後、人工知能の最も著名な初期の批評家の一人へと転じたことでも知られる。
ELIZA
ワイゼンバウムは、自然言語のパターンマッチングのデモンストレーションとしてELIZAを構築し、最も有名な例として、ローグ風の心理療法士を模倣し、ユーザーの発言を問いかけとして反射させるDOCTORというスクリプトを実装した。ELIZAは、理解のモデルではなく、単純なキーワード検出とテンプレート化された応答を用いていたが、ワイゼンバウムは、自身の秘書や他のユーザーがプログラムに本物の理解や共感を帰属させ、一緒にいてほしいと頼むのを目にして驚愕した。彼は、スクリプト化されたプログラムに過剰な理解を帰属させるこの傾向を「ELIZA効果」と名付け、これは今でもユーザーが現代のチャットボットや大規模言語モデルを、その仕組みが正当化する以上に理解力がある、あるいは知覚を持つ存在として扱う際に引用される現象である。
批判への転向
人々、一部の計算機科学者も含めて、ELIZAに本物の知性や判断力を帰属させることに不安を覚えたワイゼンバウムは、この分野の野望に対して次第に批判的になった。彼の1976年の著書『コンピュータと人間の知能：判断から計算へ』は、《コンピュータが技術的に実行可能なこと》と《それに委ねるべきこと》には根本的な差異が存在し、特に心理療法、司法量刑、軍事指揮など、知恵、共感、または倫理的判断を必要とする領域において重要であると論じた。彼は、選択肢の中から選ぶという計算的な問題である「決定」と、機械は持ち得ない人間の価値観を必要とすると彼が主張した「選択」を区別した。
受容と遺産
ワイゼンバウムの批判は、彼をAI研究コミュニティの一部と対立させ、彼自身のMITの同僚であるMarvin Minskyなども含め、あるいは彼は分野を裏切ったとして特徴付られることもあったが、彼は計算機科学内で働き続けたにもかかわらず。彼の警告は、適切な人間の監視なしで高リスク領域にシステムを配置する際のAI ethicsやAI safetyの後続の議論を先取りし、ELIZA効果は、会話型AIへの信頼や、現代の大規模言語モデルなどのシステムへの不当な理解の帰属に関する議論における標準的な参照点として残っている。ELIZA自体は、後のシステムであるChatGPTなどへと続く会話型AIの系譜の祖先として広く引用されているが、その基礎となる方法は、現代のシステム背後にある統計的トレーニングとは何の類似点もないものである。