ELIZA

ELIZAは、自然言語処理の初期のコンピュータプログラムであり、マサチューセッツ工科大学のジョセフ・ワイゼンバウムによって作成され、1966年の論文で初めて記述された。ELIZAは、言語の真の理解ではなく、パターンマッチングと置換規則を用いて動作した。ユーザーの入力をキーワードで走査し、ユーザーが入力した断片を質問として言い換え、特定のパターンにどう応答するかを決定する単純なスクリプトに従った。その最も有名なスクリプトであるDOCTORは、ロジャーズ派の心理療法士を模擬したものであり、この療法スタイルはELIZAの技法に適していた。なぜなら、ロジャーズ派の療法士は特徴的に、患者自身の発言を自由回答形式の質問として反射的に返すため、ELIZAの単純な規則でも、深い意味のモデルなしに説得力を持って近似できる会話パターンだったからである。

仕組み

ELIZAのDOCTORスクリプトは、ユーザーの入力テキスト内のキーワードを識別し、分解規則を適用して文を部分に分割し、再構成規則を適用して応答を生成することで機能した。多くの場合、一人称の陳述を質問に変換し、例えば「私は悲しいと感じています」を「なぜあなたは悲しいと感じていると言うのですか？」と変換した。キーワードが一致しない場合、ELIZAは会話を続けるための一般的で内容のないプロンプトにフォールバックし、例えばユーザーにもっと話すよう求めた。このプログラムには、世界知識の表現、即時置換を超えた文脈の記憶、議論されている内容の実際の理解は一切なく、この事実はワイゼンバウムが元の論文で明確に述べており、ELIZAを主に自然言語相互作用技法のデモンストレーションとして提示し、機械の理解の主張としては提示しなかった。

エリザ効果

ELIZAの機械的な単純さにもかかわらず、ワイゼンバウムは、ユーザー（自身の秘書を含む）がDOCTORスクリプトをあたかも理解し共感しているかのように関わり、時には感情的な愛着を形成して会話を続けるためのプライバシーを求め、セッション中にワイゼンバウムに部屋から出るよう頼むことを観察して驚いたと報告されている。単純なスクリプト規則を機械的に適用しているシステムに、人々が理解、共感、知性を読み取るこの傾向は、エリザ効果として知られるようになり、この用語は現在でも人間とコンピュータの相互作用研究やAIの議論で広く使用され、もっともらしい出力を生成するだけのシステムに人間が真の理解や主体性を過剰に帰属させる傾向を説明している。この懸念は後に、大規模言語モデルやチャットボットの議論で再び取り上げられ、そのようなシステムが単に統計的にもっともらしいテキストを生成するだけではないかという批判は、確率的オウムという用語で要約されることもある。

ワイゼンバウムの反応

ワイゼンバウムは、人々がELIZAに理解を帰属させる容易さに警鐘を鳴らし、機械知能に関する過大な主張や、心理療法など真の人間的判断と共感を必要とする領域へのコンピュータの不適切な応用に対する率直な批判者となった。彼の1976年の著書『コンピュータ・パワーと人間の理性』は、技術的に可能であっても、一部のタスクはコンピュータに委任すべきではないと主張し、この立場により、後にAI倫理と呼ばれる分野の初期の影響力ある声となった。

遺産

ELIZAは、最初のチャットボットプログラムの1つとして広く認識されており、会話型人工知能と自然言語処理の歴史における基礎的な参照点であり、その技術的単純さと、人間とAIの相互作用、信頼、ソフトウェアの擬人化のリスクに関する後の思考への過大な影響の両方について、この分野の歴史のほぼすべての調査で引用されている。ELIZAは、チューリングテストと並んで、機械に真の言語理解が存在するずっと前から、人々がプログラムに理解されていると容易に信じ込まされることを示す初期の例として頻繁に議論されている。