ELIZA는 자연어 처리 분야의 초기 컴퓨터 프로그램으로, 매사추세츠 공과대학에서 조지프 와이젠바움이 만들었으며 1966년 논문에서 처음으로 기술되었다. ELIZA는 언어에 대한 진정한 이해보다는 패턴 매칭과 치환 규칙을 사용하여 작동했다. 즉, 사용자 입력에서 키워드를 스캔하고 사용자가 입력한 문장의 일부를 질문으로 바꾸어 되묻는 방식으로, 특정 패턴에 어떻게 응답할지 결정하는 간단한 스크립트를 따랐다. 가장 유명한 스크립트인 DOCTOR는 로저스식 심리치료사를 시뮬레이션했는데, 이 치료 방식은 ELIZA의 기술에 잘 맞았다. 로저스식 치료사는 환자의 말을 그대로 개방형 질문으로 되돌려주는 특징이 있으며, ELIZA의 단순한 규칙이 깊은 의미 모델 없이도 그 대화 패턴을 설득력 있게 근사할 수 있었기 때문이다.
작동 방식
ELIZA의 DOCTOR 스크립트는 사용자가 입력한 문장에서 키워드를 식별하고, 분해 규칙을 적용하여 문장을 부분으로 나눈 다음, 재조립 규칙을 적용하여 응답을 생성했다. 이 과정에서 종종 1인칭 진술을 질문으로 변환했는데, 예를 들어 "나는 슬프다"를 "왜 당신은 슬프다고 말하나요?"로 바꾸는 방식이었다. 키워드가 일치하지 않으면 ELIZA는 대화를 계속 유지하기 위한 일반적이고 내용이 없는 프롬프트로 대체했으며, 예를 들어 사용자에게 더 말해 보라고 요청했다. 이 프로그램은 세계 지식에 대한 표현이 없었고, 즉각적인 치환을 넘어선 맥락 기억도 없었으며, 논의되는 내용에 대한 실제 이해도 없었다. 와이젠바움은 원래 논문에서 이 사실을 명확히 밝혔으며, ELIZA를 기계 이해에 대한 주장이 아니라 자연어 상호작용 기술의 시연으로 주로 제시했다.
엘리자 효과
ELIZA의 기계적 단순성에도 불구하고, 와이젠바움은 사용자들, 특히 자신의 비서가 DOCTOR 스크립트를 마치 이해하고 공감하는 것처럼 대하는 것을 보고 놀랐다고 한다. 그들은 때때로 정서적 애착을 형성하고 대화를 계속하기 위해 사생활을 요청했으며, 프로그램과의 세션 동안 와이젠바움에게 방을 나가 달라고 요청하기도 했다. 단순한 스크립트 규칙을 기계적으로 적용하는 시스템에 사람들이 이해, 공감, 지능을 읽어내는 이러한 경향은 엘리자 효과로 알려지게 되었으며, 이 용어는 여전히 인간-컴퓨터 상호작용 연구와 AI 담론에서 그럴듯한 소리를 내는 출력을 생성하는 시스템에 진정한 이해나 행위성을 과도하게 부여하는 인간의 경향을 설명하는 데 널리 사용된다. 이 우려는 나중에 대규모 언어 모델과 챗봇에 대한 논의에서 다시 부각되었으며, 그러한 시스템이 단지 통계적으로 그럴듯한 텍스트만을 생성하는지에 대한 논쟁으로 이어졌고, 이 비판은 때때로 확률적 앵무새라는 용어로 요약된다.
와이젠바움의 반응
와이젠바움은 사람들이 ELIZA에 이해를 쉽게 부여하는 것에 놀라움을 느끼며, 기계 지능에 대한 과장된 주장과 심리치료와 같은 진정한 인간 판단과 공감이 필요한 영역에 컴퓨터를 부적절하게 적용하는 것에 대한 공개적인 비판자가 되었다. 그의 1976년 저서 "컴퓨터의 힘과 인간의 이성"은 기술적 실현 가능성과 무관하게 일부 작업은 컴퓨터에 위임해서는 안 된다고 주장했으며, 이 입장은 그를 나중에 AI 윤리라고 불리게 될 분야의 초기이자 영향력 있는 목소리로 만들었다.
유산
ELIZA는 최초의 챗봇 프로그램 중 하나이자 대화형 인공지능 및 자연어 처리 역사에서 기초적인 참조점으로 널리 인정받고 있다. 이 프로그램은 기술적 단순성과 인간-AI 상호작용, 신뢰, 소프트웨어에 대한 의인화의 위험에 대한 이후 사고에 미친 지대한 영향 때문에 이 분야 역사의 거의 모든 개요에서 인용된다. ELIZA는 튜링 테스트와 함께 자주 논의되며, 기계에 진정한 언어 이해가 존재하기 훨씬 전에 사람들이 프로그램이 자신을 이해한다고 얼마나 쉽게 믿게 되는지를 보여주는 초기 사례로 언급된다.