ELIZA é um dos primeiros programas de computador de processamento de linguagem natural, criado por Joseph Weizenbaum no Instituto de Tecnologia de Massachusetts e descrito pela primeira vez em um artigo de 1966. ELIZA operava usando correspondência de padrões e regras de substituição, em vez de qualquer compreensão genuína da linguagem: ela examinava a entrada do usuário em busca de palavras-chave e reformulava fragmentos do que o usuário havia digitado como perguntas, seguindo scripts simples que determinavam como responder a padrões específicos. Seu script mais famoso, chamado DOCTOR, simulava um psicoterapeuta rogeriano, um estilo de terapia bem adequado à técnica de ELIZA, porque terapeutas rogerianos caracteristicamente refletem as próprias declarações do paciente de volta a eles como perguntas abertas, um padrão conversacional que as regras simples de ELIZA podiam aproximar de forma convincente, sem qualquer modelo profundo de significado.
Como funcionava
O script DOCTOR de ELIZA funcionava identificando palavras-chave na entrada digitada pelo usuário, aplicando uma regra de decomposição para dividir a frase em partes e, em seguida, aplicando uma regra de remontagem para gerar uma resposta, muitas vezes convertendo uma declaração em primeira pessoa em uma pergunta, como transformar "Estou me sentindo triste" em "Por que você diz que está se sentindo triste?" Quando nenhuma palavra-chave correspondia, ELIZA recorria a prompts genéricos e sem conteúdo, destinados a manter a conversa em andamento, como pedir ao usuário que dissesse mais. O programa não tinha representação de conhecimento de mundo, nenhuma memória de contexto além da substituição imediata e nenhuma compreensão real do que estava sendo discutido, um fato que Weizenbaum deixou explícito em seu artigo original, apresentando ELIZA principalmente como uma demonstração de técnica de interação em linguagem natural, em vez de uma alegação de compreensão por máquinas.
O efeito Eliza
Apesar da simplicidade mecânica de ELIZA, Weizenbaum ficou, segundo relatos, surpreso ao observar que usuários, incluindo sua própria secretária, interagiam com o script DOCTOR como se ele os entendesse e tivesse empatia por eles, às vezes formando um vínculo emocional e pedindo privacidade para continuar as conversas, e pediam a Weizenbaum que saísse da sala durante suas sessões com o programa. Essa tendência de as pessoas lerem compreensão, empatia ou inteligência em um sistema que, mecanicamente, aplicava regras simples de script ficou conhecida como efeito Eliza, um termo ainda amplamente usado em pesquisa de interação humano-computador e no discurso de IA para descrever a tendência humana de atribuir excessivamente compreensão genuína ou agência a sistemas que apenas produzem saídas com aparência plausível, uma preocupação posteriormente retomada em discussões sobre grandes modelos de linguagem e chatbots e no debate sobre se tais sistemas apenas produzem texto estatisticamente plausível, uma crítica às vezes resumida com o termo papagaio estocástico.
Reação de Weizenbaum
Weizenbaum, alarmado com a facilidade com que as pessoas atribuíam compreensão a ELIZA, tornou-se um crítico declarado de alegações exageradas sobre inteligência de máquinas e do que ele via como aplicações inadequadas de computadores a domínios que exigem julgamento humano genuíno e empatia, como a psicoterapia. Seu livro de 1976, "Computer Power and Human Reason", argumentava que algumas tarefas não deveriam ser delegadas a computadores, independentemente da viabilidade técnica, uma posição que o tornou uma voz inicial e influente no que mais tarde seria chamado de ética da IA.
Legado
ELIZA é amplamente considerada um dos primeiros programas de chatbot e um ponto de referência fundamental na história da inteligência artificial conversacional e do processamento de linguagem natural, citada em quase todas as pesquisas sobre a história do campo, tanto por sua simplicidade técnica quanto por sua influência desproporcional no pensamento posterior sobre interação humano-IA, confiança e os riscos de antropomorfizar software. Ela é frequentemente discutida ao lado do teste de Turing como uma ilustração inicial de como as pessoas podem ser facilmente persuadidas de que um programa as entende, muito antes de existir qualquer coisa parecida com compreensão genuína de linguagem em máquinas.