ELIZA es un programa informático temprano de procesamiento de lenguaje natural creado por Joseph Weizenbaum en el Instituto de Tecnología de Massachusetts y descrito por primera vez en un artículo de 1966. ELIZA operaba mediante reglas de coincidencia de patrones y sustitución, en lugar de cualquier comprensión genuina del lenguaje: escaneaba la entrada del usuario en busca de palabras clave y reformulaba fragmentos de lo que el usuario había escrito como preguntas, siguiendo guiones simples que determinaban cómo responder a patrones particulares. Su guion más famoso, llamado DOCTOR, simulaba a un psicoterapeuta rogeriano, un estilo de terapia muy adecuado para la técnica de ELIZA, porque los terapeutas rogerianos característicamente reflejan las declaraciones del paciente como preguntas abiertas, un patrón conversacional que las reglas simples de ELIZA podían aproximar de manera convincente sin ningún modelo profundo de significado.
Cómo funcionaba
El guion DOCTOR de ELIZA funcionaba identificando palabras clave en la entrada escrita del usuario, aplicando una regla de descomposición para dividir la oración en partes y luego aplicando una regla de reensamblaje para generar una respuesta, a menudo convirtiendo una declaración en primera persona en una pregunta, como transformar "Me siento triste" en "¿Por qué dices que te sientes triste?". Cuando no coincidía ninguna palabra clave, ELIZA recurría a avisos genéricos y sin contenido destinados a mantener la conversación, como pedir al usuario que dijera más. El programa no tenía representación del conocimiento del mundo, ni memoria del contexto más allá de la sustitución inmediata, ni comprensión real de lo que se estaba discutiendo, un hecho que Weizenbaum dejó explícito en su artículo original, presentando a ELIZA principalmente como una demostración de la técnica de interacción en lenguaje natural, más que como una afirmación de comprensión mecánica.
El efecto Eliza
A pesar de la simplicidad mecánica de ELIZA, se informa que Weizenbaum quedó sorprendido al observar que los usuarios, incluida su propia secretaria, interactuaban con el guion DOCTOR como si este los comprendiera y empatizara con ellos, a veces formando un vínculo emocional y solicitando privacidad para continuar las conversaciones, y pidieron a Weizenbaum que abandonara la sala durante sus sesiones con el programa. Esta tendencia de las personas a leer comprensión, empatía o inteligencia en un sistema que, mecánicamente, aplicaba reglas simples guionizadas se conoció como el efecto Eliza, un término que aún se usa ampliamente en la investigación de interacción humano-computadora y el discurso de la IA para describir la tendencia humana a atribuir en exceso comprensión genuina o agencia a sistemas que solo producen resultados que suenan plausibles, una preocupación que luego se revivió en discusiones sobre grandes modelos de lenguaje y chatbots y el debate sobre si tales sistemas solo producen texto estadísticamente plausible, una crítica que a veces se resume con el término loro estocástico.
La reacción de Weizenbaum
Weizenbaum, alarmado por la facilidad con la que las personas atribuían comprensión a ELIZA, se convirtió en un crítico abierto de las afirmaciones exageradas sobre la inteligencia de las máquinas y de lo que consideraba aplicaciones inapropiadas de las computadoras a dominios que requieren juicio humano genuino y empatía, como la psicoterapia. Su libro de 1976 "Computer Power and Human Reason" argumentó que algunas tareas no deberían delegarse a las computadoras independientemente de la viabilidad técnica, una posición que lo convirtió en una voz temprana e influyente en lo que más tarde se llamaría ética de la IA.
Legado
ELIZA es ampliamente considerada uno de los primeros programas de chatbot y un punto de referencia fundamental en la historia de la inteligencia artificial conversacional y el procesamiento del lenguaje natural, citada en casi todos los estudios de la historia del campo tanto por su simplicidad técnica como por su influencia desmesurada en el pensamiento posterior sobre la interacción humano-IA, la confianza y los riesgos de antropomorfizar el software. Se discute con frecuencia junto con el test de Turing como una ilustración temprana de cuán fácilmente las personas pueden ser persuadidas de que un programa las comprende, mucho antes de que existiera algo parecido a una comprensión genuina del lenguaje en las máquinas.