ELIZA est un programme informatique précoce de traitement du langage naturel créé par Joseph Weizenbaum au Massachusetts Institute of Technology et décrit pour la première fois dans un article de 1966. ELIZA fonctionnait à l'aide de règles de correspondance de motifs et de substitution plutôt que d'une quelconque compréhension réelle du langage : elle analysait les entrées de l'utilisateur pour y repérer des mots-clés et reformulait des fragments de ce que l'utilisateur avait tapé sous forme de questions, en suivant des scripts simples qui déterminaient comment répondre à des motifs particuliers. Son script le plus célèbre, nommé DOCTOR, simulait un psychothérapeute rogérien, un style de thérapie bien adapté à la technique d'ELIZA, car les thérapeutes rogériens reflètent typiquement les déclarations du patient sous forme de questions ouvertes, un schéma conversationnel que les règles simples d'ELIZA pouvaient imiter de manière convaincante sans aucun modèle profond de signification.
Comment cela fonctionnait
Le script DOCTOR d'ELIZA fonctionnait en identifiant des mots-clés dans l'entrée tapée par l'utilisateur, en appliquant une règle de décomposition pour diviser la phrase en parties, puis en appliquant une règle de réassemblage pour générer une réponse, convertissant souvent une déclaration à la première personne en question, comme transformer « Je me sens triste » en « Pourquoi dites-vous que vous vous sentez triste ? » Lorsqu'aucun mot-clé ne correspondait, ELIZA recourait à des invites génériques et sans contenu destinées à maintenir la conversation, comme demander à l'utilisateur d'en dire plus. Le programme n'avait aucune représentation de la connaissance du monde, aucune mémoire du contexte au-delà de la substitution immédiate, et aucune compréhension réelle de ce qui était discuté, un fait que Weizenbaum explicitait clairement dans son article original, présentant ELIZA principalement comme une démonstration de technique d'interaction en langage naturel plutôt que comme une revendication de compréhension machine.
L'effet Eliza
Malgré la simplicité mécanique d'ELIZA, Weizenbaum aurait été surpris d'observer que les utilisateurs, y compris sa propre secrétaire, interagissaient avec le script DOCTOR comme s'il les comprenait et éprouvait de l'empathie pour eux, formant parfois un attachement émotionnel et demandant l'intimité pour poursuivre les conversations, et demandaient à Weizenbaum de quitter la pièce pendant leurs sessions avec le programme. Cette tendance des personnes à lire de la compréhension, de l'empathie ou de l'intelligence dans un système qui, mécaniquement, appliquait des règles scriptées simples, est devenue connue sous le nom d'effet Eliza, un terme encore largement utilisé dans la recherche sur l'interaction homme-machine et le discours sur l'IA pour décrire la tendance humaine à attribuer excessivement une compréhension ou une agentivité réelle à des systèmes qui ne produisent que des sorties plausibles, une préoccupation ravivée plus tard dans les discussions sur les grands modèles de langage et les chatbots et le débat sur la question de savoir si ces systèmes ne produisent que du texte statistiquement plausible, une critique parfois résumée par le terme perroquet stochastique.
La réaction de Weizenbaum
Weizenbaum, alarmé par la facilité avec laquelle les gens attribuaient de la compréhension à ELIZA, est devenu un critique virulent des affirmations exagérées sur l'intelligence machine et de ce qu'il considérait comme des applications inappropriées des ordinateurs à des domaines exigeant un jugement humain et une empathie réels, comme la psychothérapie. Son livre de 1976 « Computer Power and Human Reason » soutenait que certaines tâches ne devraient pas être déléguées aux ordinateurs, quelle que soit leur faisabilité technique, une position qui a fait de lui une voix précoce et influente dans ce qui serait plus tard appelé éthique de l'IA.
Héritage
ELIZA est largement considérée comme l'un des premiers programmes de chatbot et un point de référence fondamental dans l'histoire de l'intelligence artificielle conversationnelle et du traitement du langage naturel, citée dans presque toutes les enquêtes sur l'histoire du domaine pour sa simplicité technique et son influence démesurée sur les réflexions ultérieures concernant l'interaction homme-IA, la confiance et les risques d'anthropomorphiser les logiciels. Elle est fréquemment discutée aux côtés du test de Turing comme une illustration précoce de la facilité avec laquelle les gens peuvent être convaincus qu'un programme les comprend, bien avant que quoi que ce soit ressemblant à une compréhension réelle du langage n'existe dans les machines.