ELIZA ist ein frühes Computerprogramm zur Verarbeitung natürlicher Sprache, das von Joseph Weizenbaum am Massachusetts Institute of Technology entwickelt und erstmals in einem Artikel von 1966 beschrieben wurde. ELIZA arbeitete mit Mustererkennung und Substitutionsregeln anstelle eines echten Sprachverständnisses: Es durchsuchte die Benutzereingabe nach Schlüsselwörtern und formulierte Fragmente des Getippten als Fragen um, wobei einfache Skripte festlegten, wie auf bestimmte Muster reagiert werden sollte. Sein bekanntestes Skript, genannt DOCTOR, simulierte einen rogerianischen Psychotherapeuten, eine Therapieform, die gut zu ELIZAs Technik passte, da rogerianische Therapeuten typischerweise die Aussagen des Patienten als offene Fragen zurückwerfen, ein Gesprächsmuster, das ELIZAs einfache Regeln überzeugend annähern konnten, ohne ein tiefes Modell der Bedeutung zu besitzen.
Funktionsweise
ELIZAs DOCTOR-Skript funktionierte, indem es Schlüsselwörter in der getippten Benutzereingabe identifizierte, eine Zerlegungsregel anwendete, um den Satz in Teile zu zerlegen, und dann eine Wiederzusammenbauregel nutzte, um eine Antwort zu erzeugen, wobei oft eine Aussage in der ersten Person in eine Frage umgewandelt wurde, etwa "Ich fühle mich traurig" in "Warum sagen Sie, dass Sie sich traurig fühlen?" Wenn kein Schlüsselwort übereinstimmte, griff ELIZA auf generische, inhaltsfreie Aufforderungen zurück, um das Gespräch am Laufen zu halten, etwa den Benutzer zu bitten, mehr zu erzählen. Das Programm hatte keine Repräsentation von Weltwissen, kein Gedächtnis für Kontext über die unmittelbare Substitution hinaus und kein tatsächliches Verständnis dessen, was besprochen wurde, eine Tatsache, die Weizenbaum in seinem ursprünglichen Artikel explizit darlegte, indem er ELIZA in erster Linie als Demonstration der Technik der Interaktion mit natürlicher Sprache präsentierte und nicht als Anspruch auf maschinelles Verständnis.
Der Eliza-Effekt
Trotz ELIZAs mechanischer Einfachheit war Weizenbaum Berichten zufolge verblüfft zu beobachten, dass Benutzer, einschließlich seiner eigenen Sekretärin, mit dem DOCTOR-Skript interagierten, als ob es sie verstehen und mitfühlen würde, manchmal eine emotionale Bindung aufbauten und um Privatsphäre baten, um Gespräche fortzusetzen, und Weizenbaum aufforderten, den Raum während ihrer Sitzungen mit dem Programm zu verlassen. Diese Tendenz von Menschen, Verständnis, Empathie oder Intelligenz in ein System hineinzulesen, das mechanisch nur einfache skriptbasierte Regeln anwendet, wurde als Eliza-Effekt bekannt, ein Begriff, der noch heute in der Forschung zur Mensch-Computer-Interaktion und im KI-Diskurs verwendet wird, um die menschliche Neigung zu beschreiben, echte Verständnisfähigkeit oder Handlungsfähigkeit Systemen zuzuschreiben, die lediglich plausibel klingende Ausgaben erzeugen, eine Sorge, die später in Diskussionen über große Sprachmodelle und Chatbots sowie in der Debatte darüber, ob solche Systeme nur statistisch plausible Texte produzieren, wieder aufkam, eine Kritik, die manchmal mit dem Begriff Stochastic parrot zusammengefasst wird.
Weizenbaums Reaktion
Weizenbaum, alarmiert darüber, wie bereitwillig Menschen ELIZA Verständnis zuschrieben, wurde ein offener Kritiker übertriebener Behauptungen über maschinelle Intelligenz und dessen, was er als unangemessene Anwendungen von Computern in Bereichen ansah, die echtes menschliches Urteilsvermögen und Empathie erfordern, wie etwa Psychotherapie. Sein Buch von 1976 "Computer Power and Human Reason" argumentierte, dass einige Aufgaben Computern nicht übertragen werden sollten, unabhängig von der technischen Machbarkeit, eine Position, die ihn zu einer frühen und einflussreichen Stimme in dem machte, was später als AI ethics bezeichnet wurde.
Vermächtnis
ELIZA gilt weithin als eines der ersten Chatbot-Programme und als grundlegender Bezugspunkt in der Geschichte der konversationellen künstlichen Intelligenz und der Verarbeitung natürlicher Sprache, das in fast jedem Überblick über die Geschichte des Feldes sowohl für seine technische Einfachheit als auch für seinen überproportionalen Einfluss auf spätere Überlegungen zur Mensch-KI-Interaktion, zum Vertrauen und zu den Risiken der Vermenschlichung von Software zitiert wird. Es wird häufig zusammen mit dem Turing-Test diskutiert, als frühes Beispiel dafür, wie leicht Menschen davon überzeugt werden können, dass ein Programm sie versteht, lange bevor so etwas wie echtes Sprachverständnis in Maschinen existierte.