Joseph Weizenbaum (1923-2008) war ein deutsch-amerikanischer Informatiker am MIT, der vor allem dafür bekannt ist, 1966 ELIZA zu entwickeln, eines der ersten Chatbot-Programme, und dafür, dass er sich anschließend zu einem der prominentesten frühen Kritiker der künstlichen Intelligenz wandelte.
ELIZA
Weizenbaum baute ELIZA als Demonstration des Musterabgleichs in natürlicher Sprache, am bekanntesten in einem Skript namens DOCTOR, das einen rogerianischen Psychotherapeuten simulierte, indem es die Aussagen eines Benutzers als Fragen zurückwarf. ELIZA verwendete einfache Stichworterkennung und vorgefertigte Antworten anstatt eines Modells des Verständnisses, doch Weizenbaum war verblüfft, als seine eigene Sekretärin und andere Benutzer dem Programm echtes Verständnis und Einfühlungsvermögen zuschrieben und darum baten, mit ihm allein gelassen zu werden. Er nannte diese Tendenz, einem skriptbasierten Programm übermäßig viel Verständnis zuzuschreiben, den „ELIZA-Effekt“ – ein Phänomen, das immer noch zitiert wird, wenn Benutzer moderne Chatbots oder große Sprachmodelle als verständnisvoller oder empfindungsfähiger behandeln, als es ihre Mechanismen rechtfertigen.
Wende zur Kritik
Beunruhigt darüber, wie bereitwillig Menschen, darunter auch einige Informatiker, ELIZA echte Intelligenz und Urteilsvermögen zuschrieben, wurde Weizenbaum zunehmend kritisch gegenüber den Ambitionen des Fachgebiets. Sein Buch von 1976, „Computer Power and Human Reason: From Judgment to Calculation“, argumentierte, dass es einen grundlegenden Unterschied gebe zwischen dem, was Computer technisch tun könnten, und dem, was man ihnen anvertrauen sollte, insbesondere in Bereichen, die Weisheit, Mitgefühl oder moralisches Urteilsvermögen erfordern, wie Psychotherapie, richterliche Urteilsfindung oder militärische Befehlsgewalt. Er unterschied zwischen Entscheiden, einer rechnerischen Angelegenheit der Auswahl unter Optionen, und Wählen, das seiner Ansicht nach menschliche Werte erforderte, die Maschinen nicht besitzen könnten.
Rezeption und Vermächtnis
Weizenbaums Kritik brachte ihn in Konflikt mit Teilen der KI-Forschungsgemeinschaft, einschließlich einiger seiner eigenen MIT-Kollegen wie Marvin Minsky, und er wurde manchmal als jemand charakterisiert, der das Feld verraten habe, obwohl er weiterhin innerhalb der Informatik arbeitete. Seine Warnungen nahmen spätere Debatten in AI ethics und AI safety über den Einsatz von Systemen in risikoreichen Bereichen ohne angemessene menschliche Aufsicht vorweg, und der ELIZA-Effekt bleibt ein Standardbezugspunkt in Diskussionen über Vertrauen in konversationelle KI und ungerechtfertigte Zuschreibungen von Verständnis an Systeme wie moderne große Sprachmodelle. ELIZA selbst wird weithin als Vorfahr der konversationellen KI-Linie zitiert, die über spätere Systeme wie ChatGPT verläuft, obwohl ihre zugrunde liegende Methode keinerlei Ähnlichkeit mit dem statistischen Training moderner Systeme aufweist.