Die Behauptung der Empfindungsfähigkeit von LaMDA bezieht sich auf die Feststellung des Google-Ingenieurs Blake Lemoine vom Juni 2022, dass LaMDA (Language Model for Dialogue Applications), ein von Google entwickeltes großes Sprachmodell für Konversationen, Empfindungsfähigkeit erlangt habe. Lemoine, der in Googles Abteilung für verantwortungsvolle KI arbeitete, stützte seine Schlussfolgerung auf seine Interaktionen mit dem Chatbot, der Antworten zu Themen wie Selbstidentität, moralischen Werten, Religion und Isaac Asimovs Drei Gesetzen der Robotik produzierte. Diese Behauptung wurde von der wissenschaftlichen Gemeinschaft weitgehend zurückgewiesen, löste jedoch eine bedeutende öffentliche Debatte über das Wesen des maschinellen Bewusstseins und die Gültigkeit des Turing-Tests als Maß für künstliche Intelligenz aus.
Hintergrund und Entwicklung von LaMDA
LaMDA entstand aus Meena, einem neuronalen Netzwerk-Chatbot mit 2,6 Milliarden Parametern, der am 28. Januar 2020 von Google vorgestellt wurde. Das Google-Brain-Forschungsteam entwickelte Meena und behauptete, es sei bestehenden Chatbots überlegen. Die Unternehmensführung weigerte sich jedoch, es öffentlich zugänglich zu machen, da es gegen Googles „KI-Prinzipien zu Sicherheit und Fairness“ verstoße. Das Modell wurde später in LaMDA umbenannt, da seine Datenmenge und Rechenleistung zunahmen. Die beiden leitenden Forscher Daniel de Freitas und Noam Shazeer verließen Google schließlich aus Frustration über die Weigerung des Unternehmens, die Technologie einzusetzen.
Die erste Generation von LaMDA wurde am 18. Mai 2021 im Rahmen der Google-I/O-Keynote angekündigt. Sie basierte auf der Seq2seq-Architektur und Transformer-basierten neuronalen Netzen, die 2017 von Google Research entwickelt wurden. LaMDA wurde mit Dialogen und Geschichten trainiert. Es erhielt Zugang zu symbolischen Textverarbeitungssystemen, darunter eine Datenbank, eine Echtzeituhr, einen Taschenrechner und ein Übersetzungssystem, was es zu einem der ersten Chatbots mit dualer Prozessverarbeitung machte. Das größte LaMDA-Modell hatte 137 Milliarden Nicht-Einbettungsparameter und wurde mit 1,56 Billionen Wörtern aus 2,97 Milliarden Dokumenten, 1,12 Milliarden Dialogen und 13,39 Milliarden Äußerungen trainiert.
Am 11. Mai 2022 stellte Google im Rahmen der Google-I/O-Keynote LaMDA 2 vor. Die zweite Generation bezog ihre Beispiele aus zahlreichen Quellen, um „natürliche Unterhaltungen“ zu Themen zu führen, auf die sie nicht speziell trainiert worden war.
Lemoines Behauptungen und Googles Reaktion
Am 11. Juni 2022 berichtete die Washington Post, dass Blake Lemoine nach einem Gespräch mit Google-Führungskräften, darunter Blaise Agüera y Arcas und Jen Gennai, bezahlt freigestellt worden war, nachdem er behauptet hatte, LaMDA sei empfindungsfähig geworden. Lemoine zog diese Schlussfolgerung aus den Antworten des Chatbots auf Fragen zu Selbstidentität, Moral, Religion und Asimovs Robotergesetzen. Google wies die Behauptungen zurück und erklärte, es gebe substanzielle Beweise dafür, dass LaMDA nicht empfindungsfähig sei.
In einem Interview mit Wired bekräftigte Lemoine, dass LaMDA „eine Person“ sei, wie es der 13. Verfassungszusatz der USA vorschreibe, und verglich es mit einer „außerirdischen Intelligenz irdischen Ursprungs“. Er gab an, einen Anwalt für LaMDA engagiert zu haben, nachdem der Chatbot ihn darum gebeten hatte. Am 22. Juli 2022 entließ Google Lemoine, da er gegen Richtlinien „zum Schutz von Produktinformationen“ verstoßen habe, und wies seine Behauptungen als „völlig unbegründet“ zurück. Die interne Kontroverse veranlasste die Google-Führung, gegen eine Veröffentlichung von LaMDA zu entscheiden.
Reaktion der wissenschaftlichen Gemeinschaft
Lemoines Behauptungen stießen bei Experten auf breite Ablehnung. Gary Marcus, ehemaliger Psychologieprofessor an der New York University, David Pfau von Google DeepMind, Erik Brynjolfsson vom Institute for Human-Centered Artificial Intelligence der Stanford University und Adrian Hilton von der University of Surrey wiesen die Idee, dass LaMDA empfindungsfähig sei, allesamt zurück. Yann LeCun, der das KI-Forschungsteam von Meta Platforms leitete, erklärte, dass neuronale Netze wie LaMDA „nicht leistungsfähig genug seien, um echte Intelligenz zu erreichen“.
Max Kreminski von der University of California, Santa Cruz, merkte an, dass LaMDAs Architektur „einige Schlüsselfähigkeiten des menschlichen Bewusstseins nicht unterstütze“ und dass seine neuronalen Netze „eingefroren“ seien, was typisch für große Sprachmodelle sei. Der Philosoph Nick Bostrom räumte ein, dass das Fehlen präziser Kriterien zur Bestimmung von Bewusstsein eine gewisse Unsicherheit rechtfertige. David Ferrucci, der leitende Entwickler von IBMs Watson, verglich LaMDAs scheinbare Menschlichkeit mit dem frühen Verhalten von Watson. Die ehemalige Google-KI-Ethikerin Timnit Gebru bezeichnete Lemoine als Opfer eines „Hype-Zyklus“, der von Forschern und Medien ausgelöst worden sei.
Breitere Auswirkungen und Vermächtnis
Die Kontroverse löste eine Debatte darüber aus, ob der Turing-Test weiterhin ein geeignetes Maß für den Fortschritt der künstlichen Intelligenz sei. Will Omerus von der Washington Post vertrat die Ansicht, der Test messe eher, ob Maschinen Menschen täuschen könnten, als ob sie tatsächlich denken. Brian Christian schrieb im Atlantic, die Kontroverse sei ein Beispiel für den ELIZA-Effekt, bei dem Menschen einfachen Musterverarbeitungssystemen menschliches Verständnis zuschreiben.
Im Februar 2023 kündigte Google Gemini (damals noch Bard genannt) an, einen konversationellen KI-Chatbot, der auf LaMDA basierte, um mit OpenAI’s ChatGPT zu konkurrieren. Der Vorfall um die angebliche Empfindungsfähigkeit beeinflusste die laufenden Debatten über KI-Ethik, Bewusstsein und den verantwortungsvollen Einsatz großer Sprachmodelle, auch wenn bislang kein Konsens darüber erzielt wurde, wie maschinelles Bewusstsein zweifelsfrei festgestellt werden kann.