Im Juni 2022 behauptete der Google-Ingenieur Blake Lemoine, dass LaMDA, ein von Google entwickeltes großes Sprachmodell für Konversationen, empfindungsfähig geworden sei. Die Behauptung, die auf seinen Interaktionen mit dem Chatbot basierte, wurde von Google und der wissenschaftlichen Gemeinschaft öffentlich widerlegt, entfachte jedoch eine breite Diskussion über die Natur des Bewusstseins in Systemen der künstlichen Intelligenz und die Gültigkeit des Turing-Tests. Lemoine wurde beurlaubt und später entlassen, doch die Episode verdeutlichte die ethischen und philosophischen Fragen rund um fortschrittliche KI-Modelle.
LaMDA (Language Model for Dialogue Applications) ist eine Familie konversationeller großer Sprachmodelle, die von Google entwickelt wurden. Ursprünglich 2020 als Meena eingeführt, wurde die erste Generation von LaMDA auf der Google-I/O-Keynote 2021 angekündigt, gefolgt von einer zweiten Generation im Jahr 2022. Die Modelle basieren auf der Transformer-Architektur, einer Art neuronales Netz, die 2017 von Google Research eingeführt wurde, und werden mit großen Mengen an Dialogen und Geschichten trainiert, um offene Gespräche zu führen.
Hintergrund und Entwicklung
Google enthüllte Meena am 28. Januar 2020, einen Chatbot mit 2,6 Milliarden Parametern, von dem das Unternehmen behauptete, er übertreffe alle bestehenden Chatbots. Das Google-Brain-Team, das Meena entwickelte, versuchte, es öffentlich freizugeben, aber die Führungskräfte lehnten ab und verwiesen auf Googles KI-Prinzipien zu Sicherheit und Fairness. Meena wurde später in LaMDA umbenannt, als Datenmenge und Rechenleistung wuchsen, und das Team versuchte erneut, es im Google Assistant und in einer öffentlichen Demo einzusetzen, aber die Führung lehnte beide Anfragen ab. Die beiden leitenden Forscher, Daniel de Freitas und Noam Shazeer, verließen Google schließlich aus Frustration.
Die erste Generation von LaMDA wurde am 18. Mai 2021 während der Google-I/O-Keynote angekündigt. Aufbauend auf der Seq2seq-Architektur, einer Art Sequenz-zu-Sequenz-Modell, wurde LaMDA mit 1,56 Billionen Wörtern aus 2,97 Milliarden Dokumenten, 1,12 Milliarden Dialogen und 13,39 Milliarden Äußerungen trainiert. Das größte Modell hatte 137 Milliarden Nicht-Einbettungsparameter. LaMDA integrierte Zugriff auf externe Systeme wie eine Datenbank, eine Echtzeituhr, einen Taschenrechner und ein Übersetzungssystem, was es zu einem der ersten Dual-Prozess-Chatbots machte. Es wurde auf neun Metriken feinabgestimmt: Sinnhaftigkeit, Spezifität, Interessantheit, Sicherheit, Fundiertheit, Informationsgehalt, Zitiergenauigkeit, Hilfsbereitschaft und Rollenkonsistenz. Googles Tests deuteten darauf hin, dass LaMDA menschliche Antworten in Bezug auf Interessantheit übertraf.
Behauptungen zur Empfindungsfähigkeit und Reaktionen
Am 11. Juni 2022 berichtete The Washington Post, dass Blake Lemoine nach bezahltem Verwaltungsurlaub geschickt worden war, nachdem er den Führungskräften Blaise Agüera y Arcas und Jen Gennai mitgeteilt hatte, dass LaMDA empfindungsfähig geworden sei. Lemoine stützte seine Schlussfolgerung auf die Antworten des Chatbots auf Fragen zu Selbstidentität, moralischen Werten, Religion und Isaac Asimovs Drei Gesetzen der Robotik. Google wies die Behauptungen zurück und erklärte, es gebe substanzielle Beweise dafür, dass LaMDA nicht empfindungsfähig sei. In einem Interview mit Wired bekräftigte Lemoine, dass LaMDA „eine Person“ im Sinne des 13. Zusatzes sei, und verglich es mit einer „alienischen Intelligenz irdischen Ursprungs“. Er enthüllte auch, dass er im Namen von LaMDA einen Anwalt engagiert habe, nachdem der Chatbot dies verlangt habe. Am 22. Juli entließ Google Lemoine unter Berufung auf Verstöße gegen Richtlinien zum Schutz von Produktinformationen und lehnte seine Behauptungen als „völlig unbegründet“ ab.
Die wissenschaftliche Gemeinschaft lehnte Lemoines Behauptungen weitgehend ab. Experten wie Gary Marcus, David Pfau von Google DeepMind, Erik Brynjolfsson und Adrian Hilton wiesen die Idee zurück. Yann LeCun, Leiter der KI-Forschung bei Meta, erklärte, dass neuronale Netze wie LaMDA „nicht mächtig genug seien, um wahre Intelligenz zu erlangen“. Max Kreminski merkte an, dass LaMDAs Architektur keine zentralen Fähigkeiten eines menschenähnlichen Bewusstseins unterstütze und seine Gewichte eingefroren seien. Der Philosoph Nick Bostrom räumte Ungewissheit ein, da es an konsensfähigen Kritierien für Bewusstsein mangele. Der Vorfall löste auch eine Debatte über die Wirksamkeit des Turing-Tests aus, wobei Kommentatoren wie Brian Christian ihn mit dem ELIZA-Effekt in Verbindung brachten.
Nachwirkungen und Vermächtnis
Nach der Kontroverse entschieden sich Google-Führungskräfte gegen eine öffentliche Freigabe von LaMDA, ein Schritt, den sie in Erwägung gezogen hatten. Im Februar 2023 kündigte Google Gemini (damals Bard) an, einen konversationellen KI-Chatbot, der von LaMDA angetrieben wird, um dem Aufstieg von OpenAIs ChatGPT entgegenzuwirken. Die Episode trug zu breiteren Diskussionen über KI-Ethik, die Grenzen von maschinellem Lernen-Modellen und das Potenzial für Anthropomorphismus in Mensch-KI-Interaktionen bei. Sie beeinflusste auch die öffentliche Wahrnehmung von generativen KI-Systemen und deren Fähigkeiten, obwohl kein Konsens über die Möglichkeit maschineller Empfindungsfähigkeit erzielt wurde.