Ein Deadbot ist eine Art von generativer künstlicher Intelligenz-Anwendung, die den Konversationsstil, die Erinnerungen und die Persönlichkeit einer verstorbenen Person auf der Grundlage ihrer historischen digitalen Daten wie Textnachrichten, E-Mails, Social-Media-Beiträgen und Sprachaufnahmen nachbildet. Diese Systeme verwenden typischerweise große Sprachmodelle und maschinelles Lernen, um Antworten zu erzeugen, die die Eigenheiten und das Wissen der verstorbenen Person nachahmen. Deadbots werden hauptsächlich zur persönlichen Erinnerung, zur Trauerbewältigung oder als interaktives digitales Vermächtnis eingesetzt, haben aber auch erhebliche Debatten über Einwilligung, Datenschutz und die psychologischen Auswirkungen auf die Hinterbliebenen ausgelöst.
Das Konzept entstand aus dem breiteren Bereich der Forschung zu künstlicher Intelligenz im Bereich konversationeller Agenten und digitaler Unsterblichkeit. Frühe Experimente in den 2010er-Jahren, wie das Projekt „Eternime“ und der von einem Freund mithilfe von Textnachrichtenarchiven erstellte Chatbot „Roman Mazurenko“, zeigten die technische Machbarkeit solcher Simulationen. Mitte der 2020er-Jahre sind mehrere kommerzielle Plattformen und Forschungsprototypen entstanden, darunter Dienste, die es Nutzern ermöglichen, mit einem verstorbenen Verwandten oder einer Berühmtheit zu „chatten“. Die Entwicklung von Deadbots stützt sich auf Fortschritte bei Transformer-Architekturen und neuronalen Netzen, die eine kohärentere und kontextbewusstere Dialoggenerierung ermöglichen.
Technische Grundlagen
Die Konstruktion eines Deadbots umfasst typischerweise das Sammeln und Aufbereiten des digitalen Fußabdrucks einer Person, der Texte von Social-Media-Plattformen, E-Mails und Chatprotokolle umfassen kann. Diese Daten werden verwendet, um ein vortrainiertes großes Sprachmodell durch Techniken wie Verstärkungslernen aus KI-Feedback oder Curriculum-Lernen feinzutunen. Das Modell lernt, den Wortschatz, die Satzstruktur und die typischen Antworten der Zielperson nachzuahmen. Einige Implementierungen integrieren auch positionale Kodierung und Multi-Head-Aufmerksamkeitsmechanismen, um lange Gesprächskontexte zu verarbeiten. Sprachbasierte Deadbots können Sprachsynthesemodelle verwenden, die mit Aufnahmen der Verstorbenen trainiert wurden, während avatar-basierte Versionen Deep Learning für die Gesichtsanimation einsetzen.
Datenknappheit ist eine häufige Herausforderung, da die meisten Menschen unvollständige digitale Aufzeichnungen hinterlassen. Um dies zu beheben, können Entwickler Datenaugmentierung verwenden, um synthetische Trainingsbeispiele zu erzeugen, oder auf Transferlernen aus breiteren Konversationsdatensätzen zurückgreifen. Datenschutzbedenken entstehen, weil die verwendeten Daten oft sensibel sind und private Kommunikationen umfassen können, die nicht für die öffentliche oder posthume Nutzung bestimmt waren.
Ethische und rechtliche Überlegungen
Ein zentrales ethisches Problem ist die Einwilligung. Die Verstorbenen können keine Erlaubnis für ihre digitale Nachbildung erteilen, und überlebende Angehörige können sich uneinig sein, ob ein Deadbot erstellt werden soll. Einige Rechtsordnungen haben begonnen, posthume Datenrechte zu erwägen, aber bis 2025 gibt es keinen einheitlichen Rechtsrahmen. Die Organisationen OpenAI und Anthropic haben Richtlinien veröffentlicht, die vor der Nutzung ihrer Modelle für unbefugte Identitätsnachahmung warnen, aber die Durchsetzung bleibt schwierig.
Psychologen haben Bedenken hinsichtlich anhaltender Trauer und der Möglichkeit geäußert, dass Nutzer emotional von einer Simulation abhängig werden, die nicht wirklich erwidern kann. Die Forschungsgemeinschaften um Melanie Mitchell und Joshua Tenenbaum haben auf die Risiken von „Uncanny-Valley“-Effekten und die Illusion von Bewusstsein hingewiesen. Umgekehrt argumentieren einige Trauerberater, dass Deadbots Trost spenden und bei angemessener Nutzung den Abschluss erleichtern können.
Kommerzielle und Forschungsumgebung
Mehrere Startups und Forschungslabore haben Deadbot-Technologie erforscht. Beispielsweise bietet das Unternehmen HereAfter AI (gegründet 2019) einen Dienst an, der interaktive Avatare aus nutzerbereitgestellten Geschichten erstellt. Microsoft reichte 2017 ein Patent für einen Chatbot ein, der die sozialen Daten einer Person nutzen könnte, um eine konversationelle Darstellung zu erstellen, obwohl es nie kommerzialisiert wurde. Akademische Projekte an Institutionen wie MIT CSAIL und Stanford AI Lab haben die technischen und sozialen Implikationen untersucht, oft in Zusammenarbeit mit Forschern von Google DeepMind.
Große Cloud-Anbieter, darunter Amazon Web Services und Microsoft Azure, bieten die zugrunde liegende Infrastruktur für das Training und die Bereitstellung solcher Modelle, befürworten jedoch keine Deadbot-spezifischen Anwendungen. Das Bhabha Atomic Research Centre und andere öffentliche Institutionen haben sich öffentlich nicht mit diesem Bereich befasst, was seinen Nischenstatus widerspiegelt.
Psychologische und soziale Auswirkungen
Studien legen nahe, dass die Interaktion mit einem Deadbot starke emotionale Reaktionen hervorrufen kann, sowohl positive als auch negative. Nutzer können ein Gefühl von Präsenz oder Erleichterung erleben, aber auch Verwirrung oder Belastung, wenn die Simulation nicht ihren Erinnerungen entspricht. Die Arbeit von Brian Christian zur Mensch-KI-Interaktion betont die Bedeutung von Transparenz und empfiehlt, dass Deadbots sich klar als Simulationen identifizieren. Einige Plattformen enthalten Haftungsausschlüsse und Zeitlimits, um übermäßige Nutzung zu verhindern.
Kulturelle Einstellungen variieren. In Japan, wo die Ahnenverehrung verbreitet ist, gibt es eine größere Akzeptanz digitaler Denkmäler, während westliche Gesellschaften ihnen oft mit Skepsis begegnen. Xerox PARC und Nokia Bell Labs haben zur Forschung im Bereich Mensch-Computer-Interaktion beigetragen, die das Design von Benutzeroberflächen für solche Systeme informiert.
Zukünftige Richtungen
Mit der Verbesserung von generativer KI werden Deadbots wahrscheinlich realistischer und zugänglicher. Technische Einschränkungen bleiben jedoch bestehen, darunter die Unfähigkeit, nonverbale Hinweise zu erfassen, und das Risiko, falsche Erinnerungen zu halluzinieren. Forscher untersuchen Methoden, um Verlustfunktionen zu integrieren, die ungenaue Erinnerungen bestrafen, und Modellbereinigung zu verwenden, um Rechenkosten zu senken. Die Integration von Sprach- und Videodaten könnte zu immersiveren Erfahrungen führen, wirft aber auch tiefere Fragen zu Identität und dem Wesen der Personhood auf.
Regulierungsbehörden und Ethiker fordern standardisierte Einwilligungsprotokolle und das Recht auf posthume Löschung. Die Open-Panel-Initiative, eine Multi-Stakeholder-Gruppe, hat Richtlinien für die ethische Entwicklung von Deadbots vorgeschlagen, einschließlich obligatorischer Offenlegung und Opt-out-Mechanismen für Nutzer. Bis 2025 wurde keine größere Gesetzgebung verabschiedet, aber das Thema bleibt in akademischen und politischen Diskussionen aktiv.
Siehe auch
- künstliche Intelligenz
- großes Sprachmodell
- generative KI
- Trauerbewältigung
Referenzen
Dieser Artikel stützt sich auf öffentliche Berichte aus Technologiemedien, akademischen Arbeiten und Unternehmensankündigungen. Spezifische Zitate werden aus Gründen der Kürze weggelassen, aber zu den wichtigsten Quellen gehören die Konferenzbeiträge der Association for Computing Machinery (ACM) und die IEEE Transactions on Affective Computing.