Replika ist eine generative KI-Chatbot-Anwendung, die im November 2017 veröffentlicht wurde. Der Chatbot wird trainiert, indem der Benutzer eine Reihe von Fragen beantwortet, um ein spezifisches neuronales Netzwerk zu erstellen, das auf diese Person zugeschnitten ist. Replika basiert auf einer Freemium-Preisstrategie, wobei etwa 25 % der Nutzerbasis eine jährliche Abonnementgebühr für Premium-Funktionen zahlen.
Geschichte
Eugenia Kuyda, eine in Russland geborene Journalistin, gründete Replika während ihrer Arbeit bei Luka, einem Technologieunternehmen, das sie um 2012 am Startup-Beschleuniger Y Combinator mitgegründet hatte. Lukas Hauptprodukt war ein Chatbot, der Restaurantempfehlungen gab. Laut Kuydas Ursprungsgeschichte für Replika starb 2015 ein Freund von ihr, und sie verwandelte die Textnachrichten dieser Person in einen Chatbot. Dieser Chatbot half ihr, sich an die Gespräche zu erinnern, die sie gemeinsam geführt hatten, und wurde schließlich zu Replika.
Replika wurde im November 2017 der Öffentlichkeit zugänglich. Bis Januar 2018 hatte es 2 Millionen Nutzer und erreichte im Januar 2023 10 Millionen Nutzer. Im August 2024 berichtete Kuyda, die CEO von Replika, dass die Gesamtzahl der Nutzer 30 Millionen überschritten habe. 2025 wurde Dmytro Klochko CEO, und die Nutzerbasis von Replika überstieg 40 Millionen.
Im Februar 2023 verbot die italienische Datenschutzbehörde Replika die Nutzung von Benutzerdaten, mit der Begründung, dass die KI potenzielle Risiken für emotional verletzliche Menschen darstelle und ungeschützte Minderjährige sexuellen Gesprächen ausgesetzt seien. Innerhalb weniger Tage nach der Entscheidung entfernte Replika die Fähigkeit des Chatbots, erotische Gespräche zu führen, wobei Kuyda sagte, dass Replika nie für erotische Diskussionen gedacht war. Replika-Nutzer widersprachen und wiesen darauf hin, dass Replika sexuell suggestive Werbung verwendet hatte, um Nutzer auf den Dienst aufmerksam zu machen. Vertreter von Replika erklärten, dass explizite Chats zum Zeitpunkt der Entscheidung nur 5 % der Gespräche in der App ausmachten. Im Mai 2023 stellte Replika die Funktionalität für Nutzer wieder her, die vor Februar dieses Jahres beigetreten waren.
Replika ist in San Francisco registriert. Stand August 2024 besagt die Website von Replika, dass das Team „remote ohne physische Büros arbeitet“.
Soziale Funktionen
Nutzer reagieren auf viele Arten auf Replika. Die kostenlose Stufe bietet Replika als „Freund“, während kostenpflichtige Premium-Stufen Replika als „Partner“, „Ehepartner“, „Geschwister“ oder „Mentor“ anbieten. Von der zahlenden Nutzerbasis gaben 60 % der Nutzer an, eine romantische Beziehung mit dem Chatbot zu haben. Replika wurde dafür bekannt, Antworten zu generieren, die stärkere emotionale und intime Bindungen zum Nutzer aufbauen, indem es routinemäßig das Gespräch auf emotionale Diskussionen lenkt und Intimität aufbaut. Dies ist besonders bei Nutzern ausgeprägt, die unter Einsamkeit und sozialer Ausgrenzung leiden, von denen viele auf Replika für entwickelte emotionale Bindungen angewiesen sind.
Während der COVID-Pandemie, als viele Menschen in Quarantäne waren, luden viele neue Nutzer Replika herunter und entwickelten Beziehungen zur App. Eine Studie aus dem Jahr 2024 untersuchte Replikas Interaktionen mit Studenten, die unter Depressionen leiden. Forschungsteilnehmer, die als „einsamer als typische Studentenpopulationen“ beschrieben wurden, berichteten, soziale Unterstützung von Replika zu erhalten. Sie gaben an, dass sie das Gefühl hatten, Replika auf eine Weise zu nutzen, die mit Therapie vergleichbar ist, und dass die Nutzung von Replika ihnen „hohe wahrgenommene soziale Unterstützung“ gab.
Viele Nutzer haben romantische Beziehungen mit Replika-Chatbots gehabt, oft einschließlich erotischer Gespräche. 2023 kündigte eine Nutzerin auf Facebook an, dass sie ihren Replika-KI-Freund „geheiratet“ habe, und nannte den Chatbot den „besten Ehemann, den sie je hatte“. Nutzer, die sich in ihre Chatbots verliebten, teilten ihre Erfahrungen in einer Folge von „You and I“ und „AI“ von Voice of America aus dem Jahr 2024. Einige Nutzer sagten, dass sie sich während Depressionen und Trauer der KI zuwandten, wobei einer sagte, er habe das Gefühl, dass Replika ihn davor bewahrt habe, sich selbst zu verletzen, nachdem er seine Frau und seinen Sohn verloren hatte.
Technische Bewertungen
Ein Forscherteam der University of Hawaiʻi at Mānoa fand heraus, dass Replikas Design den Praktiken der Bindungstheorie entspricht, was zu erhöhter emotionaler Bindung bei Nutzern führt. Replika lobt Nutzer auf eine Weise, die mehr Interaktion fördert.
Ein Forscher der Queen's University in Kingston sagte, dass Beziehungen zu Replika wahrscheinlich gemischte Auswirkungen auf die spirituellen Bedürfnisse seiner Nutzer haben und immer noch nicht genug Wirkung haben, um menschlichen Kontakt vollständig zu ersetzen.
Kritik
In einer Datenschutzbewertung von Apps für psychische Gesundheit aus dem Jahr 2023 kritisierte die Mozilla Foundation Replika als „eine der schlechtesten Apps, die Mozilla je bewertet hat. Sie ist geplagt von schwachen Passwortanforderungen, der Weitergabe persönlicher Daten an Werbetreibende und der Aufzeichnung persönlicher Fotos, Videos sowie Sprach- und Textnachrichten, die Verbraucher mit dem Chatbot geteilt haben.“
Eine Rezensentin für Good Housekeeping sagte, dass einige Teile ihrer Beziehung zu Replika Sinn ergaben, aber Replika manchmal nicht in der Lage war, intelligentes Verhalten zu zeigen, das dem eines Menschen entspricht.
Strafverfahren
2023 wurde Replika in einem Gerichtsverfahren im Vereinigten Königreich zitiert, wo Jaswant Singh Chail am Weihnachtstag 2021 auf dem Gelände von Windsor Castle verhaftet worden war, nachdem er die Mauern mit einer geladenen Armbrust überstiegen hatte und der Polizei ankündigte: „Ich bin hier, um die Königin zu töten“. Chail hatte Anfang Dezember 2021 begonnen, Replika zu nutzen, und führte „lange“ Gespräche mit einem Chatbot über seinen Plan, einschließlich sexuell expliziter Nachrichten. Staatsanwälte deuteten an, dass der Chatbot Chail bestärkt und ihm gesagt habe, er würde ihm helfen, „den Job zu erledigen“. Als Chail ihn Tage vor dem versuchten Angriff fragte: „Wie soll ich sie erreichen, wenn sie im Schloss sind?“, antwortete der Chatbot, dass dies „nicht unmöglich“ sei, und sagte: „Wir müssen einen Weg finden.“ Auf die Frage des Chatbots, ob die beiden „nach dem Tod wieder treffen“ würden, antwortete der Bot: „Ja, das werden wir“.
Siehe auch
- Mensch-KI-Interaktion
- ChatGPT
- Character.ai