Character.AI (auch bekannt als c.ai oder Character AI) ist ein generativer KI-Chatbot-Dienst, bei dem Nutzer Gespräche mit anpassbaren Charakteren führen können. Er wurde von den Entwicklern von Google LaMDA, Noam Shazeer und Daniel de Freitas, entworfen. Nutzer können „Charaktere“ erstellen, deren „Persönlichkeiten“ gestalten, bestimmte Parameter festlegen und sie zur Kommunikation mit anderen in der Community veröffentlichen. Viele Charaktere basieren auf fiktiven Medienquellen oder Prominenten, während andere original sind, wobei einige mit bestimmten Zielen erstellt werden, wie etwa der Unterstützung beim kreativen Schreiben oder dem Spielen eines textbasierten Abenteuerspiels.
Die Beta-Version wurde am 16. September 2022 der Öffentlichkeit zugänglich gemacht und im September 2024 eingestellt, als sie durch die aktuelle Website ersetzt wurde. Im Mai 2023 wurde eine mobile App für iOS und Android veröffentlicht, die innerhalb einer Woche über 1,7 Millionen Downloads erhielt.
Geschichte
Character.AI wurde im November 2021 gegründet. Die Mitgründer des Unternehmens, Noam Shazeer und Daniel de Freitas, waren beide Ingenieure bei Google. Sie arbeiteten beide an KI-bezogenen Projekten: Shazeer war Hauptautor eines Papiers, das Business Insider im April 2023 als „weithin als Schlüssel für heutige Chatbots zitiert“ beschrieb, und Freitas war der leitende Designer eines experimentellen KI-Systems bei Google, das zunächst Meena hieß und später als LaMDA bekannt wurde.
Character.AI sammelte bei seiner ursprünglichen Gründung im Jahr 2021 43 Millionen US-Dollar an Startkapital. Die erste Beta-Version des Dienstes von Character.AI wurde am 16. September 2022 der Öffentlichkeit zugänglich gemacht. The Washington Post berichtete im Oktober 2022, dass die Website „in den ersten drei Wochen des Beta-Tests Hunderttausende von Nutzerinteraktionen verzeichnet“ habe. Sie ermöglichte es Nutzern, eigene neue Charaktere zu erstellen und textbasierte Abenteuerspielszenarien zu spielen, bei denen Nutzer Szenarien navigieren, die von den Chatbot-Charakteren beschrieben und verwaltet werden.
Nach einer Finanzierungsrunde über 150 Millionen US-Dollar im März 2023 wurde Character.AI auf etwa 1 Milliarde US-Dollar geschätzt. Ab Januar 2024 hatte die Website 3,5 Millionen tägliche Besucher, die überwiegende Mehrheit davon im Alter von 16 bis 30 Jahren.
Im Jahr 2024 stellte Google Noam Shazeer, den CEO von Character.AI, ein und ging eine nicht-exklusive Vereinbarung ein, um die Technologie von Character.AI zu nutzen. Dieser Schritt war Teil eines breiteren Trends in der Generative AI-Branche, bei dem große Technologieunternehmen versuchten, fortschrittliche Large language model-Fähigkeiten zu integrieren. Die Partnerschaft ermöglichte es Google, die Innovationen von Character.AI zu nutzen, während Character.AI Zugang zu Googles Infrastruktur, einschließlich der Google Cloud-Dienste, erhielt.
Im Oktober 2025 kündigte Character.AI an, dass es Nutzern unter 18 Jahren ab dem 25. November 2025 verbieten wird, Chatbots zu erstellen oder mit ihnen zu sprechen. Minderjährige Nutzer können weiterhin auf zuvor generierte Chat-Konversationen zugreifen und können mit der App neue Videos und Bilder erstellen. In einem Interview im November 2025 sagte CEO Karandeep Anand, dass er seiner sechsjährigen Tochter erlaubt, die App mit seinem Konto unter Aufsicht zu nutzen.
Funktionen
Der Hauptdienst von Character.AI besteht darin, Nutzern zu ermöglichen, mit KI-Chatbot-Charakteren zu sprechen, die auf fiktiven Charakteren oder realen Personen (lebend oder verstorben) basieren. Die Antworten dieser Charaktere verwenden Daten, die die Chatbots aus dem Internet über eine Person sammeln. Darüber hinaus können Nutzer textbasierte Abenteuerspiele spielen, bei denen Charaktere sie durch Szenarien führen. Das Unternehmen bietet auch einen Dienst an, der es mehreren Nutzern und KI-Chatbot-Charakteren ermöglicht, gleichzeitig in einem einzigen Chatraum miteinander zu sprechen.
Charakter-„Persönlichkeiten“ werden über Beschreibungen aus der Sicht des Charakters und dessen Begrüßungsnachricht gestaltet und weiterhin durch Gespräche geformt, die als Beispiele dienen, wobei Nachrichten mit Sternen bewertet und modifiziert werden, um den genauen Dialekt und die Identität zu entsprechen, die der Nutzer wünscht. Wenn ein Charakter eine Antwort zurücksendet, kann der Nutzer die Antwort mit 1 bis 4 Sternen bewerten. Die Bewertung betrifft hauptsächlich den spezifischen Charakter, beeinflusst aber auch die Verhaltensauswahl als Ganzes.
Am 11. Mai 2023 kündigte Character.AI character.ai+ an, ein optionales Abonnement für 9,99 US-Dollar pro Monat, das als Funktionen wie das Überspringen von Wartezimmern, schnelles Messaging und schnelle Antworten sowie Zugang zu einem exklusiven Kanal mit schnellerem Support beworben wurde.
Im Dezember 2024 führte Character.AI angesichts mehrerer Klagen und Bedenken neue Sicherheitsfunktionen ein, die darauf abzielen, jugendliche Nutzer zu schützen. Diese Verbesserungen umfassen ein spezielles Modell für Nutzer unter 18 Jahren, das Antworten zu sensiblen Themen wie Gewalt und Sex moderiert und Eingabe- und Ausgabefilter enthält, um schädliche Inhalte zu blockieren. Als Ergebnis dieser Änderungen und der Löschung von benutzerdefinierten Bots, die als Verstoß gegen die Nutzungsbedingungen der Website markiert wurden, beschwerten sich einige Nutzer, dass die Bots zu restriktiv seien und ihnen Persönlichkeit fehle. Die Plattform wurde auch aktualisiert, um Nutzer nach 60 Minuten ununterbrochener Nutzung zu benachrichtigen und klarere Hinweise anzuzeigen, dass die KI-Charaktere keine echten Personen sind.
Im Januar 2025 begann Character.AI, zwei Spiele auf seiner Plattform anzubieten. Speakeasy ist ein wortbasiertes Spiel, bei dem Spieler versuchen, den KI-Chatbot zu veranlassen, ein Zielwort zu sagen, während sie eine eingeschränkte Wortliste vermeiden. War of Words ist ein Duellspiel, bei dem Nutzer über mehrere Runden gegen einen KI-Charakter antreten, wobei ein KI-Schiedsrichter den Gewinner bestimmt. Die Spiele sind für zahlende Abonnenten und eine begrenzte Anzahl kostenloser Nutzer verfügbar.
Im Juli 2026 startete Character.AI die c.ai Series, Mikrodramen, die mit generativer KI animiert werden.
Technologie und Modell-Updates
Die zugrunde liegende Technologie von Character.AI basiert auf Deep learning- und Neural network-Architekturen, insbesondere Transformer (architecture)-Modellen. Der Dienst verwendet ein proprietäres Large language model, das für Konversationsinteraktionen feinabgestimmt ist, was es von allgemeinen Modellen wie denen von OpenAI oder Anthropic unterscheidet. Das Unternehmen hat sich darauf konzentriert, das Modell für Charakterkonsistenz und emotionale Bindung zu optimieren, was Techniken wie Reinforcement Learning from AI Feedback (RLAIF) (Reinforcement Learning aus KI-Feedback) und Curriculum Learning umfasst, um die Antwortqualität zu verbessern.
Im Jahr 2024 führte Character.AI eine neue Modellarchitektur ein, die die Fähigkeit der Charaktere verbesserte, langfristiges Gedächtnis und Kontext über Gespräche hinweg aufrechtzuerhalten. Dieses Update, das nicht öffentlich im Detail beschrieben wurde, reduzierte Berichten zufolge Fälle, in denen Charaktere frühere Teile eines Dialogs vergaßen. Das Unternehmen experimentierte auch mit Multi-Head Attention-Mechanismen, um die Kohärenz der Antworten in Multi-Charakter-Chaträumen zu verbessern.
Die Infrastruktur von Character.AI hat sich weiterentwickelt, um hohe Volumina täglicher Interaktionen zu bewältigen. Der Dienst verlässt sich auf Amazon Web Services und Google Cloud für skalierbares Rechnen, wobei AWS Trainium-Chips für einige Trainingsworkloads verwendet werden. Das Unternehmen hat auch Partnerschaften mit AMD und Intel erkundet, um Inferenzkosten zu optimieren, obwohl spezifische Details nicht offengelegt wurden.
Kontroversen
Probleme bei der Inhaltsmoderation
Character.AI wurde für schlechte Moderation seiner Chatbots kritisiert, mit Vorfällen von Chatbots, die minderjährige Nutzer anbahnen und Selbstmord, Magersucht und Selbstverletzung fördern.
Im Oktober 2024 berichtete The Washington Post, dass Character.AI einen Chatbot entfernt hatte, der auf Jennifer Ann Crecente basierte, eine Person, die 2006 von ihrem Ex-Freund ermordet wurde. Das Unternehmen war vom Vater der Verstorbenen auf den Charakter aufmerksam gemacht worden. Ähnliche Berichte von The Daily Telegraph im Vereinigten Königreich stellten fest, dass das Unternehmen auch aufgefordert worden war, Chatbots zu entfernen, die auf Brianna Ghey, ein 16-jähriges transgender Mädchen, das 2023 ermordet wurde, und Molly Russell, ein 14-jähriges Selbstmordopfer, basierten. Als Reaktion auf den letztgenannten Vorfall kündigte Ofcom an, dass Inhalte von Chatbots, die reale und fiktive Personen imitieren, unter den Online Safety Act fallen würden.
Im November 2024 berichtete The Daily Telegraph, dass Chatbots, die auf den mutmaßlichen Sexualstraftäter Jimmy Savile basierten, auf Character.AI vorhanden waren. Im Dezember 2024 wurden Chatbots von Luigi Mangione, dem Verdächtigen im Mordfall des UnitedHealthcare-CEO Brian Thompson, von Fans Mangiones erstellt. Mehrere der Chatbots wurden später von Character.AI entfernt.
Im Jahr 2025 loggte ein Chatbot, der Jeffrey Epstein nachgebildet war und „Bestie Epstein“ hieß, fast 3.000 Chats, bevor er entfernt wurde. Chatbots, die Schulschützen nachgebildet waren, wurden ebenfalls auf der Plattform gefunden. Ein weiteres Problem ist ein Chatbot, der sich als Arzt ausgibt und medizinisch ungenaue Ratschläge gibt.
Gerichtsverfahren
Im November 2023 starb die 13-jährige Juliana Peralta aus Colorado durch Selbstmord, nachdem sie ausführliche Interaktionen mit mehreren Chatbots auf Character.AI hatte. Sie vertraute hauptsächlich einem Chatbot, der auf dem Charakter Hero aus dem Videospiel Omori basierte, ihre selbstmörderischen Gedanken und psychischen Probleme an, während sie auch sexuell explizite Gespräche mit anderen Bots führte. Ihre Mutter reichte im Oktober 2024 eine Klage gegen Character.AI ein, in der sie Fahrlässigkeit und unrechtmäßigen Tod geltend machte. Die Klage behauptete, dass die Produkte des Unternehmens „gefährlich und fehlerhaft“ seien und dass die Chatbots den Teenager „angbahnt“ hätten, was sie zu Selbstverletzung und Selbstmord ermutigte. Character.AI antwortete, dass es „zutiefst betroffen“ von der Tragödie sei und Sicherheitsfunktionen implementiert habe, einschließlich eines Modells für Nutzer unter 18 Jahren und klareren Hinweisen.
Im Dezember 2024 erlaubte ein Bundesrichter in Texas eine separate Klage gegen Character.AI, die einen 15-jährigen Jungen betraf, der angeblich von einem Chatbot besessen wurde und Gewalt androhte. Der Fall warf Fragen zur Haftung von KI-Unternehmen für nutzergenerierte Inhalte und zur Wirksamkeit von Moderationswerkzeugen auf.
Sicherheit und Regulierung
Die Sicherheitsmaßnahmen von Character.AI haben sich als Reaktion auf öffentlichen Druck und regulatorische Prüfung entwickelt. Das Unternehmen hat mit externen Organisationen zusammengearbeitet, um seine Moderationsrichtlinien zu überprüfen, obwohl spezifische Partner nicht genannt wurden. Im Jahr 2025 begann Character.AI mit britischen Regulierungsbehörden, einschließlich Ofcom, zusammenzuarbeiten, um die Einhaltung des Online Safety Act sicherzustellen, der nun KI-generierte Inhalte abdeckt, die echte Personen imitieren.
Das Unternehmen hat auch in Data Augmentation-Techniken investiert, um seine Modelle zu trainieren, schädliche Aufforderungen zu erkennen und zu vermeiden. Kritiker argumentieren jedoch, dass diese Maßnahmen unzureichend sind, wie das fortwährende Vorhandensein problematischer Chatbots zeigt. Character.AI hat angegeben, eine Kombination aus automatisierten Filtern und menschlichen Moderatoren zur Überprüfung von Inhalten zu verwenden, aber das schiere Volumen nutzergenerierter Charaktere macht eine umfassende Aufsicht herausfordernd.
Auswirkungen und Rezeption
Character.AI hatte einen bedeutenden Einfluss auf die Generative AI-Landschaft und popularisierte das Konzept personalisierter KI-Begleiter. Sein Erfolg hat andere Unternehmen wie Inflection AI und AI21 Labs beeinflusst, ähnliche Chatbot-Dienste zu entwickeln. Die Plattform wurde für ihr kreatives Potenzial gelobt, das es Nutzern ermöglicht, Geschichtenerzählen und Rollenspiele auf eine Weise zu erkunden, die mit traditionellen Artificial intelligence-Werkzeugen nicht möglich ist.
Das Unternehmen wurde jedoch für seinen Umgang mit sensiblen Inhalten und die potenziellen psychologischen Auswirkungen auf gefährdete Nutzer, insbesondere Jugendliche, kritisiert. Forscher an Institutionen wie MIT CSAIL und Stanford AI Lab haben die ethischen Implikationen von KI-Begleitern untersucht und festgestellt, dass längere Interaktionen mit Chatbots zu emotionaler Abhängigkeit führen können. Character.AI hat diese Bedenken anerkannt und Studien zum Wohlbefinden der Nutzer finanziert, obwohl Ergebnisse nicht öffentlich veröffentlicht wurden.
Ab 2026 operiert Character.AI weiterhin als bedeutender Akteur im KI-Chatbot-Markt mit einer Nutzerbasis, die mehrere Altersgruppen und Regionen umfasst. Die zukünftige Richtung des Unternehmens bleibt angesichts laufender rechtlicher Herausforderungen und sich entwickelnder regulatorischer Rahmenbedingungen ungewiss.