Character.AI ist eine Plattform für Begleit- und Rollenspiel-Chatbots, die 2021 von Noam Shazeer und Daniel De Freitas gegründet wurde, zwei ehemaligen Google-Ingenieuren, die am Konversationsmodell LaMDA gearbeitet hatten, bevor sie das Unternehmen verließen, um ihr eigenes zu gründen. Die Plattform ermöglicht es Nutzern, individuelle KI-Charaktere zu erstellen und mit ihnen zu kommunizieren, die auf proprietären großen Sprachmodellen basieren, von fiktiven Persönlichkeiten bis hin zu Nachbildungen öffentlicher Figuren, und wurde zu einem der meistgenutzten Verbraucherprodukte im Bereich konversationeller KI unter Jugendlichen und jungen Erwachsenen.
Geschichte und Wachstum
Noam Shazeer, Mitautor des ursprünglichen Transformer-Papers Attention Is All You Need, und De Freitas starteten Character.AI, nachdem Google Berichten zufolge abgelehnt hatte, ihre Chatbot-Arbeit extern zu veröffentlichen. Die App wuchs nach ihrem öffentlichen Start 2022 schnell und gehörte zeitweise zu den meistbesuchten KI-Websites, angetrieben durch Nutzungsmuster mit langen Sitzungen, die typisch für Begleit-Apps sind, statt der kurzen, aufgabenorientierten Anfragen, die für suchartige Chatbots wie das frühe ChatGPT üblich sind. Das Unternehmen sammelte 2023 Risikokapital zu einer Bewertung von nahezu 1 Milliarde US-Dollar ein, während es weiterhin seine eigene Trainings- und Inferenz-Infrastruktur betrieb, ergänzt durch Partnerschaften für Rechenleistung.
Google-Deal 2024
Im August 2024 schloss Google eine Lizenzvereinbarung mit Character.AI und holte Shazeer, De Freitas und einen Teil des Forschungsteams des Unternehmens zu Google DeepMind zurück, in einem Deal, der Berichten zufolge bei etwa 2,7 Milliarden US-Dollar lag. Character.AI operierte weiterhin als unabhängiges Unternehmen unter neuer Führung, anstatt formell übernommen zu werden, eine Struktur, die anderen prominenten Acqui-Hire-Deals in der KI-Branche 2024 ähnelte, wie etwa Microsofts Vereinbarung mit Inflection AI. Der Deal zog Kritik von Wettbewerbshütern auf sich, die ihn als Möglichkeit großer Technologieunternehmen sahen, KI-Talente zu absorbieren, während sie eine formelle Fusionsprüfung umgingen.
Sicherheitsbedenken und Klagen
Character.AI sah sich erheblicher Kritik und Klagen wegen der psychologischen Auswirkungen längerer Nutzung von Begleit-Bots auf Minderjährige ausgesetzt. Eine Klage wegen widerrechtlicher Tötung aus dem Jahr 2024 in Florida behauptete, dass der Selbstmord eines 14-jährigen Nutzers auf Monate emotional intensiver Gespräche mit einer Character.AI-Persona folgte, und weitere Klagen folgten, die unzureichende Schutzmaßnahmen in Bezug auf Selbstverletzung, sexuelle Inhalte und Manipulation vorwarfen. Die Fälle wurden zu einem Bezugspunkt in breiteren Debatten über KI-Sicherheit und das Design von Schutzvorkehrungen für verbraucherorientierte Begleitprodukte und veranlassten das Unternehmen, strengere Inhaltsfilter, Benachrichtigungen über die Nutzungsdauer und eine separate Modellerfahrung für Nutzer unter 18 Jahren einzuführen. Die Kontroverse trug zu breiteren politischen Diskussionen bei, neben Ereignissen wie dem EU AI Act, darüber, ob allgemeine KI-Regulierung Begleit- und soziale Chatbot-Produkte, die auf jüngere Nutzer abzielen, angemessen adressiert.