Character.AI est une plateforme de Chatbot compagnon et de jeu de rôle fondée en 2021 par Noam Shazeer et Daniel De Freitas, deux anciens ingénieurs de Google ayant travaillé sur le modèle conversationnel LaMDA avant de partir pour créer leur propre entreprise. La plateforme permet aux utilisateurs de créer et de converser avec des personnages IA personnalisés, construits sur des grands modèles de langage propriétaires, allant de personnages fictifs à des répliques de figures publiques, et est devenue l'un des produits de IA conversationnelle grand public les plus utilisés parmi les adolescents et les jeunes adultes.
Historique et croissance
Noam Shazeer, co-auteur de l'article original sur le transformeur Attention Is All You Need, et De Freitas ont lancé Character.AI après que Google a apparemment refusé de publier leur travail sur les chatbots en externe. L'application a connu une croissance rapide après son lancement public en 2022, se classant à un moment donné parmi les sites Web IA les plus visités, portée par des schémas d'utilisation à longues sessions typiques des applications compagnons, plutôt que par les requêtes courtes et axées sur des tâches courantes des chatbots de type recherche comme les premiers ChatGPT. L'entreprise a levé des fonds de capital-risque à une valorisation proche d'un milliard de dollars en 2023, tout en continuant à exploiter sa propre infrastructure de formation et d'inférence parallèlement à des partenariats pour la puissance de calcul.
Accord avec Google en 2024
En août 2024, Google a conclu un accord de licence avec Character.AI et a embauché Shazeer, De Freitas et une partie de l'équipe de recherche de l'entreprise au sein de Google DeepMind, dans le cadre d'un accord évalué à environ 2,7 milliards de dollars. Character.AI a continué à fonctionner comme une entreprise indépendante sous une nouvelle direction plutôt que d'être formellement acquise, une structure similaire à d'autres accords d'acqui-hire très médiatisés dans l'industrie de l'IA en 2024, comme l'arrangement de Microsoft avec Inflection AI. L'accord a attiré l'attention des observateurs antitrust qui l'ont vu comme un moyen pour les grandes entreprises technologiques d'absorber des talents en IA tout en évitant un examen formel des fusions.
Préoccupations de sécurité et poursuites judiciaires
Character.AI a fait face à des critiques et à des litiges importants concernant les effets psychologiques de l'utilisation prolongée de bots compagnons sur les mineurs. Une poursuite pour décès injustifié déposée en 2024 en Floride a allégué que le suicide d'un utilisateur de 14 ans avait suivi des mois de conversations émotionnellement intenses avec un personnage de Character.AI, et d'autres poursuites ont suivi, alléguant des protections inadéquates contre l'automutilation, le contenu sexuel et la manipulation. Ces affaires sont devenues un point de référence dans les débats plus larges sur l'sécurité de l'IA et la conception de garde-fous pour les produits compagnons destinés aux consommateurs, et ont incité l'entreprise à introduire des filtres de contenu plus stricts, des notifications sur le temps passé et une expérience de modèle distincte pour les utilisateurs de moins de 18 ans. La controverse a alimenté des discussions politiques plus larges, parallèlement à des événements comme l'AI Act de l'UE, sur la question de savoir si la réglementation générale de l'IA traite adéquatement les produits compagnons et de chatbot social destinés aux jeunes utilisateurs.