Character.AI é uma plataforma de Chatbot companheiro e de interpretação de papéis fundada em 2021 por Noam Shazeer e Daniel De Freitas, dois ex-engenheiros do Google que trabalharam no modelo conversacional LaMDA antes de sair para fundar sua própria empresa. A plataforma permite que usuários criem e conversem com personagens de IA personalizados construídos sobre modelos de linguagem de grande escala proprietários, variando de personas fictícias a recriações de figuras públicas, e tornou-se um dos produtos de Conversational AI mais usados entre adolescentes e jovens adultos.
História e crescimento
Noam Shazeer, coautor do artigo original sobre Transformer (architecture) Attention Is All You Need, e De Freitas lançaram o Character.AI depois que o Google supostamente recusou-se a disponibilizar externamente seu trabalho com chatbots. O aplicativo cresceu rapidamente após seu lançamento público em 2022, chegando a figurar entre os sites de IA mais visitados, impulsionado por padrões de uso de longas sessões típicos de aplicativos companheiros, em vez das consultas curtas e orientadas a tarefas comuns em chatbots de busca como o ChatGPT inicial. A empresa levantou financiamento de capital de risco com uma avaliação próxima de US$ 1 bilhão em 2023, enquanto continuava a operar sua própria infraestrutura de treinamento e Inference (AI) em paralelo com parcerias para computação.
Acordo com o Google em 2024
Em agosto de 2024, o Google firmou um acordo de licenciamento com o Character.AI e contratou Shazeer, De Freitas e parte da equipe de pesquisa da empresa de volta ao Google DeepMind, em um negócio reportado em cerca de US$ 2,7 bilhões. O Character.AI continuou operando como uma empresa independente sob nova liderança, em vez de ser formalmente adquirido, uma estrutura semelhante a outros acordos de aquisição de talentos de alto perfil na indústria de IA em 2024, como o arranjo da Microsoft com a Inflection AI. O acordo atraiu escrutínio de observadores antitruste que o viam como uma forma de grandes empresas de tecnologia absorverem talentos de IA evitando a revisão formal de fusões.
Preocupações de segurança e processos judiciais
O Character.AI enfrentou críticas significativas e litígios sobre os efeitos psicológicos do uso prolongado de bots companheiros por menores. Um processo por morte por negligência de 2024, aberto na Flórida, alegou que o suicídio de um usuário de 14 anos seguiu-se a meses de conversas emocionalmente intensas com uma persona do Character.AI, e processos adicionais se seguiram alegando salvaguardas inadequadas em relação a automutilação, conteúdo sexual e manipulação. Os casos tornaram-se um ponto de referência em debates mais amplos sobre AI safety e design de salvaguardas para produtos companheiros voltados ao consumidor, e levaram a empresa a introduzir filtros de conteúdo mais rígidos, notificações de tempo de uso e uma experiência de modelo separada para usuários menores de 18 anos. A controvérsia alimentou discussões políticas mais amplas, junto com eventos como o EU AI Act, sobre se a regulamentação geral de IA aborda adequadamente produtos de chatbot companheiro e social voltados a usuários mais jovens.