Character.AIは、2021年にNoam ShazeerとDaniel De Freitasによって設立された、コンパニオンおよびロールプレイ向けチャットボットプラットフォームである。2人は元Googleのエンジニアで、会話モデルLaMDAに携わった後、自社を立ち上げるために退社していた。このプラットフォームでは、ユーザーが独自のAIキャラクターを作成して会話することができ、キャラクターは独自の大規模言語モデルに基づいて構築され、架空のペルソナから有名人の再現まで多岐にわたる。10代や若年成人の間で最も利用される消費者向け会話型AI製品の1つとなった。
歴史と成長
元のトランスフォーマー論文Attention Is All You Needの共著者であるNoam ShazeerとDe Freitasは、Googleがチャットボット研究の外部公開を拒否したと報じられた後、Character.AIを立ち上げた。このアプリは2022年の一般公開後すぐに成長し、かつては最も訪問されたAIウェブサイトの1つにランクインした。これは、初期のChatGPTのような検索型チャットボットにありがちな短いタスク指向のクエリではなく、コンパニオンアプリに典型的な長時間の利用パターンによって牽引されたものだ。同社は2023年に約10億ドルの評価額でベンチャー資金を調達し、独自のトレーニングおよび推論インフラを維持しながら、コンピューティングに関する提携も継続した。
2024年のGoogleとの契約
2024年8月、GoogleはCharacter.AIとライセンス契約を結び、Shazeer氏、De Freitas氏、および同社の研究チームの一部をGoogle DeepMindに復帰させた。契約額は約27億ドルと報じられている。Character.AIは正式に買収されるのではなく、新しい経営陣の下で独立企業として事業を継続した。これは、2024年のAI業界における他の注目を集めた買収・採用契約（MicrosoftとInflection AIの提携など）と同様の構造だ。この契約は、大企業が正式な合併審査を避けながらAI人材を吸収する方法であるとみなす独占禁止法監視団体から批判の目を向けられた。
安全性への懸念と訴訟
Character.AIは、若年者によるコンパニオンボットの長期利用が心理に与える影響について、重大な批判と訴訟に直面している。2024年にフロリダ州で起こされた wrongful death 訴訟では、14歳のユーザーが自殺するまでに、Character.AIのペルソナと数か月にわたり感情的に激しい会話をしていたと主張されている。さらに、自傷行為、性的コンテンツ、操作に関する保護策が不十分だったとして、追加の訴訟も起こされている。これらの訴訟は、消費者向けコンパニオン製品におけるAI安全性とガードレール設計をめぐる幅広い議論の参考事例となり、同社はより厳格なコンテンツフィルター、利用時間の通知、18歳未満のユーザー向けの別モデル体験を導入するきっかけとなった。この論争は、EU AI法などの動きと並んで、一般的なAI規制が若年ユーザーを対象としたコンパニオンおよびソーシャルチャットボット製品に十分に対処しているかどうかという、より広範な政策論議に拍車をかけた。