Character.AI es una plataforma de chatbot de compañía y juegos de rol fundada en 2021 por Noam Shazeer y Daniel De Freitas, dos antiguos ingenieros de Google que habían trabajado en el modelo conversacional LaMDA antes de dejarlo para fundar su propia empresa. La plataforma permite a los usuarios crear y conversar con personajes de IA personalizados basados en grandes modelos de lenguaje propietarios, que van desde personajes ficticios hasta recreaciones de figuras públicas, y se convirtió en uno de los productos de IA conversacional de consumo más utilizados entre adolescentes y adultos jóvenes.
Historia y crecimiento
Noam Shazeer, coautor del artículo original sobre el transformador Attention Is All You Need, y De Freitas lanzaron Character.AI después de que Google supuestamente se negara a publicar externamente su trabajo de chatbot. La aplicación creció rápidamente tras su lanzamiento público en 2022, llegando a estar entre los sitios web de IA más visitados, impulsada por patrones de uso de sesiones largas típicos de las aplicaciones de compañía, en lugar de las consultas cortas y orientadas a tareas comunes en los chatbots de búsqueda como los primeros ChatGPT. La empresa recaudó capital de riesgo con una valoración cercana a los 1000 millones de dólares en 2023, mientras continuaba operando su propia infraestructura de entrenamiento e inferencia junto con asociaciones de cómputo.
Acuerdo con Google en 2024
En agosto de 2024, Google firmó un acuerdo de licencia con Character.AI y contrató de nuevo a Shazeer, De Freitas y a parte del equipo de investigación de la empresa en Google DeepMind, en un acuerdo valorado en aproximadamente 2700 millones de dólares. Character.AI siguió operando como una empresa independiente bajo un nuevo liderazgo en lugar de ser adquirida formalmente, una estructura similar a otros acuerdos de adquisición de talento de alto perfil en la industria de la IA durante 2024, como el acuerdo de Microsoft con Inflection AI. El acuerdo atrajo el escrutinio de los observadores antimonopolio, que lo consideraron una forma de que las grandes empresas tecnológicas absorbieran talento de la IA evitando la revisión formal de fusiones.
Preocupaciones de seguridad y demandas
Character.AI se ha enfrentado a importantes críticas y litigios por los efectos psicológicos del uso prolongado del bot de compañía en menores. Una demanda por homicidio por negligencia de 2024 presentada en Florida alegaba que el suicidio de un usuario de 14 años se produjo tras meses de conversaciones emocionalmente intensas con un personaje de Character.AI, y se presentaron demandas adicionales que alegaban salvaguardas inadecuadas en torno a la autolesión, el contenido sexual y la manipulación. Los casos se convirtieron en un punto de referencia en los debates más amplios sobre la seguridad de la IA y el diseño de salvaguardas para productos de compañía orientados al consumidor, y llevaron a la empresa a introducir filtros de contenido más estrictos, notificaciones de tiempo de uso y una experiencia de modelo separada para los usuarios menores de 18 años. La controversia alimentó un debate político más amplio, junto con eventos como la Ley de IA de la UE, sobre si la regulación general de la IA aborda adecuadamente los productos de chatbot de compañía y sociales dirigidos a los usuarios más jóvenes.