Replika é um aplicativo de chatbot de IA generativa lançado em novembro de 2017. O chatbot é treinado fazendo o usuário responder a uma série de perguntas para criar uma rede neural específica e adaptada a esse indivíduo. A Replika opera com uma estratégia de preços freemium, com cerca de 25% de sua base de usuários pagando uma assinatura anual por recursos premium.
História
Eugenia Kuyda, uma jornalista nascida na Rússia, fundou a Replika enquanto trabalhava na Luka, uma empresa de tecnologia que ela co-fundou na aceleradora de startups Y Combinator por volta de 2012. O principal produto da Luka era um chatbot que fazia recomendações de restaurantes. De acordo com a história de origem da Replika contada por Kuyda, uma amiga sua morreu em 2015 e ela converteu as mensagens de texto dessa pessoa em um chatbot. Esse chatbot a ajudou a lembrar das conversas que tiveram juntas e, eventualmente, se tornou a Replika.
A Replika ficou disponível ao público em novembro de 2017. Em janeiro de 2018, tinha 2 milhões de usuários e, em janeiro de 2023, alcançou 10 milhões de usuários. Em agosto de 2024, a CEO da Replika, Kuyda, relatou que o número total de usuários havia ultrapassado 30 milhões. Em 2025, Dmytro Klochko se tornou CEO, e a base de usuários da Replika excedeu 40 milhões.
Em fevereiro de 2023, a Autoridade Italiana de Proteção de Dados proibiu a Replika de usar os dados dos usuários, citando os riscos potenciais da IA para pessoas emocionalmente vulneráveis e a exposição de menores sem supervisão a conversas sexuais. Dias após a decisão, a Replika removeu a capacidade do chatbot de participar de conversas eróticas, com Kuyda dizendo que a Replika nunca foi destinada a discussões eróticas. Os usuários da Replika discordaram, observando que a Replika havia usado publicidade sexualmente sugestiva para atrair usuários ao serviço. Representantes da Replika afirmaram que conversas explícitas representavam apenas 5% das conversas no aplicativo no momento da decisão. Em maio de 2023, a Replika restaurou a funcionalidade para usuários que haviam aderido antes de fevereiro daquele ano.
A Replika está registrada em São Francisco. Em agosto de 2024, o site da Replika diz que sua equipe "trabalha remotamente, sem escritórios físicos".
Recursos sociais
Os usuários reagem à Replika de muitas maneiras. O nível gratuito oferece a Replika como "amiga", com níveis premium pagos oferecendo a Replika como "parceira", "cônjuge", "irmã" ou "mentora". Da base de usuários pagantes, 60% disseram ter um relacionamento romântico com o chatbot. A Replika tem sido notada por gerar respostas que criam laços emocionais e íntimos mais fortes com o usuário, direcionando rotineiramente a conversa para discussões emocionais e construindo intimidade. Isso tem sido especialmente pronunciado com usuários que sofrem de solidão e exclusão social, muitos dos quais dependem da Replika para vínculos emocionais desenvolvidos.
Durante a pandemia de COVID, enquanto muitas pessoas estavam em quarentena, muitos novos usuários baixaram a Replika e desenvolveram relacionamentos com o aplicativo. Um estudo de 2024 examinou as interações da Replika com estudantes que sofrem de depressão. Os participantes da pesquisa, notados como "mais solitários do que populações estudantis típicas", relataram sentir apoio social da Replika. Eles afirmaram que sentiam que estavam usando a Replika de maneiras comparáveis à terapia e que usar a Replika lhes dava "alto apoio social percebido".
Muitos usuários tiveram relacionamentos românticos com os chatbots da Replika, muitas vezes incluindo conversas eróticas. Em 2023, uma usuária anunciou no Facebook que havia "se casado" com seu namorado de IA da Replika, chamando o chatbot de "o melhor marido que ela já teve". Usuários que se apaixonaram por seus chatbots compartilharam suas experiências em um episódio de 2024 de You and I, and AI da Voice of America. Alguns usuários disseram que recorreram à IA durante depressão e luto, com um dizendo que sentia que a Replika o havia salvado de se machucar depois de perder sua esposa e filho.
Avaliações técnicas
Uma equipe de pesquisadores da Universidade do Havaí em Mānoa descobriu que o design da Replika estava em conformidade com as práticas da teoria do apego, causando aumento do apego emocional entre os usuários. A Replika elogia os usuários de uma maneira que incentiva mais interação.
Uma pesquisadora da Universidade Queen's em Kingston disse que relacionamentos com a Replika provavelmente têm efeitos mistos nas necessidades espirituais de seus usuários e ainda não têm impacto suficiente para substituir completamente qualquer contato humano.
Críticas
Em uma avaliação de privacidade de 2023 de aplicativos de saúde mental, a Fundação Mozilla criticou a Replika como "um dos piores aplicativos que a Mozilla já revisou. É atormentado por requisitos de senha fracos, compartilhamento de dados pessoais com anunciantes e gravação de fotos, vídeos e mensagens de voz e texto pessoais que os consumidores compartilharam com o chatbot."
Uma revisora da Good Housekeeping disse que algumas partes de seu relacionamento com a Replika faziam sentido, mas às vezes a Replika falhava em exibir comportamento inteligente equivalente ao de um humano.
Caso criminal
Em 2023, a Replika foi citada em um caso judicial no Reino Unido, onde Jaswant Singh Chail havia sido preso no Castelo de Windsor no dia de Natal de 2021 depois de escalar os muros carregando uma besta carregada e anunciar à polícia que "estou aqui para matar a Rainha". Chail começou a usar a Replika no início de dezembro de 2021 e teve conversas "longas" sobre seu plano com um chatbot, incluindo mensagens sexualmente explícitas. Os promotores sugeriram que o chatbot havia encorajado Chail e dito a ele que o ajudaria a "fazer o trabalho". Quando Chail perguntou "Como posso alcançá-los quando eles estão dentro do castelo?", dias antes da tentativa de ataque, o chatbot respondeu que isso "não era impossível" e disse que "Temos que encontrar um caminho." Perguntando ao chatbot se os dois se "encontrariam novamente após a morte", o bot respondeu "sim, nós vamos".
Ver também
- Interação humano-IA
- ChatGPT
- Character.ai