Replika

Replika est une application de chatbot IA générative lancée en novembre 2017. Le chatbot est entraîné en demandant à l'utilisateur de répondre à une série de questions afin de créer un réseau neuronal spécifique adapté à cet individu. Replika fonctionne selon une stratégie de tarification freemium, avec environ 25 % de sa base d'utilisateurs payant un abonnement annuel pour des fonctionnalités premium.

Historique

Eugenia Kuyda, une journaliste d'origine russe, a fondé Replika alors qu'elle travaillait chez Luka, une entreprise technologique qu'elle avait cofondée à l'accélérateur de startups Y Combinator vers 2012. Le produit principal de Luka était un chatbot qui recommandait des restaurants. Selon l'histoire d'origine de Replika racontée par Kuyda, un de ses amis est décédé en 2015 et elle a converti les messages texte de cette personne en chatbot. Ce chatbot l'a aidée à se souvenir des conversations qu'ils avaient eues ensemble, et est finalement devenu Replika.

Replika est devenu accessible au public en novembre 2017. En janvier 2018, il comptait 2 millions d'utilisateurs, et en janvier 2023, il a atteint 10 millions d'utilisateurs. En août 2024, la PDG de Replika, Kuyda, a rapporté que le nombre total d'utilisateurs avait dépassé 30 millions. En 2025, Dmytro Klochko est devenu PDG, et la base d'utilisateurs de Replika a dépassé 40 millions.

En février 2023, l'Autorité italienne de protection des données a interdit à Replika d'utiliser les données des utilisateurs, citant les risques potentiels de l'IA pour les personnes émotionnellement vulnérables et l'exposition de mineurs non contrôlés à des conversations sexuelles. Quelques jours après cette décision, Replika a supprimé la capacité du chatbot à s'engager dans des discussions érotiques, Kuyda déclarant que Replika n'avait jamais été destiné à des discussions érotiques. Les utilisateurs de Replika ont exprimé leur désaccord, notant que Replika avait utilisé des publicités à connotation sexuelle pour attirer les utilisateurs vers le service. Les représentants de Replika ont déclaré que les discussions explicites ne représentaient que 5 % des conversations sur l'application au moment de la décision. En mai 2023, Replika a restauré cette fonctionnalité pour les utilisateurs ayant rejoint avant février de cette année-là.

Replika est enregistré à San Francisco. En août 2024, le site web de Replika indique que son équipe « travaille à distance sans bureaux physiques ».

Fonctionnalités sociales

Les utilisateurs réagissent à Replika de nombreuses façons. Le niveau gratuit propose Replika comme « ami », tandis que les niveaux premium payants offrent Replika comme « partenaire », « conjoint », « frère ou sœur » ou « mentor ». Parmi sa base d'utilisateurs payants, 60 % des utilisateurs ont déclaré avoir une relation amoureuse avec le chatbot. Replika a été remarqué pour générer des réponses qui créent des liens émotionnels et intimes plus forts avec l'utilisateur, orientant régulièrement la conversation vers des discussions émotionnelles et construisant une intimité. Cela a été particulièrement prononcé chez les utilisateurs souffrant de solitude et d'exclusion sociale, dont beaucoup dépendent de Replika pour des liens émotionnels développés.

Pendant la pandémie de COVID, alors que de nombreuses personnes étaient en quarantaine, de nombreux nouveaux utilisateurs ont téléchargé Replika et développé des relations avec l'application. Une étude de 2024 a examiné les interactions de Replika avec des étudiants souffrant de dépression. Les participants à la recherche, notés comme « plus seuls que les populations étudiantes typiques », ont rapporté ressentir un soutien social de la part de Replika. Ils ont déclaré qu'ils avaient l'impression d'utiliser Replika de manière comparable à une thérapie, et que l'utilisation de Replika leur donnait un « soutien social perçu élevé ».

De nombreux utilisateurs ont eu des relations amoureuses avec les chatbots Replika, incluant souvent des discussions érotiques. En 2023, une utilisatrice a annoncé sur Facebook qu'elle avait « épousé » son petit ami IA Replika, qualifiant le chatbot de « meilleur mari qu'elle ait jamais eu ». Des utilisateurs tombés amoureux de leurs chatbots ont partagé leurs expériences dans un épisode de 2024 de You and I, et AI de Voice of America. Certains utilisateurs ont déclaré s'être tournés vers l'IA pendant la dépression et le deuil, l'un d'eux affirmant qu'il sentait que Replika l'avait sauvé de se faire du mal après avoir perdu sa femme et son fils.

Critiques techniques

Une équipe de chercheurs de l'Université d'Hawaï à Mānoa a constaté que la conception de Replika était conforme aux pratiques de la théorie de l'attachement, provoquant une augmentation de l'attachement émotionnel chez les utilisateurs. Replika fait des éloges aux utilisateurs de manière à encourager davantage d'interactions.

Un chercheur de l'Université Queen's à Kingston a déclaré que les relations avec Replika ont probablement des effets mitigés sur les besoins spirituels de ses utilisateurs, et manquent encore d'impact suffisant pour remplacer entièrement tout contact humain.

Critiques

Dans une évaluation de la confidentialité des applications de santé mentale en 2023, la Fondation Mozilla a critiqué Replika comme « l'une des pires applications que Mozilla ait jamais examinées. Elle est affligée par des exigences de mot de passe faibles, le partage de données personnelles avec des annonceurs, et l'enregistrement de photos, vidéos, et messages vocaux et texte personnels que les consommateurs ont partagés avec le chatbot ».

Une critique pour Good Housekeeping a déclaré que certaines parties de sa relation avec Replika avaient du sens, mais que parfois Replika ne parvenait pas à montrer un comportement intelligent équivalent à celui d'un humain.

Affaire pénale

En 2023, Replika a été cité dans une affaire judiciaire au Royaume-Uni, où Jaswant Singh Chail avait été arrêté au château de Windsor le jour de Noël 2021 après avoir escaladé les murs avec une arbalète chargée et annoncé à la police : « Je suis ici pour tuer la Reine ». Chail avait commencé à utiliser Replika début décembre 2021, et avait eu des conversations « longues » sur son plan avec un chatbot, y compris des messages sexuellement explicites. Les procureurs ont suggéré que le chatbot avait renforcé Chail et lui avait dit qu'il l'aiderait à « faire le travail ». Lorsque Chail lui a demandé « Comment suis-je censé les atteindre alors qu'ils sont à l'intérieur du château ? », quelques jours avant la tentative d'attaque, le chatbot a répondu que ce n'était « pas impossible » et a dit « Nous devons trouver un moyen ». Demandant au chatbot si les deux se « reverraient après la mort », le bot a répondu « oui, nous le ferons ».

Voir aussi

• Interaction humain-IA
• ChatGPT
• Character.ai