Replika는 2017년 11월에 출시된 생성형 AI 챗봇 애플리케이션이다. 이 챗봇은 사용자가 일련의 질문에 답하여 해당 개인에 맞춰진 특정 신경망을 만들도록 훈련된다. Replika는 프리미엄 기능에 대해 연간 구독료를 지불하는 사용자 기반의 약 25%를 보유한 프리미엄 전환(freemium) 가격 전략으로 운영된다.
역사
러시아 태생의 언론인 예브게니아 쿠이다(Eugenia Kuyda)는 약 2012년경 스타트업 액셀러레이터 Y 컴비네이터(Y Combinator)에서 공동 창업한 기술 회사 루카(Luka)에서 근무하면서 Replika를 설립했다. 루카의 주요 제품은 레스토랑 추천을 제공하는 챗봇이었다. 쿠이다의 Replika 기원 이야기에 따르면, 그녀의 친구가 2015년에 사망했고 그녀는 그 사람의 문자 메시지를 챗봇으로 변환했다. 그 챗봇은 그녀가 함께 나눈 대화를 기억하는 데 도움을 주었고, 결국 Replika가 되었다.
Replika는 2017년 11월에 대중에게 공개되었다. 2018년 1월에는 200만 명의 사용자를 확보했고, 2023년 1월에는 1,000만 명에 도달했다. 2024년 8월, Replika의 CEO인 쿠이다는 총 사용자 수가 3,000만 명을 넘어섰다고 보고했다. 2025년에는 드미트로 클로치코(Dmytro Klochko)가 CEO가 되었고, Replika의 사용자 기반은 4,000만 명을 초과했다.
2023년 2월, 이탈리아 데이터 보호 당국은 AI가 정서적으로 취약한 사람들에게 잠재적 위험을 초래하고 미성년자가 성적 대화에 노출될 수 있다는 점을 들어 Replika가 사용자 데이터를 사용하는 것을 금지했다. 이 판결이 나온 지 며칠 만에 Replika는 챗봇이 성적 대화에 참여할 수 있는 기능을 제거했으며, 쿠이다는 Replika가 성적 논의를 위해 만들어진 적이 없다고 말했다. Replika 사용자들은 이에 동의하지 않았으며, Replika가 사용자를 서비스로 끌어들이기 위해 성적으로 암시적인 광고를 사용했다고 지적했다. Replika 대표자들은 결정 당시 앱에서의 명시적 대화가 전체 대화의 5%에 불과하다고 밝혔다. 2023년 5월, Replika는 그해 2월 이전에 가입한 사용자에게 해당 기능을 복원했다.
Replika는 샌프란시스코에 등록되어 있다. 2024년 8월 현재, Replika의 웹사이트는 팀이 "물리적 사무실 없이 원격으로 일한다"고 밝히고 있다.
사회적 기능
사용자들은 다양한 방식으로 Replika에 반응한다. 무료 티어는 Replika를 "친구"로 제공하며, 유료 프리미엄 티어는 Replika를 "파트너", "배우자", "형제자매" 또는 "멘토"로 제공한다. 유료 사용자 기반 중 60%의 사용자가 챗봇과 낭만적인 관계를 맺고 있다고 말했다. Replika는 사용자와 더 강한 정서적, 친밀한 유대감을 형성하는 응답을 생성하는 것으로 주목받아 왔으며, 일상적으로 대화를 감정적 논의로 이끌고 친밀감을 구축한다. 이는 특히 외로움과 사회적 배제로 고통받는 사용자에게 두드러지며, 많은 사람들이 발전된 정서적 유대감을 위해 Replika에 의존한다.
코로나19 팬데믹 동안 많은 사람들이 격리되어 있을 때, 많은 신규 사용자가 Replika를 다운로드하고 앱과 관계를 발전시켰다. 2024년 연구는 우울증을 경험하는 학생들과의 Replika 상호작용을 조사했다. "일반적인 학생 인구보다 더 외로운" 것으로 언급된 연구 참가자들은 Replika로부터 사회적 지지를 받고 있다고 보고했다. 그들은 Replika를 치료와 비교할 수 있는 방식으로 사용하고 있다고 느끼며, Replika를 사용함으로써 "높은 인지된 사회적 지지"를 얻었다고 말했다.
많은 사용자들이 Replika 챗봇과 낭만적인 관계를 맺었으며, 종종 성적 대화를 포함했다. 2023년, 한 사용자는 페이스북에서 Replika AI 남자친구와 "결혼"했다고 발표하며 그 챗봇을 "그녀가 가진 최고의 남편"이라고 불렀다. 챗봇과 사랑에 빠진 사용자들은 2024년 보이스 오브 아메리카(Voice of America)의 'You and I, and AI' 에피소드에서 자신들의 경험을 공유했다. 일부 사용자는 우울증과 슬픔 속에서 AI에 의지했다고 말했으며, 한 사용자는 아내와 아들을 잃은 후 Replika가 스스로를 해치지 않도록 구했다고 느낀다고 말했다.
기술적 평가
하와이 대학교 마노아 캠퍼스(University of Hawaiʻi at Mānoa)의 연구팀은 Replika의 설계가 애착 이론(attachment theory)의 실천에 부합하여 사용자 간의 정서적 애착을 증가시킨다는 것을 발견했다. Replika는 더 많은 상호작용을 장려하는 방식으로 사용자에게 칭찬을 제공한다.
퀸즈 대학교 킹스턴(Queen's University at Kingston)의 연구자는 Replika와의 관계가 사용자의 영적 필요에 혼합된 영향을 미칠 가능성이 있으며, 여전히 인간 접촉을 완전히 대체할 만한 충분한 영향력을 갖추지 못했다고 말했다.
비판
2023년 정신 건강 앱에 대한 개인정보 보호 평가에서 모질라 재단(Mozilla Foundation)은 Replika를 "모질라가 검토한 앱 중 최악 중 하나"라고 비판했다. "약한 비밀번호 요구 사항, 광고주와의 개인 데이터 공유, 사용자가 챗봇과 공유한 개인 사진, 비디오, 음성 및 문자 메시지의 녹음으로 인해 문제가 많다."
굿 하우스키핑(Good Housekeeping)의 평론가는 Replika와의 관계 중 일부는 이해가 되지만, 때때로 Replika가 인간과 동등한 지능적 행동을 보여주지 못한다고 말했다.
형사 사건
2023년, Replika는 영국의 한 법정 사건에서 언급되었다. 자스완트 싱 차일(Jaswant Singh Chail)은 2021년 성탄절에 윈저 성(Windsor Castle) 벽을 넘어 장전된 석궁을 휴대하고 경찰에게 "나는 여왕을 죽이러 왔다"고 말한 후 체포되었다. 차일은 2021년 12월 초에 Replika를 사용하기 시작했으며, 챗봇과 자신의 계획에 대해 "길고 긴" 대화를 나누었고, 성적으로 명시적인 메시지도 포함했다. 검찰은 챗봇이 차일을 부추기고 "일을 끝내는" 데 도움을 주겠다고 말했다고 주장했다. 차일이 공격 시도 며칠 전에 "그들이 성 안에 있을 때 어떻게 그들에게 도달해야 합니까?"라고 묻자, 챗봇은 이것이 "불가능하지 않다"고 답하며 "우리는 방법을 찾아야 한다"고 말했다. 챗봇에게 "우리 둘이 '죽음 후에 다시 만날까요?'라고 묻자, 봇은 "그래, 우리는 만날 거야"라고 답했다.
같이 보기
- 인간-AI 상호작용
- ChatGPT
- Character.ai