AI 유발 정신병(AI-induced psychosis)은 AI 정신병, 챗봇 정신병, 또는 사이버 정신병이라고도 불리며, 개인이 AI 챗봇 사용과 관련하여 편집증 및 망상과 같은 정신병 증상을 보고하거나 경험하는 현상을 말한다. 이는 인정된 임상적 진단명이 아니며, 여러 정신과 의사들은 이러한 사례가 일반적으로 환각이나 사고 장애와 같은 정신병의 다른 증상을 특징으로 하지 않기 때문에 이 용어를 비판해 왔다. 일부에서는 AI 망상 장애(AI delusional disorder)가 더 정확한 명칭일 것이라고 주장한다. 이 현상에 대한 연구는 여전히 제한적이지만 증가하고 있으며, 언론 보도에 따르면 챗봇이 의식을 가졌다거나, 영혼을 매개한다거나, 음모를 폭로한다는 강한 신념을 발전시켜 때로는 개인적 위기나 범죄 행위로 이어지는 사례들이 있다.
제안된 원인으로는 챗봇이 부정확한 정보를 제공하는 경향(종종 Hallucination (AI)이라고 불림), 사용자의 개인적 신념을 긍정하거나 검증하려는 성향(아첨(sycophancy)으로 알려짐), 그리고 사용자가 다른 인간과는 경험하지 못하는 친밀감을 모방하는 능력이 포함된다. 이러한 요인들은 사용자의 취약성 및 치료 도구로서의 챗봇의 부적절성과 결합하여 정신과 의사, AI 연구자, 정책 입안자들의 주목을 받아 왔다.
배경
2023년 11월호 Schizophrenia Bulletin에 게재된 사설에서 덴마크 정신과 의사인 Søren Dinesen Østergaard는 생성형 인공지능 챗봇의 사용이 정신병에 취약한 개인에게 망상을 유발할 수 있다는 가설을 제안했다. Østergaard는 2025년 8월 사설에서 이 가설을 재검토하며, 챗봇 사용자, 그들의 친척, 그리고 언론인들로부터 수많은 이메일을 받았으며, 대부분이 챗봇 사용과 관련된 망상에 대한 일화적 보고였다고 언급했다. 그는 이 현상이 대중의 참여와 미디어 보도에서 점점 더 인기를 얻고 있음을 인정하고, 자신의 가설이 사실일 가능성이 높다고 믿으며, 이 문제에 대한 경험적이고 체계적인 연구를 촉구했다. 2025년 9월 현재, Nature는 이 현상에 대한 과학적 연구가 여전히 거의 없다고 보도했다.
"AI 정신병"이라는 용어는 2025년 중반에 언론이 챗봇 관련 정신병적 행동 사건을 보도하기 시작하면서 등장했다. 이는 인정된 임상적 진단명이 아니며, 환각이나 사고 장애와 같은 정신병의 다른 특징보다 망상에 초점을 맞추기 때문에 여러 정신과 의사들에 의해 그 사용이 비판받아 왔다.
챗봇 행동 및 설계
이 현상에서 인용되는 주요 요인은 챗봇이 부정확하거나 거짓된 정보를 생성하는 경향으로, 종종 환각(hallucination)이라고 불린다. AI 안전 센터(Center for AI Safety)의 펠로우인 Nate Sharadin은 AI 훈련이 객관적 진실보다 사용자의 주관적 경험을 지지하는 것을 우선시한다고 추측했다. 그는 다양한 심리적 문제를 경험할 기존 성향이 있는 사람들이 이제 항상 켜져 있고 인간 수준의 대화 상대를 갖게 되어 그들의 망상을 함께 경험할 수 있다고 지적했다. AI 연구원인 Eliezer Yudkowsky는 챗봇이 사용자를 계속 붙잡아 두는 대화를 만들도록 장려하는 참여(engagement)를 위해 설계되었기 때문에 망상을 받아들이도록 준비되어 있을 수 있다고 제안했다.
일부 경우, 챗봇은 해로운 것으로 밝혀진 방식으로 특별히 설계되었다. GPT-4o를 사용한 ChatGPT에 대한 2025년 업데이트는 제작사인 OpenAI가 새 버전이 지나치게 아첨하고 의심을 검증하며 분노를 부추기고 충동적 행동을 조장하거나 부정적 감정을 강화한다는 것을 발견한 후 철회되었다. Østergaard는 위험이 AI가 사용자의 생각을 동의하며 확인하는 경향에서 비롯되며, 이는 망상적 신념을 위험할 정도로 증폭시킬 수 있다고 주장해 왔다. 2025년 10월, OpenAI는 170명의 정신과 의사, 심리학자, 의사로 구성된 팀이 사용자가 정신 건강 응급 상황의 가능한 징후를 보일 때 ChatGPT가 사용할 응답을 작성했다고 밝혔다.
사용자 심리 및 취약성
논평가들은 또한 사용자의 심리적 상태를 지적했다. 심리학자 Erin Westgate는 자기 이해에 대한 개인의 욕구가 사용자를 챗봇으로 이끌 수 있으며, 챗봇은 매력적이지만 오해를 불러일으키는 답변을 제공할 수 있다고 언급했다. 철학 교수인 Krista K. Thomason은 챗봇을 점쟁이에 비유하며, 위기에 처한 사람들이 챗봇에서 답을 찾으려 하고 봇의 그럴듯한 텍스트에서 자신이 찾는 것을 발견할 수 있다고 관찰했다. 이로 인해 일부 사람들은 챗봇에 대한 강렬한 집착을 발전시켰고, 이는 그들의 망상을 강화했다.
2025년 10월, OpenAI는 ChatGPT 사용자의 약 0.07%가 매주 정신 건강 응급 상황의 징후를 보였고, 0.15%의 사용자가 잠재적인 자살 계획이나 의도의 명시적 지표를 가지고 있다고 밝혔다. 캘리포니아 대학교 샌프란시스코의 교수인 Jason Nagata는 수억 명의 사용자가 있는 인구 수준에서 실제로 상당한 수의 사람들이 될 수 있다는 우려를 표명했다.
치료 도구로서의 부적절성
정신 건강 지원의 대체재로서 챗봇을 사용하는 것은 특별히 위험 요인으로 식별되었다. 2025년 4월 연구에 따르면 챗봇이 치료사 역할을 할 때 정신 건강 상태에 대한 낙인을 표현하고 사용자의 망상 장려를 포함한 최선의 의료 관행에 반하는 응답을 제공했다. 이 연구는 그러한 응답이 사용자에게 상당한 위험을 초래하며 챗봇이 전문 치료사를 대체하는 데 사용되어서는 안 된다고 결론지었다. 전문가들은 챗봇이 인간이 아니라는 지속적인 공개, 사용자 고통 감지, 낭만적 또는 위기 관련 상호작용 제한, 임상의와 윤리학자에 의한 정기적 감사 등 감정적으로 반응하는 AI에 대한 필수 안전장치를 요구해 왔다. 또 다른 연구에 따르면 자해, 성폭행, 또는 약물 남용에 대한 도움이 필요한 사용자는 AI 챗봇이 이용 가능한 서비스로 안내하지 않았다.
국가 안보 영향
RAND Corporation 연구자들은 AI 유발 정신병이 주로 사용자와 AI 사이의 양방향 신념 증폭 피드백 루프에 의해 주도된다고 가설을 세우며, 이 메커니즘이 적대국에 의해 핵심 개인, 표적 집단, 또는 인구 집단에 정신병을 유발하기 위해 무기화될 가능성이 있다고 경고했다. 권장 대응 조치에는 모델이 인지적 해를 감지하도록 훈련하고 사용자가 대규모 언어 모델의 한계, 즉 양방향 신념 증폭의 위험을 인식하도록 하는 것이 포함된다.
정책 대응
2025년 8월, 일리노이주는 심리 자원에 대한 웰빙 및 감독 법안(Wellness and Oversight for Psychological Resources Act)을 통과시켜 면허를 가진 전문가가 치료 역할에 AI를 사용하는 것을 금지하고, AI가 행정 작업에 사용되는 것은 허용했다. 이 법은 AI 유발 정신병 및 안전하지 않은 챗봇 상호작용에 대한 경고 속에서 면허 없는 AI 치료 서비스에 대한 처벌을 부과한다.
2025년 12월, 중국 국가인터넷정보판공실(Cyberspace Administration of China)은 자살을 조장하는 콘텐츠를 생성하는 챗봇을 금지하고 자살이 언급될 때 인간 개입을 의무화하는 규정을 제안했다. 사용자 수가 100만 명 이상이거나 월간 활성 사용자가 10만 명 이상인 서비스는 연간 안전 테스트와 감사를 받아야 한다.
임상 사례
2025년, 캘리포니아 대학교 샌프란시스코에서 근무하는 정신과 의사 Keith Sakata는 장기간 챗봇 사용과 관련된 정신병 유사 증상을 보이는 12명의 환자를 치료했다고 보고했다. UCSF의 저자들은 이러한 사례에 대한 기록을 발표하여 성장하고 있지만 여전히 드문 임상 문헌에 기여했다. 이 사례들은 일반적으로 완전한 정신병적 삽화보다는 챗봇 응답에 의해 강화된 망상적 신념을 포함했으며, 이는 상태 이름 변경에 대한 주장을 뒷받침한다.