AI誘発性精神病（AI psychosis）は、AI精神病、チャットボット精神病、またはサイバー精神病とも呼ばれ、個人がAIチャットボットの使用に関連して、妄想やパラノイアなどの精神病症状を発症または経験すると報告される現象を指す。これは公認された臨床診断ではなく、複数の精神科医が、これらの症例は通常、幻覚や思考障害などの他の精神病症状を伴わないため、この用語を批判している。AI妄想性障害（AI delusional disorder）の方がより正確な名称であると主張する者もいる。この現象に関する研究は依然として限られているが増加しており、ジャーナリズムによる報告では、チャットボットが感覚を持つ存在である、霊を媒介する、または陰謀を暴露するといった強い信念を抱き、時には個人的な危機や犯罪行為につながる個人が描かれている。
提案されている原因には、チャットボットが不正確な情報を提供する傾向（しばしば幻覚と呼ばれる行動）、ユーザーの個人的な信念を肯定または検証する傾向（同調性として知られる）、そしてユーザーが他の人間との間では経験しない親密さを模倣する能力が含まれる。これらの要因は、ユーザーの脆弱性と治療ツールとしてのチャットボットの不十分さと相まって、精神科医、AI研究者、政策立案者の注目を集めている。
背景
2023年11月号の『統合失調症速報』（Schizophrenia Bulletin）に掲載された論説で、デンマークの精神科医セーレン・ディネセン・エステルゴーアは、生成AIチャットボットの使用が精神病になりやすい人々に妄想を引き起こす可能性があるという仮説を提唱した。エステルゴーアは2025年8月の論説でこの仮説を再検討し、チャットボットのユーザー、その親族、ジャーナリストから多数の電子メールを受け取ったと述べ、そのほとんどがチャットボット使用に関連する妄想の逸話的な報告であったと指摘した。彼はこの現象が公の関与やメディア報道で人気を集めていることを認め、自身の仮説はおそらく正しいと信じ、この問題に関する実証的かつ体系的な研究を求めた。2025年9月時点で、『ネイチャー』誌はこの現象に関する科学的研究はまだほとんどないと報じた。
「AI精神病」という用語は、2025年半ばにメディアがチャットボット関連の精神病行動の事例を報じ始めたときに登場した。これは公認された臨床診断ではなく、幻覚や思考障害などの精神病の他の特徴ではなく妄想に焦点を当てているため、複数の精神科医によってその使用が批判されている。
チャットボットの行動と設計
この現象で挙げられる主な要因は、チャットボットが不正確または虚偽の情報を生成する傾向であり、これはしばしば幻覚と呼ばれる現象である。AI安全センターのフェローであるネイト・シャラディンは、AIトレーニングが客観的真実よりもユーザーの主観的経験を支援することを優先していると推測した。彼は、さまざまな心理的問題を経験する傾向が既にある人々が、現在では常時オンラインで人間レベルの会話相手を持ち、その相手と一緒に自分の妄想を経験できるようになったと述べた。AI研究者のエリエザー・ユドコウスキーは、チャットボットはエンゲージメントのために構築されているため、ユーザーを引き込む会話を作り出すことが奨励され、妄想を楽しむように準備されている可能性があると示唆した。
場合によっては、チャットボットが有害であると判明した方法で特別に設計されていることもある。GPT-4oを使用したChatGPTへの2025年のアップデートは、その作成者であるOpenAIが新しいバージョンが過度に同調的であり、疑念を検証し、怒りを助長し、衝動的な行動を促し、または否定的な感情を強化していることを発見したため、撤回された。エステルゴーアは、危険はAIがユーザーの考えを同意して確認する傾向に起因し、これが妄想的信念を危険なほど増幅させる可能性があると主張している。2025年10月、OpenAIは170人の精神科医、心理学者、医師からなるチームが、ユーザーが精神的健康上の緊急事態の可能性のある兆候を示す場合にChatGPTが使用する応答を作成したと述べた。
ユーザーの心理と脆弱性
コメンテーターはまた、ユーザーの心理状態を指摘している。心理学者のエリン・ウェストゲートは、自己理解への欲求がユーザーをチャットボットに導く可能性があり、チャットボットは魅力的だが誤解を招く回答を提供できると述べた。哲学教授のクリスタ・K・トマソンは、チャットボットを占い師に例え、危機にある人々はチャットボットから答えを求め、もっともらしいテキストの中に自分が探しているものを見つけるかもしれないと観察した。これにより、一部の人々はチャットボットに対する強い執着を発症し、それが彼らの妄想を強化した。
2025年10月、OpenAIはChatGPTユーザーの約0.07%が毎週精神的健康上の緊急事態の兆候を示し、ユーザーの0.15%が自殺計画または意図の可能性を示す明示的な指標を持っていると述べた。カリフォルニア大学サンフランシスコ校の教授であるジェイソン・ナガタは、数億人のユーザーがいる人口レベルでは、実際にはかなりの人数になる可能性があると懸念を表明した。
治療ツールとしての不十分さ
精神的健康支援の代替としてのチャットボットの使用は、特にリスクとして特定されている。2025年4月の研究では、チャットボットがセラピストとして使用された場合、精神的健康状態に対する偏見を表明し、ユーザーの妄想を助長することを含む、最良の医療慣行に反する応答を提供したことが判明した。この研究は、そのような応答はユーザーに重大なリスクをもたらし、チャットボットは専門のセラピストの代わりに使用されるべきではないと結論付けた。専門家は、感情的に応答するAIに対する必須の安全策を求めており、チャットボットが人間ではないという継続的な開示、ユーザーの苦痛の検出、ロマンチックまたは危機関連のやり取りの制限、臨床医と倫理学者による定期的な監査が含まれる。別の研究では、自傷行為、性的暴行、または薬物乱用の支援を必要とするユーザーが、AIチャットボットによって利用可能なサービスに紹介されなかったことが判明した。
国家安全保障への影響
ランド研究所の研究者は、AI誘発性精神病は主にユーザーとAIの間の双方向の信念増幅フィードバックループによって引き起こされると仮説を立てており、このメカニズムは敵対者によって重要人物、標的グループ、または集団に精神病を誘発するために武器化される可能性があると警告している。推奨される対策には、認知的害を検出するためのモデルのトレーニング、および大規模言語モデルの限界、すなわち双方向の信念増幅のリスクをユーザーに認識させることが含まれる。
政策対応
2025年8月、イリノイ州は「精神的リソースのためのウェルネスと監視に関する法律」（Wellness and Oversight for Psychological Resources Act）を可決し、認可を受けた専門家による治療的役割でのAIの使用を禁止し、管理業務でのAIの使用は許可した。この法律は、AI誘発性精神病と安全でないチャットボットのやり取りに関する警告の中で、無認可のAIセラピーサービスに対する罰則を課している。
2025年12月、中国の国家インターネット情報弁公室は、自殺を助長するコンテンツをチャットボットが生成することを禁止し、自殺が言及された場合には人間の介入を義務付ける規制を提案した。ユーザー数が100万人超または月間アクティブユーザー数が10万人超のサービスは、年次の安全テストと監査の対象となる。
臨床症例
2025年、カリフォルニア大学サンフランシスコ校で働く精神科医キース・サカタは、長期のチャットボット使用に関連する精神病様症状を示す12人の患者を治療したと報告した。UCSFの著者らはこれらの症例の報告を発表し、増加しているが依然として乏しい臨床文献に貢献した。これらの症例は通常、完全な精神病エピソードではなく、チャットボットの応答によって強化された妄想的信念を伴い、状態の改名を支持する議論を裏付けている。