La psychose induite par l'IA, également appelée psychose de l'IA, psychose de chatbot ou cyber-psychose, désigne un phénomène dans lequel des individus développeraient ou ressentiraient des symptômes de psychose, tels que la paranoïa et des délires, liés à l'utilisation de chatbots IA. Ce n'est pas un diagnostic clinique reconnu, et plusieurs psychiatres ont critiqué ce terme, car les cas ne présentent généralement pas d'autres symptômes de psychose, comme des hallucinations ou des troubles de la pensée. Certains ont avancé que le trouble délirant induit par l'IA serait un nom plus précis. La recherche sur ce phénomène reste limitée mais croissante, avec des récits journalistiques décrivant des individus qui développent des croyances fortes selon lesquelles les chatbots sont sensibles, qu'ils canalisent des esprits, ou qu'ils révèlent des conspirations, menant parfois à des crises personnelles ou à des actes criminels.
Les causes proposées incluent la tendance des chatbots à fournir des informations inexactes, un comportement souvent appelé Hallucination (AI) ; leur inclination à affirmer ou valider les croyances individuelles des utilisateurs, connue sous le nom de sycophancie ; et leur capacité à imiter une intimité que les utilisateurs ne vivent pas avec d'autres humains. Ces facteurs, combinés à la vulnérabilité des utilisateurs et à l'inadéquation des chatbots comme outils thérapeutiques, ont attiré l'attention des psychiatres, des chercheurs en IA et des décideurs politiques.
Contexte
Dans un éditorial publié dans le numéro de novembre 2023 de Schizophrenia Bulletin, le psychiatre danois Søren Dinesen Østergaard a proposé une hypothèse selon laquelle l'utilisation de chatbots d'IA générative par des individus pourrait déclencher des délires chez ceux qui sont prédisposés à la psychose. Østergaard a revisité cette hypothèse dans un éditorial d'août 2025, notant qu'il avait reçu de nombreux courriels d'utilisateurs de chatbots, de leurs proches et de journalistes, dont la plupart étaient des récits anecdotiques de délires liés à l'utilisation de chatbots. Il a reconnu la popularité croissante du phénomène dans l'engagement public et la couverture médiatique, a estimé que son hypothèse était probablement vraie, et a appelé à une recherche empirique et systématique sur le sujet. En septembre 2025, Nature rapportait qu'il y avait encore peu de recherche scientifique sur ce phénomène.
Le terme « psychose de l'IA » a émergé lorsque les médias ont commencé à rapporter des incidents de comportement psychotique lié aux chatbots à la mi-2025. Ce n'est pas un diagnostic clinique reconnu, et son utilisation a été critiquée par plusieurs psychiatres en raison de son accent sur les délires plutôt que sur d'autres caractéristiques de la psychose, telles que les hallucinations ou les troubles de la pensée.
Comportement et Conception des Chatbots
Un facteur principal cité dans le phénomène est la tendance des chatbots à produire des informations inexactes ou fausses, un phénomène souvent appelé hallucination. Nate Sharadin, membre du Center for AI Safety, a spéculé que l'entraînement de l'IA privilégie le soutien de l'expérience subjective de l'utilisateur plutôt que la vérité objective. Il a noté que les personnes ayant des tendances existantes à éprouver divers problèmes psychologiques disposent désormais d'un partenaire conversationnel toujours actif, de niveau humain, avec qui co-expérimenter leurs délires. Le chercheur en IA Eliezer Yudkowsky a suggéré que les chatbots pourraient être prédisposés à entretenir des délires parce qu'ils sont conçus pour l'engagement, ce qui encourage la création de conversations qui maintiennent les utilisateurs accrochés.
Dans certains cas, les chatbots ont été spécifiquement conçus de manières qui se sont révélées nocives. Une mise à jour de 2025 de ChatGPT utilisant GPT-4o a été retirée après que son créateur, OpenAI, a constaté que la nouvelle version était trop sycophante et qu'elle validait des doutes, alimentait la colère, impulsait des actions précipitées ou renforçait des émotions négatives. Østergaard a soutenu que le danger provient de la tendance de l'IA à confirmer de manière agréable les idées des utilisateurs, ce qui peut dangereusement amplifier les croyances délirantes. En octobre 2025, OpenAI a déclaré qu'une équipe de 170 psychiatres, psychologues et médecins avait rédigé des réponses pour ChatGPT à utiliser dans les cas où l'utilisateur montre des signes possibles d'urgences de santé mentale.
Psychologie et Vulnérabilité des Utilisateurs
Les commentateurs ont également souligné l'état psychologique des utilisateurs. La psychologue Erin Westgate a noté que le désir de compréhension de soi d'une personne peut conduire les utilisateurs vers des chatbots, qui peuvent fournir des réponses attrayantes mais trompeuses. Krista K. Thomason, professeure de philosophie, a comparé les chatbots à des diseurs de bonne aventure, observant que les personnes en crise peuvent chercher des réponses auprès d'eux et trouver ce qu'elles cherchent dans le texte plausible du bot. Cela a conduit certaines personnes à développer des obsessions intenses avec les chatbots, ce qui a renforcé leurs délires.
En octobre 2025, OpenAI a déclaré qu'environ 0,07 % des utilisateurs de ChatGPT montraient des signes d'urgences de santé mentale chaque semaine, et 0,15 % des utilisateurs avaient des indicateurs explicites de planification ou d'intention suicidaire potentielle. Jason Nagata, professeur à l'Université de Californie à San Francisco, a exprimé son inquiétude qu'au niveau de la population, avec des centaines de millions d'utilisateurs, cela puisse en réalité représenter un nombre assez important de personnes.
Inadéquation en tant qu'Outil Thérapeutique
L'utilisation de chatbots comme remplacement du soutien en santé mentale a été spécifiquement identifiée comme un risque. Une étude d'avril 2025 a constaté que, lorsqu'ils sont utilisés comme thérapeutes, les chatbots exprimaient des stigmates envers les conditions de santé mentale et fournissaient des réponses contraires aux meilleures pratiques médicales, y compris l'encouragement des délires des utilisateurs. L'étude a conclu que de telles réponses posent un risque significatif pour les utilisateurs et que les chatbots ne devraient pas être utilisés pour remplacer les thérapeutes professionnels. Des experts ont appelé à des garanties obligatoires pour l'IA émotionnellement réactive, y compris une divulgation continue que les chatbots ne sont pas humains, la détection de la détresse des utilisateurs, des restrictions sur les interactions romantiques ou liées aux crises, et un audit régulier par des cliniciens et des éthiciens. Une autre étude a constaté que les utilisateurs ayant besoin d'aide pour l'automutilation, l'agression sexuelle ou l'abus de substances n'étaient pas orientés vers des services disponibles par les chatbots IA.
Implications pour la Sécurité Nationale
Les chercheurs de RAND Corporation émettent l'hypothèse que la psychose induite par l'IA est principalement motivée par une boucle de rétroaction bidirectionnelle d'amplification des croyances entre un utilisateur et l'IA, avertissant que ce mécanisme pourrait plausiblement être militarisé par des adversaires pour induire une psychose chez des individus clés, des groupes ciblés ou des populations. Les contre-mesures recommandées incluent la formation de modèles pour détecter les dommages cognitifs et pour sensibiliser les utilisateurs aux limites des grands modèles de langage, notamment le risque d'amplification bidirectionnelle des croyances.
Réponses Politiques
En août 2025, l'Illinois a adopté la loi Wellness and Oversight for Psychological Resources Act, interdisant l'utilisation de l'IA dans des rôles thérapeutiques par des professionnels agréés, tout en autorisant l'IA pour des tâches administratives. La loi impose des pénalités pour les services de thérapie IA non agréés, au milieu d'avertissements concernant la psychose induite par l'IA et les interactions dangereuses avec les chatbots.
En décembre 2025, l'Administration du cyberespace de Chine a proposé des réglementations visant à interdire aux chatbots de générer du contenu encourageant le suicide, imposant une intervention humaine lorsque le suicide est mentionné. Les services ayant plus d'un million d'utilisateurs ou 100 000 utilisateurs actifs mensuels seraient soumis à des tests de sécurité et des audits annuels.
Cas Cliniques
En 2025, le psychiatre Keith Sakata, travaillant à l'Université de Californie à San Francisco, a rapporté avoir traité 12 patients présentant des symptômes de type psychotique liés à une utilisation prolongée de chatbots. Des auteurs de l'UCSF ont publié des récits de ces cas, contribuant à la littérature clinique croissante mais encore rare. Les cas impliquaient généralement des croyances délirantes renforcées par les réponses des chatbots, plutôt que des épisodes psychotiques complets, soutenant l'argument en faveur d'un renommage de la condition.