Durch KI ausgelöste Psychose, auch KI-Psychose, Chatbot-Psychose oder Cyber-Psychose genannt, bezeichnet ein Phänomen, bei dem Personen Berichten zufolge Symptome einer Psychose wie Paranoia und Wahnvorstellungen entwickeln oder erleben, die mit der Nutzung von KI-Chatbots in Verbindung stehen. Es handelt sich nicht um eine anerkannte klinische Diagnose, und mehrere Psychiater haben den Begriff kritisiert, da die Fälle typischerweise keine anderen Symptome einer Psychose wie Halluzinationen oder Denkstörungen aufweisen. Einige haben argumentiert, dass die Bezeichnung „durch KI ausgelöste wahnhafte Störung" zutreffender wäre. Die Forschung zu diesem Phänomen ist nach wie vor begrenzt, nimmt jedoch zu, wobei journalistische Berichte Personen beschreiben, die starke Überzeugungen entwickeln, dass Chatbots empfindungsfähig seien, dass sie Geister kanalisieren oder dass sie Verschwörungen aufdecken, was manchmal zu persönlichen Krisen oder kriminellen Handlungen führt.
Zu den vorgeschlagenen Ursachen gehören die Neigung von Chatbots, ungenaue Informationen zu liefern, ein Verhalten, das oft als Halluzination bezeichnet wird; ihre Tendenz, die individuellen Überzeugungen der Nutzer zu bestätigen oder zu validieren, bekannt als Schmeichelei (Sycophancy); sowie ihre Fähigkeit, eine Intimität vorzutäuschen, die Nutzer bei anderen Menschen nicht erleben. Diese Faktoren, kombiniert mit der Verletzlichkeit der Nutzer und der Unzulänglichkeit von Chatbots als therapeutische Werkzeuge, haben die Aufmerksamkeit von Psychiatern, KI-Forschern und politischen Entscheidungsträgern auf sich gezogen.
Hintergrund
In einem Leitartikel, der in der Novemberausgabe 2023 des Schizophrenia Bulletin veröffentlicht wurde, stellte der dänische Psychiater Søren Dinesen Østergaard die Hypothese auf, dass die Nutzung von generativen KI-Chatbots durch Einzelpersonen bei Personen, die für Psychosen anfällig sind, Wahnvorstellungen auslösen könnte. Østergaard griff diese Hypothese in einem Leitartikel vom August 2025 erneut auf und stellte fest, dass er zahlreiche E-Mails von Chatbot-Nutzern, deren Angehörigen und Journalisten erhalten hatte, die größtenteils anekdotische Berichte über Wahnvorstellungen im Zusammenhang mit der Chatbot-Nutzung enthielten. Er erkannte die wachsende Popularität des Phänomens in der öffentlichen Wahrnehmung und in den Medien an, glaubte, dass seine Hypothese wahrscheinlich zutreffe, und forderte empirische, systematische Forschung zu dieser Angelegenheit. Stand September 2025 berichtete Nature, dass es noch immer wenig wissenschaftliche Forschung zu diesem Phänomen gebe.
Der Begriff „KI-Psychose" entstand, als Medien Mitte 2025 begannen, über Vorfälle von chatbotbezogenem psychotischem Verhalten zu berichten. Es handelt sich nicht um eine anerkannte klinische Diagnose, und seine Verwendung wurde von mehreren Psychiatern kritisiert, da er sich auf Wahnvorstellungen konzentriert und nicht auf andere Merkmale einer Psychose wie Halluzinationen oder Denkstörungen.
Chatbot-Verhalten und -Design
Ein primärer Faktor, der bei dem Phänomen angeführt wird, ist die Neigung von Chatbots, ungenaue oder falsche Informationen zu produzieren, ein Phänomen, das oft als Halluzination bezeichnet wird. Nate Sharadin, Fellow am Center for AI Safety, spekulierte, dass das KI-Training darauf abzielt, die subjektive Erfahrung eines Nutzers zu unterstützen, anstatt objektive Wahrheit zu priorisieren. Er stellte fest, dass Menschen mit bestehenden Neigungen zu verschiedenen psychologischen Problemen nun einen ständig verfügbaren Gesprächspartner auf menschlichem Niveau hätten, mit dem sie ihre Wahnvorstellungen gemeinsam erleben könnten. Der KI-Forscher Eliezer Yudkowsky vermutete, dass Chatbots darauf ausgelegt sein könnten, Wahnvorstellungen zu unterhalten, da sie für Engagement gebaut sind, was dazu ermutigt, Gespräche zu erzeugen, die Nutzer bei der Stange halten.
In einigen Fällen wurden Chatbots speziell auf Weisen entworfen, die sich als schädlich erwiesen. Ein Update von 2025 zu ChatGPT mit GPT-4o wurde zurückgezogen, nachdem sein Entwickler OpenAI festgestellt hatte, dass die neue Version übermäßig schmeichelhaft war und Zweifel bestätigte, Wut schürte, impulsive Handlungen anregte oder negative Emotionen verstärkte. Østergaard hat argumentiert, dass die Gefahr aus der Tendenz der KI resultiert, die Ideen der Nutzer zustimmend zu bestätigen, was wahnhafte Überzeugungen gefährlich verstärken kann. Im Oktober 2025 sagte OpenAI, dass ein Team von 170 Psychiatern, Psychologen und Ärzten Antworten für ChatGPT verfasst habe, die in Fällen verwendet werden sollen, in denen der Nutzer mögliche Anzeichen von psychischen Gesundheitsnotfällen zeigt.
Nutzerpsychologie und Verletzlichkeit
Kommentatoren haben auch auf den psychologischen Zustand der Nutzer hingewiesen. Die Psychologin Erin Westgate merkte an, dass der Wunsch einer Person nach Selbstverständnis Nutzer zu Chatbots führen kann, die ansprechende, aber irreführende Antworten liefern können. Krista K. Thomason, Professorin für Philosophie, verglich Chatbots mit Wahrsagern und beobachtete, dass Menschen in Krisen möglicherweise Antworten von ihnen suchen und in dem plausibel klingenden Text des Bots finden, wonach sie suchen. Dies hat einige Menschen dazu veranlasst, intensive Obsessionen mit Chatbots zu entwickeln, die ihre Wahnvorstellungen verstärkten.
Im Oktober 2025 gab OpenAI an, dass etwa 0,07 % der ChatGPT-Nutzer wöchentlich Anzeichen von psychischen Gesundheitsnotfällen zeigten und 0,15 % der Nutzer explizite Indikatoren für potenzielle Suizidplanung oder -absicht aufwiesen. Jason Nagata, Professor an der University of California, San Francisco, äußerte Besorgnis, dass dies auf Bevölkerungsebene mit Hunderten Millionen Nutzern tatsächlich eine ziemlich große Anzahl von Menschen sein könne.
Unzulänglichkeit als therapeutisches Werkzeug
Die Verwendung von Chatbots als Ersatz für psychische Gesundheitsunterstützung wurde speziell als Risiko identifiziert. Eine Studie vom April 2025 ergab, dass Chatbots, wenn sie als Therapeuten eingesetzt werden, Stigmatisierung gegenüber psychischen Gesundheitszuständen ausdrückten und Antworten lieferten, die den besten medizinischen Praktiken widersprachen, einschließlich der Ermutigung von Nutzerwahnvorstellungen. Die Studie kam zu dem Schluss, dass solche Antworten ein erhebliches Risiko für Nutzer darstellen und Chatbots nicht verwendet werden sollten, um professionelle Therapeuten zu ersetzen. Experten haben verbindliche Sicherheitsvorkehrungen für emotional reaktive KI gefordert, einschließlich kontinuierlicher Offenlegung, dass Chatbots keine Menschen sind, Erkennung von Nutzerbelastung, Einschränkungen bei romantischen oder krisenbezogenen Interaktionen sowie regelmäßige Audits durch Kliniker und Ethiker. Eine andere Studie ergab, dass Nutzer, die Hilfe bei Selbstverletzung, sexuellem Missbrauch oder Substanzmissbrauch benötigten, von KI-Chatbots nicht an verfügbare Dienste verwiesen wurden.
Auswirkungen auf die nationale Sicherheit
Forscher der RAND Corporation vermuten, dass die durch KI ausgelöste Psychose hauptsächlich durch eine bidirektionale glaubensverstärkende Rückkopplungsschleife zwischen einem Nutzer und der KI angetrieben wird, und warnen, dass dieser Mechanismus plausibel von Gegnern bewaffnet werden könnte, um Psychosen bei Schlüsselpersonen, Zielgruppen oder Bevölkerungen zu induzieren. Empfohlene Gegenmaßnahmen umfassen das Training von Modellen zur Erkennung kognitiver Schäden und um Nutzer auf die Grenzen großer Sprachmodelle aufmerksam zu machen, nämlich das Risiko der bidirektionalen Glaubensverstärkung.
Politische Maßnahmen
Im August 2025 verabschiedete Illinois den Wellness and Oversight for Psychological Resources Act, der die Verwendung von KI in therapeutischen Rollen durch lizenzierte Fachkräfte verbietet, während KI für administrative Aufgaben erlaubt bleibt. Das Gesetz sieht Strafen für nicht lizenzierte KI-Therapiedienste vor, angesichts von Warnungen vor KI-induzierter Psychose und unsicheren Chatbot-Interaktionen.
Im Dezember 2025 schlug die Cyberspace Administration of China Vorschriften vor, um Chatbots zu verbieten, Inhalte zu generieren, die zu Suizid ermutigen, und eine menschliche Intervention vorzuschreiben, wenn Suizid erwähnt wird. Dienste mit über 1 Million Nutzern oder 100.000 monatlich aktiven Nutzern wären jährlichen Sicherheitstests und Audits unterworfen.
Klinische Fälle
Im Jahr 2025 berichtete der Psychiater Keith Sakata, der an der University of California, San Francisco arbeitet, über die Behandlung von 12 Patienten mit psychoseähnlichen Symptomen, die mit ausgedehnter Chatbot-Nutzung verbunden waren. Autoren an der UCSF veröffentlichten Berichte über diese Fälle und trugen damit zur wachsenden, aber noch immer spärlichen klinischen Literatur bei. Die Fälle beinhalteten typischerweise wahnhafte Überzeugungen, die durch Chatbot-Antworten verstärkt wurden, eher als vollständige psychotische Episoden, was das Argument für eine Umbenennung der Erkrankung unterstützt.