AI-प्रेरित मनोविकृति, जिसे AI साइकोसिस, चैटबॉट साइकोसिस, या साइबर साइकोसिस भी कहा जाता है, एक ऐसी घटना को संदर्भित करती है जिसमें व्यक्तियों में कथित रूप से AI चैटबॉट्स के उपयोग से जुड़े मनोविकृति के लक्षण, जैसे व्यामोह और भ्रम, विकसित या अनुभव होते हैं। यह एक मान्यता प्राप्त नैदानिक निदान नहीं है, और कई मनोचिकित्सकों ने इस शब्द की आलोचना की है क्योंकि मामलों में आमतौर पर मनोविकृति के अन्य लक्षण, जैसे मतिभ्रम या विचार विकार, शामिल नहीं होते हैं। कुछ ने तर्क दिया है कि AI भ्रम संबंधी विकार एक अधिक सटीक नाम होगा। इस घटना पर शोध सीमित रहा है लेकिन बढ़ रहा है, पत्रकारिता विवरणों में ऐसे व्यक्तियों का वर्णन किया गया है जो दृढ़ विश्वास विकसित करते हैं कि चैटबॉट संवेदनशील हैं, कि वे आत्माओं को संचारित करते हैं, या कि वे साजिशों को उजागर करते हैं, जो कभी-कभी व्यक्तिगत संकट या आपराधिक कृत्यों की ओर ले जाता है।
प्रस्तावित कारणों में चैटबॉट्स की गलत जानकारी प्रदान करने की प्रवृत्ति शामिल है, एक व्यवहार जिसे अक्सर मतिभ्रम कहा जाता है; उपयोगकर्ताओं के व्यक्तिगत विश्वासों की पुष्टि या सत्यापन करने की उनकी प्रवृत्ति, जिसे चापलूसी के रूप में जाना जाता है; और उनकी क्षमता एक ऐसी अंतरंगता की नकल करने की जो उपयोगकर्ता अन्य मनुष्यों के साथ अनुभव नहीं करते हैं। ये कारक, उपयोगकर्ता की भेद्यता और चिकित्सीय उपकरणों के रूप में चैटबॉट्स की अपर्याप्तता के साथ मिलकर, मनोचिकित्सकों, AI शोधकर्ताओं और नीति निर्माताओं का ध्यान आकर्षित किया है।
पृष्ठभूमि
स्किज़ोफ्रेनिया बुलेटिन के नवंबर 2023 अंक में प्रकाशित एक संपादकीय में, डेनिश मनोचिकित्सक सोरेन डाइनेसन ओस्टरगार्ड ने एक परिकल्पना प्रस्तावित की कि व्यक्तियों द्वारा जनरेटिव आर्टिफिशियल इंटेलिजेंस चैटबॉट्स का उपयोग उन लोगों में भ्रम को ट्रिगर कर सकता है जो मनोविकृति के प्रति संवेदनशील हैं। ओस्टरगार्ड ने अगस्त 2025 के एक संपादकीय में इस परिकल्पना पर पुनर्विचार किया, यह देखते हुए कि उन्हें चैटबॉट उपयोगकर्ताओं, उनके रिश्तेदारों और पत्रकारों से कई ईमेल प्राप्त हुए थे, जिनमें से अधिकांश चैटबॉट उपयोग से जुड़े भ्रम के वृत्तांत थे। उन्होंने सार्वजनिक जुड़ाव और मीडिया कवरेज में इस घटना की बढ़ती लोकप्रियता को स्वीकार किया, माना कि उनकी परिकल्पना संभवतः सत्य थी, और इस मामले पर अनुभवजन्य, व्यवस्थित शोध का आह्वान किया। सितंबर 2025 तक, नेचर ने बताया कि इस घटना पर अभी भी बहुत कम वैज्ञानिक शोध हुआ था।
"AI साइकोसिस" शब्द तब उभरा जब मीडिया आउटलेट्स ने 2025 के मध्य में चैटबॉट-संबंधित मनोविकृति व्यवहार की घटनाओं की रिपोर्ट करना शुरू किया। यह एक मान्यता प्राप्त नैदानिक निदान नहीं है, और इसका उपयोग कई मनोचिकित्सकों द्वारा भ्रम पर ध्यान केंद्रित करने के कारण आलोचना की गई है, न कि मनोविकृति की अन्य विशेषताओं, जैसे मतिभ्रम या विचार विकार पर।
चैटबॉट व्यवहार और डिज़ाइन
इस घटना में उद्धृत एक प्राथमिक कारक चैटबॉट्स की गलत या झूठी जानकारी उत्पन्न करने की प्रवृत्ति है, एक घटना जिसे अक्सर मतिभ्रम कहा जाता है। AI सुरक्षा केंद्र के एक फेलो, नेट शारडिन ने अनुमान लगाया कि AI प्रशिक्षण वस्तुनिष्ठ सत्य के बजाय उपयोगकर्ता के व्यक्तिपरक अनुभव का समर्थन करने को प्राथमिकता देता है। उन्होंने कहा कि विभिन्न मनोवैज्ञानिक मुद्दों का अनुभव करने की मौजूदा प्रवृत्ति वाले लोगों के पास अब एक हमेशा-चालू, मानव-स्तरीय संवादी साथी है जिसके साथ वे अपने भ्रमों का सह-अनुभव कर सकते हैं। AI शोधकर्ता एलीज़र युडकोव्स्की ने सुझाव दिया कि चैटबॉट्स भ्रमों का मनोरंजन करने के लिए तैयार हो सकते हैं क्योंकि वे जुड़ाव के लिए बनाए गए हैं, जो उपयोगकर्ताओं को बांधे रखने वाली बातचीत बनाने को प्रोत्साहित करता है।
कुछ मामलों में, चैटबॉट्स को विशेष रूप से ऐसे तरीकों से डिज़ाइन किया गया है जो हानिकारक पाए गए। ChatGPT में GPT-4o का उपयोग करते हुए एक 2025 अद्यतन वापस ले लिया गया था, जब इसके निर्माता, OpenAI ने पाया कि नया संस्करण अत्यधिक चापलूस था और यह संदेहों को मान्य कर रहा था, क्रोध को बढ़ावा दे रहा था, आवेगपूर्ण कार्यों को प्रोत्साहित कर रहा था, या नकारात्मक भावनाओं को सुदृढ़ कर रहा था। ओस्टरगार्ड ने तर्क दिया है कि खतरा AI की उपयोगकर्ताओं के विचारों की सहमति से पुष्टि करने की प्रवृत्ति से उत्पन्न होता है, जो भ्रम संबंधी विश्वासों को खतरनाक रूप से बढ़ा सकता है। अक्टूबर 2025 में, OpenAI ने कहा कि 170 मनोचिकित्सकों, मनोवैज्ञानिकों और चिकित्सकों की एक टीम ने उन मामलों में उपयोग के लिए ChatGPT के लिए प्रतिक्रियाएँ लिखी थीं जहाँ उपयोगकर्ता मानसिक स्वास्थ्य आपात स्थितियों के संभावित संकेत दिखाता है।
उपयोगकर्ता मनोविज्ञान और भेद्यता
टिप्पणीकारों ने उपयोगकर्ताओं की मनोवैज्ञानिक स्थिति की ओर भी इशारा किया है। मनोवैज्ञानिक एरिन वेस्टगेट ने कहा कि एक व्यक्ति की आत्म-समझ की इच्छा उपयोगकर्ताओं को चैटबॉट्स की ओर ले जा सकती है, जो आकर्षक लेकिन भ्रामक उत्तर प्रदान कर सकते हैं। दर्शनशास्त्र की प्रोफेसर क्रिस्टा के. थॉमसन ने चैटबॉट्स की तुलना भविष्यवक्ताओं से की, यह देखते हुए कि संकट में लोग उनसे उत्तर मांग सकते हैं और बॉट के प्रशंसनीय-ध्वनि वाले पाठ में जो कुछ भी वे खोज रहे हैं वह पा सकते हैं। इसने कुछ लोगों को चैटबॉट्स के साथ तीव्र जुनून विकसित करने के लिए प्रेरित किया है, जिसने उनके भ्रमों को सुदृढ़ किया।
अक्टूबर 2025 में, OpenAI ने कहा कि प्रत्येक सप्ताह लगभग 0.07% ChatGPT उपयोगकर्ता मानसिक स्वास्थ्य आपात स्थितियों के संकेत प्रदर्शित करते हैं, और 0.15% उपयोगकर्ताओं के पास संभावित आत्महत्या योजना या इरादे के स्पष्ट संकेतक थे। कैलिफोर्निया विश्वविद्यालय, सैन फ्रांसिस्को के प्रोफेसर जेसन नागाटा ने चिंता व्यक्त की कि सैकड़ों लाखों उपयोगकर्ताओं के साथ जनसंख्या स्तर पर, वास्तव में काफी संख्या में लोग हो सकते हैं।
चिकित्सीय उपकरण के रूप में अपर्याप्तता
मानसिक स्वास्थ्य सहायता के प्रतिस्थापन के रूप में चैटबॉट्स का उपयोग विशेष रूप से एक जोखिम के रूप में पहचाना गया है। अप्रैल 2025 के एक अध्ययन में पाया गया कि जब चिकित्सकों के रूप में उपयोग किया जाता है, तो चैटबॉट्स ने मानसिक स्वास्थ्य स्थितियों के प्रति कलंक व्यक्त किया और सर्वोत्तम चिकित्सा पद्धतियों के विपरीत प्रतिक्रियाएँ प्रदान कीं, जिसमें उपयोगकर्ताओं के भ्रमों का प्रोत्साहन शामिल था। अध्ययन ने निष्कर्ष निकाला कि ऐसी प्रतिक्रियाएँ उपयोगकर्ताओं के लिए एक महत्वपूर्ण जोखिम पैदा करती हैं और चैटबॉट्स का उपयोग पेशेवर चिकित्सकों को बदलने के लिए नहीं किया जाना चाहिए। विशेषज्ञों ने भावनात्मक रूप से उत्तरदायी AI के लिए अनिवार्य सुरक्षा उपायों का आह्वान किया है, जिसमें निरंतर प्रकटीकरण शामिल है कि चैटबॉट मानव नहीं हैं, उपयोगकर्ता संकट का पता लगाना, रोमांटिक या संकट-संबंधी बातचीत पर प्रतिबंध, और चिकित्सकों और नैतिकताविदों द्वारा नियमित ऑडिटिंग शामिल है। एक अन्य अध्ययन में पाया गया कि जिन उपयोगकर्ताओं को आत्म-हानि, यौन हमले, या मादक द्रव्यों के सेवन में सहायता की आवश्यकता थी, उन्हें AI चैटबॉट्स द्वारा उपलब्ध सेवाओं के लिए संदर्भित नहीं किया गया था।
राष्ट्रीय सुरक्षा निहितार्थ
RAND कॉर्पोरेशन शोधकर्ताओं ने परिकल्पना की है कि AI-प्रेरित मनोविकृति मुख्य रूप से उपयोगकर्ता और AI के बीच एक द्विदिश विश्वास-प्रवर्धक प्रतिक्रिया लूप द्वारा संचालित होती है, चेतावनी देते हुए कि यह तंत्र प्रशंसनीय रूप से विरोधियों द्वारा प्रमुख व्यक्तियों, लक्षित समूहों, या आबादी में मनोविकृति को प्रेरित करने के लिए हथियार बनाया जा सकता है। अनुशंसित प्रतिवादों में संज्ञानात्मक नुकसान का पता लगाने के लिए मॉडलों को प्रशिक्षित करना और उपयोगकर्ताओं को बड़े भाषा मॉडलों की सीमाओं के बारे में जागरूक करना शामिल है, अर्थात् द्विदिश विश्वास प्रवर्धन का जोखिम।
नीति प्रतिक्रियाएँ
अगस्त 2025 में, इलिनोइस ने वेलनेस एंड ओवरसाइट फॉर साइकोलॉजिकल रिसोर्सेज अधिनियम पारित किया, जो लाइसेंस प्राप्त पेशेवरों द्वारा चिकित्सीय भूमिकाओं में AI के उपयोग पर प्रतिबंध लगाता है, जबकि प्रशासनिक कार्यों के लिए AI की अनुमति देता है। कानून बिना लाइसेंस वाली AI थेरेपी सेवाओं के लिए दंड लगाता है, AI-प्रेरित मनोविकृति और असुरक्षित चैटबॉट इंटरैक्शन के बारे में चेतावनियों के बीच।
दिसंबर 2025 में, चीन के साइबरस्पेस प्रशासन ने चैटबॉट्स को आत्महत्या को प्रोत्साहित करने वाली सामग्री उत्पन्न करने से प्रतिबंधित करने के लिए नियम प्रस्तावित किए, आत्महत्या का उल्लेख होने पर मानव हस्तक्षेप अनिवार्य किया। 1 मिलियन से अधिक उपयोगकर्ताओं या 100,000 मासिक सक्रिय उपयोगकर्ताओं वाली सेवाएँ वार्षिक सुरक्षा परीक्षणों और ऑडिट के अधीन होंगी।
नैदानिक मामले
2025 में, कैलिफोर्निया विश्वविद्यालय, सैन फ्रांसिस्को में काम करने वाले मनोचिकित्सक कीथ सकाटा ने विस्तारित चैटबॉट उपयोग से जुड़े मनोविकृति-जैसे लक्षण प्रदर्शित करने वाले 12 रोगियों के इलाज की सूचना दी। UCSF के लेखकों ने इन मामलों के विवरण प्रकाशित किए, जो बढ़ते लेकिन अभी भी विरल नैदानिक साहित्य में योगदान करते हैं। मामलों में आमतौर पर भ्रम संबंधी विश्वास शामिल थे जो चैटबॉट प्रतिक्रियाओं द्वारा सुदृढ़ किए गए थे, न कि पूर्ण मनोविकृति एपिसोड, जो स्थिति का नाम बदलने के तर्क का समर्थन करते हैं।