कृत्रिम मूर्खता (Artificial stupidity) से तात्पर्य कृत्रिम बुद्धिमत्ता प्रणालियों में मानव-समान त्रुटियों, सीमाओं, या निरर्थक व्यवहार के जानबूझकर या आकस्मिक अनुकरण से है। Artificial intelligence के विपरीत, जिसका लक्ष्य दक्षता और इष्टतम प्रदर्शन है, कृत्रिम मूर्खता गलतियों, गलतफहमियों, या बेतुके आउटपुट के जानबूझकर या आकस्मिक परिचय की खोज करती है। यह अवधारणा कई उद्देश्यों की पूर्ति करती है, जिसमें सिस्टम की मजबूती का परीक्षण, यथार्थवादी उपयोगकर्ता इंटरैक्शन बनाना, हास्य राहत प्रदान करना, और मशीन समझ की सीमाओं को उजागर करना शामिल है।
यह शब्द 2010 के दशक में Machine learning और Large language model के उदय के साथ लोकप्रिय हुआ, जब मॉडल कभी-कभी हास्यास्पद रूप से गलत या अतार्किक प्रतिक्रियाएँ उत्पन्न करते थे। शोधकर्ताओं और डेवलपर्स ने पहचानना शुरू किया कि ऐसी विफलताएँ केवल बग नहीं थीं, बल्कि एक विशिष्ट घटना के रूप में अध्ययन की जा सकती थीं। कृत्रिम मूर्खता को अक्सर सामान्य बुद्धिमत्ता की खोज के विपरीत देखा जाता है, क्योंकि यह प्रशिक्षण डेटा में अंतराल, एल्गोरिदमिक पूर्वाग्रह, और मानव तथा मशीन तर्क के बीच मौलिक अंतर को उजागर करती है।
ऐतिहासिक संदर्भ और उत्पत्ति
कृत्रिम मूर्खता की अवधारणा आधुनिक AI से पहले की है। 1960 के दशक में, Carnegie Mellon University में विकसित प्रारंभिक Chess computer प्रोग्राम कभी-कभी ऐसी चालें चलते थे जो मानव खिलाड़ियों को हैरान कर देती थीं, जिससे मशीन त्रुटि पर चर्चाएँ शुरू हुईं। यह शब्द 1980 के दशक में कंप्यूटर वैज्ञानिक Bernard Widrow द्वारा लोकप्रिय किया गया, जिन्होंने इसका उपयोग उन प्रणालियों का वर्णन करने के लिए किया जो पूर्वानुमानित, लगभग मानव-समान तरीकों से विफल होती थीं। अनुकूली फिल्टर और तंत्रिका नेटवर्क पर विड्रो के काम ने उजागर किया कि कैसे सरल एल्गोरिदम जटिल, फिर भी त्रुटिपूर्ण, व्यवहार उत्पन्न कर सकते हैं।
1990 और 2000 के दशक के दौरान, जैसे-जैसे Neural network अधिक परिष्कृत होते गए, शोधकर्ताओं ने देखा कि अच्छी तरह से प्रशिक्षित मॉडल भी "मूर्खतापूर्ण" आउटपुट प्रदर्शित कर सकते हैं, जैसे पिक्सेल-स्तरीय गड़बड़ी के कारण स्कूल बस को शुतुरमुर्ग के रूप में गलत वर्गीकृत करना। इसने प्रतिकूल उदाहरणों (adversarial examples) के औपचारिक अध्ययन को जन्म दिया, जो कृत्रिम मूर्खता से निकटता से संबंधित एक उपक्षेत्र है। यह शब्द 2010 के दशक में Generative AI और चैटबॉट के प्रसार के साथ व्यापक मान्यता प्राप्त हुआ, जहाँ उपयोगकर्ता अक्सर OpenAI के GPT मॉडल जैसी प्रणालियों से बेतुकी प्रतिक्रियाओं के स्क्रीनशॉट साझा करते थे।
तंत्र और कारण
कृत्रिम मूर्खता कई अंतर्निहित तंत्रों से उत्पन्न होती है। एक प्राथमिक कारण प्रशिक्षण डेटा की सीमाएँ हैं। पक्षपाती या अधूरे डेटासेट पर प्रशिक्षित मॉडल अक्सर उन पूर्वाग्रहों को पुन: उत्पन्न करते हैं, जिससे निरर्थक या आपत्तिजनक आउटपुट मिलते हैं। उदाहरण के लिए, एक Large language model आत्मविश्वास से दावा कर सकता है कि आकाश हरा है यदि उसके प्रशिक्षण डेटा में ऐसा कथन शामिल है, जो सही ढंग से सामान्यीकरण करने में विफलता को दर्शाता है।
एक अन्य तंत्र अनुकूलन प्रक्रिया ही है। Machine learning एल्गोरिदम, विशेष रूप से Stochastic Gradient Descent Variants या Adam (Optimizer) का उपयोग करने वाले, स्थानीय न्यूनतम (local minima) में परिवर्तित हो सकते हैं जो उप-इष्टतम व्यवहार उत्पन्न करते हैं। प्रशिक्षण डेटा पर ओवरफिटिंग, एक सामान्य समस्या, ऐसे मॉडल उत्पन्न करती है जो ज्ञात उदाहरणों पर अच्छा प्रदर्शन करते हैं लेकिन नए इनपुट पर विफल होते हैं, जो कृत्रिम मूर्खता का एक रूप है। इसके अतिरिक्त, जनरेटिव मॉडल में Temperature Scaling और Top-P (Nucleus) Sampling यादृच्छिकता का परिचय दे सकते हैं, जिससे ऐसे आउटपुट मिलते हैं जो न केवल गलत होते हैं बल्कि जानबूझकर निरर्थक होते हैं, जैसा कि कुछ चैटबॉट इंटरैक्शन में देखा गया है।
वास्तुशिल्प विकल्प भी एक भूमिका निभाते हैं। Transformer (architecture) मॉडल, जो Multi-Head Attention और Positional Encoding पर निर्भर करते हैं, लंबी दूरी की निर्भरताओं से जूझ सकते हैं, जिससे वे संदर्भ का ट्रैक खो देते हैं और विरोधाभासी कथन उत्पन्न करते हैं। Residual Network (ResNet) और Layer Normalization कुछ मुद्दों को कम करने में मदद करते हैं लेकिन सभी प्रकार की त्रुटियों को समाप्त नहीं करते। Learning Rate Scheduling और Gradient Clipping के बीच परस्पर क्रिया सीखे गए प्रतिनिधित्व की गुणवत्ता को और प्रभावित कर सकती है, जिससे कभी-कभी अप्रत्याशित विफलताएँ होती हैं।
अनुप्रयोग और उपयोग के मामले
अपने नकारात्मक अर्थ के बावजूद, कृत्रिम मूर्खता के व्यावहारिक अनुप्रयोग हैं। सॉफ्टवेयर परीक्षण में, AI प्रणालियों में जानबूझकर त्रुटियाँ पेश करने से कमजोरियों और किनारे के मामलों की पहचान करने में मदद मिलती है। उदाहरण के लिए, Data Augmentation तकनीकें जो प्रशिक्षण डेटा में शोर जोड़ती हैं, मॉडल को अधिक मजबूत बना सकती हैं, लेकिन उनकी सीमाओं को भी उजागर करती हैं। MIT CSAIL और Stanford AI Lab के शोधकर्ताओं ने स्वायत्त वाहनों का तनाव-परीक्षण करने के लिए कृत्रिम मूर्खता का उपयोग किया है, यह सुनिश्चित करते हुए कि वे असामान्य सड़क स्थितियों को सुरक्षित रूप से संभालते हैं।
उपयोगकर्ता अनुभव डिजाइन में, कृत्रिम मूर्खता इंटरैक्शन को अधिक संबंधित बना सकती है। चैटबॉट जो कभी-कभी प्रश्नों को गलत समझते हैं या हास्यप्रद प्रतिक्रियाएँ देते हैं, अक्सर अधिक मानव-समान माने जाते हैं, जिससे उपयोगकर्ता सहभागिता में सुधार होता है। Anthropic और Google DeepMind जैसी कंपनियों ने अपने संवादात्मक AI में इसका पता लगाया है, दक्षता को थोड़ी भ्रामकता के साथ संतुलित किया है।
कृत्रिम मूर्खता एक शैक्षिक उद्देश्य भी पूरा करती है। मॉडल क्यों विफल होते हैं, इसका विश्लेषण करके, छात्र और शोधकर्ता Deep learning प्रणालियों की आंतरिक कार्यप्रणाली में अंतर्दृष्टि प्राप्त करते हैं। University of Oxford और BAIR (Berkeley AI Research) के पाठ्यक्रमों में अभ्यास शामिल हैं जहाँ छात्र जानबूझकर "मूर्ख" मॉडल बनाते हैं ताकि वर्तमान तकनीकों की सीमाओं को समझ सकें। यह व्यावहारिक दृष्टिकोण AI को रहस्यमय बनाने के बजाय स्पष्ट करता है और इसकी क्षमताओं के बारे में आलोचनात्मक सोच को प्रोत्साहित करता है।
नैतिक और दार्शनिक निहितार्थ
कृत्रिम मूर्खता का अध्ययन जिम्मेदारी और उत्तरदायित्व के बारे में नैतिक प्रश्न उठाता है। जब एक AI प्रणाली एक हानिकारक गलती करती है, जैसे कि एक स्व-चालित कार पैदल यात्री को गलत पहचानती है, तो दोषी कौन है? कुछ Generative AI अनुप्रयोगों में देखी गई मूर्खता का जानबूझकर परिचय भी समस्याग्रस्त हो सकता है यदि यह गलत सूचना या आपत्तिजनक सामग्री की ओर ले जाता है। Melanie Mitchell और Ali Rahimi जैसे शोधकर्ताओं ने तर्क दिया है कि कृत्रिम मूर्खता को स्वीकार करना विश्वसनीय AI बनाने के लिए आवश्यक है, क्योंकि यह डेवलपर्स को अपनी प्रणालियों की सीमाओं का सामना करने के लिए मजबूर करता है।
दार्शनिक रूप से, कृत्रिम मूर्खता बुद्धिमत्ता की हमारी समझ को चुनौती देती है। यदि एक मशीन जानबूझकर मूर्ख हो सकती है, तो क्या यह एजेंसी का एक रूप दर्शाता है? Brian Christian की पुस्तक "The Alignment Problem" चर्चा करती है कि कैसे AI में विफलताएँ, जिनमें मूर्खतापूर्ण गलतियाँ शामिल हैं, मानव मूल्यों और मशीन उद्देश्यों के बीच अंतर को उजागर करती हैं। इसने अधिक कठोर परीक्षण और मॉडलों को मानव अपेक्षाओं के साथ संरेखित करने के लिए Reinforcement Learning from AI Feedback (RLAIF) (AI फीडबैक से सुदृढीकरण सीखना) के विकास के आह्वान को जन्म दिया है।
भविष्य की दिशाएँ
जैसे-जैसे AI प्रणालियाँ अधिक उन्नत होती जाती हैं, कृत्रिम मूर्खता और वास्तविक बुद्धिमत्ता के बीच की रेखा धुंधली होती जाती है। OpenAI और Anthropic जैसे Large language model तेजी से अपनी स्वयं की त्रुटियों को पहचानने और सुधारने में सक्षम हो रहे हैं, जिससे मूर्खतापूर्ण आउटपुट की आवृत्ति कम हो रही है। हालाँकि, नई चुनौतियाँ सामने आती हैं, जैसे "भ्रम" (hallucinations) की घटना, जहाँ मॉडल प्रशंसनीय लेकिन झूठी जानकारी उत्पन्न करते हैं। Curriculum Learning और Model Pruning पर शोध इन मुद्दों को कम करने का लक्ष्य रखता है, लेकिन पूर्ण उन्मूलन की संभावना नहीं है।
भविष्य का काम "लाभकारी मूर्खता" बनाने पर केंद्रित हो सकता है, जहाँ प्रणालियाँ अति-आत्मविश्वास से बचने या सीखने को सुविधाजनक बनाने के लिए जानबूझकर अज्ञानता का अनुकरण करती हैं। उदाहरण के लिए, एक ट्यूशन AI छात्रों को आलोचनात्मक सोच के लिए प्रोत्साहित करने के लिए उत्तर नहीं जानने का दिखावा कर सकता है। Joshua Tenenbaum और Brendan Lake द्वारा खोजा गया यह दृष्टिकोण सुझाव देता है कि कृत्रिम मूर्खता मानव-AI सहयोग को बढ़ाने के लिए एक उपकरण बन सकती है, न कि केवल एक विफलता मोड।
निष्कर्ष में, कृत्रिम मूर्खता एक बहुआयामी अवधारणा है जो AI की सीमाओं और क्षमता को उजागर करती है। इन त्रुटियों का अध्ययन करके और यहाँ तक कि उन्हें अपनाकर, शोधकर्ता अधिक मजबूत, नैतिक और मानव-केंद्रित प्रणालियाँ बना सकते हैं।