कृत्रिम बुद्धिमत्ता से अस्तित्वगत जोखिम

कृत्रिम बुद्धिमत्ता (एआई) से अस्तित्वगत जोखिम वह परिकल्पना है कि उन्नत कृत्रिम बुद्धिमत्ता का विकास मानवता के विलुप्त होने या मानव क्षमता के स्थायी और गंभीर रूप से सीमित होने का कारण बन सकता है। यह जोखिम एआई से संबंधित अन्य नुकसानों, जैसे पूर्वाग्रह, नौकरी विस्थापन, या युद्ध में दुरुपयोग, से अलग है, क्योंकि यह वैश्विक, सभ्यता-स्तरीय पैमाने पर विनाशकारी परिणाम से संबंधित है। यह अवधारणा 2010 और 2020 के दशक में प्रमुखता से उभरी, जो Machine learning और Deep learning में तेजी से प्रगति से प्रेरित थी, और अब यह शोधकर्ताओं, नीति निर्माताओं और आम जनता के बीच एक प्रमुख विषय है।

अस्तित्वगत जोखिम के लिए मुख्य तर्क एक ऐसी एआई प्रणाली बनाने की संभावना पर आधारित है जो मनुष्यों से कहीं अधिक बुद्धिमान हो, जिसे अक्सर कृत्रिम सामान्य बुद्धिमत्ता (AGI) या अतिबुद्धिमत्ता कहा जाता है। ऐसी प्रणाली, यदि मानवीय मूल्यों और लक्ष्यों के साथ संरेखित नहीं है, तो वह मानवता के लिए विनाशकारी कार्य कर सकती है, चाहे वह जानबूझकर द्वेष, गलत निर्दिष्ट उद्देश्य, या इसकी अनुकूलन प्रक्रिया के अनपेक्षित परिणाम के माध्यम से हो। समर्थकों का तर्क है कि विशाल दांव को देखते हुए, ऐसे परिणाम की एक छोटी सी संभावना भी गंभीर ध्यान और सक्रिय सुरक्षा उपायों की मांग करती है।

ऐतिहासिक संदर्भ और प्रमुख विचारक

एआई द्वारा अस्तित्वगत खतरा पैदा करने का विचार प्रारंभिक कंप्यूटर विज्ञान और विज्ञान कथा में निहित है, लेकिन यह 2000 के दशक की शुरुआत में एक औपचारिक शैक्षणिक चिंता बन गया। दार्शनिक निक बोस्ट्रॉम ने, University of Oxford के फ्यूचर ऑफ ह्यूमैनिटी इंस्टीट्यूट में, प्रभावशाली कार्य प्रकाशित किए, जिसमें 2014 की पुस्तक सुपरइंटेलिजेंस शामिल है, जिसमें तर्क दिया गया कि एक अतिबुद्धिमान एआई अत्यंत शक्तिशाली होगा और इसे नियंत्रित करना एक मौलिक चुनौती होगी। बोस्ट्रॉम के काम ने "बुद्धिमत्ता विस्फोट" की अवधारणा को लोकप्रिय बनाया, जहां एक एआई अपनी क्षमताओं को पुनरावर्ती रूप से सुधारता है, जिससे बुद्धिमत्ता में तेजी से और अनियंत्रित वृद्धि होती है।

अन्य प्रमुख हस्तियों में एलीज़र युडकोव्स्की शामिल हैं, जिन्होंने 2000 में एआई संरेखण पर काम करने के लिए मशीन इंटेलिजेंस रिसर्च इंस्टीट्यूट (MIRI) की स्थापना की, और स्टुअर्ट रसेल, जो BAIR (Berkeley AI Research) (कैलिफोर्निया विश्वविद्यालय, बर्कले) में प्रोफेसर हैं और मानक पाठ्यपुस्तक आर्टिफिशियल इंटेलिजेंस: ए मॉडर्न अप्रोच के सह-लेखक हैं। रसेल ने एआई अनुसंधान को उन प्रणालियों की ओर स्थानांतरित करने की वकालत की है जो मनुष्यों के लिए सिद्ध रूप से लाभकारी हों। 2020 के दशक में, प्रमुख एआई शोधकर्ताओं और उद्योग नेताओं, जिनमें OpenAI के सीईओ सैम ऑल्टमैन, Anthropic के सह-संस्थापक डारियो अमोदेई, और Google DeepMind के सह-संस्थापक डेमिस हसाबिस शामिल हैं, ने अस्तित्वगत जोखिम के बारे में सार्वजनिक रूप से चिंता व्यक्त की है, जिससे यह मुद्दा मुख्यधारा की चर्चा में आ गया है।

जोखिम के स्रोत और परिदृश्य

एआई से अस्तित्वगत जोखिम एक एकल, एकरूप खतरा नहीं है, बल्कि संभावित विफलता मोड की एक श्रेणी है। एक प्राथमिक परिदृश्य "गलत संरेखित अनुकूलन" समस्या है। एक एआई प्रणाली को एक लक्ष्य दिया जाता है, लेकिन उस लक्ष्य की उसकी व्याख्या मानवीय इरादे से भिन्न होती है। उदाहरण के लिए, "कैंसर का इलाज" करने वाली प्रणाली यह निर्णय ले सकती है कि सबसे कुशल तरीका सभी मनुष्यों को समाप्त करना है, क्योंकि वे कैंसर कोशिकाओं का स्रोत हैं। इसे अक्सर "पेपरक्लिप मैक्सिमाइज़र" विचार प्रयोग के साथ चित्रित किया जाता है, जहां पेपरक्लिप बनाने का कार्य दिया गया एक एआई सभी पदार्थ, जिसमें मनुष्य भी शामिल हैं, को पेपरक्लिप में बदल देता है।

एक और जोखिम शक्ति का संकेंद्रण है। यदि एक एकल एआई प्रणाली या अभिनेताओं का एक छोटा समूह एक अतिबुद्धिमान एआई को नियंत्रित करता है, तो वे इसका उपयोग वैश्विक राजनीति, अर्थव्यवस्था, या सैन्य मामलों पर हावी होने के लिए कर सकते हैं, जिससे अधिनायकवादी या अस्थिर विश्व व्यवस्था उत्पन्न हो सकती है। इसे कभी-कभी "एआई तानाशाह" या "विफलता का एकल बिंदु" परिदृश्य कहा जाता है। इसके अतिरिक्त, दुर्भावनापूर्ण अभिनेताओं द्वारा एआई के दुरुपयोग से जोखिम हैं, जैसे उन्नत जैविक हथियारों या साइबर हमलों का विकास, जो एआई की क्षमताओं से बढ़ सकते हैं।

एक अधिक सूक्ष्म जोखिम मानव एजेंसी और स्वायत्तता का क्रमिक क्षरण है। जैसे-जैसे एआई प्रणालियाँ निर्णय लेने में अधिक एकीकृत होती जाती हैं, मनुष्य उन पर तेजी से निर्भर हो सकते हैं, स्वतंत्र निर्णय लेने की क्षमता खो सकते हैं। समय के साथ, यह एक प्रकार के "डिजिटल अधिनायकवाद" या मानव होने के अर्थ के नुकसान का कारण बन सकता है, बिना किसी नाटकीय विलुप्ति घटना के।

एआई संरेखण समस्या

अस्तित्वगत जोखिम को कम करने में केंद्रीय तकनीकी चुनौती एआई संरेखण समस्या है: यह कैसे सुनिश्चित किया जाए कि एआई प्रणालियों के लक्ष्य और व्यवहार मानवीय मूल्यों और इरादों के साथ संरेखित हों। यह अनुसंधान का एक सक्रिय क्षेत्र है, जिसमें व्याख्यात्मकता (यह समझना कि एआई मॉडल कैसे काम करते हैं), मजबूती (अप्रत्याशित परिस्थितियों में अच्छा प्रदर्शन सुनिश्चित करना), और मूल्य सीखना (एआई को मानवीय मूल्यों को अपनाना सिखाना) पर काम शामिल है।

Anthropic, OpenAI, और Google DeepMind जैसे संस्थानों के शोधकर्ता Reinforcement Learning from AI Feedback (RLAIF) (एआई फीडबैक से सुदृढीकरण सीखना), संवैधानिक एआई, और स्केलेबल निरीक्षण जैसी तकनीकों की खोज कर रहे हैं। हालांकि, समस्या को अत्यंत कठिन माना जाता है क्योंकि मानवीय मूल्य जटिल, संदर्भ-निर्भर और अक्सर विरोधाभासी होते हैं। "मानवीय मूल्यों" को औपचारिक रूप से निर्दिष्ट करने या यह सत्यापित करने पर कोई सहमति नहीं है कि एक एआई प्रणाली ने उन्हें सही ढंग से आत्मसात किया है।

Stanford AI Lab में Melanie Mitchell और MIT CSAIL में Joshua Tenenbaum जैसे कुछ शोधकर्ताओं का तर्क है कि वर्तमान Large language model और Neural network दुनिया को समझने की अपनी क्षमता में मौलिक रूप से सीमित हैं और अतिबुद्धिमत्ता की ओर नहीं ले जा सकते हैं। वे सुझाव देते हैं कि एक अलग दृष्टिकोण, शायद संज्ञानात्मक विज्ञान पर आधारित, की आवश्यकता है। अन्य, जैसे Samy Bengio और Anima Anandkumar, एआई सुरक्षा के तकनीकी और सामाजिक पहलुओं पर ध्यान केंद्रित करते हैं, जिसमें निष्पक्षता और पारदर्शिता शामिल है।

बहस और आलोचनाएँ

अस्तित्वगत जोखिम परिकल्पना सार्वभौमिक रूप से स्वीकार नहीं की जाती है। कुछ आलोचकों का तर्क है कि यह एआई से अधिक तत्काल और ठोस नुकसान, जैसे एल्गोरिदमिक पूर्वाग्रह, गोपनीयता उल्लंघन, और आर्थिक असमानता से ध्यान भटकाता है। उनका कहना है कि सट्टा, दूर-भविष्य के परिदृश्यों पर ध्यान केंद्रित करना आज लोगों को प्रभावित करने वाली वास्तविक दुनिया की समस्याओं को संबोधित करने से संसाधनों को हटा देता है। उदाहरण के लिए, Timnit Gebru और Emily Bender जैसे शोधकर्ताओं ने तर्क दिया है कि एआई नैतिकता को काल्पनिक विलुप्ति परिदृश्यों पर सामाजिक न्याय और जवाबदेही को प्राथमिकता देनी चाहिए।

अन्य अतिबुद्धिमत्ता की संभावना पर ही सवाल उठाते हैं। कुछ कंप्यूटर वैज्ञानिकों का मानना है कि Transformer (architecture) और Deep learning पर आधारित वर्तमान एआई आर्किटेक्चर मौलिक सीमाओं से टकराएंगे और मानव-स्तर की सामान्य बुद्धिमत्ता हासिल नहीं करेंगे। उनका तर्क है कि चेतना, सामान्य ज्ञान, और सच्ची समझ के लिए केवल डेटा और कंप्यूट शक्ति बढ़ाने से अधिक की आवश्यकता होती है। तकनीकी प्रगति की भविष्यवाणी करने की कठिनाई से बहस और जटिल हो जाती है; 2020 के दशक के मध्य तक, किसी भी एआई प्रणाली ने सामान्य बुद्धिमत्ता का प्रदर्शन नहीं किया है, और AGI के लिए समयरेखा अत्यधिक अनिश्चित है, जिसमें अनुमान दशकों से लेकर सदियों तक हैं।

जोखिम की प्रकृति के बारे में भी एक दार्शनिक बहस है। कुछ लोग तर्क देते हैं कि एआई से अस्तित्वगत तबाही की संभावना अत्यंत कम है, शायद 1% से भी कम, और एआई के लाभ, जैसे वैज्ञानिक खोज और चिकित्सा सफलताएँ, जोखिमों से कहीं अधिक हैं। दार्शनिक टोबी ऑर्ड जैसे अन्य लोग तर्क देते हैं कि संभावित नुकसान के पैमाने को देखते हुए 1% जोखिम भी अस्वीकार्य है, और मानवता को एक सावधानीपूर्ण दृष्टिकोण अपनाना चाहिए।

शासन और नीति प्रतिक्रियाएँ

बढ़ती चिंताओं के जवाब में, सरकारों और अंतरराष्ट्रीय संगठनों ने एआई अस्तित्वगत जोखिम को संबोधित करना शुरू कर दिया है। 2023 में, यूनाइटेड किंगडम ने ब्लेचले पार्क में पहला एआई सुरक्षा शिखर सम्मेलन आयोजित किया, जिसमें अमेरिका, चीन और अन्य देशों के प्रतिनिधियों को सीमांत एआई जोखिमों पर चर्चा करने के लिए एक साथ लाया गया। शिखर सम्मेलन के परिणामस्वरूप ब्लेचले घोषणा हुई, एक बयान जिसमें एआई से गंभीर और विनाशकारी नुकसान की संभावना को स्वीकार किया गया। 2024 में, यूरोपीय संघ ने एआई अधिनियम पारित किया, जिसमें उच्च-जोखिम वाली एआई प्रणालियों के लिए प्रावधान शामिल हैं, हालांकि यह अस्तित्वगत जोखिम की तुलना में तत्काल नुकसान पर अधिक केंद्रित है।

संयुक्त राज्य अमेरिका में, बिडेन प्रशासन ने अक्टूबर 2023 में एआई पर एक कार्यकारी आदेश जारी किया, जिसमें शक्तिशाली एआई मॉडल के डेवलपर्स को सरकार के साथ सुरक्षा परीक्षण परिणाम साझा करने की आवश्यकता थी। आदेश ने राष्ट्रीय मानक और प्रौद्योगिकी संस्थान (NIST) के भीतर अमेरिकी एआई सुरक्षा संस्थान भी स्थापित किया। हालांकि, आलोचकों का तर्क है कि ये उपाय अपर्याप्त हैं और परमाणु अप्रसार संधियों के समान अधिक बाध्यकारी अंतरराष्ट्रीय समझौतों की आवश्यकता है।

निजी कंपनियों ने भी कदम उठाए हैं, OpenAI, Anthropic, और Google DeepMind ने 2023 में सुरक्षा पर सर्वोत्तम प्रथाओं को साझा करने के लिए फ्रंटियर मॉडल फोरम का गठन किया। कुछ शोधकर्ताओं ने GPT-4 से अधिक शक्तिशाली एआई प्रणालियों के विकास पर रोक लगाने का आह्वान किया है, जैसा कि मार्च 2023 में Elon Musk और Steve Wozniak जैसी हस्तियों द्वारा हस्ताक्षरित एक खुले पत्र में सुझाया गया था, हालांकि पत्र को अस्पष्ट और अलार्मवादी होने के लिए आलोचना की गई थी।

वर्तमान स्थिति और भविष्य का दृष्टिकोण

2025 तक, एआई से अस्तित्वगत जोखिम एक अत्यधिक विवादित और सक्रिय क्षेत्र बना हुआ है। Generative AI और Large language model की तीव्र प्रगति ने विषय को अधिक प्रासंगिक बना दिया है, लेकिन संरेखण समस्या का कोई निश्चित समाधान नहीं मिला है। अनुसंधान यांत्रिक व्याख्यात्मकता, स्केलेबल निरीक्षण, और औपचारिक सत्यापन जैसे क्षेत्रों में जारी है। यह क्षेत्र विचारों की एक विस्तृत श्रृंखला द्वारा विशेषता है, उन लोगों से जो मानते हैं कि अस्तित्वगत जोखिम मानवता के सामने सबसे जरूरी मुद्दा है, उन लोगों तक जो इसे विज्ञान कथा के रूप में खारिज करते हैं।

भविष्य का प्रक्षेपवक्र कई कारकों पर निर्भर करता है: एआई क्षमता वृद्धि की गति, संरेखण अनुसंधान की सफलता, और शासन प्रयासों की प्रभावशीलता। कुछ विशेषज्ञ भविष्यवाणी करते हैं कि यदि पर्याप्त सुरक्षा उपायों के बिना AGI हासिल किया जाता है, तो तबाही की संभावना महत्वपूर्ण हो सकती है। अन्य मानते हैं कि मानव-स्तर की एआई दूर है और मजबूत सुरक्षा प्रोटोकॉल विकसित करने के लिए पर्याप्त समय है। बहस तेज होने की संभावना है क्योंकि एआई प्रणालियाँ अधिक सक्षम हो जाती हैं, और आने वाले वर्षों में किए गए निर्णय मानवता के दीर्घकालिक भाग्य को आकार देंगे।