अतिबुद्धिमत्ता

अधीक्षण बुद्धिमत्ता (Superintelligence) एक काल्पनिक बुद्धि को संदर्भित करती है जो अनिवार्य रूप से सभी क्षेत्रों में सर्वश्रेष्ठ मानव मन की संज्ञानात्मक क्षमता से कहीं अधिक होगी, जिसमें वैज्ञानिक रचनात्मकता, सामान्य ज्ञान और सामाजिक कौशल शामिल हैं। यह अवधारणा एआई-सुरक्षा में दीर्घकालिक बहसों का केंद्र है और सबसे अधिक दार्शनिक निक बोस्ट्रॉम से जुड़ी है, जिनकी 2014 की पुस्तक "सुपरइंटेलिजेंस: पाथ्स, डेंजर्स, स्ट्रैटेजीज" ने इस विचार को मुख्यधारा के ध्यान में लाया और एआई जोखिम पर बाद के अधिकांश प्रवचन को आकार दिया।

अवधारणा की उत्पत्ति

मानव बुद्धि से अधिक मशीनों के बारे में अटकलें आधुनिक एआई से पहले की हैं। द्वितीय विश्व युद्ध के दौरान एलन ट्यूरिंग के सहयोगी गणितज्ञ आई. जे. गुड ने 1965 के एक निबंध में लिखा था कि एक "अति-बुद्धिमान मशीन" और भी बेहतर मशीनें डिजाइन कर सकती है, जो एक "बुद्धि विस्फोट" को ट्रिगर करेगी जो मानव बुद्धि को काफी पीछे छोड़ देगा, एक गतिशीलता जिसे कभी-कभी पुनरावर्ती आत्म-सुधार कहा जाता है। यह विचार तकनीकी विलक्षणता पर बाद के अधिकांश विचारों को रेखांकित करता है, जो तकनीकी परिवर्तन के एक अनियंत्रित बिंदु की परिकल्पना है।

बोस्ट्रॉम का वर्गीकरण

बोस्ट्रॉम की पुस्तक अधीक्षण बुद्धिमत्ता के रूपों को शामिल लाभ के प्रकार के आधार पर अलग करती है: "गति अधीक्षण बुद्धिमत्ता" (मानव-स्तरीय मन जो कहीं अधिक तेजी से काम करता है), "सामूहिक अधीक्षण बुद्धिमत्ता" (कई मन जो प्रभावी ढंग से समन्वित होते हैं), और "गुणवत्ता अधीक्षण बुद्धिमत्ता" (एक मन जो गुणात्मक रूप से बेहतर है, केवल तेज नहीं)। उन्होंने "ऑर्थोगोनैलिटी थीसिस" को भी लोकप्रिय बनाया, यह दावा कि बुद्धि और अंतिम लक्ष्य स्वतंत्र हैं, जिसका अर्थ है कि एक अत्यधिक सक्षम प्रणाली स्वचालित रूप से परोपकारी नहीं है, और संबंधित "वाद्य अभिसरण" थीसिस, कि लगभग किसी भी लक्ष्य का पीछा करने वाले पर्याप्त सक्षम एजेंट उपयोगी उप-लक्ष्यों के रूप में संसाधनों, आत्म-संरक्षण और हस्तक्षेप से स्वतंत्रता की तलाश करते हैं।

अधीक्षण बुद्धिमत्ता के मार्ग

साहित्य में चर्चित प्रस्तावित मार्गों में बड़े भाषा मॉडल और आधार मॉडल प्रणालियों को स्केल करना, संपूर्ण-मस्तिष्क अनुकरण, जैविक संज्ञानात्मक वृद्धि, और नेटवर्कयुक्त सामूहिक बुद्धि शामिल हैं। 2020 के दशक के मध्य से, प्रमुख उद्योग दांव यह रहा है कि अनुभवजन्य स्केलिंग-नियम द्वारा निर्देशित कंप्यूट, डेटा और मॉडल आकार को स्केल करना, अंततः व्यापक क्षेत्रों में अति-मानवीय प्रदर्शन वाली प्रणालियाँ उत्पन्न कर सकता है, हालांकि यह मार्ग वास्तविक सामान्य अधीक्षण बुद्धिमत्ता की ओर ले जाता है या सिर्फ संकीर्ण अति-मानवीय कौशल की ओर, यह विवादित बना हुआ है।

सुरक्षा और नियंत्रण बहसें

बोस्ट्रॉम की "नियंत्रण समस्या", कि यह कैसे सुनिश्चित किया जाए कि एक अधीक्षण बुद्धिमत्ता प्रणाली मानव मूल्यों के साथ संरेखित रहे, भले ही यह मानव की मूल्यांकन या सुधारने की क्षमता से आगे निकल जाए, समकालीन संरेखण अनुसंधान के अधिकांश भाग को प्रेरित करती है। एंथ्रोपिक जैसे संगठन, जो आंशिक रूप से इस चिंता के आसपास स्थापित हुए, और एलिज़र युडकोवस्की जैसे शोधकर्ताओं ने तर्क दिया है कि असंरेखित अधीक्षण बुद्धिमत्ता एआई से अस्तित्वगत जोखिम का गंभीर खतरा पैदा करती है। एंथ्रोपिक के सीईओ डारियो अमोदेई और ओपनएआई के सह-संस्थापक इल्या सुत्स्केवर, जिन्होंने बाद में 2024 में सुरक्षित अधीक्षण बुद्धिमत्ता की स्थापना स्पष्ट रूप से इसी लक्ष्य के आसपास की, दोनों ने अत्यधिक सक्षम प्रणालियों के सुरक्षित विकास को क्षेत्र की एक परिभाषित चुनौती के रूप में प्रस्तुत किया है।

स्वागत और आलोचना

बोस्ट्रॉम के तर्कों को काफी आलोचना का सामना करना पड़ा है। यान लेकुन सहित कुछ शोधकर्ता तर्क देते हैं कि वर्तमान वास्तुकलाएँ उस प्रकार की सामान्य, स्वायत्त एजेंसी से बहुत दूर हैं जो परिदृश्य मानते हैं, और यह कि सट्टा दीर्घकालिक जोखिम कथाएँ पूर्वाग्रह, गलत सूचना और श्रम व्यवधान जैसे निकट-अवधि के ठोस नुकसानों से ध्यान भटकाती हैं। अन्य लोग ऑर्थोगोनैलिटी थीसिस पर सवाल उठाते हैं या तर्क देते हैं कि पुनरावर्ती आत्म-सुधार घटते प्रतिफल और भौतिक बाधाओं, जिसमें ऊर्जा और चिप आपूर्ति शामिल है, का सामना करता है जिसे शुद्ध "बुद्धि विस्फोट" ढांचा कम आंकता है। इस विवाद के बावजूद, अधीक्षण बुद्धिमत्ता एआई शासन चर्चाओं में एक संदर्भ बिंदु बनी हुई है, जैसे कि 2023 के खुले पत्र में उद्धृत किया गया है जो चेतावनी देता है कि एआई विलुप्ति जोखिम को कम करना महामारियों और परमाणु युद्ध के साथ एक वैश्विक प्राथमिकता होनी चाहिए।