सुसंगत एक्सट्रापोलेटेड वोलिशन (CEV) एआई संरेखण के क्षेत्र में एक सैद्धांतिक ढांचा है जो उस दृष्टिकोण का वर्णन करता है जिसके द्वारा एक कृत्रिम अतिबुद्धिमत्ता (ASI) उस परोपकारी धारणा पर कार्य करेगी कि मनुष्य क्या चाह सकते हैं यदि वे अधिक जानकार, अधिक तर्कसंगत होते, उनके पास सोचने के लिए अधिक समय होता, और वे एक समाज के रूप में एक साथ परिपक्व हुए होते, मानवता की वर्तमान व्यक्तिगत या सामूहिक प्राथमिकताओं के विपरीत। इसे 2004 में एलिएज़र युडकोवस्की द्वारा मैत्रीपूर्ण एआई पर अपने काम के हिस्से के रूप में प्रस्तावित किया गया था।
यह अवधारणा उन्नत एआई प्रणालियों के लिए लक्ष्य निर्धारित करने की चुनौती को संबोधित करती है जो मानव बुद्धि से आगे निकल सकती हैं। नियमों या मूल्यों का एक निश्चित सेट एन्कोड करने के बजाय, CEV सुझाव देता है कि एक ASI को मानवता की वोलिशन को एक्सट्रापोलेट करके अपने उद्देश्य प्राप्त करने चाहिए, जिसका उद्देश्य यह प्रतिबिंबित करना है कि लोग आदर्श ज्ञानमीमांसीय और नैतिक परिस्थितियों में क्या चाह सकते हैं।
अवधारणा
CEV प्रस्ताव करता है कि एक उन्नत एआई प्रणाली को मानवता की वोलिशन को एक्सट्रापोलेट करके अपने लक्ष्य प्राप्त करने चाहिए। इसका मतलब है मानव प्राथमिकताओं को एकत्रित और प्रक्षेपित करना एक ऐसी प्रक्रिया में जो दर्शाती है कि लोग आदर्श ज्ञानमीमांसीय और नैतिक परिस्थितियों में क्या चाह सकते हैं। इसका उद्देश्य यह सुनिश्चित करना है कि एआई प्रणालियाँ मानवता के वास्तविक हितों का उल्लंघन न करें; न तो क्षणिक या खराब जानकारी वाली प्राथमिकताओं का पालन करें, और न ही उन मुद्दों पर निर्णय लें जिन पर मानवता की इच्छा अभी तक अप्रत्याशित है।
काव्यात्मक शब्दों में, हमारी सुसंगत एक्सट्रापोलेटेड वोलिशन हमारी इच्छा है यदि हम अधिक जानते, तेजी से सोचते, अधिक वे लोग होते जो हम चाहते थे कि हम होते, एक साथ आगे बढ़े होते; जहां एक्सट्रापोलेशन अलग होने के बजाय अभिसरण करता है, जहां हमारी इच्छाएं हस्तक्षेप करने के बजाय सुसंगत होती हैं; एक्सट्रापोलेटेड जैसा कि हम चाहते हैं कि वह एक्सट्रापोलेटेड हो, व्याख्या की गई जैसा कि हम चाहते हैं कि वह व्याख्या की गई हो।
यह ढांचा मानवीय और आत्म-सुधारात्मक होने के लिए डिज़ाइन किया गया है, मानव मूल्यों के स्रोत को पकड़कर उन्हें सूचीबद्ध करने की कोशिश करने के बजाय। यह नियमों की एक स्पष्ट, निश्चित सूची बिछाने की कठिनाई से बचता है। यह नैतिक विकास को समाहित करता है, वर्तमान दोषपूर्ण नैतिक विश्वासों को बंद होने से रोकता है। यह प्रोग्रामरों के एक छोटे समूह के प्रभाव को सीमित करता है जो ASI के मूल्यों पर हो सकता है, जिससे पहले ASI बनाने के प्रोत्साहन भी कम होते हैं। और यह मानवता को अपने भाग्य के नियंत्रण में रखता है।
बहस
युडकोवस्की और निक बोस्ट्रोम ध्यान देते हैं कि CEV में कई दिलचस्प गुण हैं, लेकिन इसे महत्वपूर्ण सैद्धांतिक और व्यावहारिक चुनौतियों का भी सामना करना पड़ता है। बोस्ट्रोम नोट करते हैं कि CEV में "कई मुक्त पैरामीटर हैं जिन्हें विभिन्न तरीकों से निर्दिष्ट किया जा सकता है, जिससे प्रस्ताव के विभिन्न संस्करण प्राप्त होते हैं।" ऐसा एक पैरामीटर एक्सट्रापोलेशन आधार है (जिसकी एक्सट्रापोलेटेड वोलिशन को ध्यान में रखा जाता है)। उदाहरण के लिए, क्या इसमें गंभीर मनोभ्रंश वाले लोग, वनस्पति अवस्था में मरीज, भ्रूण, या गर्भस्थ शिशु शामिल होने चाहिए। वह यह भी नोट करते हैं कि यदि CEV का एक्सट्रापोलेशन आधार केवल मनुष्यों को शामिल करता है, तो एक जोखिम है कि परिणाम अन्य जानवरों और डिजिटल दिमागों के प्रति उदार नहीं होगा। एक संभावित समाधान CEV के एक्सट्रापोलेशन आधार का विस्तार करने के लिए एक तंत्र शामिल करना होगा।
ये बहसें AI संरेखण और AI सुरक्षा पर व्यापक प्रवचन का हिस्सा हैं, जो जांच करती हैं कि कैसे सुनिश्चित किया जाए कि उन्नत एआई प्रणालियाँ मानव मूल्यों और हितों के अनुसार कार्य करें।
विविधताएं और विकल्प
CEV का एक प्रस्तावित सैद्धांतिक विकल्प एक कृत्रिम अतिबुद्धिमत्ता की बेहतर संज्ञानात्मक क्षमताओं पर भरोसा करना है ताकि यह पता लगाया जा सके कि नैतिक रूप से क्या सही है, और इसे तदनुसार कार्य करने देना है। दोनों तकनीकों को संयोजित करना भी संभव है, उदाहरण के लिए ASI CEV का पालन करता है सिवाय जब यह नैतिक रूप से अनुचित हो।
एक अन्य समीक्षा में, एक दार्शनिक विश्लेषण स्वायत्त प्रणालियों में सामाजिक विश्वास के लेंस के माध्यम से CEV की खोज करता है। एंथनी गिडेंस की "सक्रिय विश्वास" की अवधारणा पर आकर्षित करते हुए, लेखक CEV के "सुसंगत, एक्सट्रापोलेटेड और क्लस्टर्ड वोलिशन" (CECV) में विकास का प्रस्ताव करता है। यह सूत्रीकरण विविध सांस्कृतिक समूहों की नैतिक प्राथमिकताओं को बेहतर ढंग से प्रतिबिंबित करने का लक्ष्य रखता है, इस प्रकार एआई प्रणालियों को डिजाइन करने के लिए एक अधिक व्यावहारिक नैतिक ढांचा प्रदान करता है जो सार्वजनिक विश्वास अर्जित करते हैं जबकि सामाजिक विविधता को समायोजित करते हैं।
अन्य एआई अवधारणाओं से संबंध
CEV कृत्रिम बुद्धिमत्ता अनुसंधान के व्यापक क्षेत्र के भीतर स्थित है, विशेष रूप से उन चर्चाओं में कि कैसे ऐसी प्रणालियों को डिज़ाइन किया जाए जो मानवता के लिए लाभकारी हों। यह उन दृष्टिकोणों के विपरीत है जो स्पष्ट नियम-आधारित प्रणालियों या मानव प्रतिक्रिया से सीखने पर निर्भर करते हैं, जैसे RLHF (मानव प्रतिक्रिया से सुदृढीकरण सीखना), जो आधुनिक बड़े भाषा मॉडल में उपयोग किया जाता है। जबकि RLHF का उद्देश्य पुनरावृत्त प्रतिक्रिया के माध्यम से मॉडलों को वर्तमान मानव प्राथमिकताओं के साथ संरेखित करना है, CEV उन प्राथमिकताओं का एक अधिक महत्वाकांक्षी एक्सट्रापोलेशन प्रस्ताव करता है।
यह ढांचा एआई प्रणालियों में तर्कसंगतता और निर्णय लेने के बारे में प्रश्नों से भी संबंधित है। यह मानता है कि प्राथमिकताओं का एक सुसंगत सेट है जिस पर मनुष्य आदर्श परिस्थितियों में अभिसरण करेंगे, जो एक विवादित दार्शनिक धारणा है।
यह भी देखें
- AI संरेखण
- AI सुरक्षा
- कृत्रिम बुद्धिमत्ता
- तर्कसंगतता