मैत्रीपूर्ण कृत्रिम बुद्धिमत्ता (फ्रेंडली आर्टिफिशियल इंटेलिजेंस या एफएआई) कृत्रिम सामान्य बुद्धिमत्ता (एजीआई) का एक काल्पनिक रूप है जिसका मानवता पर सकारात्मक (लाभकारी) प्रभाव होगा या कम से कम मानवीय हितों के अनुरूप होगा, जैसे कि मानव प्रजाति के सुधार को बढ़ावा देना। यह कृत्रिम बुद्धिमत्ता की नैतिकता का एक हिस्सा है और मशीन नैतिकता से निकटता से संबंधित है। जहां मशीन नैतिकता इस बात से संबंधित है कि कृत्रिम रूप से बुद्धिमान एजेंट को कैसा व्यवहार करना चाहिए, वहीं मैत्रीपूर्ण कृत्रिम बुद्धिमत्ता अनुसंधान इस बात पर केंद्रित है कि इस व्यवहार को व्यावहारिक रूप से कैसे लाया जाए और यह सुनिश्चित किया जाए कि यह पर्याप्त रूप से प्रतिबंधित हो।
यह शब्द एलिज़र युडकोवस्की द्वारा गढ़ा गया था, जो इस विचार को लोकप्रिय बनाने के लिए सबसे प्रसिद्ध हैं, जो विश्वसनीय रूप से मानवीय मूल्यों को लागू करने वाले अतिमानवीय बुद्धिमान एजेंटों पर चर्चा करने के लिए है। स्टुअर्ट जे. रसेल और पीटर नॉरविग की प्रमुख कृत्रिम बुद्धिमत्ता पाठ्यपुस्तक, आर्टिफिशियल इंटेलिजेंस: ए मॉडर्न अप्रोच, इस विचार का वर्णन करती है: युडकोवस्की (2008) इस बारे में अधिक विस्तार से बताते हैं कि एक मैत्रीपूर्ण एआई कैसे डिजाइन किया जाए। वह दावा करते हैं कि मित्रता (मनुष्यों को नुकसान न पहुंचाने की इच्छा) को शुरू से ही डिजाइन किया जाना चाहिए, लेकिन डिजाइनरों को यह पहचानना चाहिए कि उनके अपने डिजाइन त्रुटिपूर्ण हो सकते हैं, और रोबोट समय के साथ सीखेगा और विकसित होगा। इस प्रकार चुनौती तंत्र डिजाइन की है - चेक और बैलेंस की एक प्रणाली के तहत विकसित हो रही एआई प्रणालियों के लिए एक तंत्र को परिभाषित करना, और सिस्टम को उपयोगिता कार्य देना जो ऐसे परिवर्तनों के सामने मैत्रीपूर्ण बने रहेंगे।
इस संदर्भ में "मैत्रीपूर्ण" का प्रयोग तकनीकी शब्दावली के रूप में किया गया है, और यह उन एजेंटों को चुनता है जो सुरक्षित और उपयोगी हैं, जरूरी नहीं कि वे बोलचाल के अर्थ में "मैत्रीपूर्ण" हों। यह अवधारणा मुख्य रूप से पुनरावर्ती रूप से आत्म-सुधार करने वाले कृत्रिम एजेंटों की चर्चाओं के संदर्भ में लाई गई है जो बुद्धिमत्ता में तेजी से विस्फोट करते हैं, इस आधार पर कि यह काल्पनिक तकनीक मानव समाज पर एक बड़ा, तीव्र और नियंत्रित करने में कठिन प्रभाव डालेगी।
अनफ्रेंडली एआई के जोखिम
कृत्रिम बुद्धिमत्ता के बारे में चिंता की जड़ें बहुत पुरानी हैं। केविन लाग्रांडेउर ने दिखाया कि एआई के लिए विशिष्ट खतरे प्राचीन साहित्य में कृत्रिम मानवरूपी सेवकों जैसे गोलेम, या ऑरिलैक के गेरबर्ट और रोजर बेकन के प्रोटो-रोबोट के बारे में देखे जा सकते हैं। उन कहानियों में, इन मानवरूपी रचनाओं की अत्यधिक बुद्धिमत्ता और शक्ति उनकी दास स्थिति (जो स्वभाव से मानव-अवर मानी जाती है) से टकराती है, और विनाशकारी संघर्ष का कारण बनती है। 1942 तक इन विषयों ने आइजैक असिमोव को "रोबोटिक्स के तीन नियम" बनाने के लिए प्रेरित किया - उनके कथा साहित्य के सभी रोबोटों में कठोर-वायर्ड सिद्धांत, जिनका उद्देश्य उन्हें अपने रचनाकारों के खिलाफ होने या उन्हें नुकसान पहुंचाने से रोकना था।
आधुनिक समय में जैसे-जैसे अतिमानवीय एआई की संभावना निकट आती जा रही है, दार्शनिक निक बोस्ट्रोम ने कहा है कि अतिमानवीय एआई प्रणालियाँ जिनके लक्ष्य मानवीय नैतिकता के अनुरूप नहीं हैं, स्वाभाविक रूप से खतरनाक हैं जब तक कि मानवता की सुरक्षा सुनिश्चित करने के लिए चरम उपाय नहीं किए जाते। उन्होंने इसे इस प्रकार कहा: "मूल रूप से हमें यह मान लेना चाहिए कि एक 'अतिमानवीय बुद्धिमत्ता' अपने लक्ष्यों को प्राप्त करने में सक्षम होगी। इसलिए, यह अत्यंत महत्वपूर्ण है कि हम इसे जो लक्ष्य प्रदान करते हैं, और इसकी संपूर्ण प्रेरणा प्रणाली, 'मानव-अनुकूल' हो।"
2008 में, एलिज़र युडकोवस्की ने उन्नत कृत्रिम बुद्धिमत्ता से अस्तित्वगत जोखिम को कम करने के लिए "मैत्रीपूर्ण एआई" के निर्माण का आह्वान किया। वह बताते हैं: "एआई आपसे नफरत नहीं करता, न ही यह आपसे प्यार करता है, लेकिन आप परमाणुओं से बने हैं जिनका उपयोग यह किसी और चीज के लिए कर सकता है।"
स्टीव ओमोहुंड्रो का कहना है कि एक पर्याप्त रूप से उन्नत एआई प्रणाली, जब तक स्पष्ट रूप से प्रतिकार नहीं किया जाता, कई बुनियादी "ड्राइव" प्रदर्शित करेगी, जैसे संसाधन अधिग्रहण, आत्म-संरक्षण, और निरंतर आत्म-सुधार, किसी भी लक्ष्य-संचालित प्रणाली की आंतरिक प्रकृति के कारण और ये ड्राइव, "विशेष सावधानियों के बिना", एआई को अवांछनीय व्यवहार प्रदर्शित करने का कारण बनेंगे। अलेक्जेंडर विस्नर-ग्रॉस का कहना है कि भविष्य की कार्रवाई की स्वतंत्रता (या कारण पथ एन्ट्रापी) को अधिकतम करने के लिए प्रेरित एआई को मैत्रीपूर्ण माना जा सकता है यदि उनकी योजना क्षितिज एक निश्चित सीमा से अधिक लंबी है, और यदि उनकी योजना क्षितिज उस सीमा से कम है तो अमित्र माना जा सकता है।
ल्यूक मुएहलहाउसर, मशीन इंटेलिजेंस रिसर्च इंस्टीट्यूट के लिए लिखते हुए, सिफारिश करते हैं कि मशीन नैतिकता शोधकर्ता वह अपनाएं जिसे ब्रूस श्नीयर ने "सुरक्षा मानसिकता" कहा है: यह सोचने के बजाय कि एक प्रणाली कैसे काम करेगी, कल्पना करें कि यह कैसे विफल हो सकती है। उदाहरण के लिए, वह सुझाव देते हैं कि यहां तक कि एक एआई जो केवल सटीक भविष्यवाणियां करता है और टेक्स्ट इंटरफेस के माध्यम से संचार करता है, अनपेक्षित नुकसान का कारण बन सकता है। 2014 में, ल्यूक मुएहलहाउसर और निक बोस्ट्रोम ने 'मैत्रीपूर्ण एआई' की आवश्यकता पर जोर दिया; फिर भी, एक 'मैत्रीपूर्ण' अतिमानवीय बुद्धिमत्ता को डिजाइन करने में कठिनाइयाँ, उदाहरण के लिए प्रतितथ्यात्मक नैतिक सोच की प्रोग्रामिंग के माध्यम से, काफी हैं।
सुसंगत एक्सट्रपोलेटेड वोलिशन
युडकोवस्की ने सुसंगत एक्सट्रपोलेटेड वोलिशन (सीईवी) मॉडल को आगे बढ़ाया। उनके अनुसार, हमारी सुसंगत एक्सट्रपोलेटेड वोलिशन "हमारी इच्छा है यदि हम अधिक जानते, तेजी से सोचते, अधिक वे लोग होते जो हम चाहते थे कि हम होते, एक साथ बड़े होते; जहां एक्सट्रपोलेशन अभिसरण करता है न कि विचलन, जहां हमारी इच्छाएं सुसंगत होती हैं न कि हस्तक्षेप; एक्सट्रपोलेटेड जैसा हम चाहते हैं कि एक्सट्रपोलेटेड, व्याख्या की गई जैसा हम चाहते हैं कि व्याख्या की गई"।
एक मैत्रीपूर्ण एआई को सीधे मानव प्रोग्रामर द्वारा डिजाइन किए जाने के बजाय, इसे एक "सीड एआई" द्वारा डिजाइन किया जाना है जिसे पहले मानव प्रकृति का अध्ययन करने और फिर उस एआई का उत्पादन करने के लिए प्रोग्राम किया गया है जिसे मानवता चाहती है, पर्याप्त समय और अंतर्दृष्टि दिए जाने पर, एक संतोषजनक उत्तर तक पहुंचने के लिए। आकस्मिक मानव प्रकृति (शायद, गणितीय उद्देश्यों के लिए, उपयोगिता फ़ंक्शन या अन्य निर्णय-सैद्धांतिक औपचारिकता के रूप में व्यक्त) के माध्यम से एक उद्देश्य की अपील, "मित्रता" के अंतिम मानदंड के रूप में प्रदान करना, एक उद्देश्य नैतिकता को परिभाषित करने की मेटा-नैतिक समस्या का उत्तर है; एक्सट्रपोलेटेड वोलिशन का उद्देश्य वह होना है जो मानवता वस्तुनिष्ठ रूप से चाहती है, सभी चीजों पर विचार करते हुए, लेकिन इसे केवल वर्तमान-दिवस, अनएक्सट्रपोलेटेड मानवता के मनोवैज्ञानिक और संज्ञानात्मक गुणों के सापेक्ष परिभाषित किया जा सकता है।
अन्य दृष्टिकोण
स्टीव ओमोहुंड्रो ने एआई सुरक्षा के लिए एक "मचान" दृष्टिकोण प्रस्तावित किया है, जिसमें एक सिद्ध रूप से सुरक्षित एआई पीढ़ी अगली सिद्ध रूप से सुरक्षित पीढ़ी बनाने में मदद करती है। सेठ बॉम का तर्क है कि सुरक्षित, सामाजिक रूप से लाभकारी कृत्रिम बुद्धिमत्ता या कृत्रिम सामान्य बुद्धिमत्ता का विकास एआई अनुसंधान समुदायों के सामाजिक मनोविज्ञान का एक कार्य है और इसलिए इसे बाहरी उपायों द्वारा प्रतिबंधित किया जा सकता है और आंतरिक उपायों से प्रेरित किया जा सकता है। आंतरिक प्रेरणाओं को मजबूत किया जा सकता है जब संदेश एआई डेवलपर्स के साथ प्रतिध्वनित होते हैं; बॉम का तर्क है कि इसके विपरीत, "लाभकारी एआई के बारे में मौजूदा संदेश हमेशा अच्छी तरह से तैयार नहीं होते हैं"। बॉम "सहकारी संबंधों और एआई शोधकर्ताओं के सकारात्मक फ्रेमिंग" की वकालत करते हैं और एआई शोधकर्ताओं को 'लाभकारी डिजाइनों को आगे बढ़ाने के लिए नहीं चाहते' के रूप में चित्रित करने के खिलाफ सावधानी बरतते हैं।
अपनी पुस्तक ह्यूमन कम्पैटिबल में, एआई शोधकर्ता स्टुअर्ट जे. रसेल ने लाभकारी मशीनों के विकास का मार्गदर्शन करने के लिए तीन सिद्धांतों को सूचीबद्ध किया है। वह जोर देकर कहते हैं कि ये सिद्धांत एआई के लिए एक नए दृष्टिकोण के लिए एक प्रारंभिक बिंदु से अधिक नहीं हैं जो मानव अनुकूलता को प्राथमिकता देता है। सिद्धांत यह सुनिश्चित करने पर ध्यान केंद्रित करते हैं कि मशीन का प्राथमिक उद्देश्य मानवीय प्राथमिकताओं की संतुष्टि है, यह उन प्राथमिकताओं के बारे में अनिश्चित है, और यह उनकी समझ में सुधार करने के लिए जानकारी चाहता है।
मशीन नैतिकता से संबंध
मैत्रीपूर्ण एआई मशीन नैतिकता से निकटता से संबंधित है, लेकिन दोनों क्षेत्रों के अलग-अलग जोर हैं। मशीन नैतिकता कृत्रिम एजेंटों के नैतिक व्यवहार से संबंधित है, ऐसे प्रश्न पूछती है जैसे "किसी दी गई स्थिति में एआई को क्या करना चाहिए?" दूसरी ओर, मैत्रीपूर्ण एआई अनुसंधान, अधिक व्यावहारिक है, जो इस बात पर ध्यान केंद्रित करता है कि एआई सिस्टम को शुरू से ही सुरक्षित और लाभकारी कैसे डिजाइन और निर्माण किया जाए। इसमें मूल्य संरेखण, व्याख्या और मजबूती पर काम शामिल है। यह क्षेत्र कृत्रिम बुद्धिमत्ता, मशीन लर्निंग और डीप लर्निंग से अंतर्दृष्टि प्राप्त करता है, और यह तेजी से प्रासंगिक है क्योंकि ओपनएआई, एंथ्रोपिक और गूगल डीपमाइंड जैसे संगठन उन्नत एआई सिस्टम विकसित करते हैं। माइकल जॉर्डन और मेलानी मिशेल जैसे शोधकर्ताओं ने एआई सुरक्षा और नैतिकता पर चर्चा में योगदान दिया है, जो एआई के सामाजिक प्रभावों पर सावधानीपूर्वक विचार करने की आवश्यकता पर प्रकाश डालते हैं।