मानव-संगत एआई केंद्र

सेंटर फॉर ह्यूमन-कम्पैटिबल आर्टिफिशियल इंटेलिजेंस (CHAI) कैलिफोर्निया विश्वविद्यालय, बर्कले में स्थित एक शोध केंद्र है, जो उन्नत कृत्रिम बुद्धिमत्ता प्रणालियों को मानवीय मूल्यों और इरादों के साथ संरेखित करने के तरीके विकसित करने पर केंद्रित है। 2016 में स्थापित, यह केंद्र ऐसी एआई बनाने की दीर्घकालिक चुनौती को संबोधित करता है जो इसकी क्षमताओं के बढ़ने पर भी लाभकारी बनी रहे, जिसमें मूल्य संरेखण और नियंत्रणीय मशीन व्यवहार पर विशेष जोर दिया गया है।

यह केंद्र स्टुअर्ट जे. रसेल के नेतृत्व में शिक्षाविदों के एक समूह द्वारा स्थापित किया गया था, जो बर्कले में कंप्यूटर विज्ञान के प्रोफेसर और व्यापक रूप से उपयोग की जाने वाली पाठ्यपुस्तक आर्टिफिशियल इंटेलिजेंस: ए मॉडर्न अप्रोच के सह-लेखक हैं। रसेल एआई सुरक्षा चर्चाओं में एक प्रमुख आवाज रहे हैं, यह तर्क देते हुए कि निश्चित उद्देश्यों को अनुकूलित करने का वर्तमान प्रतिमान ऐसी प्रणालियाँ उत्पन्न कर सकता है जिनका व्यवहार वास्तविक मानवीय प्राथमिकताओं से विचलित हो जाता है।

अनुसंधान फोकस

CHAI की मुख्य शोध रणनीति मूल्य संरेखण पर केंद्रित है, विशेष रूप से व्युत्क्रम सुदृढीकरण अधिगम के माध्यम से। इस दृष्टिकोण में, एआई प्रणालियाँ स्पष्ट निर्देशों या पुरस्कार कार्यों से नहीं, बल्कि मानव व्यवहार का अवलोकन करके मानवीय मूल्यों का अनुमान लगाती हैं। लक्ष्य ऐसी एआई बनाना है जो सीख सके कि लोग वास्तव में क्या चाहते हैं, जिसमें वे प्राथमिकताएँ भी शामिल हैं जिन्हें वे सीधे व्यक्त करने में कठिनाई महसूस कर सकते हैं।

केंद्र ने उन परिदृश्यों में मानव-मशीन संपर्क की गतिशीलता की भी जांच की है जहाँ एक बुद्धिमान एजेंट के पास एक "ऑफ-स्विच" होता है जिसे वह ओवरराइड कर सकता है। शोध की यह पंक्ति जाँच करती है कि एआई को मानव नियंत्रण के प्रति विनम्र बने रहने के लिए कैसे डिज़ाइन किया जा सकता है, अनिवार्य रूप से सिस्टम को यह पहचानना सिखाती है कि उन्हें खुद को बंद करने की अनुमति कब देनी चाहिए।

संकाय और सहयोगी

CHAI की संकाय सदस्यता कई संस्थानों में फैली हुई है। रसेल के साथ, बर्कले-आधारित सदस्यों में पीटर एबील और अंका ड्रैगन शामिल हैं। केंद्र में कॉर्नेल विश्वविद्यालय से बार्ट सेलमैन और जोसेफ हेल्पर्न, मिशिगन विश्वविद्यालय से माइकल वेलमैन और सतींदर सिंह बवेजा, और प्रिंसटन विश्वविद्यालय से टॉम ग्रिफिथ्स और तानिया लोम्ब्रोज़ो भी शामिल हैं। यह अंतःविषय संरचना कंप्यूटर विज्ञान, संज्ञानात्मक विज्ञान और दर्शनशास्त्र में विशेषज्ञता को एक साथ लाती है।

केंद्र ने शिक्षा जगत से परे साझेदारियाँ स्थापित की हैं, जिनमें विश्व आर्थिक मंच और उसकी वैश्विक एआई परिषद के साथ सहयोग शामिल है। इन संबंधों का उद्देश्य शोध निष्कर्षों को नीति चर्चाओं और उद्योग प्रथाओं में अनुवादित करना है।

वित्तपोषण इतिहास

CHAI के लिए प्रारंभिक वित्तपोषण 2016 में आया, जब ओपन फिलान्थ्रोपी प्रोजेक्ट ने सिफारिश की कि गुड वेंचर्स पांच वर्षों में $5,555,550 का समर्थन प्रदान करे। तब से, CHAI को ओपनफिल और गुड वेंचर्स से कुल मिलाकर $12,000,000 से अधिक के अतिरिक्त अनुदान प्राप्त हुए हैं। इस निरंतर वित्तीय समर्थन ने केंद्र को स्नातक छात्रों, पोस्टडॉक्टोरल शोधकर्ताओं और बहु-संस्थान अनुसंधान प्रयासों का समर्थन करने की अनुमति दी है।

प्रकाशन और आउटपुट

CHAI से संबद्ध शोधकर्ताओं ने पुरस्कार अधिगम, सुधारनीयता, और एआई प्रणालियों में विनिर्देशन की सीमाओं सहित विषयों पर व्यापक रूप से प्रकाशित किया है। केंद्र का काम प्रमुख मशीन-अधिगम और एआई सम्मेलनों में प्रकाशित हुआ है, और इसके निष्कर्षों ने कृत्रिम सामान्य बुद्धिमत्ता से अस्तित्वगत जोखिम के बारे में व्यापक बहसों को सूचित किया है। रसेल की 2019 की पुस्तक ह्यूमन कम्पैटिबल केंद्र के कई विचारों को संश्लेषित करती है, जो इस तर्क को सुलभ रूप में प्रस्तुत करती है कि एआई को मानवीय प्राथमिकताओं के बारे में अनिश्चितता के साथ एक मूल सिद्धांत के रूप में डिज़ाइन किया जाना चाहिए।

प्रभाव और विरासत

केंद्र ने गहन अधिगम और एआई अनुसंधान के भीतर एक मान्यता प्राप्त क्षेत्र के रूप में एआई सुरक्षा के विकास में योगदान दिया है। कठोर औपचारिक ढांचे पर इसका जोर शोधकर्ताओं के दृष्टिकोण को प्रभावित करता है जैसे कि पुरस्कार हैकिंग और विनिर्देशन गेमिंग जैसी समस्याओं से निपटना। जैसे-जैसे बड़े भाषा मॉडल और अन्य उन्नत प्रणालियाँ अधिक सक्षम होती गई हैं, CHAI द्वारा मूल रूप से पूछे गए संरेखण के प्रश्न सैद्धांतिक चिंता से व्यावहारिक इंजीनियरिंग चुनौती की ओर बढ़ गए हैं, जिसके निहितार्थ OpenAI और Anthropic जैसे संगठनों के लिए हैं।

यह भी देखें

• कृत्रिम सामान्य बुद्धिमत्ता से अस्तित्वगत जोखिम
• मशीन इंटेलिजेंस रिसर्च इंस्टीट्यूट
• फ्यूचर ऑफ ह्यूमैनिटी इंस्टीट्यूट
• फ्यूचर ऑफ लाइफ इंस्टीट्यूट

बाहरी लिंक

आधिकारिक वेबसाइट