बर्कले AI सुरक्षा में कैलिफोर्निया विश्वविद्यालय, बर्कले में अनुसंधान पहल शामिल हैं जो यह सुनिश्चित करने के लिए समर्पित हैं कि उन्नत कृत्रिम बुद्धिमत्ता प्रणालियाँ मानवता के लिए लाभकारी बनी रहें। प्राथमिक संस्था सेंटर फॉर ह्यूमन-कम्पैटिबल आर्टिफिशियल इंटेलिजेंस (CHAI) है, जिसकी स्थापना 2016 में बर्कले के कंप्यूटर विज्ञान प्रोफेसर स्टुअर्ट जे. रसेल के नेतृत्व में शिक्षाविदों के एक समूह द्वारा की गई थी, जो व्यापक रूप से उपयोग की जाने वाली पाठ्यपुस्तक आर्टिफिशियल इंटेलिजेंस: ए मॉडर्न अप्रोच के सह-लेखक हैं। CHAI AI व्यवहार को मानवीय मूल्यों के साथ संरेखित करने के तरीके विकसित करने पर केंद्रित है, जो तेजी से सक्षम Artificial intelligence प्रणालियों द्वारा उत्पन्न जोखिमों को संबोधित करता है।
स्थापना और वित्त पोषण
CHAI की स्थापना 2016 में AI अनुसंधान को सुरक्षा और मानव अनुकूलता पर पुनर्केंद्रित करने के मिशन के साथ की गई थी। संस्थापक संकाय में कई संस्थानों के प्रमुख शोधकर्ता शामिल थे: बर्कले से रसेल, पीटर एबील और अंका ड्रैगन; कॉर्नेल विश्वविद्यालय से बार्ट सेलमैन और जोसेफ हेल्पर्न; मिशिगन विश्वविद्यालय से माइकल वेलमैन और सतींदर सिंह बवेजा; और प्रिंसटन विश्वविद्यालय से टॉम ग्रिफिथ्स और तानिया लोम्ब्रोज़ो। अपने पहले वर्ष में, ओपन फिलान्थ्रोपी प्रोजेक्ट ने सिफारिश की कि गुड वेंचर्स CHAI को पांच वर्षों में $5,555,550 का समर्थन प्रदान करे। ओपनफिल और गुड वेंचर्स से बाद के अनुदान कुल मिलाकर $12,000,000 से अधिक हैं, जिसमें विश्व आर्थिक मंच और ग्लोबल AI काउंसिल के साथ सहयोग के लिए धन शामिल है।
अनुसंधान फोकस
CHAI का अनुसंधान मूल्य संरेखण पर केंद्रित है, विशेष रूप से व्युत्क्रम सुदृढीकरण सीखने का उपयोग करते हुए, जहां AI प्रणालियाँ स्पष्ट निर्देशों का पालन करने के बजाय व्यवहार का अवलोकन करके मानवीय मूल्यों का अनुमान लगाती हैं। यह दृष्टिकोण ऐसे AI बनाने का लक्ष्य रखता है जो जटिल, वास्तविक दुनिया के परिदृश्यों में मानवीय प्राथमिकताओं को सीख और अनुकूलित कर सके। केंद्र ने मानव-मशीन संपर्क की भी जांच की है, जिसमें ऐसी प्रणालियों का डिज़ाइन शामिल है जहां AI को सुरक्षित रूप से बाधित या बंद किया जा सकता है, भले ही AI में ऐसे नियंत्रणों को ओवरराइड करने की क्षमता हो। ये विषय Machine learning और Deep learning में व्यापक चुनौतियों से जुड़े हैं, जहां मॉडल की क्षमता बढ़ने के साथ सुरक्षा सुनिश्चित करना तेजी से महत्वपूर्ण हो जाता है।
व्यापक संदर्भ
बर्कले का AI सुरक्षा कार्य एक व्यापक शैक्षणिक और उद्योग आंदोलन का हिस्सा है। अन्य संस्थान, जैसे फ्यूचर ऑफ ह्यूमैनिटी इंस्टीट्यूट और मशीन इंटेलिजेंस रिसर्च इंस्टीट्यूट, समान चिंताओं को संबोधित करते हैं। CHAI का अनुसंधान OpenAI और Anthropic जैसे संगठनों के प्रयासों का पूरक है, जो संरेखण को भी प्राथमिकता देते हैं। केंद्र का मानव-संगत AI पर ध्यान कृत्रिम सामान्य बुद्धिमत्ता से अस्तित्वगत जोखिम पर चर्चाओं को प्रभावित करता रहा है, जैसा कि रसेल की पुस्तक ह्यूमन कम्पैटिबल में उजागर किया गया है।
प्रभाव और सहयोग
विश्व आर्थिक मंच और ग्लोबल AI काउंसिल के साथ साझेदारी के माध्यम से, CHAI ने शिक्षा से परे अपना प्रभाव बढ़ाया है, नीति निर्माताओं और उद्योग नेताओं को शामिल किया है। ओपनफिल और गुड वेंचर्स से केंद्र का वित्त पोषण AI सुरक्षा के लिए परोपकारी प्रयास में इसकी भूमिका को रेखांकित करता है। 2020 के दशक के मध्य तक, CHAI अनुसंधान प्रकाशित करना और छात्रों को प्रशिक्षित करना जारी रखता है, ज्ञान के एक बढ़ते समूह में योगदान देता है जिसका उद्देश्य यह सुनिश्चित करना है कि Generative AI और अन्य उन्नत प्रणालियाँ मानव नियंत्रण में रहें।
यह भी देखें
- कृत्रिम सामान्य बुद्धिमत्ता से अस्तित्वगत जोखिम
- फ्यूचर ऑफ ह्यूमैनिटी इंस्टीट्यूट
- फ्यूचर ऑफ लाइफ इंस्टीट्यूट
- ह्यूमन कम्पैटिबल
- मशीन इंटेलिजेंस रिसर्च इंस्टीट्यूट