मशीन इंटेलिजेंस रिसर्च इंस्टीट्यूट (MIRI), जिसे पहले सिंगुलेरिटी इंस्टीट्यूट फॉर आर्टिफिशियल इंटेलिजेंस (SIAI) के नाम से जाना जाता था, एक गैर-लाभकारी शोध संस्थान है जो 2005 से कृत्रिम बुद्धिमत्ता से उत्पन्न संभावित अस्तित्वगत जोखिमों की पहचान और प्रबंधन पर केंद्रित है। MIRI का कार्य प्रणाली डिजाइन के लिए अनुकूल AI दृष्टिकोण और प्रौद्योगिकी विकास की दर की भविष्यवाणी पर केंद्रित रहा है।
2000 में एलीज़र युडकोव्स्की द्वारा स्थापित, MIRI ने शुरू में कृत्रिम बुद्धिमत्ता के विकास को तेज करने का लक्ष्य रखा, लेकिन अति-बुद्धिमान प्रणालियों के बारे में चिंताओं के बाद अपना ध्यान जोखिम प्रबंधन पर केंद्रित कर दिया। यह संस्थान बर्कले, कैलिफोर्निया में स्थित है, और AI सुरक्षा के क्षेत्र में, विशेष रूप से प्रभावी परोपकारिता आंदोलन के भीतर, प्रभावशाली रहा है।
इतिहास
2000 में, एलीज़र युडकोव्स्की ने ब्रायन और सबाइन एटकिंस के वित्त पोषण के साथ सिंगुलेरिटी इंस्टीट्यूट फॉर आर्टिफिशियल इंटेलिजेंस की स्थापना की, जिसका उद्देश्य AI के विकास को तेज करना था। हालांकि, युडकोव्स्की को चिंता होने लगी कि भविष्य में विकसित AI प्रणालियाँ अति-बुद्धिमान बन सकती हैं और मानवता के लिए जोखिम पैदा कर सकती हैं। 2005 में, संस्थान अटलांटा से सिलिकॉन वैली चला गया और उन जोखिमों की पहचान और प्रबंधन के तरीकों पर ध्यान केंद्रित करना शुरू कर दिया, जिन्हें उस समय क्षेत्र के वैज्ञानिकों द्वारा काफी हद तक अनदेखा किया गया था।
2006 से शुरू करके, संस्थान ने AI के भविष्य और इसके जोखिमों पर चर्चा करने के लिए सिंगुलेरिटी समिट का आयोजन किया, शुरू में स्टैनफोर्ड विश्वविद्यालय के सहयोग से और पीटर थिएल के वित्त पोषण के साथ। सैन फ्रांसिस्को क्रॉनिकल ने पहले सम्मेलन को "ट्रांसह्यूमनिज्म नामक तकनीक-प्रेरित दर्शन के लिए बे एरिया की आउटिंग पार्टी" के रूप में वर्णित किया। 2011 में, इसके कार्यालय डाउनटाउन बर्कले में चार अपार्टमेंट थे। दिसंबर 2012 में, संस्थान ने अपना नाम, वेब डोमेन और सिंगुलेरिटी समिट सिंगुलेरिटी यूनिवर्सिटी को बेच दिया, और अगले महीने "मशीन इंटेलिजेंस रिसर्च इंस्टीट्यूट" नाम ले लिया।
2014 और 2015 में, AI के जोखिमों में सार्वजनिक और वैज्ञानिक रुचि बढ़ी, जिससे MIRI और समान संगठनों में शोध के वित्त पोषण के लिए दान बढ़ा। 2019 में, ओपन फिलैंथ्रोपी ने MIRI को दो वर्षों में लगभग $2.1 मिलियन का सामान्य समर्थन अनुदान देने की सिफारिश की। अप्रैल 2020 में, ओपन फिलैंथ्रोपी ने इसे दो वर्षों में $7.7M अनुदान के साथ पूरक किया। 2021 में, विटालिक ब्यूटेरिन ने MIRI को कई मिलियन डॉलर मूल्य का एथेरियम दान किया।
शोध और दृष्टिकोण
युडकोव्स्की के नेतृत्व में MIRI का AI के जोखिमों की पहचान और प्रबंधन का दृष्टिकोण मुख्य रूप से अनुकूल AI को डिजाइन करने के तरीके को संबोधित करता है, जिसमें AI प्रणालियों का प्रारंभिक डिजाइन और यह सुनिश्चित करने के लिए तंत्र का निर्माण शामिल है कि विकसित होने वाली AI प्रणालियाँ अनुकूल बनी रहें। MIRI शोधकर्ता सावधानीपूर्वक उपाय के रूप में प्रारंभिक सुरक्षा कार्य की वकालत करते हैं। हालांकि, MIRI शोधकर्ताओं ने रे कुर्ज़वील जैसे सिंगुलेरिटी समर्थकों के विचारों के प्रति संदेह व्यक्त किया है कि अति-बुद्धिमत्ता "बस कोने के आसपास" है।
MIRI ने AI इम्पैक्ट्स नामक एक पहल के माध्यम से पूर्वानुमान कार्य को वित्त पोषित किया है, जो असंतत तकनीकी परिवर्तन के ऐतिहासिक उदाहरणों का अध्ययन करता है, और मनुष्यों और कंप्यूटर हार्डवेयर की सापेक्ष कम्प्यूटेशनल शक्ति के नए माप विकसित किए हैं। MIRI खुद को प्रभावी परोपकारिता आंदोलन के सिद्धांतों और उद्देश्यों के साथ संरेखित करता है।
उल्लेखनीय प्रकाशन
MIRI कर्मचारियों ने कई प्रभावशाली पत्रों और पुस्तकों में योगदान दिया है। उल्लेखनीय कार्यों में शामिल हैं:
- "व्हाई वी शुड बी कंसर्न्ड अबाउट आर्टिफिशियल सुपरइंटेलिजेंस" मैथ्यू ग्रेव्स द्वारा (2017), स्केप्टिक में प्रकाशित।
- "प्रोग्राम इक्विलिब्रियम इन द प्रिज़नर्स डिलेमा वाया लोब्स थ्योरम" पैट्रिक लाविक्टोयर, बेंजा फॉलेनस्टीन, एलीज़र युडकोव्स्की, एट अल. द्वारा (2014), AAAI-14 कार्यशाला में प्रस्तुत।
- "चीटिंग डेथ इन डैमस्कस" नेट सोरेस और बेंजामिन ए. लेविनस्टीन द्वारा (2017), औपचारिक ज्ञानमीमांसा कार्यशाला में प्रस्तुत।
- "कॉरिजिबिलिटी" नेट सोरेस, बेंजा फॉलेनस्टीन, एलीज़र युडकोव्स्की, और स्टुअर्ट आर्मस्ट्रांग द्वारा (2015), AAAI कार्यशालाओं में प्रस्तुत।
- "अलाइनिंग सुपरइंटेलिजेंस विद ह्यूमन इंटरेस्ट्स: ए टेक्निकल रिसर्च एजेंडा" नेट सोरेस और बेंजा फॉलेनस्टीन द्वारा (2015), द टेक्नोलॉजिकल सिंगुलेरिटी: मैनेजिंग द जर्नी में प्रकाशित।
- "आर्टिफिशियल इंटेलिजेंस ऐज़ ए पॉज़िटिव एंड नेगेटिव फैक्टर इन ग्लोबल रिस्क" एलीज़र युडकोव्स्की द्वारा (2008), ग्लोबल कैटास्ट्रॉफिक रिस्क्स में प्रकाशित।
- "क्वांटिलाइज़र्स: ए सेफर अल्टरनेटिव टू मैक्सिमाइज़र्स फॉर लिमिटेड ऑप्टिमाइज़ेशन" जेसिका टेलर द्वारा (2016), तीसवें AAAI सम्मेलन में प्रस्तुत।
- "कॉम्प्लेक्स वैल्यू सिस्टम्स इन फ्रेंडली AI" एलीज़र युडकोव्स्की द्वारा (2011), आर्टिफिशियल जनरल इंटेलिजेंस: 4थ इंटरनेशनल कॉन्फ्रेंस में प्रकाशित।
- "इफ एनीवन बिल्ड्स इट, एवरीवन डाइज़: व्हाई सुपरह्यूमन AI वुड किल अस ऑल" एलीज़र युडकोव्स्की और नेट सोरेस द्वारा (2025), हाशेट द्वारा प्रकाशित एक पुस्तक।
प्रभाव और स्वागत
MIRI AI सुरक्षा के क्षेत्र में अग्रणी रहा है, जिसने मुख्यधारा की चिंता बनने से पहले AI से अस्तित्वगत जोखिमों की ओर ध्यान आकर्षित किया। इसके शोध ने अन्य संगठनों और शोधकर्ताओं को प्रभावित किया है, जिनमें OpenAI और Anthropic के लोग शामिल हैं। हालांकि, MIRI को इसके सैद्धांतिक फोकस और कथित अलार्मवाद के लिए आलोचना का भी सामना करना पड़ा है। इसके बावजूद, इसके कार्य को ओपन फिलैंथ्रोपी और विटालिक ब्यूटेरिन सहित प्रमुख दाताओं द्वारा समर्थित किया गया है, जो प्रभावी परोपकारिता समुदाय में इसके प्रभाव को दर्शाता है।