जुर्गन श्मिडहुबर

यूर्गन श्मिधुबर (जन्म 17 जनवरी 1963) एक जर्मन कंप्यूटर वैज्ञानिक हैं, जो कृत्रिम बुद्धिमत्ता, विशेष रूप से कृत्रिम तंत्रिका नेटवर्क में अपने कार्य के लिए प्रसिद्ध हैं। मीडिया आउटलेट्स ने उन्हें आधुनिक कृत्रिम बुद्धिमत्ता का अग्रणी प्रणेता बताया है। वे स्विट्जरलैंड में डेले मोले इंस्टीट्यूट फॉर आर्टिफिशियल इंटेलिजेंस रिसर्च के वैज्ञानिक निदेशक और सऊदी अरब में किंग अब्दुल्ला विश्वविद्यालय विज्ञान और प्रौद्योगिकी (KAUST) में आर्टिफिशियल इंटेलिजेंस पहल के निदेशक हैं।

श्मिधुबर को मुख्य रूप से लॉन्ग शॉर्ट-टर्म मेमोरी (LSTM) पर उनके कार्य के लिए जाना जाता है, जो एक प्रकार का तंत्रिका नेटवर्क आर्किटेक्चर है, जो 2010 के दशक में अनुसंधान और वाणिज्यिक अनुप्रयोगों में विभिन्न प्राकृतिक भाषा प्रसंस्करण कार्यों के लिए प्रमुख तकनीक बन गया। उन्होंने गतिशील तंत्रिका नेटवर्क, मेटा-लर्निंग, जनरेटिव एडवर्सेरियल नेटवर्क और लीनियर ट्रांसफॉर्मर के सिद्धांत भी प्रस्तुत किए, जो सभी आधुनिक AI में व्यापक रूप से उपयोग किए जाते हैं।

प्रारंभिक जीवन और शिक्षा

श्मिधुबर का जन्म म्यूनिख, जर्मनी में हुआ था। उन्होंने 1987 में अपनी स्नातक पढ़ाई पूरी की और 1991 में पीएचडी की उपाधि प्राप्त की, दोनों म्यूनिख के तकनीकी विश्वविद्यालय से। उनके डॉक्टरेट सलाहकार विल्फ्रीड ब्राउर और क्लॉस शुल्टेन थे।

करियर

श्मिधुबर ने 2004 से 2009 तक म्यूनिख के तकनीकी विश्वविद्यालय में पढ़ाया। 2009 से 2021 तक, वे लुगानो, स्विट्जरलैंड के यूनिवर्सिटी डेला स्विज़ेरा इटालियाना में कृत्रिम बुद्धिमत्ता के प्रोफेसर थे। उन्होंने 1995 से स्विस AI प्रयोगशाला, डेले मोले इंस्टीट्यूट फॉर आर्टिफिशियल इंटेलिजेंस रिसर्च (IDSIA) के निदेशक के रूप में कार्य किया है। 2021 से, वे KAUST में AI पहल के निदेशक भी हैं।

2014 में, श्मिधुबर ने वित्त, भारी उद्योग और स्व-चालित कारों जैसे क्षेत्रों में कृत्रिम बुद्धिमत्ता के वाणिज्यिक अनुप्रयोगों पर काम करने के लिए NNAISENSE नामक एक कंपनी बनाई। सेप होचरेइटर, जान तालिन और मार्कस हटर कंपनी के सलाहकार हैं। 2016 में बिक्री 11 मिलियन अमेरिकी डॉलर से कम थी; हालांकि, श्मिधुबर ने कहा कि राजस्व के बजाय अनुसंधान पर जोर था। NNAISENSE ने जनवरी 2017 में अपना पहला पूंजी निवेश दौर जुटाया। श्मिधुबर का समग्र लक्ष्य एक सर्व-उद्देश्यीय AI बनाना था, जिसमें एक ही AI को विभिन्न संकीर्ण कार्यों पर क्रमिक रूप से प्रशिक्षित किया जाए, लेकिन 2026 तक उन्होंने कहा है कि NNAISENSE का ध्यान कृत्रिम सामान्य बुद्धिमत्ता से संपत्ति प्रबंधन की ओर स्थानांतरित हो गया है।

अनुसंधान

1980 के दशक में, बैकप्रोपेगेशन कृत्रिम तंत्रिका नेटवर्क में लंबे क्रेडिट असाइनमेंट पथों के साथ डीप लर्निंग के लिए अच्छी तरह से काम नहीं करता था। इस समस्या को दूर करने के लिए, श्मिधुबर (1991) ने आवर्ती तंत्रिका नेटवर्क (RNN) का एक पदानुक्रम प्रस्तावित किया, जिसे स्व-पर्यवेक्षित शिक्षण द्वारा एक समय में एक स्तर पूर्व-प्रशिक्षित किया गया। यह कई स्व-संगठित समय पैमानों पर आंतरिक प्रतिनिधित्व सीखने के लिए भविष्यवाणी कोडिंग का उपयोग करता है, जो डाउनस्ट्रीम डीप लर्निंग को सुविधाजनक बनाता है। RNN पदानुक्रम को उच्च-स्तरीय चंकर नेटवर्क को निम्न-स्तरीय ऑटोमेटाइज़र नेटवर्क में आसवित करके एक एकल RNN में संक्षिप्त किया जा सकता है। 1993 में, एक चंकर ने 1000 से अधिक गहराई वाले डीप लर्निंग कार्य को हल किया।

1991 में, श्मिधुबर ने एडवर्सेरियल तंत्रिका नेटवर्क प्रकाशित किए जो शून्य-राशि खेल के रूप में एक दूसरे के साथ प्रतिस्पर्धा करते हैं, जहां एक नेटवर्क का लाभ दूसरे नेटवर्क की हानि होती है। पहला नेटवर्क एक जनरेटिव मॉडल है जो आउटपुट पैटर्न पर एक संभाव्यता वितरण मॉडल करता है। दूसरा नेटवर्क इन पैटर्नों के प्रति पर्यावरण की प्रतिक्रियाओं की भविष्यवाणी करने के लिए ग्रेडिएंट डिसेंट द्वारा सीखता है। इसे "कृत्रिम जिज्ञासा" कहा गया। 2014 में, इस सिद्धांत का उपयोग जनरेटिव एडवर्सेरियल नेटवर्क के निर्माण में किया गया, जिसे श्मिधुबर कृत्रिम जिज्ञासा के एक विशेष मामले के रूप में वर्णित करते हैं, जहां पर्यावरण की प्रतिक्रिया 1 या 0 होती है, यह इस पर निर्भर करता है कि पहले नेटवर्क का आउटपुट किसी दिए गए सेट में है या नहीं।

श्मिधुबर ने 1991 में अपने छात्र सेप होचरेइटर की डिप्लोमा थीसिस का पर्यवेक्षण किया, जिसे उन्होंने "मशीन लर्निंग के इतिहास में सबसे महत्वपूर्ण दस्तावेजों में से एक" माना। इसने तंत्रिका इतिहास कंप्रेसर का अध्ययन किया और लुप्त होती ग्रेडिएंट समस्या का विश्लेषण और समाधान किया। इससे लॉन्ग शॉर्ट-टर्म मेमोरी (LSTM) का निर्माण हुआ, जो एक प्रकार का आवर्ती तंत्रिका नेटवर्क है। LSTM नाम 1995 की एक तकनीकी रिपोर्ट में पेश किया गया था, जिससे 1997 में प्रकाशित और होचरेइटर तथा श्मिधुबर द्वारा सह-लेखित सबसे अधिक उद्धृत LSTM प्रकाशन हुआ। मानक LSTM आर्किटेक्चर 2000 में फेलिक्स गर्स, श्मिधुबर और फ्रेड कमिंस द्वारा पेश किया गया था। टाइम के माध्यम से बैकप्रोपेगेशन का उपयोग करने वाला LSTM 2005 में उनके छात्र एलेक्स ग्रेव्स के साथ प्रकाशित हुआ था, और इसका कनेक्शनिस्ट टेम्पोरल क्लासिफिकेशन (CTC) प्रशिक्षण एल्गोरिदम 2006 में प्रकाशित हुआ था। CTC को LSTM के साथ एंड-टू-एंड भाषण पहचान पर लागू किया गया था।

2014 में, सबसे उन्नत तकनीक 20 से 30 परतों वाले "बहुत गहरे तंत्रिका नेटवर्क" को प्रशिक्षित करने की थी। बहुत अधिक परतों को ढेर करने से प्रशिक्षण सटीकता में तीव्र कमी आई, जिसे "डिग्रेडेशन" समस्या के रूप में जाना जाता है। मई 2015 में, रुपेश कुमार श्रीवास्तव, क्लॉस ग्रेफ और श्मिधुबर ने LSTM सिद्धांतों का उपयोग करके हाईवे नेटवर्क बनाया, जो एक फीडफॉरवर्ड तंत्रिका नेटवर्क है जिसमें सैकड़ों परतें होती हैं, जो पिछले नेटवर्क की तुलना में कहीं अधिक गहरा है। दिसंबर 2015 में, अवशिष्ट तंत्रिका नेटवर्क (ResNet) प्रकाशित किया गया था, जो हाईवे नेटवर्क का एक प्रकार है।

1992 में, श्मिधुबर ने फास्ट वेट्स प्रोग्रामर प्रकाशित किया, जो आवर्ती तंत्रिका नेटवर्क का एक विकल्प है। इसमें एक धीमा फीडफॉरवर्ड तंत्रिका नेटवर्क होता है जो स्व-उत्पन्न सक्रियण पैटर्न के बाहरी उत्पादों के माध्यम से दूसरे तंत्रिका नेटवर्क के फास्ट वेट्स को नियंत्रित करने के लिए ग्रेडिएंट डिसेंट द्वारा सीखता है, और फास्ट वेट्स नेटवर्क स्वयं इनपुट पर काम करता है। बाद में इसे अनामित लीनियर ट्रांसफॉर्मर के बराबर दिखाया गया।

2011 में, श्मिधुबर की IDSIA में टीम, उनके पोस्टडॉक डैन सिरेसन के साथ, ग्राफिक्स प्रोसेसिंग यूनिट्स (GPU) का उपयोग करके कन्वोल्यूशनल तंत्रिका नेटवर्क (CNN) की गति में नाटकीय वृद्धि हासिल की, जो कुनीहिको फुकुशिमा द्वारा बहुत पहले पेश किए गए CNN डिजाइनों पर आधारित थी। चेल्लापिल्ला एट अल. (2006) द्वारा GPU पर एक पहले का CNN समकक्ष CPU कार्यान्वयन की तुलना में 4 गुना तेज था। IDSIA में डैन सिरेसन एट अल. (2011) का गहरा CNN 60 गुना तेज था और अगस्त 2011 में एक कंप्यूटर विज़न प्रतियोगिता में पहला मानव-श्रेष्ठ प्रदर्शन हासिल किया। 15 मई 2011 और 10 सितंबर 2012 के बीच, इन CNN ने चार और छवि प्रतियोगिताएं जीतीं और कई छवि बेंचमार्कों पर सबसे उन्नत तकनीक में सुधार किया। यह दृष्टिकोण कंप्यूटर विज़न के क्षेत्र में केंद्रीय बन गया है।

क्रेडिट विवाद

श्मिधुबर ने विवादास्पद रूप से तर्क दिया है कि उन्हें और अन्य शोधकर्ताओं को डीप लर्निंग के क्षेत्र में उनके योगदान के लिए पर्याप्त मान्यता से वंचित किया गया है, जबकि जेफ्री हिंटन, योशुआ बेंगियो और यान लेकुन को उनके डीप लर्निंग कार्य के लिए 2018 ट्यूरिंग अवार्ड साझा करने के पक्ष में नहीं दिया गया। उन्होंने एक "कटु" 2015 लेख लिखा जिसमें तर्क दिया गया कि हिंटन, बेंगियो और लेकुन "एक दूसरे को अत्यधिक उद्धृत करते हैं" लेकिन "क्षेत्र के अग्रदूतों को श्रेय देने में विफल रहते हैं।" न्यूयॉर्क टाइम्स को दिए एक बयान में, यान लेकुन ने लिखा कि "यूर्गन मान्यता के प्रति उन्मत्त रूप से जुनूनी है और कई, कई चीजों के लिए लगातार उस श्रेय का दावा करता है जिसके वह हकदार नहीं हैं।"

विरासत और प्रभाव

LSTM पर श्मिधुबर के कार्य का मशीन लर्निंग और कृत्रिम बुद्धिमत्ता पर गहरा प्रभाव पड़ा है। LSTM नेटवर्क का उपयोग भाषण पहचान और मशीन अनुवाद से लेकर हस्तलेखन पहचान और समय श्रृंखला भविष्यवाणी तक के अनुप्रयोगों में किया गया है। मेटा-लर्निंग और एडवर्सेरियल प्रशिक्षण में उनके योगदान ने आधुनिक AI प्रणालियों के विकास को भी प्रभावित किया है, जिसमें बड़े भाषा मॉडल और अन्य उन्नत आर्किटेक्चर में उपयोग किए जाने वाले शामिल हैं।

क्रेडिट को लेकर विवादों के बावजूद, श्मिधुबर AI अनुसंधान में एक अत्यधिक प्रभावशाली व्यक्ति बने हुए हैं। ऐतिहासिक सटीकता और उचित आरोपण पर उनका आग्रह क्षेत्र में मौलिक कार्य की मान्यता के बारे में महत्वपूर्ण चर्चाओं को जन्म दिया है। वर्तमान युग में, उनके विचार AI अनुसंधान और विकास की दिशा को आकार देते रहे हैं।