प्रतिस्पर्धात्मक अधिगम Machine learning में एक अनपर्यवेक्षित अधिगम प्रतिमान है जहाँ Neural network में इकाइयाँ इनपुट पैटर्न का प्रतिनिधित्व करने के लिए प्रतिस्पर्धा करती हैं। लेबल किए गए उदाहरणों पर निर्भर करने वाले पर्यवेक्षित तरीकों के विपरीत, प्रतिस्पर्धात्मक अधिगम केवल सबसे सक्रिय न्यूरॉन, या न्यूरॉन्स के एक छोटे समूह को, प्रत्येक इनपुट के जवाब में अपने भार समायोजित करने की अनुमति देकर डेटा में संरचना की खोज करता है। यह विजेता-सब-कुछ-लेता तंत्र विशेषीकृत डिटेक्टरों के निर्माण की ओर ले जाता है, प्रभावी रूप से समान इनपुट को क्लस्टर करता है और फीचर निष्कर्षण, वेक्टर क्वांटीकरण, और स्थलाकृतिक मानचित्रण जैसे कार्यों को सक्षम बनाता है।
यह अवधारणा स्व-संगठन के प्रारंभिक तंत्रिका-विज्ञान-प्रेरित मॉडल से उभरी। 1970 के दशक में, टेवो कोहोनेन और अन्य ने कृत्रिम नेटवर्क में प्रतिस्पर्धात्मक गतिशीलता की खोज की, जिससे 1980 के दशक में स्व-संगठित मानचित्र (SOM) का विकास हुआ। उसी समय के आसपास, स्टीफन ग्रॉसबर्ग और गेल कारपेंटर ने अनुकूली अनुनाद सिद्धांत (ART) में संबंधित विचारों को औपचारिक रूप दिया। इन मौलिक कार्यों ने प्रतिस्पर्धात्मक अधिगम को अनपर्यवेक्षित प्रतिनिधित्व अधिगम के लिए एक मुख्य तकनीक के रूप में स्थापित किया, जो बैकप्रोपेगेशन जैसे त्रुटि-संचालित तरीकों से अलग है।
तंत्र और विविधताएँ
एक बुनियादी प्रतिस्पर्धात्मक अधिगम नेटवर्क में, प्रत्येक आउटपुट न्यूरॉन के पास इनपुट के समान आयाम का एक भार वेक्टर होता है। किसी दिए गए इनपुट वेक्टर के लिए, नेटवर्क इनपुट और प्रत्येक न्यूरॉन के भार के बीच एक समानता माप की गणना करता है, आमतौर पर यूक्लिडियन दूरी या डॉट उत्पाद। उच्चतम समानता (या सबसे छोटी दूरी) वाला न्यूरॉन विजेता घोषित किया जाता है। केवल इस विजेता के भार अद्यतन किए जाते हैं, उन्हें इनपुट के करीब ले जाते हैं, जबकि अन्य सभी न्यूरॉन अपरिवर्तित रहते हैं। इसे कठोर प्रतिस्पर्धात्मक अधिगम या विजेता-सब-कुछ-लेता कहा जाता है।
विविधताएँ नरम प्रतिस्पर्धा या पार्श्व निषेध का परिचय देती हैं। नरम प्रतिस्पर्धात्मक अधिगम में, कई न्यूरॉन अपनी सक्रियता के अनुपात में अद्यतन होते हैं, अक्सर गाऊसी पड़ोस फ़ंक्शन का उपयोग करते हुए, जैसे कोहोनेन के SOM में। एक अन्य विविधता, लीकी अधिगम, सभी न्यूरॉन्स को थोड़ा अद्यतन करने की अनुमति देती है, विजेता अधिक अद्यतन होता है, जो मृत इकाइयों को रोकता है। आवृत्ति-संवेदनशील प्रतिस्पर्धात्मक अधिगम बार-बार जीतने वाले न्यूरॉन्स को दंडित करने के लिए एक पूर्वाग्रह शब्द जोड़ता है, संतुलित उपयोग को बढ़ावा देता है। ये तंत्र खराब प्रारंभिकरण जैसे मुद्दों को संबोधित करने और यह सुनिश्चित करने में मदद करते हैं कि सभी इकाइयाँ प्रतिनिधित्व में योगदान दें।
फीचर खोज में अनुप्रयोग
प्रतिस्पर्धात्मक अधिगम अनपर्यवेक्षित फीचर खोज में उत्कृष्ट है, विशेष रूप से निम्न-आयामी और संरचित डेटा में। इसे किनारे और बनावट का पता लगाने के लिए छवि प्रसंस्करण, ध्वन्यात्मक वर्गीकरण के लिए भाषण पहचान, और वेक्टर क्वांटीकरण के माध्यम से डेटा संपीड़न में लागू किया गया है, जहाँ प्रतिस्पर्धात्मक रूप से सीखे गए कोडबुक वेक्टर इनपुट वितरण का प्रतिनिधित्व करते हैं। रोबोटिक्स में, SOM का उपयोग संवेदी-मोटर मानचित्रण और नेविगेशन के लिए किया गया है। यह विधि पदानुक्रमित मॉडल के लिए एक निर्माण खंड भी है, जहाँ प्रतिस्पर्धात्मक इकाइयों की परतें तेजी से अमूर्त फीचर सीखती हैं, जो प्रारंभिक दृश्य प्रांतस्था संगठन के समान है।
आधुनिक गहन अधिगम में, प्रतिस्पर्धात्मक तंत्र विरल कोडिंग और कुछ Deep learning आर्किटेक्चर में दिखाई देते हैं। उदाहरण के लिए, विरल ऑटोएन्कोडर और कुछ कन्वोल्यूशनल नेटवर्क विरलता लागू करने के लिए पार्श्व निषेध या k-विजेता-सब-कुछ-लेता परतों को शामिल करते हैं, जिससे व्याख्यात्मकता और दक्षता में सुधार होता है। हालाँकि, शुद्ध प्रतिस्पर्धात्मक अधिगम बड़े पैमाने के कार्यों के लिए Backpropagation-आधारित प्रशिक्षण द्वारा काफी हद तक प्रतिस्थापित कर दिया गया है, क्योंकि इसमें वैश्विक त्रुटि संकेत का अभाव है और उच्च-आयामी, जटिल डेटा के साथ संघर्ष करता है।
सैद्धांतिक आधार और सीमाएँ
प्रतिस्पर्धात्मक अधिगम क्लस्टरिंग एल्गोरिदम, विशेष रूप से k-मीन्स से निकटता से संबंधित है। कुछ शर्तों के तहत, भार वेक्टर क्लस्टर सेंट्रोइड्स में परिवर्तित हो जाते हैं, जो वेक्टर क्वांटीकरण का एक तंत्रिका कार्यान्वयन प्रदान करते हैं। इस प्रक्रिया को विरूपण माप पर ऑनलाइन ग्रेडिएंट डिसेंट के रूप में देखा जा सकता है, हालाँकि गतिशीलता गैर-उत्तल है और प्रारंभिकरण और सीखने की दर पर निर्भर करती है। कोहोनेन और बाद के शोधकर्ताओं द्वारा सैद्धांतिक विश्लेषण ने सरल मामलों के लिए अभिसरण की विशेषता बताई है, लेकिन सामान्य सेटिंग्स के लिए कठोर गारंटी सीमित रहती है।
एक प्रमुख सीमा प्रारंभिकरण और सीखने की दर के प्रति संवेदनशीलता है। खराब प्रारंभिकरण मृत न्यूरॉन्स का कारण बन सकता है जो कभी नहीं जीतते, प्रभावी क्षमता को कम करते हैं। अभिसरण के लिए सीखने की दर उचित रूप से घटनी चाहिए, लेकिन बहुत तेज़ क्षय समय से पहले विशेषीकरण का कारण बन सकता है। इसके अतिरिक्त, प्रतिस्पर्धात्मक अधिगम स्वाभाविक रूप से गैर-स्थिर वितरण को संभाल नहीं पाता या लेबल जानकारी शामिल नहीं करता, जिससे पर्यवेक्षित या सुदृढीकरण अधिगम संदर्भों में इसकी प्रयोज्यता सीमित हो जाती है। इन कमियों के बावजूद, इसकी सरलता और जैविक तर्कसंगतता इसे कम्प्यूटेशनल तंत्रिका विज्ञान और एक शैक्षणिक उपकरण के रूप में प्रासंगिक बनाए रखती है।
आधुनिक AI से संबंध
जबकि प्रतिस्पर्धात्मक अधिगम समकालीन बड़े पैमाने के सिस्टम जैसे Large language model या Transformer (architecture) का प्राथमिक घटक नहीं है, इसके सिद्धांत कई रूपों में बने रहते हैं। Dropout और Batch Normalization न्यूरॉन्स के बीच स्टोकेस्टिक प्रतिस्पर्धा का परिचय देते हैं, और ट्रांसफार्मर में ध्यान तंत्र को इनपुट स्थितियों पर नरम प्रतिस्पर्धा के रूप में व्याख्या किया जा सकता है। कुछ बड़े मॉडलों में उपयोग किए जाने वाले विरल और मिश्रण-विशेषज्ञ मॉडल पर शोध, प्रतिस्पर्धात्मक रूटिंग को नियोजित करता है जहाँ प्रति इनपुट केवल विशेषज्ञों का एक उपसमूह सक्रिय होता है, जो प्रतिस्पर्धात्मक अधिगम की विजेता-सब-कुछ-लेता भावना को प्रतिध्वनित करता है।
Artificial intelligence के व्यापक क्षेत्र में, प्रतिस्पर्धात्मक गतिशीलता अनपर्यवेक्षित प्रीट्रेनिंग और स्व-संगठित प्रणालियों को प्रेरित करती है। उदाहरण के लिए, Generative AI मॉडल कभी-कभी जनरेटर और विवेचक के बीच प्रतिकूल प्रतिस्पर्धा का उपयोग करते हैं, हालाँकि यह प्रतिस्पर्धा का एक अलग रूप है। MIT CSAIL और Stanford AI Lab जैसे शैक्षणिक समूह ऊर्जा-कुशल और जैविक रूप से तर्कसंगत अधिगम के लिए स्व-संगठन सिद्धांतों का अध्ययन करना जारी रखते हैं। 2020 के दशक के मध्य तक, प्रतिस्पर्धात्मक अधिगम न्यूरोमॉर्फिक कंप्यूटिंग और ऑनलाइन अधिगम में एक सक्रिय क्षेत्र बना हुआ है, जहाँ इसका स्थानीय अद्यतन नियम वैश्विक बैकप्रोपेगेशन पर लाभ प्रदान करता है।
यह भी देखें
संदर्भ
- कोहोनेन, टी. (1982)। स्थलाकृतिक रूप से सही फीचर मानचित्रों का स्व-संगठित गठन। बायोलॉजिकल साइबरनेटिक्स।
- ग्रॉसबर्ग, एस. (1976)। अनुकूली पैटर्न वर्गीकरण और सार्वभौमिक पुनर्कोडिंग। बायोलॉजिकल साइबरनेटिक्स।
- रुमेलहार्ट, डी. ई., और ज़िप्सर, डी. (1985)। प्रतिस्पर्धात्मक अधिगम द्वारा फीचर खोज। कॉग्निटिव साइंस।