ग्रॉसबर्ग नेटवर्क कृत्रिम तंत्रिका नेटवर्क वास्तुकलाओं और अधिगम सिद्धांतों के एक परिवार को संदर्भित करता है, जिसे संज्ञानात्मक वैज्ञानिक स्टीफन ग्रॉसबर्ग ने 1960 के दशक से आगे बढ़ाया। ये नेटवर्क जैविक रूप से प्रेरित तंत्रों पर अपने ध्यान के लिए प्रतिष्ठित हैं, जो ऑनलाइन, अनुपर्यवेक्षित और वास्तविक समय अधिगम के लिए हैं, और स्थिरता-प्लास्टिसिटी दुविधा - नए पैटर्न सीखने की चुनौती को बिना पहले अर्जित ज्ञान को मिटाए - को संबोधित करते हैं। यह शब्द मूलभूत मॉडलों जैसे प्रतिस्पर्धी अधिगम, शंटिंग नेटवर्क, और अनुकूली अनुनाद सिद्धांत (एआरटी) को शामिल करता है, जिन्होंने सैद्धांतिक तंत्रिका विज्ञान और व्यावहारिक मशीन अधिगम अनुप्रयोगों दोनों को प्रभावित किया है।
ग्रॉसबर्ग नेटवर्क तंत्रिका गतिशीलता से व्युत्पन्न सिद्धांतों पर काम करते हैं, न्यूरोनल गतिविधि और सिनैप्टिक संशोधनों को मॉडल करने के लिए अवकल समीकरणों का उपयोग करते हैं। कई बाद के गहन अधिगम मॉडलों के विपरीत, जो पर्यवेक्षित बैकप्रोपेगेशन पर निर्भर करते हैं, ये नेटवर्क स्व-संगठनात्मक प्रक्रियाओं पर जोर देते हैं, जहां न्यूरॉन्स इनपुट पैटर्न के स्थिर प्रतिनिधित्व बनाने के लिए प्रतिस्पर्धा और सहयोग करते हैं। यह दृष्टिकोण बदलते वातावरण में अनुकूली अधिगम को सक्षम बनाता है, जिससे वे पैटर्न पहचान, वर्गीकरण, और संवेदी-मोटर नियंत्रण जैसे कार्यों के लिए उपयुक्त होते हैं।
ऐतिहासिक विकास
स्टीफन ग्रॉसबर्ग ने अपने पहले तंत्रिका मॉडल 1960 के दशक के अंत में रॉकफेलर विश्वविद्यालय में पेश किए, मस्तिष्क सर्किट सूचना कैसे संसाधित करते हैं, इसके बारे में विचारों को औपचारिक रूप दिया। 1976 में, उन्होंने प्रतिस्पर्धी अधिगम का मूलभूत सिद्धांत प्रकाशित किया, जहां आउटपुट न्यूरॉन्स इनपुट समानता के आधार पर सक्रियण के लिए प्रतिस्पर्धा करते हैं, और विजेता अपने भार अद्यतन करता है। इस कार्य ने शंटिंग नेटवर्कों के विकास को जन्म दिया, जो उत्तेजक और निरोधात्मक संकेतों के बीच अरैखिक अंतःक्रियाओं को मॉडल करते हैं, सरल पर्सेप्ट्रॉन की तुलना में जैविक न्यूरॉन्स को अधिक निकटता से अनुकरण करते हैं।
1980 के दशक के मध्य तक, ग्रॉसबर्ग और उनके सहयोगी गेल कारपेंटर ने अनुकूली अनुनाद सिद्धांत विकसित किया, जिसे पहली बार 1987 में प्रस्तुत किया गया। एआरटी नेटवर्क स्थिरता-प्लास्टिसिटी समस्या को एक सतर्कता पैरामीटर का उपयोग करके संबोधित करते हैं, जो यह नियंत्रित करता है कि नई श्रेणियां कब बनती हैं, जिससे सिस्टम नवीन इनपुट के लिए प्लास्टिक रहता है जबकि मौजूदा ज्ञान को स्थिर करता है। यह बैकप्रोपेगेशन-आधारित दृष्टिकोणों से एक महत्वपूर्ण प्रस्थान था, जो पूर्व-निर्दिष्ट प्रशिक्षण सेटों की आवश्यकता के बिना वास्तविक समय, वृद्धिशील अधिगम पर जोर देता था।
मूल वास्तुकला सिद्धांत
एक विशिष्ट ग्रॉसबर्ग नेटवर्क में एक इनपुट परत, एक प्रतिस्पर्धी या पहचान परत, और कभी-कभी एक अभिविन्यास उपतंत्र होता है, जैसा कि एआरटी मॉडलों में देखा जाता है। इनपुट परत पहचान परत को संकेत भेजती है, जहां न्यूरॉन्स पार्श्व निषेध के माध्यम से प्रतिस्पर्धा करते हैं - मजबूत न्यूरॉन्स कमजोर लोगों को दबाते हैं, यह सुनिश्चित करते हुए कि दिए गए इनपुट के लिए केवल एक श्रेणी सक्रिय होती है। सिनैप्टिक भार हेब्बियन-जैसे नियमों के माध्यम से संशोधित होते हैं, जिन्हें अक्सर अनियंत्रित वृद्धि को रोकने के लिए सामान्यीकृत किया जाता है।
एक प्रमुख विशेषता प्लास्टिसिटी और स्थिरता के बीच संतुलन है, जो लाभ नियंत्रण और रीसेट संकेतों जैसे तंत्रों के माध्यम से प्राप्त होता है। एआरटी में, यदि इनपुट मौजूदा श्रेणी से पर्याप्त रूप से मेल नहीं खाता है (सतर्कता पैरामीटर द्वारा निर्धारित), अभिविन्यास उपतंत्र एक रीसेट ट्रिगर करता है, जिससे नेटवर्क एक नया न्यूरॉन भर्ती करता है या मौजूदा को परिष्कृत करता है। यह नेटवर्क को विनाशकारी भूलने के बिना निरंतर सीखने की अनुमति देता है, एक समस्या जो कई तंत्रिका नेटवर्क मॉडलों को प्रभावित करती है।
अनुप्रयोग और प्रभाव
ग्रॉसबर्ग नेटवर्क विविध क्षेत्रों में लागू किए गए हैं, जिनमें रिमोट सेंसिंग छवि वर्गीकरण, चिकित्सा निदान, और रोबोट नेविगेशन शामिल हैं। 1990 के दशक में, एआरटी-आधारित सिस्टम रडार लक्ष्य पहचान और भाषण प्रसंस्करण के लिए उपयोग किए गए, जो स्ट्रीमिंग डेटा से सीखने की उनकी क्षमता का लाभ उठाते थे। मॉडलों ने संज्ञानात्मक वास्तुकलाओं को भी सूचित किया, जैसे ग्रॉसबर्ग का संज्ञानात्मक सूचना प्रसंस्करण में अनुकूली अनुनाद सिद्धांत, जो दृश्य धारणा और ध्यान जैसी घटनाओं को समझाने का प्रयास करता था।
कृत्रिम बुद्धिमत्ता और मशीन अधिगम के भीतर, ग्रॉसबर्ग के कार्य ने फीडफॉरवर्ड और बैकप्रोपेगेशन प्रतिमानों का एक प्रारंभिक विकल्प प्रदान किया। जबकि गहन अधिगम 2012 के बाद अवशिष्ट नेटवर्कों और ट्रांसफार्मरों में प्रगति के कारण प्रमुखता से उभरा, एआरटी-प्रेरित विधियां अनुपर्यवेक्षित अधिगम और निरंतर अधिगम अनुसंधान में प्रासंगिक बनी हुई हैं। शोधकर्ताओं ने अनुक्रमिक कार्यों में विनाशकारी भूलने को संबोधित करने के लिए आधुनिक वास्तुकलाओं के साथ एआरटी मॉड्यूल को एकीकृत किया है।
समकालीन दृष्टिकोणों के साथ तुलना
बड़े भाषा मॉडलों और ट्रांसफार्मरों पर निर्मित जनरेटिव एआई प्रणालियों के विपरीत, जिन्हें विशाल डेटासेट और कम्प्यूटेशनल संसाधनों की आवश्यकता होती है, ग्रॉसबर्ग नेटवर्क हल्के होते हैं और वास्तविक समय में काम करते हैं। वे ड्रॉपआउट या बैच सामान्यीकरण का उपयोग नहीं करते हैं; इसके बजाय, वे वितरित प्रतिनिधित्व और प्रतिस्पर्धी गतिशीलता पर निर्भर करते हैं। यह उन्हें अधिक व्याख्यात्मक और ऊर्जा-कुशल बनाता है, हालांकि जटिल, उच्च-आयामी कार्यों पर अक्सर कम सटीक होते हैं।
ग्रॉसबर्ग के सूत्रीकरणों की सैद्धांतिक कठोरता आधुनिक मशीन अधिगम अभ्यास की अनुभवजन्य प्रकृति के विपरीत है, जहां एडम और परत सामान्यीकरण जैसी विधियां अनुमानात्मक रूप से ट्यून की जाती हैं। हालांकि, पाठ्यक्रम अधिगम और डेटा संवर्धन जैसी अवधारणाएं ग्रॉसबर्ग द्वारा दशकों पहले प्रस्तावित क्रमिक, चरणबद्ध अधिगम के साथ वैचारिक जड़ें साझा करती हैं।
विरासत और वर्तमान अनुसंधान
ग्रॉसबर्ग के योगदान को तंत्रिका विज्ञान और कंप्यूटर विज्ञान दोनों में मान्यता दी गई है, जो एमआईटी सीएसएआईएल से कार्नेगी मेलन विश्वविद्यालय अनुसंधान तक के क्षेत्रों को प्रभावित करते हैं। 2020 के दशक तक, एआरटी नेटवर्क वृद्धिशील अधिगम और अनुकूली रोबोटिक्स पर अध्ययनों में दिखाई देते रहते हैं, जिन्हें अक्सर सुदृढीकरण अधिगम या अनुक्रम-से-अनुक्रम मॉडलों के साथ जोड़ा जाता है। स्थिरता-प्लास्टिसिटी के सिद्धांत न्यूरोमॉर्फिक हार्डवेयर के डिजाइन और गूगल डीपमाइंड और अन्य प्रयोगशालाओं में निरंतर अधिगम के सैद्धांतिक विश्लेषणों को भी सूचित करते हैं।
ओपनएआई या एंथ्रोपिक द्वारा उपयोग किए जाने वाले ट्रांसफार्मर-आधारित प्रणालियों की व्यावसायिक व्यापकता प्राप्त न करने के बावजूद, ग्रॉसबर्ग नेटवर्क जैविक रूप से प्रशंसनीय अधिगम एल्गोरिदम चाहने वाले शोधकर्ताओं के लिए एक कसौटी बने हुए हैं। वास्तविक समय अनुकूलन और शोर के प्रति मजबूती पर उनका जोर एज कंप्यूटिंग और स्वायत्त प्रणालियों में उभरती जरूरतों के साथ संरेखित होता है, जहां एएमडी और इंटेल चिप्स तेजी से ऑन-डिवाइस अनुमान का समर्थन करते हैं।