इंटरैक्टिव सक्रियण और प्रतिस्पर्धा नेटवर्क

इंटरैक्टिव एक्टिवेशन और कंपटीशन (आईएसी) नेटवर्क कृत्रिम तंत्रिका नेटवर्क मॉडलों का एक वर्ग है जो द्विदिशात्मक सूचना प्रवाह और प्रसंस्करण इकाइयों के बीच गतिशील प्रतिस्पर्धा पर जोर देते हैं। 1980 के दशक की शुरुआत में पेश किए गए, इन्हें यह समझने के लिए डिज़ाइन किया गया था कि धारणा, ध्यान और भाषा समझ जैसी संज्ञानात्मक प्रक्रियाएं कई परस्पर जुड़े नोड्स की एक साथ सक्रियता से कैसे उभरती हैं। सूचना को एक ही दिशा में संसाधित करने वाले फीडफॉरवर्ड नेटवर्क के विपरीत, आईएसी नेटवर्क इकाइयों को उत्तेजक और निरोधात्मक दोनों कनेक्शनों के माध्यम से एक-दूसरे को प्रभावित करने की अनुमति देते हैं, जिससे एक गतिशील प्रणाली बनती है जो समय के साथ स्थिर अवस्थाओं में स्थापित हो जाती है।

एक आईएसी नेटवर्क की वास्तुकला में आम तौर पर इकाइयों की कई परतें या समूह होते हैं, जिनमें से प्रत्येक विशेषताओं, अक्षरों, शब्दों या अवधारणाओं का प्रतिनिधित्व करता है। एक ही समूह के भीतर की इकाइयाँ एक-दूसरे को रोकती हैं (प्रतिस्पर्धा), जबकि समूहों के बीच की इकाइयाँ जो सुसंगत हैं, एक-दूसरे को उत्तेजित करती हैं (बातचीत)। यह डिज़ाइन मस्तिष्क में तंत्रिका प्रसंस्करण के बारे में धारणाओं को दर्शाता है, जहां पड़ोसी न्यूरॉन्स अक्सर एक-दूसरे को दबाते हैं और दूर के लेकिन संबंधित न्यूरॉन्स गतिविधि को बढ़ा सकते हैं। नेटवर्क भारित इनपुट के आधार पर इकाई सक्रियणों को बार-बार अद्यतन करके संचालित होता है, जिसमें भगोड़े उत्तेजना को रोकने के लिए एक क्षय शब्द होता है, जब तक कि सिस्टम संतुलन तक नहीं पहुंच जाता।

ऐतिहासिक विकास

आईएसी मॉडल को सबसे प्रसिद्ध रूप से जेम्स एल. मैक्लेलैंड और डेविड ई. रुमेलहार्ट ने शब्द धारणा पर अपने 1981 के पेपर में प्रस्तुत किया था, जो समानांतर वितरित प्रसंस्करण (पीडीपी) अनुसंधान की आधारशिला बन गया। उनके काम ने प्रदर्शित किया कि कैसे एक नेटवर्क शब्द श्रेष्ठता प्रभाव की व्याख्या कर सकता है, जहां अक्षरों को अलगाव की तुलना में एक शब्द के संदर्भ में अधिक सटीक रूप से पहचाना जाता है। मॉडल को बाद में अन्य क्षेत्रों में विस्तारित किया गया, जिसमें भाषण धारणा और अर्थपूर्ण स्मृति शामिल हैं। पीडीपी अनुसंधान समूह, जो कैलिफोर्निया विश्वविद्यालय, सैन डिएगो और कार्नेगी मेलन विश्वविद्यालय में आधारित था, ने 1986 की पुस्तक "समानांतर वितरित प्रसंस्करण" में आईएसी नेटवर्क को लोकप्रिय बनाया, जिसने बहुपरत नेटवर्क में सीखने के लिए बैकप्रॉपैगेशन भी पेश किया। हालांकि, आईएसी नेटवर्क स्वयं आम तौर पर प्रशिक्षित होने के बजाय हाथ से तैयार किए गए थे, जो सैद्धांतिक सिद्धांतों से प्राप्त निश्चित कनेक्शन भार पर निर्भर थे।

मुख्य सिद्धांत

आईएसी नेटवर्क तीन प्रमुख सिद्धांतों पर काम करते हैं: इंटरैक्टिव एक्टिवेशन, प्रतिस्पर्धा और बाधा संतुष्टि। इंटरैक्टिव एक्टिवेशन का मतलब है कि इकाइयां सिग्नल भेज और प्राप्त दोनों कर सकती हैं, जिससे ऊपर-नीचे और नीचे-ऊपर के प्रभाव प्रसंस्करण को आकार दे सकते हैं। प्रतिस्पर्धा यह सुनिश्चित करती है कि एक समूह के भीतर, केवल इकाइयों का एक उपसमूह दृढ़ता से सक्रिय हो जाता है, जो विजेता-सब-कुछ गतिशीलता का एक रूप लागू करता है। बाधा संतुष्टि नेटवर्क की अपने इनपुट की वैश्विक रूप से सुसंगत व्याख्या खोजने की क्षमता को संदर्भित करती है, जो सक्रियणों के समानांतर समायोजन के माध्यम से संघर्षों को हल करती है। यह आईएसी नेटवर्क को अनिश्चितता के तहत अवधारणात्मक अस्पष्टता और निर्णय लेने के मॉडलिंग के लिए विशेष रूप से उपयुक्त बनाता है।

आईएसी नेटवर्क में सक्रियण अद्यतन नियम आम तौर पर एक अंतर समीकरण का पालन करता है, जहां एक इकाई के सक्रियण में परिवर्तन उसके वर्तमान सक्रियण, अन्य इकाइयों से शुद्ध इनपुट और एक क्षय पैरामीटर का एक कार्य है। उत्तेजक कनेक्शन सक्रियण बढ़ाते हैं, जबकि निरोधात्मक कनेक्शन इसे घटाते हैं, कुल इनपुट को सीखने की दर से स्केल किया जाता है। नेटवर्क निश्चित संख्या में पुनरावृत्तियों के लिए चलता है या जब तक सक्रियण परिवर्तन एक सीमा से नीचे नहीं गिर जाता, जिस बिंदु पर गतिविधि का पैटर्न नेटवर्क के आउटपुट का प्रतिनिधित्व करता है।

अनुप्रयोग और प्रभाव

आईएसी नेटवर्क संज्ञानात्मक घटनाओं की एक विस्तृत श्रृंखला पर लागू किए गए हैं। दृश्य शब्द पहचान के अलावा, उनका उपयोग पढ़ने के पहलुओं को मॉडल करने के लिए किया गया है, जिसमें डिस्लेक्सिया और शब्द आवृत्ति और नियमितता के प्रभाव शामिल हैं। उन्हें भाषण धारणा पर भी लागू किया गया है, जहां वे अनुकरण करते हैं कि निरंतर भाषण में स्वरों को कैसे पहचाना जाता है, और अर्थपूर्ण प्राइमिंग पर, जहां संबंधित अवधारणाएं एक-दूसरे को सक्रिय करती हैं। 1990 के दशक में, आईएसी-शैली के मॉडल उच्च-स्तरीय अनुभूति का पता लगाने के लिए उपयोग किए गए थे, जैसे कि सादृश्य तर्क और निर्णय लेना, अक्सर हाइब्रिड सिस्टम में जो प्रतीकात्मक और कनेक्शनिस्ट तत्वों को जोड़ते थे।

आईएसी नेटवर्क का प्रभाव संज्ञानात्मक विज्ञान से परे कृत्रिम बुद्धिमत्ता और मशीन लर्निंग तक फैला हुआ है। द्विदिशात्मक प्रसंस्करण और पुनरावृत्त शोधन का विचार गहन शिक्षण में बाद के विकास की आशा करता है, जैसे कि ट्रांसफॉर्मर में ध्यान तंत्र। उदाहरण के लिए, आधुनिक भाषा मॉडल में उपयोग किया जाने वाला मल्टी-हेड अटेंशन इकाइयों को अन्य पदों से इनपुट को गतिशील रूप से भारित करने की अनुमति देता है, जो आईएसी नेटवर्क में इंटरैक्टिव एक्टिवेशन के समान है। हालांकि, आईएसी नेटवर्क के विपरीत, ट्रांसफॉर्मर को हाथ से निर्दिष्ट भार पर भरोसा करने के बजाय ग्रेडिएंट डिसेंट और बड़े डेटासेट का उपयोग करके अंत-से-अंत तक प्रशिक्षित किया जाता है।

आधुनिक तंत्रिका नेटवर्क के साथ तुलना

आधुनिक गहन शिक्षण मॉडल, जैसे कि गहन तंत्रिका नेटवर्क और बड़े भाषा मॉडल, कई मूलभूत तरीकों से आईएसी नेटवर्क से भिन्न हैं। पहला, वे आम तौर पर कई परतों और लाखों मापदंडों के साथ फीडफॉरवर्ड या आवर्तक आर्किटेक्चर का उपयोग करते हैं, जबकि आईएसी नेटवर्क उथले होते हैं और उनमें कुछ इकाइयां होती हैं। दूसरा, आधुनिक नेटवर्क एडम या स्टोकेस्टिक ग्रेडिएंट डिसेंट जैसे अनुकूलन एल्गोरिदम का उपयोग करके डेटा से अपने भार सीखते हैं, जबकि आईएसी नेटवर्क अक्सर मैन्युअल रूप से डिज़ाइन किए जाते हैं। तीसरा, आईएसी नेटवर्क जैविक संभाव्यता और संज्ञानात्मक यथार्थवाद पर जोर देते हैं, जबकि आधुनिक मॉडल बेंचमार्क पर कार्य प्रदर्शन को प्राथमिकता देते हैं। इन अंतरों के बावजूद, आईएसी नेटवर्क यह समझने के लिए एक मूल्यवान सैद्धांतिक ढांचा बने हुए हैं कि वितरित प्रतिनिधित्व और प्रतिस्पर्धा बुद्धिमान व्यवहार को कैसे जन्म दे सकते हैं।

विरासत और वर्तमान प्रासंगिकता

हालांकि आईएसी नेटवर्क अब एआई अनुसंधान में सबसे आगे नहीं हैं, फिर भी उनका अध्ययन संज्ञानात्मक विज्ञान और कम्प्यूटेशनल तंत्रिका विज्ञान में किया जाता है। वे तंत्रिका गतिशीलता का एक पारदर्शी और व्याख्या योग्य मॉडल प्रदान करते हैं, जो अक्सर बड़े पैमाने पर गहन शिक्षण प्रणालियों में कमी होती है। शोधकर्ताओं ने न्यूरोमॉर्फिक हार्डवेयर डिजाइन करने और बाधा संतुष्टि और संभाव्य अनुमान के लिए नए एल्गोरिदम को प्रेरित करने के लिए आईएसी सिद्धांतों का उपयोग किया है। इंटरैक्टिव एक्टिवेशन की अवधारणा एआई सिस्टम को अधिक मजबूत और संदर्भ-संवेदनशील बनाने के प्रयासों के साथ भी प्रतिध्वनित होती है, जैसा कि ध्यान और स्मृति पर अनुसंधान में देखा गया है। 2020 के दशक तक, आईएसी नेटवर्क मुख्य रूप से ऐतिहासिक और शैक्षणिक रुचि के हैं, लेकिन द्विदिशात्मक प्रसंस्करण और प्रतिस्पर्धा के बारे में उनके मूल विचार जैविक और कृत्रिम दोनों बुद्धिमत्ता को समझने के लिए प्रासंगिक बने हुए हैं।

यह भी देखें

• तंत्रिका नेटवर्क
• समानांतर-वितरित-प्रसंस्करण (सूची में नहीं, लेकिन उपलब्ध होने पर लिंक किया जा सकता है)
• संज्ञानात्मक-विज्ञान (सूची में नहीं)
• कनेक्शनिज़्म (सूची में नहीं)
• ट्रांसफॉर्मर
• मल्टी-हेड-अटेंशन
• गहन-शिक्षण