एक्सटेंशन न्यूरल नेटवर्क (ENN) एक पैटर्न पहचान विधि है जिसे पहली बार 2003 में एम. एच. वांग और सी. पी. हंग द्वारा प्रस्तावित किया गया था। यह कृत्रिम तंत्रिका नेटवर्क की तेज़ और अनुकूली सीखने की क्षमता को एक्सटेंशन सिद्धांत के सहसंबंध अनुमान गुण के साथ जोड़ता है, जो 1983 में काई द्वारा विरोधाभासी समस्याओं को हल करने के लिए विकसित एक गणितीय ढांचा है। नेटवर्क एक्सटेंशन दूरी की गणना करके उदाहरणों को वर्गीकृत करता है, जो एक माप है कि इनपुट प्रशिक्षण डेटा से सीखे गए वर्ग-आधारित प्रतिनिधित्व से कितनी निकटता से मेल खाता है। ENN को मशीनरी विफलता का पता लगाने, एमआरआई के माध्यम से ऊतक वर्गीकरण, ऑटोमोटिव इंजन दोष पहचान, लेड-एसिड बैटरी में चार्ज की स्थिति का अनुमान, और अधूरे सर्वेक्षण डेटा के साथ वर्गीकरण जैसे कार्यों पर लागू किया गया है।
पारंपरिक तंत्रिका नेटवर्क के विपरीत, जो जुड़े नोड्स के बीच एक एकल भार मान का उपयोग करते हैं, एक ENN प्रति कनेक्शन दो भार मान संग्रहीत करता है, जो किसी दिए गए वर्ग के लिए एक विशेषता की निचली और ऊपरी सीमा का प्रतिनिधित्व करते हैं। यह डिज़ाइन नेटवर्क को बिंदु अनुमानों के बजाय अंतराल के रूप में वर्ग श्रेणियों को मॉडल करने की अनुमति देता है, जो एक्सटेंशन सिद्धांत के मैटर-एलिमेंट मॉडल पर आधारित है। इस विधि को पैटर्न पहचान साहित्य में एक संकर दृष्टिकोण के रूप में उद्धृत किया गया है जो तंत्रिका अनुकूलनशीलता और सेट-सैद्धांतिक तर्क दोनों का लाभ उठाता है।
एक्सटेंशन सिद्धांत का आधार
एक्सटेंशन सिद्धांत, जिसे 1983 में काई द्वारा प्रस्तावित किया गया था, ENN के लिए गणितीय आधार प्रदान करता है। यह वस्तुओं को मैटर-एलिमेंट के रूप में मॉडल करता है, जिसे R = (N, C, V) के रूप में दर्शाया जाता है, जहाँ N वस्तु का नाम या प्रकार है, C उसकी विशेषताएँ हैं, और V संबंधित मान हैं। उदाहरण के लिए, किसी व्यक्ति की ऊँचाई और वजन को मान श्रेणियों के साथ विशेषताओं के रूप में दर्शाया जा सकता है, जिससे एक एक्सटेंशन सेट बनता है। सिद्धांत एक एक्सटेंशन सहसंबंध फ़ंक्शन K(x) को परिभाषित करता है जो वस्तु स्थान से तत्वों को सदस्यता अंतराल [-∞, ∞] पर मैप करता है। सकारात्मक मान एक वर्ग में सदस्यता का संकेत देते हैं, नकारात्मक मान गैर-सदस्यता का, और [0, 1] में मान फ़ज़ी सेट सिद्धांत से मिलते जुलते हैं। सहसंबंध फ़ंक्शन की गणना एक संबंधित डोमेन X_in = (a, b) और एक पड़ोस डोमेन X_out = (c, d) का उपयोग करके की जाती है, जहाँ a और c निचली सीमाएँ हैं और b और d ऊपरी सीमाएँ हैं। यह फ़ंक्शन मापता है कि एक तत्व x आदर्श सीमा से कितनी दूर है, जो एक श्रेणीबद्ध सदस्यता प्रदान करता है जिसका ENN वर्गीकरण के लिए उपयोग करता है।
आर्किटेक्चर और वर्गीकरण
ENN आर्किटेक्चर में इनपुट नोड्स और आउटपुट नोड्स होते हैं, जिनके बीच भार वैक्टर स्थित होते हैं। इनपुट नोड्स की संख्या n डेटा में विशेषताओं की संख्या से मेल खाती है, और आउटपुट नोड्स की संख्या n_c वर्गों की संख्या से मेल खाती है। प्रत्येक इनपुट उदाहरण के लिए, नेटवर्क प्रत्येक वर्ग k के लिए एक्सटेंशन दूरी सूत्र का उपयोग करके एक आउटपुट o_ik की गणना करता है, जो सहसंबंध फ़ंक्शन से प्राप्त एक दूरी मीट्रिक है। अनुमानित वर्ग सभी वर्गों में न्यूनतम एक्सटेंशन दूरी वाले वर्ग का चयन करके निर्धारित किया जाता है। यह प्रक्रिया कम्प्यूटेशनल रूप से कुशल है, जिससे ENN वास्तविक समय अनुप्रयोगों के लिए उपयुक्त हो जाता है।
दोहरी-भार संरचना मानक तंत्रिका नेटवर्क से एक प्रमुख अंतर है, जो आमतौर पर प्रति कनेक्शन एक एकल अदिश भार का उपयोग करते हैं। एक ENN में, भार प्रत्येक वर्ग के लिए प्रत्येक विशेषता की सीमा की निचली और ऊपरी सीमा को परिभाषित करते हैं। यह सीमा-आधारित प्रतिनिधित्व एक्सटेंशन सिद्धांत के अंतराल पर जोर देने के साथ संरेखित होता है और नेटवर्क को ओवरलैपिंग वर्गों को अधिक सुचारू रूप से संभालने की अनुमति देता है।
सीखने का एल्गोरिदम
ENN के लिए सीखने का एल्गोरिदम सीधा है और इसमें दो मुख्य चरण शामिल हैं: प्रारंभिकरण और समायोजन। प्रारंभिकरण के दौरान, प्रशिक्षण डेटा में प्रत्येक वर्ग के लिए प्रत्येक विशेषता के अधिकतम और न्यूनतम मानों की पहचान करके भार निर्धारित किए जाते हैं। यह चरण प्रदान किए गए डेटा के आधार पर प्रारंभिक वर्ग सीमाएँ स्थापित करता है। प्रारंभिकरण के बाद, नेटवर्क वर्गीकरण त्रुटियों को कम करने के लिए भार को पुनरावृत्त रूप से समायोजित करता है। प्रत्येक प्रशिक्षण उदाहरण के लिए, एल्गोरिदम वर्तमान वर्ग अनुमान की तुलना वास्तविक वर्ग से करता है; यदि गलत वर्गीकरण होता है, तो यह सही वर्ग की ओर सीमाओं को स्थानांतरित करने के लिए भार सीमाओं को अद्यतन करता है, जिससे विभेदन बढ़ता है। यह प्रक्रिया त्रुटि सुधार के समान है लेकिन अंतराल-आधारित प्रतिनिधित्व के अनुरूप है।
क्योंकि प्रारंभिकरण केवल चरम मानों पर निर्भर करता है, सीखने की प्रक्रिया तेज़ और अनुकूली है, जो विधि के लक्ष्य के साथ संरेखित है जो तंत्रिका सीखने को एक्सटेंशन सिद्धांत के सहसंबंध अनुमान के साथ जोड़ती है। एल्गोरिदम को ग्रेडिएंट गणना की आवश्यकता नहीं होती है, जिससे यह गहरे तंत्रिका नेटवर्क में उपयोग किए जाने वाले बैकप्रोपेगेशन की तुलना में सरल हो जाता है।
अनुप्रयोग और सीमाएँ
ENN को कई डोमेन में लागू किया गया है। औद्योगिक सेटिंग्स में, उनका उपयोग मशीनरी/उपकरण में विफलता का पता लगाने के लिए किया गया है, जहाँ कंपन या प्रदर्शन डेटा संभावित मुद्दों का संकेत देता है। चिकित्सा इमेजिंग में, ENN को एमआरआई स्कैन का उपयोग करके ऊतक वर्गीकरण के लिए नियोजित किया गया है, जो नैदानिक प्रक्रियाओं में सहायता करता है। ऑटोमोटिव उद्योग ने इंजन में दोष पहचान के लिए ENN का उपयोग किया है, जो सेंसर डेटा से खराबी की पहचान करने में मदद करता है। इसके अतिरिक्त, ENN को लेड-एसिड बैटरी में चार्ज की स्थिति का अनुमान लगाने के लिए लागू किया गया है, जो बैटरी प्रबंधन प्रणालियों के लिए महत्वपूर्ण है, और अधूरे सर्वेक्षण डेटा के साथ वर्गीकरण को संभालने के लिए, जहाँ लापता मान आम हैं। ये अनुप्रयोग विभिन्न डेटा प्रकारों और समस्या डोमेन में विधि की बहुमुखी प्रतिभा को दर्शाते हैं।
इन सफलताओं के बावजूद, ENN की सीमाएँ हैं। सीमा-आधारित प्रतिनिधित्व प्रारंभिकरण के दौरान आउटलायर्स के प्रति संवेदनशील हो सकता है, क्योंकि चरम मान वर्ग सीमाओं को भारी रूप से प्रभावित करते हैं। मॉडल यह भी मानता है कि वर्ग अंतराल द्वारा अलग किए जा सकते हैं, जो जटिल, गैर-रेखीय डेटा के लिए सही नहीं हो सकता है। इसके अलावा, ENN उच्च-आयामी डेटा के लिए आधुनिक गहन शिक्षण दृष्टिकोणों की तरह अच्छी तरह से स्केल नहीं करता है, और इसमें गहन शिक्षण मॉडल जैसे बड़े भाषा मॉडल या ट्रांसफार्मर की प्रतिनिधित्वात्मक शक्ति का अभाव है। परिणामस्वरूप, ENN मुख्य रूप से विशिष्ट अनुप्रयोगों में उपयोग किया जाता है जहाँ व्याख्यात्मकता और सरलता को कच्ची सटीकता से अधिक महत्व दिया जाता है।
संबंधित दृष्टिकोण
ENN संकर तंत्रिका-प्रतीकात्मक या तंत्रिका-गणितीय विधियों के एक परिवार से संबंधित है जो शास्त्रीय कृत्रिम बुद्धिमत्ता अवधारणाओं को तंत्रिका गणना के साथ एकीकृत करता है। उदाहरण के लिए, फ़ज़ी तंत्रिका नेटवर्क फ़ज़ी तर्क को तंत्रिका नेटवर्क के साथ जोड़ते हैं, और सपोर्ट वेक्टर मशीनें कर्नेल-आधारित पृथक्करण का उपयोग करती हैं। ENN विशेष रूप से एक्सटेंशन सिद्धांत से जुड़ा हुआ है, जिसने विशिष्ट इंजीनियरिंग और प्रबंधन संदर्भों के बाहर सीमित मुख्यधारा अपनाने को देखा है। मशीन लर्निंग में, अधिकांश समकालीन विधियाँ ग्रेडिएंट-आधारित अनुकूलन पर निर्भर करती हैं, जैसा कि गहन शिक्षण ढांचे में देखा गया है, और GPU जैसे हार्डवेयर का उपयोग करके बड़े डेटासेट पर प्रशिक्षित किया जाता है। इसके विपरीत, ENN एक हल्का विकल्प प्रदान करता है जिसके लिए न्यूनतम कम्प्यूटेशनल संसाधनों की आवश्यकता होती है, जिससे यह एम्बेडेड सिस्टम या सीमित डेटा वाले परिदृश्यों के लिए आकर्षक बन जाता है।
संक्षेप में, 2003 में वांग और हंग द्वारा पेश किया गया एक्सटेंशन न्यूरल नेटवर्क, तंत्रिका सीखने को एक्सटेंशन सिद्धांत के साथ विलय करने का एक प्रारंभिक 2000 के दशक का प्रयास है। एक्सटेंशन दूरी और सीमा-आधारित भार का इसका उपयोग एक अद्वितीय वर्गीकरण तंत्र प्रदान करता है, हालांकि इसे कृत्रिम बुद्धिमत्ता के व्यापक क्षेत्र में अधिक शक्तिशाली दृष्टिकोणों द्वारा काफी हद तक बदल दिया गया है। फिर भी, ENN एक दस्तावेजी उदाहरण बना हुआ है कि कैसे शास्त्रीय गणितीय सिद्धांत तंत्रिका नेटवर्क डिजाइन को सूचित कर सकते हैं।