इन्सेप्शन, जिसे GoogLeNet के नाम से भी जाना जाता है, एक कन्वोल्यूशनल न्यूरल नेटवर्क आर्किटेक्चर है जिसे Google के शोधकर्ताओं द्वारा विकसित किया गया था और इसने इमेजनेट लार्ज स्केल विज़ुअल रिकग्निशन चैलेंज (ILSVRC) 2014 जीता था। नेटवर्क को उच्च वर्गीकरण सटीकता प्राप्त करने के साथ-साथ कम्प्यूटेशनल दक्षता बनाए रखने के लिए डिज़ाइन किया गया था, जो केवल नेटवर्क की गहराई और चौड़ाई बढ़ाने की प्रवृत्ति से एक महत्वपूर्ण विचलन था। इसका नाम, GoogLeNet, LeNet आर्किटेक्चर को श्रद्धांजलि है, जिसमें इन्सेप्शन मॉड्यूल इसका मुख्य निर्माण खंड है।
इन्सेप्शन मॉड्यूल की कल्पना कन्वोल्यूशनल परतों के लिए उपयुक्त कर्नेल आकार का चयन करने की चुनौती को संबोधित करने के लिए की गई थी। एक एकल फ़िल्टर आकार चुनने के बजाय, मॉड्यूल कई फ़िल्टर आकार (1x1, 3x3, और 5x5) को समानांतर में लागू करता है, साथ ही एक अधिकतम-पूलिंग ऑपरेशन भी करता है, और उनके आउटपुट को जोड़ता है। यह नेटवर्क को विभिन्न पैमानों पर विशेषताओं को पकड़ने की अनुमति देता है। व्यापक परतों की कम्प्यूटेशनल लागत को नियंत्रित करने के लिए, 1x1 कन्वोल्यूशन का उपयोग बाधा परतों के रूप में किया जाता है ताकि बड़े कन्वोल्यूशन से पहले इनपुट चैनलों की संख्या कम हो सके।
आर्किटेक्चर और डिज़ाइन
पूर्ण GoogLeNet आर्किटेक्चर में 22 परतें (पूलिंग परतों सहित 27) शामिल हैं, जो AlexNet जैसे पिछले आर्किटेक्चर से काफी गहरा था। नेटवर्क को क्रमिक रूप से खड़ी इन्सेप्शन मॉड्यूल की एक श्रृंखला में व्यवस्थित किया गया है, जिसमें स्थानिक आयामों को कम करने के लिए कभी-कभी अधिकतम-पूलिंग परतें शामिल होती हैं। अंतिम परतों में एक औसत पूलिंग परत, एक पूरी तरह से जुड़ी परत, और एक सॉफ्टमैक्स क्लासिफायर शामिल है। एक प्रमुख नवाचार प्रशिक्षण के दौरान मध्यवर्ती परतों से जुड़े सहायक क्लासिफायर का उपयोग था। ये सहायक आउटपुट, 0.3 के कारक के साथ भारित, लुप्त होती ढाल समस्या से निपटने में मदद करते थे, जिससे ढालों को पहले की परतों में अधिक प्रभावी ढंग से प्रवाहित होने की अनुमति मिलती थी।
नेटवर्क ने अंतिम क्लासिफायर से पहले एक वैश्विक औसत पूलिंग परत भी नियोजित की, जो पहले के CNN में आम बड़ी पूरी तरह से जुड़ी परतों की जगह लेती है। इसने मापदंडों की संख्या को काफी कम कर दिया, जिससे मॉडल अधिक मेमोरी-कुशल और ओवरफिटिंग के प्रति कम संवेदनशील हो गया। कुल पैरामीटर गणना लगभग 6.8 मिलियन थी, जो AlexNet के 60 मिलियन मापदंडों से काफी कम थी, जबकि बेहतर सटीकता प्राप्त कर रही थी।
प्रदर्शन और प्रभाव
ILSVRC 2014 में, GoogLeNet ने 6.67% की शीर्ष-5 त्रुटि दर हासिल की, जो दूसरे स्थान की प्रविष्टि (VGG, 7.3% के साथ) से आगे निकल गई और 2013 के विजेता की तुलना में एक महत्वपूर्ण सुधार प्रदर्शित किया। यह परिणाम विशेष रूप से उल्लेखनीय था क्योंकि मॉडल अपने प्रतिस्पर्धियों की तुलना में अधिक गहरा और अधिक पैरामीटर-कुशल दोनों था। इन्सेप्शन की सफलता ने इस विचार को मान्य किया कि सावधानीपूर्वक डिज़ाइन किए गए आर्किटेक्चरल घटक, न कि केवल पैमाना, प्रदर्शन लाभ को बढ़ा सकते हैं।
इन्सेप्शन आर्किटेक्चर ने डीप लर्निंग में बाद के शोध को प्रभावित किया। इसने इन्सेप्शन-v2 और इन्सेप्शन-v3 सहित शोधन की एक श्रृंखला को प्रेरित किया, जिसने बैच सामान्यीकरण और फैक्टराइज्ड कन्वोल्यूशन पेश किए। बहु-पैमाने पर विशेषता निष्कर्षण और बाधा परतों के सिद्धांत बाद के आर्किटेक्चर में व्यापक रूप से अपनाए गए। मॉडल ने ट्रांसफर लर्निंग के लिए एक आधार के रूप में भी काम किया, जिसमें पूर्व-प्रशिक्षित GoogLeNet वजन कई कंप्यूटर विज़न अनुप्रयोगों में उपयोग किए गए।
तकनीकी नवाचार
इन्सेप्शन मॉड्यूल में आयामी कमी के लिए 1x1 कन्वोल्यूशन का उपयोग एक प्रमुख योगदान था। ये कन्वोल्यूशन, जो प्रत्येक पिक्सेल पर स्वतंत्र रूप से काम करते हैं, स्थानिक जानकारी को संरक्षित करते हुए चैनलों की संख्या को कम कर सकते हैं, जिससे निषेधात्मक कम्प्यूटेशनल लागत के बिना गहरे और व्यापक नेटवर्क सक्षम होते हैं। यह तकनीक बाद में ResNet जैसे अन्य आर्किटेक्चर में लोकप्रिय हुई।
सहायक क्लासिफायर, हालांकि अनुमान के दौरान उपयोग नहीं किए गए, प्रशिक्षण के लिए महत्वपूर्ण थे। उन्होंने मध्यवर्ती गहराई पर अतिरिक्त ढाल संकेत प्रदान किए, जिससे गहरे नेटवर्क को प्रभावित करने वाली लुप्त होती ढाल समस्या कम हुई। यह दृष्टिकोण बाद में अवशिष्ट कनेक्शन द्वारा प्रतिस्थापित किया गया, लेकिन यह गहरे नेटवर्क प्रशिक्षण तकनीकों के विकास में एक महत्वपूर्ण कदम का प्रतिनिधित्व करता था।
विरासत और प्रभाव
इन्सेप्शन आर्किटेक्चर ने प्रदर्शित किया कि कुशल डिज़ाइन क्रूर-बल स्केलिंग के साथ प्रतिस्पर्धा कर सकता है और उसे पार कर सकता है। इसकी सफलता ने न्यूरल नेटवर्क में आर्किटेक्चरल खोज और मॉड्यूलर डिज़ाइन के महत्व को स्थापित करने में मदद की। GoogLeNet मॉडल नई तकनीकों का मूल्यांकन करने के लिए एक मानक बेंचमार्क बन गया, और इसके पूर्व-प्रशिक्षित संस्करण मशीन लर्निंग समुदाय में व्यापक रूप से उपयोग किए गए।
इन्सेप्शन में पेश किए गए विचार, जैसे बहु-शाखा कन्वोल्यूशन और बाधा परतें, कई आधुनिक आर्किटेक्चर में शामिल किए गए हैं, जिनमें जनरेटिव एआई और अन्य डोमेन में उपयोग किए जाने वाले शामिल हैं। मॉडल ने नेटवर्क गहराई बढ़ाने की व्यापक प्रवृत्ति में भी योगदान दिया, जो ResNet जैसे बहुत गहरे नेटवर्क के विकास में परिणत हुआ। आज, इन्सेप्शन कृत्रिम बुद्धिमत्ता और कंप्यूटर विज़न के इतिहास में एक मौलिक उदाहरण बना हुआ है, जो दर्शाता है कि विचारशील आर्किटेक्चरल विकल्प महत्वपूर्ण प्रगति कैसे ले जा सकते हैं।