स्टोकास्टिक ग्रेडिएंट डिसेंट (अक्सर SGD के रूप में संक्षिप्त) एक पुनरावृत्तीय विधि है जो उपयुक्त स्मूथनेस गुणों, जैसे कि अवकलनीयता या उप-अवकलनीयता, वाले उद्देश्य फलन को अनुकूलित करने के लिए उपयोग की जाती है। इसे ग्रेडिएंट डिसेंट अनुकूलन का एक स्टोकास्टिक सन्निकटन माना जा सकता है, क्योंकि यह पूरे डेटा सेट से गणना किए गए वास्तविक ग्रेडिएंट को, डेटा के यादृच्छिक रूप से चयनित उपसमुच्चय से गणना किए गए अनुमान से प्रतिस्थापित करता है। विशेष रूप से उच्च-आयामी अनुकूलन समस्याओं में, यह बहुत उच्च कम्प्यूटेशनल बोझ को कम करता है, कम अभिसरण दर के बदले में तेज़ पुनरावृत्तियाँ प्राप्त करता है। स्टोकास्टिक सन्निकटन के पीछे की मूल अवधारणा 1950 के दशक के रॉबिंस-मोनरो एल्गोरिदम से जुड़ी है। आज, स्टोकास्टिक ग्रेडिएंट डिसेंट Machine learning और संबंधित क्षेत्रों में एक महत्वपूर्ण अनुकूलन विधि बन गया है।
सांख्यिकीय अनुमान और मशीन लर्निंग दोनों ही एक उद्देश्य फलन को न्यूनतम करने की समस्या पर विचार करते हैं जिसका रूप योग है: Q(w) = (1/n) Σ Q_i(w), जहाँ पैरामीटर w जो Q(w) को न्यूनतम करता है, का अनुमान लगाया जाना है। प्रत्येक योग फलन Q_i आमतौर पर प्रशिक्षण के लिए उपयोग किए जाने वाले डेटा सेट में i-वें अवलोकन से जुड़ा होता है। शास्त्रीय सांख्यिकी में, योग-न्यूनीकरण समस्याएँ न्यूनतम वर्गों और स्वतंत्र अवलोकनों के लिए अधिकतम संभावना अनुमान में उत्पन्न होती हैं। अनुमानकों का सामान्य वर्ग जो योगों के न्यूनतमकर्ता के रूप में उत्पन्न होते हैं, M-अनुमानक कहलाते हैं। हालाँकि, सांख्यिकी में, यह लंबे समय से मान्यता प्राप्त है कि अधिकतम संभावना अनुमान की कुछ समस्याओं के लिए स्थानीय न्यूनीकरण की आवश्यकता भी बहुत प्रतिबंधात्मक है। इसलिए, समकालीन सांख्यिकीय सिद्धांतकार अक्सर संभावना फलन के स्थिर बिंदुओं, या इसके व्युत्पन्न, स्कोर फलन, और अन्य अनुमान समीकरणों के शून्य पर विचार करते हैं। योग-न्यूनीकरण समस्या अनुभवजन्य जोखिम न्यूनीकरण के लिए भी उत्पन्न होती है, जहाँ Q_i(w) i-वें उदाहरण पर हानि फलन का मान है, और Q(w) अनुभवजन्य जोखिम है।
जब उपरोक्त फलन को न्यूनतम करने के लिए उपयोग किया जाता है, तो एक मानक (या "बैच") ग्रेडिएंट डिसेंट विधि निम्नलिखित पुनरावृत्तियाँ करेगी: w := w - η ∇Q(w) = w - (η/n) Σ ∇Q_i(w)। चरण आकार को η द्वारा दर्शाया जाता है, जिसे कभी-कभी मशीन लर्निंग में सीखने की दर कहा जाता है, और ":=" एल्गोरिदम में एक चर के अद्यतन को दर्शाता है। कई मामलों में, योग फलनों का एक सरल रूप होता है जो योग-फलन और योग ग्रेडिएंट के सस्ते मूल्यांकन को सक्षम बनाता है। उदाहरण के लिए, सांख्यिकी में, एक-पैरामीटर घातीय परिवार किफायती फलन-मूल्यांकन और ग्रेडिएंट-मूल्यांकन की अनुमति देते हैं। हालाँकि, अन्य मामलों में, योग-ग्रेडिएंट का मूल्यांकन करने के लिए सभी योग फलनों के ग्रेडिएंट के महंगे मूल्यांकन की आवश्यकता हो सकती है। जब प्रशिक्षण सेट बहुत बड़ा होता है और कोई सरल सूत्र मौजूद नहीं होते हैं, तो ग्रेडिएंट के योग का मूल्यांकन बहुत महंगा हो जाता है, क्योंकि ग्रेडिएंट का मूल्यांकन करने के लिए सभी योग फलनों के ग्रेडिएंट का मूल्यांकन करना आवश्यक होता है। हर पुनरावृत्ति पर कम्प्यूटेशनल लागत बचाने के लिए, स्टोकास्टिक ग्रेडिएंट डिसेंट हर चरण पर योग फलनों के एक उपसमुच्चय का नमूना लेता है। यह बड़े पैमाने पर मशीन लर्निंग समस्याओं के मामले में बहुत प्रभावी है।
पुनरावृत्तीय विधि
स्टोकास्टिक (या "ऑन-लाइन") ग्रेडिएंट डिसेंट में, Q(w) के वास्तविक ग्रेडिएंट का अनुमान एक एकल नमूने पर ग्रेडिएंट द्वारा लगाया जाता है: w := w - η ∇Q_i(w)। जैसे ही एल्गोरिदम प्रशिक्षण सेट के माध्यम से घूमता है, यह प्रत्येक प्रशिक्षण नमूने के लिए उपरोक्त अद्यतन करता है। एल्गोरिदम के अभिसरण तक प्रशिक्षण सेट पर कई पास बनाए जा सकते हैं। यदि ऐसा किया जाता है, तो चक्रों को रोकने के लिए प्रत्येक पास के लिए डेटा को फेरबदल किया जा सकता है। विशिष्ट कार्यान्वयन अनुकूली सीखने की दर का उपयोग कर सकते हैं ताकि एल्गोरिदम अभिसरण करे। स्यूडोकोड में, स्टोकास्टिक ग्रेडिएंट डिसेंट को निम्नानुसार प्रस्तुत किया जा सकता है:
- प्रारंभिक पैरामीटर वेक्टर w और सीखने की दर η चुनें।
- अभिसरण तक दोहराएँ:
- प्रशिक्षण नमूनों को फेरबदल करें।
- प्रत्येक प्रशिक्षण नमूने i के लिए:
- ग्रेडिएंट ∇Q_i(w) की गणना करें।
- पैरामीटर अद्यतन करें: w := w - η ∇Q_i(w)।
वास्तविक ग्रेडिएंट और एक एकल नमूने पर ग्रेडिएंट की गणना के बीच एक समझौता यह है कि प्रत्येक चरण पर एक से अधिक प्रशिक्षण नमूनों के विरुद्ध ग्रेडिएंट की गणना की जाए, जिसे "मिनी-बैच" कहा जाता है। यह वर्णित "सच्चे" स्टोकास्टिक ग्रेडिएंट डिसेंट की तुलना में काफी बेहतर प्रदर्शन कर सकता है, क्योंकि कोड प्रत्येक चरण को अलग से गणना करने के बजाय वेक्टराइजेशन लाइब्रेरी का उपयोग कर सकता है, जैसा कि पहली बार 1986 के एक पेपर में दिखाया गया था जहाँ इसे "बंच-मोड बैकप्रोपेगेशन एल्गोरिदम" कहा गया था। यह स्मूथ अभिसरण भी कर सकता है, क्योंकि प्रत्येक चरण पर गणना किया गया ग्रेडिएंट अधिक प्रशिक्षण नमूनों पर औसत होता है।
स्टोकास्टिक ग्रेडिएंट डिसेंट के अभिसरण का विश्लेषण उत्तल न्यूनीकरण और स्टोकास्टिक सन्निकटन के सिद्धांतों का उपयोग करके किया गया है। संक्षेप में, जब सीखने की दरें η उचित दर से घटती हैं, और अपेक्षाकृत हल्की मान्यताओं के अधीन, स्टोकास्टिक ग्रेडिएंट डिसेंट लगभग निश्चित रूप से एक वैश्विक न्यूनतम पर अभिसरण करता है जब उद्देश्य फलन उत्तल या छद्म-उत्तल होता है, और अन्यथा लगभग निश्चित रूप से एक स्थानीय न्यूनतम पर अभिसरण करता है। यह वास्तव में रॉबिंस-सीगमंड प्रमेय का एक परिणाम है।
रैखिक प्रतिगमन
मान लीजिए कि हम प्रशिक्षण उदाहरणों (x_i, y_i) के एक सेट पर एक सीधी रेखा y = w^T x फिट करना चाहते हैं। उद्देश्य फलन माध्य वर्ग त्रुटि है: Q(w) = (1/n) Σ (y_i - w^T x_i)^2। एक एकल उदाहरण के लिए ग्रेडिएंट ∇Q_i(w) = -2 (y_i - w^T x_i) x_i है। स्टोकास्टिक ग्रेडिएंट डिसेंट में, अद्यतन नियम w := w + 2η (y_i - w^T x_i) x_i बन जाता है। यह न्यूनतम माध्य वर्ग (LMS) एल्गोरिदम के बराबर है, जिसे विड्रो-हॉफ नियम के रूप में भी जाना जाता है, जिसे Bernard Widrow और टेड हॉफ ने 1960 में पेश किया था। LMS एल्गोरिदम स्टोकास्टिक सन्निकटन का एक क्लासिक उदाहरण है और अनुकूली सिग्नल प्रोसेसिंग में व्यापक रूप से उपयोग किया गया है।
मशीन लर्निंग में अनुप्रयोग
स्टोकास्टिक ग्रेडिएंट डिसेंट Neural network प्रशिक्षण के लिए मुख्य अनुकूलन एल्गोरिदम है, जिसमें Deep learning मॉडल शामिल हैं। आधुनिक डीप लर्निंग में, SGD और इसके प्रकार वर्गीकरण के लिए क्रॉस-एंट्रॉपी या प्रतिगमन के लिए माध्य वर्ग त्रुटि जैसे हानि फलनों को न्यूनतम करने के लिए उपयोग किए जाते हैं। बड़े डेटासेट को संभालने में एल्गोरिदम की दक्षता इसे विशाल कोरपोरा पर मॉडल प्रशिक्षण के लिए आवश्यक बनाती है, जैसे कि Large language model में उपयोग किए जाने वाले। उदाहरण के लिए, Jakob Uszkoreit, Lukasz Kaiser, और अन्य द्वारा 2017 के पेपर "Attention Is All You Need" में पेश किए गए ट्रांसफॉर्मर-आधारित मॉडल का प्रशिक्षण, SGD या इसके अनुकूली प्रकार जैसे Adam (Optimizer) पर निर्भर करता है।
SGD का उपयोग Artificial intelligence के अन्य क्षेत्रों में भी किया जाता है, जिसमें कंप्यूटर विज़न, प्राकृतिक भाषा प्रसंस्करण और सुदृढीकरण लर्निंग शामिल हैं। सुदृढीकरण लर्निंग में, SGD का उपयोग नीति और मूल्य फलन मापदंडों को अद्यतन करने के लिए किया जाता है, जैसे कि नीति ग्रेडिएंट विधियों में। एल्गोरिदम की स्टोकास्टिक प्रकृति इसे गैर-उत्तल अनुकूलन समस्याओं में स्थानीय न्यूनतम से बचने की अनुमति देती है, जो जटिल हानि परिदृश्यों वाले गहरे नेटवर्क के प्रशिक्षण के लिए विशेष रूप से महत्वपूर्ण है।
प्रकार और सुधार
अभिसरण और स्थिरता में सुधार के लिए स्टोकास्टिक ग्रेडिएंट डिसेंट के कई प्रकार विकसित किए गए हैं। एक सामान्य सुधार गति (मोमेंटम) का उपयोग है, जो सुसंगत दिशाओं में ग्रेडिएंट को तेज करने और दोलनों को कम करने के लिए एक वेग वेक्टर जमा करता है। एक और नेस्टरोव त्वरित ग्रेडिएंट है, जो एक लुकहेड स्थिति पर ग्रेडिएंट की गणना करता है। अनुकूली सीखने की दर विधियाँ, जैसे Adam (Optimizer), ग्रेडिएंट के पहले और दूसरे क्षणों के अनुमानों के आधार पर प्रति पैरामीटर सीखने की दर को समायोजित करती हैं। ये विधियाँ व्यवहार में व्यापक रूप से उपयोग की जाती हैं और अक्सर तंत्रिका नेटवर्क प्रशिक्षण के लिए डिफ़ॉल्ट अनुकूलक मानी जाती हैं।
अन्य संबंधित तकनीकों में Learning Rate Scheduling शामिल हैं, जो समय के साथ सीखने की दर को समायोजित करते हैं, और Gradient Clipping, जो बड़े ग्रेडिएंट को छोटा करके विस्फोटक ग्रेडिएंट को रोकता है। Batch Normalization और Layer Normalization अक्सर SGD के साथ संयोजन में प्रशिक्षण को स्थिर करने और उच्च सीखने की दर की अनुमति देने के लिए उपयोग किए जाते हैं। इसके अतिरिक्त, Weight Initialization रणनीतियाँ, जैसे कि ज़ेवियर या हे आरंभीकरण, प्रभावी SGD प्रशिक्षण के लिए महत्वपूर्ण हैं।
चुनौतियाँ और विचार
स्टोकास्टिक ग्रेडिएंट डिसेंट में मुख्य चुनौतियों में से एक सीखने की दर का चयन है। यदि सीखने की दर बहुत अधिक है, तो एल्गोरिदम विचलन कर सकता है; यदि बहुत कम है, तो अभिसरण धीमा हो सकता है। व्यवहार में, इस मुद्दे को कम करने के लिए सीखने की दर अनुसूचियों या अनुकूली विधियों का उपयोग किया जाता है। एक और चुनौती डेटा के उपसमुच्चय का उपयोग करने से उत्पन्न शोर है, जो हानि में उतार-चढ़ाव का कारण बन सकता है। हालाँकि, यह शोर फायदेमंद भी हो सकता है, क्योंकि यह एल्गोरिदम को तेज न्यूनतम से बचने और सपाट न्यूनतम खोजने में मदद कर सकता है जो बेहतर सामान्यीकरण करते हैं।
SGD सुविधाओं के स्केलिंग के प्रति संवेदनशील है, इसलिए सुविधा सामान्यीकरण की अक्सर सिफारिश की जाती है। मिनी-बैच आकार का चुनाव भी प्रदर्शन को प्रभावित करता है: छोटे बैच अधिक शोर पेश करते हैं लेकिन कम मेमोरी की आवश्यकता होती है, जबकि बड़े बैच स्मूथ ग्रेडिएंट प्रदान करते हैं लेकिन खराब सामान्यीकरण का कारण बन सकते हैं। वितरित प्रशिक्षण में, SGD को सिंक्रोनस या एसिंक्रोनस अद्यतन जैसी तकनीकों का उपयोग करके समानांतर किया जा सकता है, जैसा कि TensorFlow और PyTorch जैसे फ्रेमवर्क में लागू किया गया है।
ऐतिहासिक संदर्भ
स्टोकास्टिक ग्रेडिएंट डिसेंट की जड़ें रॉबिंस-मोनरो एल्गोरिदम से जुड़ी हैं, जिसे हर्बर्ट रॉबिंस और सटन मोनरो ने 1951 में विकसित किया था, जिसने रूट-फाइंडिंग के लिए स्टोकास्टिक सन्निकटन की अवधारणा पेश की। 1960 के दशक में, Bernard Widrow और टेड हॉफ द्वारा LMS एल्गोरिदम ने अनुकूली फ़िल्टरिंग के लिए समान सिद्धांतों को लागू किया। तंत्रिका नेटवर्क प्रशिक्षण से संबंध 1980 के दशक में बैकप्रोपेगेशन के लोकप्रियकरण के साथ स्थापित किया गया था। 1986 में, डेविड रुमेलहार्ट, जेफ्री हिंटन और रोनाल्ड विलियम्स ने एक पेपर प्रकाशित किया जिसने आंतरिक प्रतिनिधित्व सीखने के लिए SGD के साथ बैकप्रोपेगेशन की प्रभावशीलता का प्रदर्शन किया। तब से, SGD मशीन लर्निंग की आधारशिला बन गया है, जिससे छवि पहचान, भाषण पहचान और प्राकृतिक भाषा प्रसंस्करण जैसे क्षेत्रों में सफलताएँ संभव हुई हैं।
2010 के दशक में, डीप लर्निंग के उदय और बड़े डेटासेट और शक्तिशाली हार्डवेयर, जैसे NVIDIA और AMD से GPU की उपलब्धता ने SGD को अपनाने में तेजी लाई। Stanford AI Lab, BAIR (Berkeley AI Research), और University of Toronto जैसे शोध संस्थानों ने सैद्धांतिक और व्यावहारिक प्रगति में योगदान दिया। आज, SGD अनुसंधान का एक सक्रिय क्षेत्र बना हुआ है, जिसमें इसके सामान्यीकरण गुणों को समझने और नए प्रकार विकसित करने पर चल रहा काम शामिल है।