ट्रांसफर लर्निंग एक कार्य से किसी मॉडल, या उसके द्वारा सीखे गए प्रतिनिधित्वों को, किसी भिन्न लेकिन संबंधित कार्य के लिए शुरुआती बिंदु के रूप में पुनः उपयोग करने की प्रथा है, बजाय यादृच्छिक रूप से आरंभ किए गए भारों से एक नया मॉडल प्रशिक्षित करने के। यह इस अवलोकन पर आधारित है कि किसी डोमेन के भीतर कई कार्य, जैसे छवियों में किनारों और आकृतियों को पहचानना या पाठ में व्याकरण और शब्द संबंधों को समझना, अंतर्निहित संरचना साझा करते हैं, इसलिए एक मॉडल जो पहले से उस संरचना को सीख चुका है, उसे आगे विशेषज्ञता हासिल करने के लिए अपेक्षाकृत कम अतिरिक्त डेटा की आवश्यकता होती है।
इतिहास और प्रेरणा
ट्रांसफर लर्निंग की जड़ें संज्ञानात्मक विज्ञान और 1990 के दशक के प्रारंभिक मशीन लर्निंग अनुसंधान में हैं, जो "सीखना सीखना" की खोज कर रहा था, लेकिन यह 2012 के ImageNet क्षण के बाद एक प्रमुख व्यावहारिक प्रतिमान बन गया, जब AlexNet ने प्रदर्शित किया कि दस लाख लेबल वाली छवियों पर प्रशिक्षित एक Convolutional neural network ने दृश्य विशेषताएं, किनारे, बनावट और वस्तु के हिस्से सीखे, जो पूरी तरह से अलग छवि वर्गीकरण समस्याओं में केवल थोड़ी मात्रा में कार्य-विशिष्ट डेटा और पुनः प्रशिक्षण के साथ उल्लेखनीय रूप से स्थानांतरित हो गए। इसने ट्रांसफर लर्निंग को वर्षों तक कंप्यूटर विज़न में डिफ़ॉल्ट रणनीति बना दिया: शुरू से प्रशिक्षण देने के बजाय, चिकित्सक एक ImageNet-पूर्व-प्रशिक्षित नेटवर्क लेते और उसे अनुकूलित करते।
प्राकृतिक भाषा प्रसंस्करण में, एक समान बदलाव बाद में आया, जिसे जेरेमी हॉवर्ड और सेबेस्टियन रुडर के ULMFiT दृष्टिकोण जैसे कार्यों ने उत्प्रेरित किया और फिर 2018 में BERT द्वारा निर्णायक रूप से, जिसने दिखाया कि एक सामान्य भाषा-मॉडलिंग उद्देश्य पर पूर्व-प्रशिक्षित एक एकल मॉडल को NLP कार्यों की एक विस्तृत श्रृंखला में अत्याधुनिक प्रदर्शन के लिए फाइन-ट्यून किया जा सकता है। इसने "पहले प्रशिक्षित करें फिर स्थानांतरित करें" को मानक प्रक्रिया के रूप में स्थापित किया जो आधुनिक बड़े भाषा मॉडल को रेखांकित करना जारी रखती है।
पूर्व-प्रशिक्षण और फाइन-ट्यूनिंग से संबंध
ट्रांसफर लर्निंग सामान्य सिद्धांत है; पूर्व-प्रशिक्षण और फाइन-ट्यूनिंग विशिष्ट तंत्र हैं जिनके द्वारा इसे आज डीप लर्निंग में आमतौर पर किया जाता है। एक मॉडल को एक बड़े, सामान्य डेटासेट पर पूर्व-प्रशिक्षित किया जाता है, अक्सर स्व-पर्यवेक्षित शिक्षण का उपयोग करके ताकि किसी मैन्युअल लेबल की आवश्यकता न हो, और फिर इस पूर्व-प्रशिक्षित मॉडल को लक्ष्य कार्य के लिए एक छोटे लेबल वाले डेटासेट पर फाइन-ट्यून किया जाता है। ट्रांसफर लर्निंग की सफलता इस बात पर निर्भर करती है कि स्रोत और लक्ष्य कार्य या डोमेन कितने संबंधित हैं: प्राकृतिक छवियों से मेडिकल एक्स-रे में स्थानांतरण दो प्राकृतिक-छवि कार्यों के बीच स्थानांतरण की तुलना में कम अच्छा काम करता है, क्योंकि डेटा की निम्न-स्तरीय सांख्यिकीय संरचना अधिक भिन्न होती है।
तकनीकें
पूर्व-प्रशिक्षित मॉडल के कितने हिस्से को अनुकूलित करना है, इसके लिए कई रणनीतियाँ मौजूद हैं। फीचर एक्सट्रैक्शन पूर्व-प्रशिक्षित नेटवर्क को पूरी तरह से स्थिर कर देता है और उसके आउटपुट के ऊपर केवल एक नई अंतिम परत को प्रशिक्षित करता है, जो तब उपयोगी होता है जब लक्ष्य डेटासेट बहुत छोटा हो। पूर्ण फाइन-ट्यूनिंग सभी मापदंडों को अपडेट करती है और आमतौर पर पर्याप्त लक्ष्य-डोमेन डेटा उपलब्ध होने पर सर्वोत्तम प्रदर्शन प्राप्त करती है। LoRA जैसी पैरामीटर-कुशल विधियाँ इन चरम सीमाओं के बीच स्थित हैं, जो अधिकांश पूर्व-प्रशिक्षित भारों को अछूता छोड़ते हुए थोड़ी संख्या में अतिरिक्त मापदंडों को अनुकूलित करती हैं, जो विशेष रूप से महत्वपूर्ण हो गया है क्योंकि आधार मॉडल सैकड़ों अरबों मापदंडों तक बढ़ गए हैं।
महत्व
ट्रांसफर लर्निंग एक प्रमुख कारण है कि डीप लर्निंग कुछ संसाधन-संपन्न प्रयोगशालाओं के बाहर व्यावहारिक बन गई: एक शोध टीम या कंपनी जिसके पास शुरू से एक बड़ा मॉडल प्रशिक्षित करने का बजट नहीं है, वह मौजूदा पूर्व-प्रशिक्षित मॉडल को अनुकूलित करके एक सक्षम, विशेषीकृत प्रणाली बना सकती है। यह फाउंडेशन मॉडल की ओर व्यापक बदलाव को भी रेखांकित करता है, जहाँ एक एकल बड़ा पूर्व-प्रशिक्षित मॉडल कई डाउनस्ट्रीम अनुप्रयोगों के लिए साझा आधार के रूप में कार्य करता है, बजाय प्रत्येक अनुप्रयोग को अपने स्वयं के मॉडल की शुरू से प्रशिक्षित करने की आवश्यकता के। तकनीक की केंद्रीय सीमा, जिसे कभी-कभी नकारात्मक स्थानांतरण कहा जाता है, यह है कि किसी मॉडल को उसके पूर्व-प्रशिक्षण डेटा से बहुत अधिक भिन्न डोमेन में अनुकूलित करना शुरू से प्रशिक्षण से भी बदतर प्रदर्शन कर सकता है, जिससे अच्छी तरह से मेल खाने वाले आधार मॉडल का चयन एक महत्वपूर्ण व्यावहारिक निर्णय बन जाता है।