डेटा ऑग्मेंटेशन एक सांख्यिकीय तकनीक है जो मौजूदा डेटा पर परिवर्तन या विक्षोभ लागू करके नए प्रशिक्षण नमूने उत्पन्न करती है। मशीन लर्निंग में, इसका व्यापक रूप से उपयोग ओवरफिटिंग को कम करने और मॉडल की सामान्यीकरण क्षमता में सुधार करने के लिए किया जाता है, जिसमें मूल डेटासेट की कई थोड़े-संशोधित प्रतियों पर मॉडल को प्रशिक्षित किया जाता है। यह दृष्टिकोण विशेष रूप से तब मूल्यवान होता है जब डेटा दुर्लभ या असंतुलित होता है, क्योंकि यह एक बड़े और अधिक विविध डेटासेट का अनुकरण कर सकता है और मॉडल की मजबूती को बढ़ा सकता है।
अपने सामान्य सांख्यिकीय रूप में, डेटा ऑग्मेंटेशन अधूरे डेटा से अधिकतम संभावना अनुमान की अनुमति देता है, जिसमें अव्यक्त चर या लापता डेटा घटकों को शामिल किया जाता है, यह एक विधि है जिसके बायेसियन विश्लेषण में महत्वपूर्ण अनुप्रयोग हैं। Machine learning के संदर्भ में, यह तकनीक विभिन्न क्षेत्रों में एक मानक अभ्यास बन गई है, छवि वर्गीकरण से लेकर सिग्नल प्रोसेसिंग तक, क्योंकि यह अतिरिक्त वास्तविक-विश्व डेटा एकत्र किए बिना मॉडल प्रदर्शन में सुधार करने में सक्षम है।
ऐतिहासिक पृष्ठभूमि और प्रारंभिक उपयोग
मशीन लर्निंग में डेटा ऑग्मेंटेशन की जड़ें 1990 के दशक के मध्य तक जाती हैं, जब कन्वोल्यूशनल न्यूरल नेटवर्क (सीएनएन) बड़े होने लगे थे। उस समय, इन नेटवर्कों को प्रभावी ढंग से प्रशिक्षित करने के लिए पर्याप्त डेटा की कमी थी, खासकर जब डेटासेट का एक हिस्सा परीक्षण के लिए आरक्षित करना पड़ता था। शोधकर्ताओं ने मौजूदा डेटा को एफाइन ट्रांसफॉर्मेशन - जैसे घूर्णन, अनुवाद और स्केलिंग - के साथ विक्षुब्ध करने का प्रस्ताव रखा, ताकि नए उदाहरण बनाए जा सकें जो मूल के समान लेबल साझा करते हों। इस दृष्टिकोण को 2003 में इलास्टिक डिस्टॉर्शन द्वारा पूरक बनाया गया, जिसने अधिक सूक्ष्म और यथार्थवादी विविधताएं पेश कीं। 2010 के दशक तक, डेटा ऑग्मेंटेशन को सीएनएन के प्रशिक्षण में व्यापक रूप से अपनाया गया, जिससे उनके प्रदर्शन में वृद्धि हुई और प्रतिकूल हमलों, जैसे प्रोफाइलिंग, के खिलाफ एक प्रतिवाद के रूप में कार्य किया।
असंतुलित डेटा के लिए सिंथेटिक ओवरसैंपलिंग
पारंपरिक मशीन लर्निंग में, एक सामान्य चुनौती असंतुलित डेटासेट है, जहां एक वर्ग में दूसरे की तुलना में काफी कम नमूने होते हैं। उदाहरण के लिए, 90 नमूनों वाले एक चिकित्सा निदान डेटासेट पर विचार करें जो स्वस्थ व्यक्तियों का प्रतिनिधित्व करते हैं और केवल 10 नमूने जो एक विशिष्ट बीमारी वाले व्यक्तियों का प्रतिनिधित्व करते हैं। ऐसे मामलों में, एल्गोरिदम अक्सर बहुमत वर्ग के प्रति पूर्वाग्रह के कारण अल्पसंख्यक वर्ग को वर्गीकृत करने में विफल रहते हैं।
सिंथेटिक माइनॉरिटी ओवर-सैंपलिंग तकनीक (SMOTE) अल्पसंख्यक वर्ग के लिए सिंथेटिक नमूने उत्पन्न करके इस समस्या का समाधान करती है। SMOTE अल्पसंख्यक वर्ग के एक नमूने को यादृच्छिक रूप से चुनकर, उसके निकटतम पड़ोसियों को ढूंढकर, और इन पड़ोसियों को जोड़ने वाले रेखा खंडों के साथ नए नमूने बनाकर काम करता है। उदाहरण के लिए, यदि बहुमत वर्ग में 100 नमूने और अल्पसंख्यक वर्ग में 10 नमूने हैं, तो SMOTE सिंथेटिक अल्पसंख्यक नमूने उत्पन्न कर सकता है जो अल्पसंख्यक को, मान लीजिए, 100 नमूनों तक बढ़ा देते हैं, जिससे डेटासेट संतुलित हो जाता है। यह तकनीक, जो 2000 के दशक की शुरुआत में उभरी, मॉडल प्रदर्शन में सुधार करती है और सारणीबद्ध डेटा के लिए डेटा ऑग्मेंटेशन की आधारशिला है।
छवि के लिए तकनीकें
छवि वर्गीकरण डेटा ऑग्मेंटेशन के प्राथमिक लाभार्थियों में से एक रहा है, विशेष रूप से डीप लर्निंग के उदय के साथ। यह अभ्यास परिवर्तनों की एक विस्तृत श्रृंखला को शामिल करने के लिए विकसित हुआ है, जो मॉडलों को बेहतर सामान्यीकरण में मदद करने के लिए प्रशिक्षण डेटा को समृद्ध करता है। सामान्य श्रेणियों में ज्यामितीय परिवर्तन, रंग स्थान समायोजन और शोर इंजेक्शन शामिल हैं।
ज्यामितीय परिवर्तन
ज्यामितीय परिवर्तन छवियों के स्थानिक गुणों को बदलते हैं, विभिन्न दृष्टिकोणों, अभिविन्यासों और स्केलों का अनुकरण करते हैं। तकनीकों में शामिल हैं:
- एफाइन ट्रांसफॉर्मेशन (जो घूर्णन, प्रतिबिंब, अनुवाद और स्केलिंग को जोड़ता है)
- घूर्णन: मॉडलों को विभिन्न कोणों पर वस्तुओं को पहचानने में मदद करने के लिए छवियों को एक निर्दिष्ट डिग्री से घुमाना।
- प्रतिबिंब: अभिविन्यास में परिवर्तनशीलता पेश करने के लिए छवियों को क्षैतिज या लंबवत रूप से प्रतिबिंबित करना।
- अनुवाद: स्थितीय अपरिवर्तनशीलता सिखाने के लिए छवियों को विभिन्न दिशाओं में स्थानांतरित करना।
- स्केलिंग: छवि के भीतर वस्तुओं के आकार को समायोजित करना।
- शीयर मैपिंग: विभिन्न देखने के कोणों की नकल करने के लिए छवियों को तिरछा करना।
- क्रॉपिंग: विशेष विशेषताओं पर ध्यान केंद्रित करने या करीबी दृश्यों का अनुकरण करने के लिए छवि के अनुभागों को हटाना।
- इलास्टिक डिस्टॉर्शन: छवि को गैर-रेखीय तरीके से विकृत करना, जो 2003 में प्रस्तावित किया गया था और हस्तलेखन पहचान जैसे कार्यों में प्रभावी रहा है।
- एक ही वर्ग के भीतर मॉर्फिंग: एक ही वर्ग से संबंधित दो छवियों के बीच मॉर्फिंग तकनीक लागू करके नए नमूने उत्पन्न करना, जिससे अंतर-वर्ग विविधता बढ़ती है।
रंग स्थान परिवर्तन
रंग स्थान परिवर्तन छवियों के रंग गुणों को संशोधित करते हैं, प्रकाश, संतृप्ति और कंट्रास्ट में भिन्नताओं को संबोधित करते हैं। इनमें शामिल हैं:
- चमक समायोजन: विभिन्न प्रकाश स्थितियों का अनुकरण करने के लिए छवि की चमक को बदलना।
- कंट्रास्ट समायोजन: विभिन्न स्पष्टता स्तरों के तहत मदद करने के लिए कंट्रास्ट को बदलना।
- संतृप्ति समायोजन: विविध रंग तीव्रता वाली छवियों के लिए मॉडल तैयार करने के लिए संतृप्ति को बदलना।
- कलर जिटरिंग: रंग परिवर्तनशीलता पेश करने के लिए चमक, कंट्रास्ट, संतृप्ति और ह्यू को यादृच्छिक रूप से समायोजित करना, जो सीएनएन में मजबूती में सुधार के लिए एक मानक है।
शोर इंजेक्शन
छवियों में शोर इंजेक्ट करना वास्तविक-विश्व की खामियों का अनुकरण करता है, मॉडलों को अप्रासंगिक भिन्नताओं को अनदेखा करना सिखाता है। सामान्य तकनीकों में शामिल हैं:
- गाऊसी शोर: सेंसर शोर या दाने की नकल करने के लिए गाऊसी शोर जोड़ना।
- सॉल्ट एंड पेपर शोर: सेंसर धूल या मृत पिक्सेल का अनुकरण करने के लिए यादृच्छिक काले या सफेद पिक्सेल पेश करना।
ये विधियां क्लासिफायर को वास्तविक-विश्व विकृतियों के प्रति मजबूत बनाने में मौलिक रही हैं, और 1990 के दशक से व्यापक रूप से उपयोग की जाती रही हैं।
सिग्नल प्रोसेसिंग के लिए डेटा ऑग्मेंटेशन
डेटा ऑग्मेंटेशन समय श्रृंखला और सिग्नल प्रोसेसिंग पर भी लागू होता है। समय श्रृंखला के लिए, अवशिष्ट या ब्लॉक बूटस्ट्रैप विधियों का उपयोग संवर्धित अनुक्रम उत्पन्न करने के लिए किया जा सकता है, जो अस्थायी डेटा पर काम करने वाले मॉडलों की मजबूती में सुधार करने में मदद करता है।
जैविक संकेत
जैविक संकेतों के क्षेत्र में, उच्च आयामीता और ऐसे डेटा की दुर्लभता के कारण डेटा ऑग्मेंटेशन अत्यंत महत्वपूर्ण है। रोबोटिक नियंत्रण और विकलांग तथा सक्षम दोनों विषयों में अनुप्रयोग, अक्सर सीमित नमूनों की संख्या के कारण विषय-विशिष्ट विश्लेषणों पर निर्भर करते हैं। हालांकि, सिंथेटिक डेटा जनरेशन इन डेटासेटों को काफी बढ़ा सकता है।
शोधकर्ताओं ने पार्किंसंस रोग के लिए इलेक्ट्रोमायोग्राफी (EMG) जैसे संकेतों को प्राप्त करने में कठिनाई पर ध्यान दिया है। Zanini एट अल. ने स्टाइल ट्रांसफर करने के लिए एक जनरेटिव एडवरसैरियल नेटवर्क (विशेष रूप से, एक डीप कन्वोल्यूशनल GAN) के उपयोग का प्रदर्शन किया, जो पार्किंसंस रोगियों के अनुरूप सिंथेटिक EMG संकेत उत्पन्न करता है। यह दृष्टिकोण दिखाता है कि Generative AI तकनीकें डेटा ऑग्मेंटेशन का समर्थन कैसे कर सकती हैं।
इसी तरह, इलेक्ट्रोएन्सेफलोग्राफी (EEG) डेटा में, Wang एट अल. ने EEG-आधारित भावना पहचान के लिए डीप कन्वोल्यूशनल न्यूरल नेटवर्क के उपयोग की खोज की, और परिणामों से पता चला कि डेटा ऑग्मेंटेशन लागू होने पर भावना पहचान सटीकता में सुधार हुआ।
सिंथेटिक सिग्नल जनरेशन के लिए एक सामान्य विधि में वास्तविक डेटा के घटकों को पुनर्व्यवस्थित करना शामिल है। Lotte ने "आर्टिफिशियल ट्रायल जनरेशन बेस्ड ऑन एनालॉजी" नामक एक विधि प्रस्तावित की, जहां तीन डेटा उदाहरण x₁, x₂, और x₃ एक आधार प्रदान करते हैं; सादृश्य द्वारा, एक कृत्रिम सिंथेटिक नमूना x_synthetic का निर्माण किया जाता है। ऐसा करने के लिए, एक परिवर्तन परिभाषित किया जाता है जो x₁ को x₂ के समान बनाने के लिए बदलता है, और फिर इस परिवर्तन को x₃ पर लागू किया जाता है, जिससे सिंथेटिक नमूना उत्पन्न होता है। इस दृष्टिकोण का उपयोग मस्तिष्क-कंप्यूटर इंटरफेस अनुप्रयोगों में किया गया है, जहां डेटा की कमी गंभीर है।
2010 के दशक में डीप लर्निंग का उदय हुआ, जिसने डेटा ऑग्मेंटेशन की आवश्यकता को बढ़ा दिया, क्योंकि न्यूरल नेटवर्क डेटा-भूखे होते हैं। SMOTE और GAN-आधारित विधियों जैसी तकनीकों को चिकित्सा इमेजिंग और जैविक संकेतों जैसे विशेष क्षेत्रों में असंतुलन और दुर्लभता को संबोधित करने के लिए टूलकिट में एकीकृत किया गया है।
अन्य विधियों से संबंध
डेटा ऑग्मेंटेशन की तुलना अक्सर नियमितीकरण के अन्य रूपों, जैसे ड्रॉपआउट या वेट डेके, से की जाती है, लेकिन यह इस मायने में अलग है कि यह मॉडल के बजाय डेटा को संशोधित करता है। यह कंप्यूटर विज़न (जैसे, ImageNet पर), प्राकृतिक भाषा प्रसंस्करण और वाक् पहचान में डीप लर्निंग मॉडल की सफलता में एक प्रमुख घटक है।
ट्रांसफॉर्मर के क्षेत्र में, डेटा ऑग्मेंटेशन आमतौर पर कम आम है क्योंकि उन मॉडलों को विशाल कॉर्पोरा पर प्रशिक्षित किया जाता है, लेकिन इसके अनुप्रयोग अभी भी हैं, उदाहरण के लिए, फाइन-ट्यूनिंग और फ्यू-शॉट लर्निंग में।
हाल के वर्षों में, जनरेटिव मॉडल स्वयं डेटा ऑग्मेंटर के रूप में उपयोग किए गए हैं, जैसे यथार्थवादी छवियां उत्पन्न करने के लिए जनरेटिव एडवरसैरियल नेटवर्क का उपयोग, लेकिन मूल और हल्की तकनीकें अपनी कम कम्प्यूटेशनल लागत के कारण लोकप्रिय बनी हुई हैं।
सीमाएं और विचार
जबकि डेटा ऑग्मेंटेशन प्रभावी है, परिवर्तनों को लेबल को संरक्षित करने के लिए चुना जाना चाहिए। उदाहरण के लिए, एक हस्तलिखित अंक का क्षैतिज फ्लिप '6' को '9' में बदल सकता है, जो मॉडल को गुमराह कर सकता है। इस प्रकार, डोमेन-विशिष्ट ऑग्मेंटेशन महत्वपूर्ण है। विभिन्न डेटासेटों को अक्सर विभिन्न ऑग्मेंटेशन रणनीतियों की आवश्यकता होती है, और अनुचित ऑग्मेंटेशन का उपयोग मॉडल सटीकता को कम कर सकता है।
छवि वर्गीकरण में, अनुसंधान की रेखा हाथ-निर्मित परिवर्तनों से सीखी गई ऑग्मेंटेशन नीतियों तक भी विस्तारित हुई है, जैसे कि AutoAugment में पाई जाने वाली, जिसे 2019 में Google में इष्टतम ऑग्मेंटेशन रणनीतियों की खोज के लिए विकसित किया गया था।
इसके अलावा, सभी क्षेत्रों में, डेटा ऑग्मेंटेशन को हमेशा एक अलग रखे गए परीक्षण सेट पर मान्य किया जाना चाहिए, क्योंकि सिंथेटिक डेटा अवास्तविक पूर्वाग्रह पेश कर सकता है। फिर भी, यह तकनीक मशीन लर्निंग अभ्यासकर्ता के शस्त्रागार में एक मौलिक उपकरण बन गई है।
चिकित्सा इमेजिंग से लेकर स्वायत्त ड्राइविंग तक, कई क्षेत्रों में व्यापक उपयोग को देखते हुए, डेटा ऑग्मेंटेशन आधुनिक AI में एक आधारभूत तत्व है। अमेज़न वेब सर्विसेज, Azure, और गूगल क्लाउड जैसे प्रमुख क्लाउड सेवा प्रदाताओं द्वारा इसका अपनाना, मानक एल्गोरिदम को उनकी स्वचालित मशीन लर्निंग पाइपलाइनों में एकीकृत करने की अनुमति देता है, जिससे उपयोगकर्ता कस्टम कोड लिखे बिना इन तकनीकों से लाभ उठा सकते हैं।
Overfitting को कम करने में तकनीक की प्रभावशीलता इसे सीमित डेटासेट पर प्रशिक्षित मॉडलों के लिए आवश्यक बनाती है, और यह अनुसंधान का एक गतिशील क्षेत्र बना हुआ है, जिसमें जनरेटिव मॉडल में प्रगति वास्तविक वितरणों की बारीकी से नकल करने वाले सिंथेटिक डेटा बनाने के लिए नई संभावनाएं प्रदान करती है।
संक्षेप में, डेटा ऑग्मेंटेशन एक बहुमुखी, शक्तिशाली विधि है जो डेटा दुर्लभता, असंतुलन और ओवरफिटिंग को संबोधित करती है, और कंप्यूटर विज़न से लेकर प्राकृतिक भाषा प्रसंस्करण तक के अनुप्रयोगों के साथ।