मशीन लर्निंग में अनिश्चितता आकलन एक मॉडल के पूर्वानुमानों के आत्मविश्वास को मापने की प्रक्रिया को संदर्भित करता है। यह अलेटोरिक अनिश्चितता (aleatoric uncertainty) के बीच अंतर करता है, जो डेटा में निहित यादृच्छिकता से उत्पन्न होती है, और एपिस्टेमिक अनिश्चितता (epistemic uncertainty), जो मॉडल ज्ञान की कमी से उत्पन्न होती है। यह अंतर उन अनुप्रयोगों के लिए महत्वपूर्ण है जहाँ निर्णय मॉडल आउटपुट पर निर्भर करते हैं, जैसे चिकित्सा निदान, स्वायत्त ड्राइविंग, और वित्तीय पूर्वानुमान। अनिश्चितता का आकलन करके, सिस्टम कम-आत्मविश्वास वाले पूर्वानुमानों को चिह्नित कर सकते हैं, मानव समीक्षा को ट्रिगर कर सकते हैं, या तदनुसार अपने व्यवहार को समायोजित कर सकते हैं।
यह अवधारणा अनिश्चितता परिमाणीकरण (UQ) के व्यापक क्षेत्र से ली गई है, जो लंबे समय से कम्प्यूटेशनल विज्ञान और इंजीनियरिंग में उपयोग की जाती रही है। UQ का उद्देश्य कम्प्यूटेशनल मॉडल और वास्तविक दुनिया के प्रयोगों दोनों में अनिश्चितताओं को चिह्नित करना है, अक्सर सांख्यिकीय और संभाव्य तरीकों का उपयोग करके। मशीन लर्निंग में, अनिश्चितता आकलन ने डीप लर्निंग के उदय के साथ प्रमुखता प्राप्त की है, जहाँ मॉडल अक्सर अत्यधिक आत्मविश्वासी और खराब कैलिब्रेटेड होते हैं। तकनीकें बायेसियन न्यूरल नेटवर्क से लेकर एन्सेम्बल विधियों और कैलिब्रेशन प्रक्रियाओं तक होती हैं।
अनिश्चितता के स्रोत
मशीन लर्निंग मॉडल में अनिश्चितता कई स्रोतों से उत्पन्न हो सकती है, जो पारंपरिक UQ के समानांतर है। पैरामीटर अनिश्चितता तब उत्पन्न होती है जब मॉडल पैरामीटर सटीक रूप से ज्ञात नहीं होते हैं, जैसे न्यूरल नेटवर्क में वज़न जो सीमित डेटा से अनुमानित होते हैं। पैरामीट्रिक अनिश्चितता इनपुट चर में परिवर्तनशीलता से आती है, जैसे अवधारणात्मक कार्यों में सेंसर शोर। संरचनात्मक अनिश्चितता, जिसे मॉडल अपर्याप्तता भी कहा जाता है, तब होती है जब मॉडल वास्तुकला या धारणाएँ वास्तविक अंतर्निहित फ़ंक्शन को पूरी तरह से कैप्चर नहीं करती हैं। एल्गोरिदमिक अनिश्चितता प्रशिक्षण या अनुमान में संख्यात्मक अनुमानों से उत्पन्न होती है, जैसे स्टोकेस्टिक ग्रेडिएंट डिसेंट या परिमित परिशुद्धता अंकगणित। प्रायोगिक अनिश्चितता प्रशिक्षण डेटा लेबल में शोर को दर्शाती है, और इंटरपोलेशन अनिश्चितता तब उत्पन्न होती है जब प्रशिक्षण वितरण से दूर इनपुट के लिए पूर्वानुमान किए जाते हैं।
अलेटोरिक बनाम एपिस्टेमिक अनिश्चितता
मशीन लर्निंग में सबसे सामान्य वर्गीकरण अनिश्चितता को दो श्रेणियों में विभाजित करता है। अलेटोरिक अनिश्चितता, लैटिन 'एलिया' (पासा) से, डेटा में निहित अपरिवर्तनीय यादृच्छिकता है। उदाहरण के लिए, छवि वर्गीकरण में, दो समान छवियों के अलग-अलग लेबल हो सकते हैं लेबलिंग त्रुटियों या अस्पष्ट सामग्री के कारण। यह अनिश्चितता अधिक डेटा एकत्र करके कम नहीं की जा सकती। एपिस्टेमिक अनिश्चितता, ग्रीक 'एपिस्टेम' (ज्ञान) से, मॉडल या डेटा के बारे में ज्ञान की कमी के कारण अपरिवर्तनीय अनिश्चितता है। इसे अधिक प्रशिक्षण डेटा एकत्र करके, मॉडल वास्तुकला में सुधार करके, या बेहतर अनुमान विधियों का उपयोग करके घटाया जा सकता है। व्यवहार में, दोनों प्रकार अक्सर सह-अस्तित्व में होते हैं, और उन्हें अलग करना अनिश्चितता आकलन का एक प्रमुख लक्ष्य है।
बायेसियन विधियाँ
बायेसियन अनुमान एपिस्टेमिक अनिश्चितता आकलन के लिए एक सैद्धांतिक ढांचा प्रदान करता है। बायेसियन न्यूरल नेटवर्क में, वज़न का एक एकल सेट सीखने के बजाय, प्रशिक्षण डेटा दिए जाने पर वज़न पर एक पश्च वितरण की गणना की जाती है। यह पश्च पैरामीटर अनिश्चितता को कैप्चर करता है, और पूर्वानुमान इस वितरण पर एकीकृत करके किए जाते हैं। हालाँकि, आधुनिक गहरे नेटवर्क के लिए सटीक बायेसियन अनुमान असंभव है, इसलिए अनुमानों का उपयोग किया जाता है। वेरिएशनल अनुमान पश्च को एक सरल वितरण के साथ अनुमानित करता है, जबकि मार्कोव चेन मोंटे कार्लो (MCMC) विधियाँ पश्च से नमूना लेती हैं। ड्रॉपआउट, एक सामान्य नियमितीकरण तकनीक, को बायेसियन अनुमान के रूप में व्याख्या किया जा सकता है, जैसा कि यारिन गाल ने 2016 में दिखाया, जिससे वास्तुकला परिवर्तनों के बिना मौजूदा मॉडलों से अनिश्चितता अनुमान संभव हो गया।
एन्सेम्बल विधियाँ
एन्सेम्बल विधियाँ स्पष्ट बायेसियन अनुमान के लिए एक व्यावहारिक विकल्प प्रदान करती हैं। विभिन्न आरंभीकरण या डेटा उपसमुच्चय के साथ कई मॉडलों को प्रशिक्षित करके, उनके पूर्वानुमानों के बीच भिन्नता एपिस्टेमिक अनिश्चितता का अनुमान प्रदान करती है। डीप एन्सेम्बल, जिसे बालाजी लक्ष्मीनारायणन एट अल. ने 2017 में पेश किया, अच्छी तरह से कैलिब्रेटेड अनिश्चितता अनुमान उत्पन्न करने और एकल मॉडलों से बेहतर प्रदर्शन करने के लिए दिखाया गया है। एन्सेम्बल सदस्यों के पूर्वानुमानों का फैलाव अनिश्चितता को इंगित करता है, जबकि माध्य पूर्वानुमान अंतिम आउटपुट के रूप में कार्य करता है। एन्सेम्बल व्यवहार में उनकी सादगी और प्रभावशीलता के कारण व्यापक रूप से उपयोग किए जाते हैं, हालाँकि उन्हें अतिरिक्त कम्प्यूटेशनल लागत की आवश्यकता होती है।
कैलिब्रेशन और मूल्यांकन
अनिश्चितता अनुमान केवल तभी उपयोगी होते हैं जब वे अच्छी तरह से कैलिब्रेटेड हों, जिसका अर्थ है कि 0.8 की पूर्वानुमानित संभावना 80% समय सही होनी चाहिए। कैलिब्रेशन आमतौर पर विश्वसनीयता आरेखों और अपेक्षित कैलिब्रेशन त्रुटि (ECE) जैसे मेट्रिक्स का उपयोग करके मापा जाता है। आधुनिक न्यूरल नेटवर्क अक्सर खराब कैलिब्रेटेड होते हैं, विशेष रूप से जब क्रॉस-एन्ट्रॉपी लॉस और बैच नॉर्मलाइज़ेशन जैसी तकनीकों के साथ प्रशिक्षित किए जाते हैं। तापमान स्केलिंग, एक पोस्ट-हॉक कैलिब्रेशन विधि, सटीकता बदले बिना कैलिब्रेशन में सुधार करने के लिए सॉफ्टमैक्स तापमान को समायोजित करती है। अन्य विधियों में प्लैट स्केलिंग और आइसोटोनिक रिग्रेशन शामिल हैं। अनिश्चितता आकलन का मूल्यांकन भी ब्रियर स्कोर, नकारात्मक लॉग-लाइकलीहुड, और आत्मविश्वास अंतराल के कवरेज जैसे मेट्रिक्स शामिल करता है।
डीप लर्निंग में अनुप्रयोग
अनिश्चितता आकलन सुरक्षा-महत्वपूर्ण अनुप्रयोगों में महत्वपूर्ण है। स्वायत्त ड्राइविंग में, वेमो और टेस्ला ऑटोपायलट जैसी प्रणालियाँ अनिश्चितता का उपयोग करके निर्णय लेती हैं कि सेंसर डेटा पर भरोसा करना है या मानव हस्तक्षेप का अनुरोध करना है। चिकित्सा इमेजिंग में, अनिश्चितता रेडियोलॉजिस्टों को समीक्षा के लिए मामलों को प्राथमिकता देने में मदद करती है। प्राकृतिक भाषा प्रसंस्करण में, ओपनएआई और एंथ्रोपिक जैसे बड़े भाषा मॉडल अपने उत्तरों में अनिश्चितता व्यक्त कर सकते हैं, हालाँकि कैलिब्रेशन एक चुनौती बनी हुई है। अनिश्चितता सक्रिय शिक्षण में भी भूमिका निभाती है, जहाँ मॉडल लेबलिंग के लिए सबसे अनिश्चित नमूने चुनते हैं, और सुदृढीकरण शिक्षण में, जहाँ यह अन्वेषण का मार्गदर्शन करती है।
चुनौतियाँ और भविष्य की दिशाएँ
प्रगति के बावजूद, डीप लर्निंग में अनिश्चितता आकलन कई चुनौतियों का सामना करता है। स्केलेबिलिटी एक प्रमुख मुद्दा है, क्योंकि बायेसियन विधियाँ और एन्सेम्बल कम्प्यूटेशनल रूप से महंगे हैं। प्रतिकूल उदाहरण अनिश्चितता अनुमानों को मूर्ख बना सकते हैं, उन्हें अत्यधिक आत्मविश्वासी बना सकते हैं। वितरणात्मक बदलाव, जहाँ परीक्षण डेटा प्रशिक्षण डेटा से भिन्न होता है, का पता लगाना विशेष रूप से कठिन है। शोध एन्सेम्बल को बायेसियन अनुमानों के साथ जोड़ने जैसे हाइब्रिड दृष्टिकोणों की खोज कर रहा है, और मॉडल चयन और निर्णय लेने में अनिश्चितता का उपयोग कर रहा है। जैसे-जैसे मॉडल अधिक महत्वपूर्ण डोमेन में तैनात किए जाते हैं, मजबूत अनिश्चितता आकलन तेजी से महत्वपूर्ण होता जाएगा।