नाइव बेयस

Naive Bayes क्लासिफायर प्रोबेबिलिस्टिक क्लासिफायर का एक परिवार है जो Bayes के प्रमेय के आधार पर समस्या उदाहरणों को वर्ग लेबल प्रदान करते हैं। मुख्य धारणा, जिसे naive स्वतंत्रता धारणा के रूप में जाना जाता है, यह बताती है कि प्रत्येक विशेषता लक्ष्य वर्ग को देखते हुए वर्ग की संभावना में स्वतंत्र रूप से योगदान करती है। इसका मतलब है कि मॉडल मानता है कि भविष्यवक्ताओं के बीच कोई जानकारी साझा नहीं की जाती है, जो एक अवास्तविक सरलीकरण है जो क्लासिफायर को इसका नाम देता है। इसके बावजूद, naive Bayes मॉडल कुछ सबसे सरल Bayesian नेटवर्क मॉडल हैं और कई वास्तविक दुनिया के परिदृश्यों में प्रभावी साबित हुए हैं।

ये क्लासिफायर Machine learning और Artificial intelligence जैसे क्षेत्रों में व्यापक रूप से उपयोग किए जाते हैं, जैसे पाठ वर्गीकरण, स्पैम फ़िल्टरिंग और चिकित्सा निदान जैसे कार्यों के लिए। वे विशेष रूप से अपनी स्केलेबिलिटी के लिए मूल्यवान हैं, जिसमें प्रति विशेषता केवल एक पैरामीटर की आवश्यकता होती है, और छोटे प्रशिक्षण डेटा के साथ अच्छा प्रदर्शन करने की उनकी क्षमता होती है। अधिकतम-संभावना प्रशिक्षण में प्रत्येक समूह में अवलोकनों की गणना करके एक बंद-रूप अभिव्यक्ति का मूल्यांकन शामिल होता है, जो अधिकांश अन्य मॉडलों द्वारा उपयोग किए जाने वाले महंगे पुनरावृत्त सन्निकटन एल्गोरिदम से बचता है।

ऐतिहासिक विकास

Naive Bayes क्लासिफायर की जड़ें प्रारंभिक सांख्यिकीय कार्यों में हैं, जिसके सिद्धांत 18वीं शताब्दी में Thomas Bayes के कार्यों से जुड़े हैं। आधुनिक रूप 20वीं शताब्दी के मध्य में उभरा जब कंप्यूटिंग क्षमताएं बढ़ीं। 1960 के दशक में, Xerox PARC और MIT CSAIL जैसे संस्थानों के शोधकर्ताओं ने पैटर्न पहचान के लिए प्रोबेबिलिस्टिक दृष्टिकोण की खोज शुरू की। क्लासिफायर ने 1990 के दशक में Machine learning के एक अलग क्षेत्र के रूप में उभरने के साथ प्रमुखता प्राप्त की, विशेष रूप से पाठ वर्गीकरण और सूचना पुनर्प्राप्ति में अनुप्रयोगों के माध्यम से।

एक महत्वपूर्ण सैद्धांतिक मील का पत्थर 2004 में आया जब Bayesian वर्गीकरण समस्या के विश्लेषण ने क्लासिफायर की स्पष्ट प्रभावशीलता के लिए ठोस सैद्धांतिक कारण प्रदान किए, इसकी naive धारणाओं के बावजूद। हालांकि, 2006 में एक व्यापक तुलना से पता चला कि naive Bayes अक्सर अन्य दृष्टिकोणों, जैसे कि boosted trees या random forests, से बेहतर प्रदर्शन करता है, विशेष रूप से सटीकता और अनिश्चितता मात्रा निर्धारण के संदर्भ में।

प्रोबेबिलिस्टिक मॉडल

अमूर्त रूप से, naive Bayes एक सशर्त संभावना मॉडल है जो K संभावित वर्गों C_k में से प्रत्येक के लिए संभावनाएं p(C_k | x_1, ..., x_n) निर्दिष्ट करता है, जो n विशेषताओं को एन्कोड करने वाले वेक्टर x = (x_1, ..., x_n) द्वारा दर्शाए गए समस्या उदाहरण को देखते हुए। Bayes के प्रमेय का उपयोग करके, सशर्त संभावना को posterior = (prior × likelihood) / evidence के रूप में विघटित किया जा सकता है। व्यवहार में, केवल अंश रुचि का होता है, क्योंकि हर वर्ग पर निर्भर नहीं करता है और विशेषता मान दिए गए हैं।

अंश संयुक्त संभावना मॉडल p(C_k, x_1, ..., x_n) के बराबर है, जिसे श्रृंखला नियम का उपयोग करके फिर से लिखा जा सकता है। naive धारणा इसे सरल बनाती है, विशेषताओं को वर्ग को देखते हुए सशर्त रूप से स्वतंत्र मानकर, जिससे संयुक्त संभावना को व्यक्तिगत विशेषता संभावनाओं के उत्पाद के रूप में व्यक्त किया जा सकता है। यह सरलीकरण मॉडल को कई विशेषताओं या कई मानों वाली विशेषताओं के साथ भी संभालने योग्य बनाता है।

अपने निर्णय नियम में Bayes के प्रमेय का उपयोग करने के बावजूद, naive Bayes आवश्यक रूप से एक Bayesian विधि नहीं है। मॉडल को Bayesian या frequentist दोनों तरीकों का उपयोग करके फिट किया जा सकता है, और पैरामीटर अनुमान आमतौर पर अधिकतम संभावना का उपयोग करता है, जिसमें अवलोकनों की सरल गणना शामिल होती है।

प्रशिक्षण और अनुमान

Naive Bayes क्लासिफायर को प्रशिक्षित करने में प्रत्येक वर्ग की पूर्व संभावना और प्रत्येक वर्ग को देखते हुए प्रत्येक विशेषता की सशर्त संभावना का अनुमान लगाना शामिल है। अधिकतम-संभावना प्रशिक्षण के लिए, ये पैरामीटर सीधे प्रशिक्षण डेटा से गणना करके निर्धारित किए जाते हैं। उदाहरण के लिए, एक वर्ग की पूर्व संभावना उस वर्ग से संबंधित प्रशिक्षण उदाहरणों का अनुपात है, और एक वर्ग को देखते हुए एक विशेषता मान की सशर्त संभावना उस वर्ग में उस विशेषता मान वाले उदाहरणों का अनुपात है।

यह बंद-रूप अनुमान कम्प्यूटेशनल रूप से कुशल है और डेटा पर केवल एक बार पास की आवश्यकता होती है, जिससे naive Bayes बड़े डेटासेट के लिए अत्यधिक स्केलेबल बन जाता है। Laplace smoothing जैसी स्मूथिंग तकनीकें अक्सर अदृश्य विशेषता-वर्ग संयोजनों के लिए शून्य संभावनाओं से बचने के लिए लागू की जाती हैं। प्रशिक्षण की सरलता Neural network या Deep learning जैसे अधिक जटिल मॉडलों के विपरीत है, जिन्हें पुनरावृत्त अनुकूलन एल्गोरिदम की आवश्यकता होती है।

अनुप्रयोग और सीमाएं

Naive Bayes क्लासिफायर कई डोमेन में सफलतापूर्वक लागू किए गए हैं। प्राकृतिक भाषा प्रसंस्करण में, उनका उपयोग दस्तावेज़ वर्गीकरण, भावना विश्लेषण और स्पैम फ़िल्टरिंग के लिए किया जाता है। स्वास्थ्य सेवा में, वे नैदानिक प्रणालियों में सहायता करते हैं, जैसे कि Bhabha Atomic Research Centre और Nokia Bell Labs में विकसित। क्लासिफायर की दक्षता इसे वास्तविक समय के अनुप्रयोगों के लिए उपयुक्त बनाती है, जिसमें Amazon Web Services और Google Cloud प्लेटफार्मों पर शामिल हैं।

हालांकि, naive Bayes मॉडल आम तौर पर logistic regression जैसे अधिक उन्नत मॉडलों की तुलना में खराब प्रदर्शन करते हैं, विशेष रूप से अनिश्चितता की मात्रा निर्धारित करते समय, अक्सर अत्यधिक आत्मविश्वास वाली संभावनाएं उत्पन्न करते हैं। स्वतंत्रता धारणा सहसंबंधित विशेषताओं के मामले में उप-इष्टतम प्रदर्शन का कारण बन सकती है। इन सीमाओं के बावजूद, क्लासिफायर एक मूल्यवान आधार रेखा बना हुआ है और अक्सर Machine learning अनुसंधान में एक बेंचमार्क के रूप में उपयोग किया जाता है।

सैद्धांतिक औचित्य

इसकी अवास्तविक धारणाओं के बावजूद naive Bayes की प्रभावशीलता का स्पष्ट विरोधाभास व्यापक रूप से अध्ययन किया गया है। शोध से पता चला है कि क्लासिफायर की निर्णय सीमा इष्टतम हो सकती है, भले ही स्वतंत्रता धारणा का उल्लंघन हो, विशेष रूप से उन मामलों में जहां विशेषताओं के बीच निर्भरताएं एक दूसरे को रद्द कर देती हैं। यह सैद्धांतिक मजबूती, इसकी कम्प्यूटेशनल दक्षता के साथ मिलकर, व्यवहार में इसके निरंतर उपयोग की व्याख्या करती है।

2020 के दशक तक, naive Bayes एक मौलिक तकनीक बनी हुई है जिसे Machine learning पाठ्यक्रमों में पढ़ाया जाता है और प्रमुख पुस्तकालयों में लागू किया जाता है। इसके सिद्धांत Generative AI और Large language model अनुसंधान में अधिक उन्नत प्रोबेबिलिस्टिक मॉडलों को भी रेखांकित करते हैं, जहां सशर्त स्वतंत्रता धारणाएं कभी-कभी जटिल संभावना वितरण को सरल बनाने के लिए उपयोग की जाती हैं।