एक छिपा हुआ मार्कोव मॉडल (HMM) एक सांख्यिकीय मॉडल है जिसमें एक प्रणाली को अप्रेक्षित (छिपे) राज्यों के साथ एक मार्कोव प्रक्रिया का पालन करने वाला माना जाता है, और प्रत्येक राज्य एक संभाव्यता वितरण के अनुसार एक अवलोकनीय आउटपुट उत्पन्न करता है। मॉडल दो स्टोकेस्टिक प्रक्रियाओं द्वारा परिभाषित होता है: एक छिपा राज्य अनुक्रम X और एक अवलोकनीय अनुक्रम Y, जहां किसी भी समय Y का परिणाम केवल X की वर्तमान स्थिति पर निर्भर करता है, न कि पिछले राज्यों या अवलोकनों पर। यह सशर्त स्वतंत्रता गुण HMM को अनुक्रमिक डेटा का विश्लेषण करने के लिए सुगम बनाता है जहां अंतर्निहित कारण सीधे दिखाई नहीं देते हैं।
HMM व्यापक रूप से थर्मोडायनामिक्स, सांख्यिकीय यांत्रिकी, भौतिकी, रसायन विज्ञान, अर्थशास्त्र, वित्त, सिग्नल प्रोसेसिंग, सूचना सिद्धांत, और पैटर्न पहचान सहित विभिन्न विषयों में लागू होते हैं। विशिष्ट उपयोग मामलों में भाषण पहचान, हस्तलेखन पहचान, हावभाव पहचान, शब्द-भेद टैगिंग, संगीत स्कोर अनुसरण, आंशिक निर्वहन का विश्लेषण, और जैव सूचना विज्ञान शामिल हैं। यह ढांचा अवलोकित अनुक्रमों से छिपे राज्यों का अनुमान लगाने और डेटा से मॉडल मापदंडों का अनुमान लगाने का एक सैद्धांतिक तरीका प्रदान करता है।
गणितीय परिभाषा
औपचारिक रूप से, मान लें कि X_n और Y_n n ≥ 1 के लिए असतत-समय स्टोकेस्टिक प्रक्रियाएं हैं। जोड़ी (X_n, Y_n) एक छिपा हुआ मार्कोव मॉडल है यदि X_n एक मार्कोव प्रक्रिया है जिसका व्यवहार सीधे अवलोकनीय नहीं है, और प्रत्येक n ≥ 1, प्रत्येक अनुक्रम x_1, ..., x_n, और प्रत्येक बोरेल सेट A के लिए, संभावना P(Y_n ∈ A | X_1 = x_1, ..., X_n = x_n) बराबर है P(Y_n ∈ A | X_n = x_n) के। यह शर्त सुनिश्चित करती है कि समय n पर अवलोकन केवल उसी समय के छिपे राज्य पर निर्भर करता है। एक सतत-समय एनालॉग भी मौजूद है जहां X_t और Y_t सतत-समय प्रक्रियाएं हैं और समय t_0 पर अवलोकन केवल X_{t_0} पर निर्भर करता है, सभी पिछले राज्यों को देखते हुए।
पैरामीटर अनुमान
HMM मापदंडों का अनुमान आमतौर पर अधिकतम संभावना अनुमान का उपयोग करता है। रैखिक श्रृंखला HMM के लिए, बाउम-वेल्च एल्गोरिथ्म, जो अपेक्षा-अधिकतमीकरण (EM) एल्गोरिथ्म का एक विशेष मामला है, आमतौर पर नियोजित होता है। यह पुनरावृत्त प्रक्रिया वर्तमान मापदंडों (E-चरण) को देखते हुए अपेक्षित पर्याप्त आँकड़ों की गणना और अपेक्षित लॉग-संभावना (M-चरण) को अधिकतम करने के लिए मापदंडों को अद्यतन करने के बीच वैकल्पिक होती है। एल्गोरिथ्म संभावना फ़ंक्शन के स्थानीय अधिकतम पर अभिसरण करता है, हालांकि वैश्विक इष्टतमता की गारंटी नहीं है। व्यवहार में, परिणामों को बेहतर बनाने के लिए अक्सर कई यादृच्छिक आरंभीकरण का उपयोग किया जाता है।
अनुमान एल्गोरिथ्म
पैरामीटर अनुमान के अलावा, HMM को अनुमान के लिए एल्गोरिथ्म की आवश्यकता होती है। फॉरवर्ड एल्गोरिथ्म मॉडल को देखते हुए एक अवलोकित अनुक्रम की संभावना की गणना करता है, जो मॉडल तुलना के लिए उपयोगी है। विटरबी एल्गोरिथ्म सबसे संभावित छिपे राज्य अनुक्रम को ढूंढता है जिसने एक दिए गए अवलोकन अनुक्रम को उत्पन्न किया, जो भाषण पहचान जैसे डिकोडिंग कार्यों में व्यापक रूप से उपयोग किया जाता है। फॉरवर्ड-बैकवर्ड एल्गोरिथ्म प्रत्येक समय चरण पर प्रत्येक छिपे राज्य की पश्च संभावनाओं की गणना करता है, जिससे स्मूथिंग और विभाजन जैसे कार्य सक्षम होते हैं। ये सभी एल्गोरिथ्म बहुपद समय में चलते हैं, जिससे HMM कई अनुप्रयोगों के लिए कम्प्यूटेशनल रूप से कुशल बनते हैं।
अनुक्रम मॉडलिंग में अनुप्रयोग
HMM अनुक्रम मॉडलिंग में मौलिक रहे हैं, विशेष रूप से गहन शिक्षण के उदय से पहले। भाषण पहचान में, HMM ध्वनियों को छिपे राज्यों के रूप में मॉडल करते हैं जिनमें ध्वनिक अवलोकन आउटपुट होते हैं। जैव सूचना विज्ञान में, उनका उपयोग जीन खोज, प्रोटीन माध्यमिक संरचना भविष्यवाणी, और अनुक्रम संरेखण के लिए किया जाता है। प्राकृतिक भाषा प्रसंस्करण में, HMM शब्द-भेद टैगिंग और नामित इकाई पहचान पर लागू किए गए थे। जबकि आधुनिक दृष्टिकोण जैसे Transformer (architecture) मॉडल और Neural network आर्किटेक्चर ने कई डोमेन में HMM को काफी हद तक प्रतिस्थापित कर दिया है, HMM सीमित डेटा वाली समस्याओं या जहां व्याख्यात्मकता और संभाव्य गारंटी महत्वपूर्ण हैं, के लिए मूल्यवान बने हुए हैं। वे अधिक जटिल Sequence-to-Sequence (Seq2Seq) मॉडल और Generative AI प्रणालियों के लिए एक वैचारिक पुल के रूप में भी कार्य करते हैं।
आधुनिक मशीन लर्निंग से संबंध
HMM Machine learning और Artificial intelligence के साथ वैचारिक जड़ें साझा करते हैं, विशेष रूप से अव्यक्त चर पर संभाव्य अनुमान पर उनके ध्यान में। बाउम-वेल्च एल्गोरिथ्म ने बाद के Deep learning अनुकूलन तकनीकों को प्रभावित किया, और छिपे राज्यों का विचार Large language model आर्किटेक्चर में बना रहता है। हालांकि, HMM एक निश्चित मार्कोव संरचना और असतत राज्यों को मानते हैं, जबकि आधुनिक मॉडल जैसे Transformer (architecture) स्पष्ट राज्य संक्रमण के बिना लचीले प्रतिनिधित्व सीखते हैं। इसके बावजूद, HMM अभी भी हाइब्रिड प्रणालियों में उपयोग किए जाते हैं, जैसे भाषण पहचान के लिए HMM को तंत्रिका नेटवर्क के साथ संयोजित करना, और Reinforcement learning जैसे क्षेत्रों में जहां अस्थायी निर्भरता मायने रखती है। उनकी गणितीय स्पष्टता संभाव्य मॉडलिंग और Unsupervised learning में अनुसंधान को सूचित करती रहती है।
सीमाएं और विस्तार
HMM की ज्ञात सीमाएं हैं, जिनमें मार्कोव धारणा शामिल है जो लंबी दूरी की निर्भरता को सीमित करती है, और उच्च-आयामी अवलोकन स्थानों तक स्केलिंग की कठिनाई। विस्तार में छिपे अर्ध-मार्कोव मॉडल शामिल हैं, जो राज्य अवधि को स्पष्ट रूप से मॉडल करने की अनुमति देते हैं, और पदानुक्रमित HMM जो बहु-स्तरीय संरचना को पकड़ते हैं। निरंतर अवलोकन स्थानों में, उत्सर्जन संभावनाओं के लिए अक्सर गाऊसी मिश्रण मॉडल का उपयोग किया जाता है। ये विस्तार कुछ कमजोरियों को संबोधित करते हैं लेकिन कम्प्यूटेशनल जटिलता बढ़ाते हैं। 2020 के दशक तक, HMM सांख्यिकी और सिग्नल प्रोसेसिंग में एक मानक उपकरण बने हुए हैं, हालांकि अनुक्रम मॉडलिंग में उनका प्रभुत्व Deep learning विधियों द्वारा ग्रहण कर लिया गया है।