क्लस्टरिंग

क्लस्टरिंग, जिसे क्लस्टर विश्लेषण के रूप में भी जाना जाता है, एक डेटा विश्लेषण तकनीक है जो वस्तुओं के एक समूह को समूहों या क्लस्टरों में विभाजित करती है, जिससे एक ही क्लस्टर के भीतर की वस्तुएं विश्लेषक द्वारा परिभाषित किसी विशिष्ट समानता या दूरी माप के अनुसार, अन्य क्लस्टरों की वस्तुओं की तुलना में एक-दूसरे के अधिक समान होती हैं। यह खोजपूर्ण डेटा विश्लेषण का एक मुख्य कार्य और सांख्यिकीय डेटा विश्लेषण के लिए एक सामान्य तकनीक है, जिसका उपयोग पैटर्न पहचान, छवि विश्लेषण, सूचना पुनर्प्राप्ति, जैव सूचना विज्ञान, डेटा संपीड़न, कंप्यूटर ग्राफिक्स और मशीन लर्निंग सहित क्षेत्रों में किया जाता है। एक अनुपयोगी अधिगम विधि के रूप में, क्लस्टरिंग लेबल किए गए डेटा पर निर्भर नहीं करती है; इसके बजाय, यह वर्ग लेबल के पूर्व ज्ञान के बिना डेटा में अंतर्निहित संरचनाओं और समूहों की खोज करती है।

"क्लस्टरिंग" शब्द एक विशिष्ट एल्गोरिदम के बजाय एल्गोरिदम और कार्यों के एक परिवार को शामिल करता है। विभिन्न एल्गोरिदम क्लस्टर की परिभाषा और क्लस्टरों को कुशलतापूर्वक पहचानने के तरीके में काफी भिन्न होते हैं। क्लस्टरों की लोकप्रिय अवधारणाओं में सदस्यों के बीच छोटी दूरी वाले समूह, डेटा स्थान के घने क्षेत्र, अंतराल, या विशेष सांख्यिकीय वितरण शामिल हैं। परिणामस्वरूप, क्लस्टरिंग को एक बहु-उद्देश्यीय अनुकूलन समस्या के रूप में तैयार किया जा सकता है, और उपयुक्त एल्गोरिदम और पैरामीटर सेटिंग्स (जैसे दूरी फ़ंक्शन, घनत्व सीमा, या अपेक्षित क्लस्टरों की संख्या) व्यक्तिगत डेटासेट और परिणामों के इच्छित उपयोग पर निर्भर करती हैं। क्लस्टर विश्लेषण एक स्वचालित कार्य नहीं है, बल्कि ज्ञान खोज या इंटरैक्टिव बहु-उद्देश्यीय अनुकूलन की एक पुनरावृत्त प्रक्रिया है, जिसमें अक्सर वांछित गुणों वाले परिणाम प्राप्त होने तक डेटा प्रीप्रोसेसिंग और मॉडल पैरामीटर समायोजित करने के लिए परीक्षण-और-त्रुटि की आवश्यकता होती है।

क्लस्टरिंग शब्द के अलावा, कई समान शब्द मौजूद हैं, जिनमें स्वचालित वर्गीकरण, संख्यात्मक वर्गिकी, बोट्रियोलॉजी (ग्रीक βότρυς 'अंगूर' से), टाइपोलॉजिकल विश्लेषण, और समुदाय का पता लगाना शामिल हैं। सूक्ष्म अंतर अक्सर परिणामों के उपयोग में निहित होते हैं: डेटा माइनिंग में, परिणामी समूह रुचि के विषय होते हैं, जबकि स्वचालित वर्गीकरण में, परिणामी विभेदक शक्ति रुचि की होती है।

इतिहास

क्लस्टर विश्लेषण की उत्पत्ति मानवविज्ञान में 1932 में ड्राइवर और क्रोएबर के कार्य से हुई। इसे 1938 में जोसेफ ज़ुबिन और 1939 में रॉबर्ट ट्रायॉन द्वारा मनोविज्ञान में पेश किया गया, और 1943 से रेमंड कैटेल द्वारा व्यक्तित्व मनोविज्ञान में लक्षण सिद्धांत वर्गीकरण के लिए प्रसिद्ध रूप से उपयोग किया गया। तब से, क्लस्टरिंग कई वैज्ञानिक विषयों में एक मौलिक उपकरण के रूप में विकसित हुई है, जिसमें दशकों में सैकड़ों प्रकाशित एल्गोरिदम विकसित किए गए हैं।

क्लस्टर मॉडल

"क्लस्टर" की अवधारणा को सटीक रूप से परिभाषित नहीं किया जा सकता है, जो क्लस्टरिंग एल्गोरिदम की विविधता का एक प्रमुख कारण है। एक सामान्य हर है: डेटा वस्तुओं का एक समूह। हालांकि, विभिन्न शोधकर्ता विभिन्न क्लस्टर मॉडल का उपयोग करते हैं, और प्रत्येक मॉडल को विभिन्न एल्गोरिदम द्वारा लागू किया जा सकता है। एल्गोरिदम के बीच अंतर को समझने के लिए इन क्लस्टर मॉडलों को समझना आवश्यक है। विशिष्ट क्लस्टर मॉडल में शामिल हैं:

• कनेक्टिविटी मॉडल: पदानुक्रमिक क्लस्टरिंग दूरी कनेक्टिविटी पर आधारित मॉडल बनाती है, जहां क्लस्टर निकटता के आधार पर वस्तुओं को जोड़कर बनाए जाते हैं।
• केन्द्रक मॉडल: k-मीन्स एल्गोरिदम प्रत्येक क्लस्टर को एक एकल माध्य वेक्टर, या केन्द्रक द्वारा दर्शाता है, और वस्तुओं को निकटतम केन्द्रक को सौंपता है।
• वितरण मॉडल: क्लस्टरों को सांख्यिकीय वितरणों का उपयोग करके मॉडल किया जाता है, जैसे कि अपेक्षा-अधिकतमीकरण (ईएम) एल्गोरिदम द्वारा उपयोग किए जाने वाले बहुचर सामान्य वितरण।
• घनत्व मॉडल: DBSCAN, OPTICS, और HDBSCAN जैसे एल्गोरिदम क्लस्टरों को डेटा स्थान में जुड़े घने क्षेत्रों के रूप में परिभाषित करते हैं, जो विरल क्षेत्रों से अलग होते हैं।
• उप-स्थान मॉडल: बाइक्लस्टरिंग (जिसे सह-क्लस्टरिंग या दो-मोड क्लस्टरिंग के रूप में भी जाना जाता है) में, क्लस्टरों को क्लस्टर सदस्यों और प्रासंगिक विशेषताओं दोनों के साथ मॉडल किया जाता है, जिससे क्लस्टर डेटा के विभिन्न उप-स्थानों में मौजूद हो सकते हैं।
• समूह मॉडल: कुछ एल्गोरिदम अपने परिणामों के लिए एक परिष्कृत मॉडल प्रदान नहीं करते हैं और केवल समूहीकरण जानकारी देते हैं।
• ग्राफ-आधारित मॉडल: एक क्लिक, जो एक ग्राफ में नोड्स का एक उपसमुच्चय है जहां हर दो नोड एक किनारे से जुड़े होते हैं, क्लस्टर का एक प्रोटोटाइपिकल रूप माना जा सकता है। पूर्ण कनेक्टिविटी आवश्यकता की शिथिलता, जिसे अर्ध-क्लिक के रूप में जाना जाता है, का उपयोग एचसीएस क्लस्टरिंग एल्गोरिदम जैसे एल्गोरिदम में किया जाता है।
• हस्ताक्षरित ग्राफ मॉडल: हस्ताक्षरित ग्राफों में, हर पथ में किनारों पर हस्ताक्षरों के गुणनफल से एक चिह्न होता है। संतुलन सिद्धांत की धारणाओं के तहत, किनारे चिह्न बदल सकते हैं, जिसके परिणामस्वरूप एक द्विभाजित ग्राफ बनता है। कमजोर "क्लस्टरबिलिटी अभिगृहीत" (कोई चक्र जिसमें ठीक एक नकारात्मक किनारा हो) दो से अधिक क्लस्टर या केवल सकारात्मक किनारों वाले उप-ग्राफ उत्पन्न करता है।
• तंत्रिका मॉडल: सबसे प्रसिद्ध अनुपयोगी तंत्रिका नेटवर्क स्व-संगठित मानचित्र है, और इन मॉडलों को आमतौर पर उपरोक्त मॉडलों में से एक या अधिक के समान वर्णित किया जा सकता है, जिसमें उप-स्थान मॉडल शामिल हैं जब तंत्रिका नेटवर्क प्रमुख घटक विश्लेषण या स्वतंत्र घटक विश्लेषण के रूपों को लागू करते हैं।

क्लस्टरिंग के प्रकार

एक "क्लस्टरिंग" अनिवार्य रूप से क्लस्टरों का एक समूह है, जिसमें आमतौर पर डेटासेट की सभी वस्तुएं शामिल होती हैं। यह क्लस्टरों के एक-दूसरे से संबंध को भी निर्दिष्ट कर सकता है, जैसे कि एक-दूसरे में निहित क्लस्टरों का पदानुक्रम। क्लस्टरिंग को मोटे तौर पर इस प्रकार प्रतिष्ठित किया जा सकता है:

• कठोर क्लस्टरिंग: प्रत्येक वस्तु किसी क्लस्टर से संबंधित होती है या नहीं।
• नरम क्लस्टरिंग (फजी क्लस्टरिंग भी): प्रत्येक वस्तु प्रत्येक क्लस्टर से कुछ हद तक संबंधित होती है, जैसे कि संबंधित होने की संभावना।

बारीक अंतरों में शामिल हैं:

• सख्त विभाजन क्लस्टरिंग: प्रत्येक वस्तु ठीक एक क्लस्टर से संबंधित होती है।
• आउटलायर्स के साथ सख्त विभाजन क्लस्टरिंग: वस्तुएं किसी क्लस्टर से भी संबंधित नहीं हो सकती हैं, जिस स्थिति में उन्हें आउटलायर्स माना जाता है।
• अतिव्यापी क्लस्टरिंग (वैकल्पिक क्लस्टरिंग, बहु-दृश्य क्लस्टरिंग भी): वस्तुएं एक से अधिक क्लस्टर से संबंधित हो सकती हैं, आमतौर पर कठोर क्लस्टर शामिल होते हैं।
• पदानुक्रमिक क्लस्टरिंग: जो वस्तुएं एक बाल क्लस्टर से संबंधित होती हैं, वे मूल क्लस्टर से भी संबंधित होती हैं, जिससे एक वृक्ष जैसी संरचना बनती है।
• उप-स्थान क्लस्टरिंग: एक अतिव्यापी क्लस्टरिंग होने पर, एक विशिष्ट रूप से परिभाषित उप-स्थान के भीतर, क्लस्टरों के अतिव्यापी होने की उम्मीद नहीं की जाती है।

एल्गोरिदम

क्लस्टरिंग एल्गोरिदम को उनके क्लस्टर मॉडल के आधार पर वर्गीकृत किया जा सकता है। संभवतः 100 से अधिक प्रकाशित क्लस्टरिंग एल्गोरिदम हैं, और सभी अपने क्लस्टरों के लिए मॉडल प्रदान नहीं करते हैं, जिससे वर्गीकरण मुश्किल हो जाता है। कोई वस्तुनिष्ठ रूप से "सही" क्लस्टरिंग एल्गोरिदम नहीं है; जैसा कि उल्लेख किया गया है, "क्लस्टरिंग देखने वाले की आंख में है।" वास्तव में, एक स्वयंसिद्ध दृष्टिकोण दर्शाता है कि किसी भी क्लस्टरिंग विधि के लिए तीन मौलिक गुणों को एक साथ पूरा करना असंभव है: पैमाना अपरिवर्तनीयता (परिणाम दूरियों के आनुपातिक स्केलिंग के तहत अपरिवर्तित रहते हैं), समृद्धि (डेटा के सभी संभव विभाजन प्राप्त किए जा सकते हैं), और दूरियों और क्लस्टरिंग संरचना के बीच स्थिरता। किसी विशेष समस्या के लिए सबसे उपयुक्त एल्गोरिदम अक्सर प्रयोगात्मक रूप से चुना जाना चाहिए, जब तक कि किसी एक क्लस्टर मॉडल को दूसरे पर पसंद करने का गणितीय कारण न हो।

प्रमुख क्लस्टरिंग एल्गोरिदम में शामिल हैं:

• K-मीन्स: एक केन्द्रक-आधारित एल्गोरिदम जो क्लस्टर के भीतर वर्गों के योग को कम करके डेटा को k क्लस्टरों में विभाजित करता है। यह सरल और कुशल है, लेकिन क्लस्टरों की संख्या निर्दिष्ट करने की आवश्यकता होती है और यह आउटलायर्स के प्रति संवेदनशील है।
• पदानुक्रमिक क्लस्टरिंग: क्लस्टरों का एक पदानुक्रम या तो समूहीकरण रूप से (नीचे-से-ऊपर) या विभाजनकारी रूप से (ऊपर-से-नीचे) बनाता है। इसे क्लस्टरों की पूर्व-निर्धारित संख्या की आवश्यकता नहीं होती है और यह एक डेंड्रोग्राम उत्पन्न करता है।
• DBSCAN: एक घनत्व-आधारित एल्गोरिदम जो क्लस्टरों को विरल क्षेत्रों से अलग किए गए घने क्षेत्रों के रूप में पहचानता है। यह मनमाने आकार के क्लस्टर खोज सकता है और आउटलायर्स को संभाल सकता है, लेकिन एप्सिलॉन और न्यूनतम बिंदुओं जैसे पैरामीटर ट्यूनिंग की आवश्यकता होती है।
• अपेक्षा-अधिकतमीकरण (ईएम): एक वितरण-आधारित एल्गोरिदम जो क्लस्टरों को गाऊसी वितरण के रूप में मॉडल करता है और संभावना को अधिकतम करने के लिए पैरामीटरों का पुनरावृत्त रूप से अनुमान लगाता है।
• OPTICS: DBSCAN का एक विस्तार जो एक क्लस्टर ऑर्डर उत्पन्न करता है, जिससे यह विभिन्न घनत्वों के प्रति अधिक मजबूत होता है।
• स्व-संगठित मानचित्र (एसओएम): एक तंत्रिका नेटवर्क मॉडल जो उच्च-आयामी डेटा को कम-आयामी ग्रिड पर मैप करता है, स्थलाकृतिक संबंधों को संरक्षित करता है।

अनुप्रयोग

क्लस्टरिंग कई डोमेन में व्यापक रूप से उपयोग की जाती है। पैटर्न पहचान में, यह वर्गीकरण कार्यों के लिए डेटा में समूहों की पहचान करने में मदद करती है। छवि विश्लेषण में, इसका उपयोग छवि विभाजन और वस्तु पहचान के लिए किया जाता है। सूचना पुनर्प्राप्ति में, क्लस्टरिंग खोज और अनुशंसा के लिए दस्तावेजों को विषय के अनुसार व्यवस्थित करती है। जैव सूचना विज्ञान में, यह समान अभिव्यक्ति पैटर्न वाले जीन या प्रोटीन को समूहित करती है। डेटा संपीड़न में, क्लस्टरिंग प्रोटोटाइप के साथ समूहों का प्रतिनिधित्व करके डेटा आकार को कम करती है। कंप्यूटर ग्राफिक्स में, यह रंग परिमाणीकरण और जाल सरलीकरण में सहायता करती है। कृत्रिम बुद्धिमत्ता में, क्लस्टरिंग अनुपयोगी अधिगम के लिए एक मूल तकनीक है, जो सिस्टम को लेबल किए गए उदाहरणों के बिना पैटर्न खोजने में सक्षम बनाती है।

चुनौतियां और विचार

क्लस्टरिंग कई चुनौतियां प्रस्तुत करती है। इष्टतम क्लस्टरों की संख्या निर्धारित करना अक्सर कठिन होता है और इसके लिए डोमेन ज्ञान या अनुमानी विधियों की आवश्यकता हो सकती है। दूरी माप का चुनाव परिणामों को महत्वपूर्ण रूप से प्रभावित करता है; सामान्य मापों में यूक्लिडियन, मैनहट्टन, और कोसाइन समानता शामिल हैं। उच्च-आयामी डेटा आयामीता के अभिशाप से पीड़ित हो सकता है, जहां दूरियां कम सार्थक हो जाती हैं। क्लस्टरिंग परिणाम प्रारंभिकरण और पैरामीटर सेटिंग्स के प्रति संवेदनशील होते हैं, और कोई सार्वभौमिक समाधान नहीं है। इसके अतिरिक्त, क्लस्टरिंग की पुनरावृत्त प्रकृति का अर्थ है कि परिणामों को आंतरिक या बाह्य मूल्यांकन मेट्रिक्स, जैसे सिल्हूट स्कोर या रैंड इंडेक्स, का उपयोग करके मान्य किया जाना चाहिए ताकि यह सुनिश्चित हो सके कि वे वांछित गुणों को पूरा करते हैं।

संबंधित अवधारणाएं

क्लस्टरिंग अन्य अनुपयोगी अधिगम तकनीकों, जैसे आयामीता में कमी और विसंगति का पता लगाने, से निकटता से संबंधित है। इसका उपयोग अक्सर डेटा वृद्धि के साथ संयोजन में सिंथेटिक नमूने उत्पन्न करने के लिए या पर्यवेक्षित अधिगम के लिए प्रीप्रोसेसिंग में किया जाता है। गहन अधिगम के संदर्भ में, क्लस्टरिंग को प्रतिनिधित्व अधिगम के लिए तंत्रिका नेटवर्क आर्किटेक्चर में एकीकृत किया जा सकता है। क्लस्टरिंग के सिद्धांत नेटवर्क विश्लेषण में समुदाय का पता लगाने और व्यवसाय विश्लेषण में बाजार विभाजन को भी रेखांकित करते हैं।