प्रतितथ्यात्मक स्पष्टीकरण

प्रतितथ्यात्मक स्पष्टीकरण (Counterfactual explanations) मशीन लर्निंग में मॉडल भविष्यवाणियों की व्याख्या करने की एक तकनीक है, जो किसी दिए गए इनपुट की विशेषताओं में सबसे छोटा परिवर्तन पहचानती है जो मॉडल के आउटपुट को वांछित विकल्प में बदल दे। किसी विशिष्ट उदाहरण के लिए, एक प्रतितथ्यात्मक स्पष्टीकरण इस प्रश्न का उत्तर देता है: "भविष्यवाणी को लक्ष्य परिणाम बनाने के लिए न्यूनतम संशोधन क्या आवश्यक है?" उदाहरण के लिए, यदि ऋण आवेदन अस्वीकृत हो जाता है, तो एक प्रतितथ्यात्मक कह सकता है: "यदि आपकी वार्षिक आय $5,000 अधिक होती, तो आपका आवेदन स्वीकृत हो जाता।"

ये स्पष्टीकरण प्रतितथ्यात्मकता के दार्शनिक अवधारणा पर आधारित हैं - विभिन्न परिस्थितियों में क्या हुआ होता, इसके बारे में कथन। AI में, वे स्थानीय व्याख्यात्मकता का एक रूप प्रदान करते हैं, एक वैश्विक मॉडल के बजाय एकल भविष्यवाणी पर ध्यान केंद्रित करते हैं। वे अंतिम उपयोगकर्ताओं के लिए विशेष रूप से मूल्यवान हैं जो कार्रवाई योग्य उपाय चाहते हैं: यह समझना कि वे अनुकूल परिणाम प्राप्त करने के लिए क्या बदल सकते हैं। फीचर महत्व विधियों के विपरीत जो वैश्विक रूप से चरों को रैंक करती हैं, प्रतितथ्यात्मक ठोस, व्यक्तिगत सुझाव प्रदान करते हैं।

यह शब्द 2010 के दशक के अंत में प्रमुखता प्राप्त हुआ, जिसमें रूथ फोंग और एंड्रिया वेदाल्डी (2017) और बाद में सैंड्रा वाचटर, ब्रेंट मिटेलस्टेड और क्रिस रसेल (2017) का महत्वपूर्ण कार्य शामिल है, जिन्होंने एल्गोरिदमिक निर्णय लेने के लिए इस धारणा को औपचारिक रूप दिया। तब से, प्रतितथ्यात्मक स्पष्टीकरण व्याख्यात्मक AI (XAI) का एक केंद्रीय स्तंभ बन गए हैं, जो यूरोपीय संघ के सामान्य डेटा संरक्षण विनियमन (GDPR) जैसे कानूनी ढांचे के साथ प्रतिच्छेद करते हैं, जो व्यक्तियों को स्वचालित निर्णयों के स्पष्टीकरण प्राप्त करने का अधिकार देता है।

अवधारणा और औपचारिकीकरण

किसी दिए गए इनपुट x और भविष्यवाणी f(x) के लिए एक प्रतितथ्यात्मक स्पष्टीकरण एक नया इनपुट x' है जैसे कि f(x') एक वांछित परिणाम के बराबर हो (जैसे, अस्वीकृति के बजाय स्वीकृति)। x से x' में परिवर्तन आमतौर पर एक दूरी मीट्रिक (जैसे, L1, L2, या L0 मानदंड) द्वारा मापा जाता है ताकि न्यूनतमता सुनिश्चित हो सके। औपचारिक रूप से, कोई दूरी d(x, x') को न्यूनतम करना चाहता है, जो f(x') = y' के अधीन है, जहाँ y' लक्ष्य लेबल है।

न्यूनतमता की धारणा व्यक्तिपरक है; विभिन्न दूरी फलन अलग-अलग प्रतितथ्यात्मक उत्पन्न करते हैं। सारणीबद्ध डेटा के लिए, कोई L1 दूरी का उपयोग कर सकता है ताकि विरलता को बढ़ावा मिले (कुछ विशेषताओं को बदलना), जबकि छवियों के लिए, कोई अवधारणात्मक समानता का उपयोग कर सकता है। बाधाएँ जोड़ी जा सकती हैं: विशेषताओं के अपरिवर्तनीय मान हो सकते हैं (जैसे, आयु) या श्रेणीबद्ध हो सकते हैं। इसके अतिरिक्त, प्रतितथ्यात्मक व्यवहार्य और प्रशंसनीय होना चाहिए - अर्थात, सुझाए गए परिवर्तन उपयोगकर्ता द्वारा यथार्थवादी रूप से प्राप्त करने योग्य होने चाहिए (जैसे, आय बढ़ाना प्रशंसनीय है; वैवाहिक स्थिति बदलना नहीं हो सकता)।

प्रतितथ्यात्मक स्पष्टीकरण उदाहरण-विशिष्ट होते हैं, जो फीचर महत्व जैसे वैश्विक स्पष्टीकरणों के विपरीत है। वे मॉडल के समग्र व्यवहार का वर्णन नहीं करते बल्कि एक एकल मामले के लिए एक अलग परिणाम का मार्ग बताते हैं। यह उन्हें सहज बनाता है लेकिन लक्ष्य परिणाम और दूरी मीट्रिक की पसंद के प्रति संवेदनशील भी बनाता है।

एल्गोरिदम और दृष्टिकोण

कई एल्गोरिदम प्रतितथ्यात्मक स्पष्टीकरण उत्पन्न करते हैं। प्रारंभिक विधियों ने ग्रेडिएंट-आधारित अनुकूलन का उपयोग किया: विभेदनीय मॉडल (जैसे, तंत्रिका नेटवर्क) के लिए, कोई एक हानि को न्यूनतम कर सकता है जो लक्ष्य भविष्यवाणी और दूरी शब्द को संतुलित करता है। विशिष्ट कार्यान्वयन में शामिल हैं:

• वाचटर एट अल. (2017): एक ग्रेडिएंट डिसेंट दृष्टिकोण जो विभेदनीय मॉडल के लिए दो शब्दों वाले लागत फलन को अनुकूलित करके प्रतितथ्यात्मक खोजता है: भविष्यवाणी हानि और दूरी।
• ग्रोइंग स्फीयर्स (लॉगेल एट अल., 2017): गैर-विभेदनीय मॉडल के लिए, यह विधि इनपुट के चारों ओर एक गोले को पुनरावृत्त रूप से विस्तारित करके निकटतम सीमा बिंदु खोजती है जब तक कि भविष्यवाणी पलट न जाए।
• DiCE (मोथिलाल एट अल., 2020): उपयोगकर्ताओं को विकल्प देने के लिए विविध प्रतितथ्यात्मक का एक सेट उत्पन्न करता है, एक सीखा हुआ ऑटोएन्कोडर या मॉडल-अज्ञेयवादी खोज का उपयोग करके।
• ट्री-आधारित विधियाँ: रैंडम फॉरेस्ट या ग्रेडिएंट बूस्टिंग के लिए, कोई पत्ती स्थान में निकटतम पड़ोसियों को खोजने के लिए निर्णय पथों को पार कर सकता है।

मॉडल-अज्ञेयवादी विधियाँ मॉडल को एक ब्लैक बॉक्स के रूप में मानती हैं और नमूनाकरण या अनुकूलन तकनीकों पर निर्भर करती हैं, जिससे वे किसी भी वर्गीकरणकर्ता पर लागू होती हैं। हालाँकि, उच्च-आयामी इनपुट जैसे छवियों के लिए वे कम्प्यूटेशनल रूप से महंगी हो सकती हैं।

क्रेडिट और वित्त में अनुप्रयोग

वित्तीय क्षेत्र प्रतितथ्यात्मक स्पष्टीकरणों के लिए एक प्रमुख क्षेत्र है। जब ऋण या क्रेडिट कार्ड आवेदन एक स्वचालित प्रणाली द्वारा अस्वीकृत हो जाता है, तो संयुक्त राज्य अमेरिका में समान क्रेडिट अवसर अधिनियम (ECOA) जैसे नियमों के लिए ऋणदाताओं को कारण प्रदान करने की आवश्यकता होती है। प्रतितथ्यात्मक स्पष्टीकरण आगे बढ़कर सुझाव देते हैं कि आवेदक क्या बदल सकता है: "यदि आपने अपने मौजूदा ऋण को $2,000 कम कर दिया, तो आपका आवेदन स्वीकृत हो जाएगा।" यह उपभोक्ताओं को कार्रवाई योग्य उपाय के साथ सशक्त बनाता है।

बैंक और फिनटेक कंपनियों ने अपने निर्णय पाइपलाइनों में प्रतितथ्यात्मक उपकरणों को एकीकृत करना शुरू कर दिया है। उदाहरण के लिए, ग्रेडिएंट बूस्टेड ट्री पर प्रशिक्षित एक मॉडल को प्रत्येक अस्वीकृति के लिए स्पष्टीकरण उत्पन्न करने के लिए एक प्रतितथ्यात्मक जनरेटर के साथ जोड़ा जा सकता है। चुनौती व्यवहार्यता को संतुलित करना है: आय में वृद्धि का सुझाव देना कार्रवाई योग्य नहीं है, इसलिए सिस्टम को उपयोगकर्ता नियंत्रण में विशेषताओं (जैसे, खर्च पैटर्न, खाता इतिहास) को उजागर करना सीखना चाहिए।

स्वास्थ्य सेवा और चिकित्सा

स्वास्थ्य सेवा में, प्रतितथ्यात्मक स्पष्टीकरण चिकित्सकों को यह समझने में मदद करते हैं कि एक नैदानिक मॉडल ने एक विशेष भविष्यवाणी क्यों की। उदाहरण के लिए, एक तंत्रिका नेटवर्क जो रोगी के पुनः प्रवेश की भविष्यवाणी करता है, यह पेश कर सकता है: "यदि रोगी का रक्तचाप 10 mmHg कम होता, तो पुनः प्रवेश जोखिम उच्च से निम्न में गिर जाता।" यह उपचार योजना में सहायता करता है, जैसा कि आर्टिफिशियल इंटेलिजेंस इन मेडिसिन में 2020 के एक पेपर में विस्तृत है।

हालाँकि, चिकित्सा प्रतितथ्यात्मक के लिए कारण संबंधों के सावधानीपूर्वक संचालन की आवश्यकता होती है। रक्तचाप जैसे बायोमार्कर को बदलना अन्य अप्रेक्षित कारकों के साथ सहसंबद्ध हो सकता है। Stanford AI Lab और MIT CSAIL के शोधकर्ताओं ने कारण प्रतितथ्यात्मक का पता लगाया है जो असंभव परिदृश्यों को सुझाने से बचने के लिए ज्ञात चिकित्सा ज्ञान को शामिल करते हैं।

छवि और पाठ मॉडल में प्रतितथ्यात्मक स्पष्टीकरण

डीप लर्निंग मॉडल पर छवियों के लिए, प्रतितथ्यात्मक स्पष्टीकरण में भविष्यवाणी बदलने के लिए पिक्सेल को परेशान करना शामिल है। उदाहरण के लिए, एक कुत्ते की छवि को मॉडल को बिल्ली के रूप में वर्गीकृत करने के लिए एक छोटा पैटर्न जोड़कर बदला जा सकता है, जैसा कि प्रतिकूल उदाहरण अनुसंधान में दिखाया गया है। प्रतिकूल उदाहरणों के विपरीत, प्रतितथ्यात्मक का उद्देश्य सार्थक परिवर्तन है जिसे एक मानव प्रशंसनीय मान सकता है। जनरेटिव एडवर्सेरियल नेटवर्क (GAN) या ऑटोएन्कोडर जैसी तकनीकें अव्यक्त कोड में हेरफेर करके छवि प्रतितथ्यात्मक उत्पन्न कर सकती हैं।

प्राकृतिक भाषा प्रसंस्करण में, भावना विश्लेषण के लिए प्रतितथ्यात्मक स्पष्टीकरण "फिल्म उबाऊ थी" को "फिल्म रोमांचक थी" में बदल सकते हैं ताकि नकारात्मक भावना को सकारात्मक में बदला जा सके। यह व्याकरणिकता को संरक्षित करते हुए शब्दों या वाक्यांशों को संपादित करके प्राप्त किया जाता है। बड़े भाषा मॉडल जैसे ट्रांसफॉर्मर-आधारित मॉडल को प्रतितथ्यात्मक पाठ उत्पन्न करने के लिए जांचा जा सकता है, लेकिन न्यूनतमता और प्रवाह सुनिश्चित करना चुनौतीपूर्ण बना हुआ है।

कार्य-कारण और निष्पक्षता से संबंध

प्रतितथ्यात्मक स्पष्टीकरण कारण तर्क से निकटता से संबंधित हैं। एक सच्चा प्रतितथ्यात्मक डेटा की कारण संरचना को प्रतिबिंबित करना चाहिए: एक विशेषता बदलने से अन्य प्रभाव हो सकते हैं (जैसे, शिक्षा स्तर बढ़ाने से आय बदल सकती है)। पर्ल के संरचनात्मक कारण मॉडल एक औपचारिक ढांचा प्रदान करते हैं, लेकिन वे अक्सर व्यवहार में उपलब्ध नहीं होते हैं। अधिकांश विधियाँ स्वतंत्रता मानती हैं, जो अव्यवहार्य या वास्तविकता में असंगत सुझाव दे सकती हैं।

निष्पक्षता अनुसंधान में, प्रतितथ्यात्मक निष्पक्षता एक मानदंड है जिसके लिए आवश्यक है कि भविष्यवाणी वास्तविक और प्रतितथ्यात्मक दुनिया दोनों में समान हो जहाँ एक संवेदनशील विशेषता (जैसे, जाति, लिंग) बदली जाती है। कुस्नर एट अल. (2017) द्वारा प्रस्तावित यह धारणा, प्रतितथ्यात्मक स्पष्टीकरण का उपयोग व्याख्या के लिए नहीं बल्कि पूर्वाग्रह के लिए मॉडल का ऑडिट करने के लिए करती है। उदाहरण के लिए, यदि किसी व्यक्ति का लिंग बदलने से उनका क्रेडिट निर्णय बदल जाता है, तो मॉडल को इस परिभाषा के तहत अनुचित माना जाता है।

अन्य व्याख्यात्मकता विधियों से संबंध

प्रतितथ्यात्मक स्पष्टीकरण अन्य XAI तकनीकों के पूरक हैं। SHAP और LIME स्थानीय फीचर विशेषताएँ प्रदान करते हैं, जो दर्शाते हैं कि भविष्यवाणी के लिए कौन सी विशेषताएँ सबसे महत्वपूर्ण थीं, लेकिन वे उपयोगकर्ता को यह नहीं बताते कि परिणाम कैसे बदला जाए। प्रतितथ्यात्मक प्रत्यक्ष सुझाव देते हैं। वे प्रतिकूल उदाहरणों के साथ समानताएँ भी साझा करते हैं - दोनों न्यूनतम इनपुट परेशानियों की तलाश करते हैं - लेकिन प्रतितथ्यात्मक एक विशिष्ट लक्ष्य वर्ग के लिए लक्ष्य रखते हैं, जबकि प्रतिकूल परेशानियाँ किसी भी गलत वर्गीकरण के लिए होती हैं और अक्सर अगोचर होती हैं।

कार्य-कारण के संदर्भ में, प्रतितथ्यात्मक हस्तक्षेपों से भिन्न होते हैं: एक हस्तक्षेप एक विशेषता को बदलता है जबकि अन्य को स्थिर रखता है (यादृच्छिक प्रयोग की तरह), जबकि एक प्रतितथ्यात्मक उसी कारण संरचना के तहत एक काल्पनिक स्थिति की कल्पना करता है। यह अंतर सामाजिक अनुप्रयोगों के लिए महत्वपूर्ण है, जैसा कि Joshua Tenenbaum और Brendan Lake जैसे MIT के शोधकर्ताओं ने नोट किया है जो सहज भौतिकी और कारण तर्क का अध्ययन करते हैं।

चुनौतियाँ और सीमाएँ

एक प्रमुख चुनौती यह सुनिश्चित करना है कि प्रतितथ्यात्मक यथार्थवादी और कार्रवाई योग्य हो। सारणीबद्ध डेटा के लिए, विशेषताओं के अपरिवर्तनीय मान हो सकते हैं (जैसे, आयु, जातीयता), लेकिन कई विधियाँ इसे अनदेखा करती हैं। असतत विशेषताएँ, जैसे नौकरी श्रेणी, विशेष संचालन की आवश्यकता होती है क्योंकि दूरियाँ निरंतर नहीं होती हैं। इसके अलावा, प्रतितथ्यात्मक अस्थिर हो सकते हैं: इनपुट या मॉडल में छोटे परिवर्तन से बहुत अलग सुझाव हो सकते हैं, जिससे उपयोगकर्ता का विश्वास कम हो जाता है।

एक इष्टतम प्रतितथ्यात्मक खोजने की जटिलता फीचर आयाम के साथ बढ़ती है। उच्च-आयामी डेटा जैसे छवियों के लिए, खोज स्थान विशाल है, और भोला अनुकूलन अगोचर लेकिन अवास्तविक परेशानियाँ उत्पन्न कर सकता है। इसके अतिरिक्त, कई विधियाँ मानती हैं कि मॉडल विभेदनीय है, जो ट्री एन्सेम्बल या गैर-विभेदनीय पाइपलाइनों के लिए हमेशा सच नहीं होता है।

एक अर्थ संबंधी अंतर भी है: एक प्रतितथ्यात्मक जो गणितीय रूप से न्यूनतम है, वह मानवीय रूप से व्याख्या योग्य नहीं हो सकता है। उदाहरण के लिए, एक विशेषता को 0.3 इकाइयों से बदलना अमूर्त हो सकता है। इसलिए, शोधकर्ता डोमेन ज्ञान या उपयोगकर्ता अध्ययनों का उपयोग करके मानव-अवधारणात्मक अर्थ में करीब प्रतितथ्यात्मक उत्पन्न करने पर ध्यान केंद्रित करते हैं।

भविष्य की दिशाएँ

अनुसंधान इंटरैक्टिव सेटिंग्स में प्रतितथ्यात्मक स्पष्टीकरण उत्पन्न करने की ओर बढ़ रहा है, जहाँ उपयोगकर्ता सुझावों पर पुनरावृत्ति कर सकते हैं। कृत्रिम बुद्धिमत्ता प्रणालियों में, वास्तविक भविष्यवाणी की तुलना एक विकल्प से करने वाले विपरीत स्पष्टीकरण प्रदान करने में बढ़ती रुचि है, जो विश्वास में सुधार कर सकता है। कारण मॉडल का एकीकरण अधिक मजबूत प्रतितथ्यात्मक उत्पन्न करने का लक्ष्य रखता है जो विशेषताओं के बीच निर्भरता का सम्मान करते हैं।

बड़े भाषा मॉडल के उदय के साथ, एक मॉडल के तर्क से सीधे प्राकृतिक भाषा प्रतितथ्यात्मक स्पष्टीकरण उत्पन्न करने की क्षमता है। हालाँकि, निष्ठा सुनिश्चित करना एक खुली समस्या बनी हुई है। 2020 के दशक की शुरुआत तक, कोई एकल विधि हावी नहीं है; चुनाव डेटा प्रकार, मॉडल परिवार और उपयोगकर्ता आवश्यकताओं पर निर्भर करता है।

कार्यान्वयन के लिए व्यावहारिक विचार

प्रतितथ्यात्मक प्रणालियों को तैनात करते समय, चिकित्सकों को संबोधित करना चाहिए:

• स्केलेबिलिटी: लाखों उपयोगकर्ताओं के लिए वास्तविक समय में प्रतितथ्यात्मक उत्पन्न करने के लिए कुशल एल्गोरिदम की आवश्यकता होती है। GPU पर ग्रेडिएंट-आधारित अनुकूलन जैसी विधियाँ तेज़ हो सकती हैं, लेकिन ब्लैक-बॉक्स दृष्टिकोण धीमे हो सकते हैं।
• उपयोगकर्ता इंटरफ़ेस: स्पष्टीकरण मानव-समझने योग्य प्रारूप में प्रस्तुत किए जाने चाहिए, अक्सर "यदि आप X को A से B में बदलते हैं, तो आपका परिणाम P से Q में बदल जाएगा" के रूप में।
• मॉडल अज्ञेयवाद: कुछ नियामकों को मॉडल प्रकार की परवाह किए बिना स्पष्टीकरण की आवश्यकता होती है, इसलिए तैनाती योग्य ढांचे को किसी भी भविष्यवाणी मॉडल के साथ काम करना चाहिए, चाहे वह तंत्रिका नेटवर्क हो या नियम-आधारित प्रणाली।

Google DeepMind और OpenAI जैसी कंपनियों ने मजबूत प्रतितथ्यात्मक उत्पादन में अनुसंधान को वित्त पोषित किया है, लेकिन उत्पादन उपकरण अभी भी प्रारंभिक अवस्था में हैं। 2023 तक, यह अवधारणा विकसित हो रही है, कारण प्रतितथ्यात्मक और बहु-एजेंट परिदृश्यों में सक्रिय अनुसंधान के साथ।

भविष्य की दिशाएँ

जैसे-जैसे AI प्रणालियाँ महत्वपूर्ण निर्णयों में अधिक एकीकृत होती जा रही हैं, प्रतितथ्यात्मक स्पष्टीकरणों की मांग बढ़ेगी। आगामी विकास में शामिल हो सकते हैं:

• कच्चे डेटा से प्रतितथ्यात्मक कथाएँ उत्पन्न करने के लिए बड़े भाषा मॉडल के साथ एकीकरण।
• व्यक्तिगत स्पष्टीकरण जो उपयोगकर्ता के डोमेन ज्ञान और प्राथमिकताओं के अनुकूल होते हैं।
• अनिश्चितता के तहत प्रतितथ्यात्मक उत्पादन, जहाँ कई संभावित दुनियाओं पर विचार किया जाता है।
• कारण खोज के माध्यम से प्रतितथ्यात्मक को कार्रवाई योग्य सिफारिशों से जोड़ना।

Carnegie Mellon University और BAIR (Berkeley AI Research) जैसे संस्थानों के शोधकर्ता इन क्षेत्रों में सक्रिय रूप से काम कर रहे हैं।

निष्कर्ष

प्रतितथ्यात्मक स्पष्टीकरण मशीन लर्निंग मॉडल को पारदर्शी और कार्रवाई योग्य बनाने के लिए एक शक्तिशाली उपकरण हैं। "क्या-अगर" प्रश्न पूछकर, वे अपारदर्शी भविष्यवाणियों को उपयोगकर्ताओं के लिए ठोस कदमों में बदल देते हैं। उनका महत्व व्याख्यात्मक AI और नैतिक AI प्रथाओं के लिए नियामक दबावों द्वारा रेखांकित किया गया है। जैसे-जैसे मॉडल अधिक जटिल होते जाते हैं, प्रतितथ्यात्मक व्याख्यात्मकता की आवश्यकता केवल बढ़ेगी, जो कुशल उत्पादन और सत्यापन में आगे नवाचार को बढ़ावा देगी।