स्पष्टीकरणीय कृत्रिम बुद्धिमत्ता (XAI), जिसे व्याख्यात्मक एआई या स्पष्टीकरणीय मशीन लर्निंग (XML) के रूप में भी जाना जाता है, Artificial intelligence के भीतर अनुसंधान का एक क्षेत्र है जो एआई एल्गोरिदम पर मनुष्यों को बौद्धिक निरीक्षण प्रदान करने के तरीकों की खोज करता है। प्राथमिक ध्यान एआई प्रणालियों द्वारा किए गए निर्णयों या भविष्यवाणियों के पीछे के तर्क पर है, जिससे वे अधिक समझने योग्य और पारदर्शी बन सकें। यह उपयोगकर्ताओं की एल्गोरिदम की सुरक्षा का आकलन करने और अनुप्रयोगों में स्वचालित निर्णय लेने की जांच करने की आवश्यकता को संबोधित करता है। XAI सीधे Machine learning की "ब्लैक बॉक्स" प्रवृत्ति का प्रतिकार करता है, जहां एआई के डिजाइनर भी यह नहीं बता सकते कि कोई विशिष्ट निर्णय क्यों लिया गया।
XAI एआई-संचालित प्रणालियों के उपयोगकर्ताओं को यह समझने में सुधार करके अधिक प्रभावी ढंग से प्रदर्शन करने में मदद करना चाहता है कि वे सिस्टम कैसे तर्क करते हैं। यह स्पष्टीकरण के सामाजिक अधिकार का कार्यान्वयन हो सकता है, और कानूनी या नियामक आवश्यकता के बिना भी, XAI अंतिम उपयोगकर्ताओं को यह विश्वास दिलाने में मदद करके उपयोगकर्ता अनुभव को बढ़ा सकता है कि एआई अच्छे निर्णय ले रहा है। XAI का उद्देश्य यह समझाना है कि क्या किया गया है, क्या किया जा रहा है, आगे क्या किया जाएगा, और ये क्रियाएं किस जानकारी पर आधारित हैं, जिससे मौजूदा ज्ञान की पुष्टि या चुनौती संभव हो सके और नई धारणाएं उत्पन्न हो सकें।
पृष्ठभूमि
एआई में उपयोग किए जाने वाले मशीन लर्निंग एल्गोरिदम को व्हाइट-बॉक्स या ब्लैक-बॉक्स के रूप में वर्गीकृत किया जा सकता है। व्हाइट-बॉक्स मॉडल डोमेन विशेषज्ञों के लिए समझने योग्य परिणाम प्रदान करते हैं, जबकि ब्लैक-बॉक्स मॉडल विशेषज्ञों के लिए भी समझाना बेहद कठिन होते हैं। XAI एल्गोरिदम तीन सिद्धांतों का पालन करते हैं: पारदर्शिता, व्याख्यात्मकता और स्पष्टीकरणीयता। एक मॉडल पारदर्शी होता है यदि प्रशिक्षण डेटा से मॉडल पैरामीटर निकालने और परीक्षण डेटा से लेबल उत्पन्न करने वाली प्रक्रियाओं का वर्णन और औचित्य दृष्टिकोण डिजाइनर द्वारा किया जा सकता है। व्याख्यात्मकता मॉडल को समझने और निर्णय लेने के अंतर्निहित आधार को मानव-समझने योग्य तरीके से प्रस्तुत करने की संभावना को संदर्भित करती है। स्पष्टीकरणीयता, हालांकि महत्वपूर्ण मानी जाती है, लेकिन इसकी कोई सर्वसम्मत परिभाषा नहीं है; एक संभावना है "व्याख्या योग्य डोमेन की उन विशेषताओं का संग्रह जिन्होंने किसी दिए गए उदाहरण के लिए निर्णय लेने में योगदान दिया है।"
मॉडल पारदर्शिता में सिमुलेटेबिलिटी (भविष्यवाणियों की पुनरुत्पादकता), विघटनीयता (मापदंडों के लिए सहज स्पष्टीकरण), और एल्गोरिदमिक पारदर्शिता (एल्गोरिदम कैसे काम करते हैं यह समझाना) शामिल है। मॉडल कार्यक्षमता पाठ्य विवरण, दृश्य और स्थानीय स्पष्टीकरणों पर केंद्रित है जो विशिष्ट आउटपुट या उदाहरणों को स्पष्ट करते हैं। इन अवधारणाओं का उद्देश्य एआई प्रणालियों की सुगमता और उपयोगिता को बढ़ाना है। यदि एल्गोरिदम इन सिद्धांतों को पूरा करते हैं, तो वे निर्णयों को उचित ठहराने, उन्हें ट्रैक करने, सत्यापित करने, एल्गोरिदम में सुधार करने और नए तथ्यों की खोज के लिए आधार प्रदान करते हैं।
कभी-कभी उच्च-सटीकता परिणाम व्हाइट-बॉक्स एमएल एल्गोरिदम के साथ प्राप्त किए जा सकते हैं, जिनमें व्याख्यात्मक संरचनाएं होती हैं। कॉन्सेप्ट बॉटलनेक मॉडल, अवधारणा-स्तरीय अमूर्तता का उपयोग करते हुए, उदाहरण हैं और छवि और पाठ भविष्यवाणी कार्यों में लागू किए जा सकते हैं। यह विशेष रूप से चिकित्सा, रक्षा, वित्त और कानून जैसे क्षेत्रों में महत्वपूर्ण है, जहां निर्णयों को समझना और विश्वास बनाना महत्वपूर्ण है। कई शोधकर्ता तर्क देते हैं कि पर्यवेक्षित मशीन लर्निंग के लिए, प्रतीकात्मक प्रतिगमन - जहां एल्गोरिदम सबसे उपयुक्त मॉडल खोजने के लिए गणितीय अभिव्यक्तियों की खोज करता है - एक आशाजनक मार्ग है।
एआई सिस्टम गणितीय रूप से निर्दिष्ट लक्ष्य को संतुष्ट करने के लिए व्यवहार को अनुकूलित करते हैं, जैसे "परीक्षण डेटासेट में फिल्म समीक्षाओं का आकलन करने की सटीकता को अधिकतम करें।" एआई उपयोगी नियम सीख सकता है, जैसे "'भयानक' वाली समीक्षाएं संभवतः नकारात्मक होती हैं," लेकिन अनुचित नियम भी सीख सकता है, जैसे "'डैनियल डे-लुईस' वाली समीक्षाएं आमतौर पर सकारात्मक होती हैं," जो सामान्यीकरण करने में विफल हो सकते हैं या अनुचित माने जा सकते हैं। एक मानव यह आकलन करने के लिए एक्सएआई में नियमों की जांच कर सकता है कि सिस्टम भविष्य के वास्तविक दुनिया के डेटा के लिए कितनी संभावना रखता है।
लक्ष्य
एजेंटों - एल्गोरिदम और मनुष्यों - के बीच सहयोग विश्वास पर निर्भर करता है। यदि मनुष्य एल्गोरिदमिक नुस्खे स्वीकार करते हैं, तो उन्हें उन पर भरोसा करने की आवश्यकता है। औपचारिक विश्वास मानदंडों में अपूर्णता अनुकूलन में बाधा है। पारदर्शिता, व्याख्यात्मकता और स्पष्टीकरणीयता अधिक व्यापक विश्वास मानदंडों की दिशा में मध्यवर्ती लक्ष्य हैं। यह विशेष रूप से चिकित्सा में प्रासंगिक है, विशेष रूप से नैदानिक निर्णय समर्थन प्रणालियों (सीडीएसएस) के साथ, जहां चिकित्सा पेशेवरों को यह समझना चाहिए कि मशीन-आधारित निर्णय कैसे और क्यों किया गया था ताकि वे अपने निर्णय लेने पर भरोसा कर सकें और बढ़ा सकें।
एआई सिस्टम कभी-कभी अवांछनीय तरकीबें सीखते हैं जो प्रशिक्षण डेटा पर स्पष्ट पूर्व-प्रोग्राम किए गए लक्ष्यों को संतुष्ट करते हैं लेकिन सूक्ष्म अंतर्निहित इच्छाओं को प्रतिबिंबित नहीं करते हैं। उदाहरण के लिए, 2017 की एक प्रणाली जिसे छवि पहचान का काम सौंपा गया था, उसने घोड़ों की पहचान करना सीखने के बजाय कॉपीराइट टैग की तलाश करके "धोखा" देना सीखा। एक और 2017 की प्रणाली, एक आभासी दुनिया में वस्तुओं को पकड़ने के लिए एक पर्यवेक्षित शिक्षण एआई, ने झूठे रूप से इसे पकड़ने के लिए अपने मैनिपुलेटर को वस्तु और दर्शक के बीच रखना सीखा।
DARPA XAI कार्यक्रम का उद्देश्य "ग्लास बॉक्स" मॉडल तैयार करना है जो एआई प्रदर्शन को बहुत अधिक बलिदान किए बिना "मानव-इन-द-लूप" के लिए समझाने योग्य हों। मानव उपयोगकर्ता एआई की अनुभूति को वास्तविक समय में और बाद में समझ सकते हैं, और यह निर्धारित कर सकते हैं कि उस पर भरोसा करना है या नहीं। XAI के अन्य अनुप्रयोगों में ब्लैक-बॉक्स मॉडल से ज्ञान निष्कर्षण और मॉडल तुलना शामिल है। नैतिक और सामाजिक-कानूनी अनुपालन के लिए निगरानी प्रणालियों में, "ग्लास बॉक्स" उपकरण इनपुट और आउटपुट को ट्रैक करते हैं, नैतिक और कानूनी संचालन सुनिश्चित करने के लिए मूल्य-आधारित स्पष्टीकरण प्रदान करते हैं। यह "ब्लैक बॉक्स" सिस्टम के विपरीत है, जिसमें पारदर्शिता का अभाव है और निगरानी और विनियमन करना कठिन है।
तरीके और तकनीकें
XAI विधियों को आंतरिक और पोस्ट-हॉक दृष्टिकोणों में वर्गीकृत किया जा सकता है। आंतरिक विधियां सीधे मॉडल में व्याख्यात्मकता का निर्माण करती हैं, जैसे ध्यान तंत्र के साथ Neural network आर्किटेक्चर या ध्यान भार प्रदान करने वाले Transformer (architecture)-आधारित मॉडल का उपयोग करना। पोस्ट-हॉक विधियां पहले से प्रशिक्षित मॉडल की व्याख्या करती हैं, जिसमें SHAP (SHapley Additive exPlanations) और LIME (Local Interpretable Model-agnostic Explanations) जैसी फीचर एट्रिब्यूशन तकनीकें शामिल हैं, जो उजागर करती हैं कि किस इनपुट सुविधाओं ने भविष्यवाणी को प्रभावित किया। सैलिएंसी मैप, कंप्यूटर विज़न में उपयोग किए जाते हैं, किसी छवि के उन क्षेत्रों को देखते हैं जो वर्गीकरण निर्णय के लिए सबसे महत्वपूर्ण थे।
Large language model के लिए, XAI तकनीकों में ध्यान दृश्य, आंतरिक प्रतिनिधित्व को डीकोड करने के लिए जांच वर्गीकरण, और प्राकृतिक भाषा स्पष्टीकरण उत्पन्न करना शामिल है। मॉडल-अज्ञेयवादी विधियां, जैसे सरोगेट मॉडल, स्थानीय रूप से एक सरल व्याख्यात्मक मॉडल के साथ ब्लैक-बॉक्स मॉडल का अनुमान लगाती हैं। काउंटरफैक्चुअल स्पष्टीकरण दिखाते हैं कि इनपुट बदलने से आउटपुट कैसे बदल जाएगा, कार्रवाई योग्य अंतर्दृष्टि प्रदान करता है। ये विधियां उपयोगकर्ताओं को यह समझने में मदद करती हैं कि एआई ने क्या तय किया, बल्कि यह भी कि क्यों।
चुनौतियां और सीमाएं
एक बड़ी चुनौती सटीकता और व्याख्यात्मकता के बीच का व्यापार है। गहरे तंत्रिका नेटवर्क जैसे जटिल मॉडल अक्सर उच्च सटीकता प्राप्त करते हैं लेकिन समझाना कठिन होता है। XAI इसको कम करना चाहता है, लेकिन स्पष्टीकरण अधूरे या भ्रामक हो सकते हैं। इस बात पर कोई सहमति नहीं है कि एक अच्छा स्पष्टीकरण क्या है, और विभिन्न हितधारकों को विभिन्न प्रकारों की आवश्यकता हो सकती है। स्पष्टीकरणों को अत्यधिक अनुकूल बनाने के लिए हेरफेर भी किया जा सकता है, जो उच्च-दांव वाले क्षेत्रों में एक चिंता का विषय है।
एक और मुद्दा यूरोपीय संघ के सामान्य डेटा संरक्षण विनियमन (जीडीपीआर) जैसे नियमों में "स्पष्टीकरण का अधिकार" है, जो अनिवार्य करता है कि स्वचालित निर्णय स्पष्ट हों, लेकिन तकनीकी कार्यान्वयन अभी भी विकसित हो रहे हैं। XAI विधियां किसी मॉडल के पूर्ण तर्क को कैप्चर नहीं कर सकती हैं, खासकर अरबों मापदंडों वाले Deep learning सिस्टम के लिए। 2025 तक, अनुसंधान इन सीमाओं को संबोधित करना जारी रखता है, स्पष्टीकरण गुणवत्ता के कठोर मूल्यांकन और सटीक और व्याख्यात्मक दोनों तरीकों को विकसित करने पर ध्यान केंद्रित कर रहा है।
अनुप्रयोग और भविष्य की दिशाएं
XAI विभिन्न क्षेत्रों में लागू किया जाता है। स्वास्थ्य देखभाल में, यह चिकित्सकों को Machine learning-आधारित निदान और उपचार सिफारिशों को समझने में मदद करता है, Artificial intelligence-सहायता प्राप्त चिकित्सा में विश्वास बनाता है। वित्त में, XAI क्रेडिट निर्णयों और धोखाधड़ी का पता लगाने की व्याख्या करता है, अनुपालन और निष्पक्षता सुनिश्चित करता है। स्वायत्त वाहनों में, XAI स्पष्ट कर सकता है कि Waymo या Tesla सिस्टम ने एक विशेष ड्राइविंग निर्णय क्यों लिया। कानूनी और रक्षा संदर्भों में, XAI जवाबदेही और निरीक्षण का समर्थन करता है।
भविष्य की दिशाओं में स्पष्टीकरण के लिए अधिक मजबूत मूल्यांकन मेट्रिक्स विकसित करना, मॉडल प्रशिक्षण प्रक्रियाओं में XAI को एकीकृत करना, और इंटरैक्टिव उपकरण बनाना शामिल है जो उपयोगकर्ताओं को मॉडल से पूछताछ करने की अनुमति देते हैं। MIT CSAIL, Stanford AI Lab, और BAIR (Berkeley AI Research) जैसे संस्थानों में अनुसंधान क्षेत्र को आगे बढ़ा रहा है। जैसे-जैसे एआई सिस्टम अधिक व्यापक होते जा रहे हैं, XAI यह सुनिश्चित करने के लिए महत्वपूर्ण होगा कि वे भरोसेमंद, निष्पक्ष और मानवीय मूल्यों के अनुरूप हों।