कृत्रिम बुद्धिमत्ता में निष्पक्षता वह सिद्धांत है जिसके अनुसार AI प्रणालियों को व्यक्तियों और समूहों के साथ समान व्यवहार करना चाहिए, तथा नस्ल, लिंग, आयु, या सामाजिक-आर्थिक स्थिति जैसी विशेषताओं के आधार पर व्यवस्थित भेदभाव से बचना चाहिए। इसमें मॉडल विकास की तकनीकी प्रक्रियाएँ - जिनमें डेटा संग्रह, एल्गोरिदम डिज़ाइन, और परिनियोजन शामिल हैं - और स्वचालित निर्णय लेने के व्यापक सामाजिक प्रभाव दोनों शामिल हैं। निष्पक्षता एक विवादास्पद अवधारणा है, जिसकी कई गणितीय परिभाषाएँ और दार्शनिक व्याख्याएँ हैं, और यह मशीन लर्निंग अनुसंधान और नीति चर्चाओं में एक केंद्रीय चिंता बन गई है।
निष्पक्षता एक एकल, सार्वभौमिक रूप से स्वीकृत मीट्रिक नहीं है, बल्कि मानदंडों का एक परिवार है जो अक्सर एक-दूसरे के साथ संघर्ष करते हैं। शोधकर्ता और व्यवसायी अनुप्रयोग संदर्भ, कानूनी आवश्यकताओं और नैतिक प्रतिबद्धताओं के आधार पर परिभाषाएँ चुनते हैं। यह क्षेत्र कंप्यूटर विज्ञान, सांख्यिकी, कानून और सामाजिक विज्ञान से प्रेरणा लेता है, और यह AI प्रणालियों में जवाबदेही, पारदर्शिता और गोपनीयता के मुद्दों से जुड़ा हुआ है।
ऐतिहासिक संदर्भ और उद्भव
स्वचालित प्रणालियों में पूर्वाग्रह की चिंताएँ आधुनिक AI से पहले की हैं, जो प्रारंभिक सांख्यिकीय और निर्णय-समर्थन उपकरणों में दिखाई देती हैं। हालाँकि, "निष्पक्षता" शब्द ने 2010 के दशक के दौरान मशीन लर्निंग समुदाय में प्रमुखता प्राप्त की, जब डीप लर्निंग मॉडल भर्ती, ऋण और आपराधिक न्याय जैसे उच्च-दांव वाले क्षेत्रों में व्यापक रूप से तैनात हो गए। ऐतिहासिक अध्ययन, जैसे कि वाणिज्यिक जोखिम-मूल्यांकन उपकरणों में नस्लीय पूर्वाग्रह की जाँच करने वाले, ने शैक्षणिक और सार्वजनिक जाँच को प्रेरित किया।
2016 में, कार्नेगी मेलन विश्वविद्यालय और अन्य संस्थानों ने एल्गोरिदमिक निष्पक्षता पर प्रभावशाली पेपर प्रकाशित करना शुरू किया, जिसमें जनसांख्यिकीय समानता और समानीकृत बाधाओं जैसी औपचारिक परिभाषाएँ प्रस्तावित की गईं। बर्कले AI अनुसंधान समूह और स्टैनफोर्ड AI प्रयोगशाला के शोधकर्ताओं ने पूर्वाग्रह को मापने और कम करने पर मौलिक कार्य में योगदान दिया। 2018 तक, गूगल डीपमाइंड और ओपनएआई सहित प्रमुख प्रौद्योगिकी कंपनियों ने समर्पित नैतिकता टीमें स्थापित कीं और निष्पक्षता दिशानिर्देश प्रकाशित किए, हालाँकि कुछ प्रयासों को बाद में भंग कर दिया गया या पुनर्गठित किया गया।
निष्पक्षता को परिभाषित करना: प्रमुख मानदंड
व्यवहार में निष्पक्षता की कई औपचारिक परिभाषाएँ उपयोग की जाती हैं, जिनमें से प्रत्येक एक अलग अंतर्ज्ञान को दर्शाती है। जनसांख्यिकीय समानता के लिए आवश्यक है कि किसी मॉडल की सकारात्मक भविष्यवाणियाँ वास्तविक परिणामों की परवाह किए बिना समूहों में समान रूप से वितरित हों। समानीकृत बाधाओं की मांग है कि गलत सकारात्मक और गलत नकारात्मक दरें समूहों में समान हों, यह सुनिश्चित करते हुए कि त्रुटियाँ व्यवस्थित रूप से केंद्रित न हों। अंशांकन के लिए आवश्यक है कि भविष्यवाणी की गई संभावनाएँ प्रत्येक समूह के भीतर वास्तविक आवृत्तियों से मेल खाती हों।
ये मानदंड अधिकांश यथार्थवादी सेटिंग्स में गणितीय रूप से असंगत हैं, एक परिणाम जो अलेक्ज़ेंडर मैड्री और अन्य शोधकर्ताओं द्वारा 2019 में सिद्ध किया गया था। उदाहरण के लिए, एक मॉडल एक साथ पूर्ण अंशांकन और समानीकृत बाधाओं को प्राप्त नहीं कर सकता है जब तक कि समूहों की आधार दरें समान न हों। यह असंभवता प्रमेय का अर्थ है कि निष्पक्षता स्वाभाविक रूप से एक मूल्य-आधारित विकल्प है, न कि केवल एक तकनीकी अनुकूलन।
AI प्रणालियों में पूर्वाग्रह के स्रोत
पूर्वाग्रह AI प्रणाली में उसके जीवनचक्र के कई चरणों में प्रवेश कर सकता है। डेटा पूर्वाग्रह तब उत्पन्न होता है जब प्रशिक्षण डेटासेट कुछ समूहों का कम प्रतिनिधित्व करते हैं या ऐतिहासिक पूर्वाग्रह रखते हैं, जैसे कि पिछले भर्ती निर्णय जो एक जनसांख्यिकी का पक्ष लेते थे। एल्गोरिदमिक पूर्वाग्रह संतुलित डेटा के साथ भी मॉडल आर्किटेक्चर या अनुकूलन विकल्पों से उभर सकता है। परिनियोजन पूर्वाग्रह तब होता है जब किसी मॉडल का उपयोग उसके प्रशिक्षण वातावरण से भिन्न संदर्भ में किया जाता है, जिससे अप्रत्याशित असमानताएँ उत्पन्न होती हैं।
उदाहरण के लिए, बड़े भाषा मॉडल जो इंटरनेट पाठ पर प्रशिक्षित होते हैं, कोष में मौजूद रूढ़ियों को पुन: उत्पन्न कर सकते हैं। एंथ्रोपिक और ओपनएआई के शोधकर्ताओं ने उत्पन्न पाठ में लिंग और नस्लीय पूर्वाग्रहों का दस्तावेजीकरण किया है, जिससे क्यूरेटेड डेटासेट और मानव प्रतिक्रिया से सुदृढीकरण सीखने के साथ फाइन-ट्यूनिंग जैसी शमन तकनीकों को बढ़ावा मिला है। कंप्यूटर विज़न में, तंत्रिका नेटवर्क जो छवि डेटासेट पर प्रशिक्षित होते हैं, ने गहरे रंग की त्वचा वाले व्यक्तियों के लिए कम सटीकता दिखाई है, एक समस्या जो एमआईटी सीएसएआईएल और अन्य के अध्ययनों द्वारा उजागर की गई है।
शमन रणनीतियाँ और उपकरण
निष्पक्षता में सुधार के लिए तकनीकें तीन श्रेणियों में आती हैं: पूर्व-प्रसंस्करण, अंतर-प्रसंस्करण और पश्च-प्रसंस्करण। पूर्व-प्रसंस्करण विधियाँ प्रशिक्षण डेटा को समायोजित करती हैं, जैसे नमूनों का पुनर्भारण या संवेदनशील विशेषताओं को हटाना। अंतर-प्रसंस्करण विधियाँ सीखने के एल्गोरिदम को संशोधित करती हैं, उदाहरण के लिए हानि फलन में निष्पक्षता बाधाओं को जोड़कर या समूह-विशिष्ट त्रुटियों को कम करने के लिए प्रतिकूल प्रशिक्षण का उपयोग करके। पश्च-प्रसंस्करण विधियाँ मॉडल के आउटपुट को बदलती हैं, जैसे विभिन्न समूहों के लिए अलग-अलग निर्णय सीमाएँ लागू करना।
कई ओपन-सोर्स लाइब्रेरी इन दृष्टिकोणों को लागू करती हैं, जिनमें IBM का AI फेयरनेस 360 और Google का व्हाट-इफ टूल शामिल हैं। ये उपकरण व्यवसायियों को असमान प्रभाव और समानीकृत बाधाओं जैसे मीट्रिक मापने और शमन रणनीतियों के साथ प्रयोग करने की अनुमति देते हैं। हालाँकि, उनकी प्रभावशीलता डोमेन के अनुसार भिन्न होती है, और कोई भी एक विधि सभी संदर्भों में निष्पक्षता की गारंटी नहीं देती है।
चुनौतियाँ और चल रही बहसें
एक प्रमुख चुनौती कई अनुप्रयोगों में निष्पक्षता के लिए जमीनी सत्य की कमी है। उदाहरण के लिए, भविष्य कहनेवाला पुलिसिंग में, "सच्चे" अपराध जोखिम का कोई वस्तुनिष्ठ माप नहीं है, जिससे यह आकलन करना मुश्किल हो जाता है कि कोई मॉडल पक्षपाती है या सटीक। इसी तरह, क्रेडिट स्कोरिंग में, ऐतिहासिक ऋण परिणाम अतीत के भेदभाव को दर्शाते हैं, इसलिए उन पर प्रशिक्षित एक मॉडल सांख्यिकीय निष्पक्षता मानदंडों को पूरा करने पर भी असमानताओं को बनाए रख सकता है।
एक और बहस निष्पक्षता और सटीकता के बीच व्यापार-बंद से संबंधित है। कुछ अध्ययन दिखाते हैं कि निष्पक्षता बाधाओं को लागू करने से समग्र मॉडल प्रदर्शन कम हो सकता है, जबकि अन्य तर्क देते हैं कि नुकसान अक्सर छोटा या नगण्य होता है। संबंध डेटासेट और चुने गए निष्पक्षता मीट्रिक पर निर्भर करता है, और यह अनुसंधान का एक सक्रिय क्षेत्र बना हुआ है।
अंत में, निष्पक्षता पारदर्शिता और जवाबदेही जैसे अन्य नैतिक सिद्धांतों के साथ प्रतिच्छेद करती है। एक मॉडल जो एक मीट्रिक द्वारा निष्पक्ष है, अपने निर्णय लेने में अपारदर्शी हो सकता है, जिससे प्रभावित व्यक्तियों के लिए परिणामों को चुनौती देना मुश्किल हो जाता है। मेलानी मिशेल और ब्रायन क्रिश्चियन जैसे शोधकर्ताओं ने एक व्यापक दृष्टिकोण के लिए तर्क दिया है जो AI परिनियोजन के सामाजिक संदर्भ पर विचार करता है, न कि केवल गणितीय परिभाषाओं पर ध्यान केंद्रित करता है।
भविष्य की दिशाएँ
जैसे-जैसे AI प्रणालियाँ दैनिक जीवन में अधिक एकीकृत होती जा रही हैं, निष्पक्षता अध्ययन का एक महत्वपूर्ण क्षेत्र बनी रहेगी। उभरता हुआ कार्य जनरेटिव मॉडल में निष्पक्षता की खोज करता है, जैसे जनरेटिव AI प्रणालियाँ जो छवियाँ या पाठ उत्पन्न करती हैं, और सुदृढीकरण सीखने में, जहाँ अनुक्रमिक निर्णय पूर्वाग्रहों को बढ़ा सकते हैं। कंप्यूटर वैज्ञानिकों, कानूनी विद्वानों और सामाजिक वैज्ञानिकों के बीच अंतर-अनुशासनात्मक सहयोग का विस्तार हो रहा है, और यूरोपीय संघ और अन्य जगहों पर नियामक ढाँचे उच्च-जोखिम वाले AI अनुप्रयोगों के लिए निष्पक्षता मूल्यांकन को अनिवार्य करना शुरू कर रहे हैं।
तकनीकी प्रगति, जैसे अधिक मजबूत डेटा संवर्धन और मॉडल प्रूनिंग तकनीकें, भी अधिक निष्पक्ष मॉडल में योगदान कर सकती हैं। हालाँकि, कई विशेषज्ञ चेतावनी देते हैं कि निष्पक्षता को पूरी तरह से स्वचालित नहीं किया जा सकता है; इसके लिए निरंतर मानवीय निर्णय और संस्थागत निगरानी की आवश्यकता होती है। इस प्रकार यह क्षेत्र एक गतिशील और विवादास्पद स्थान बना हुआ है, जो न्याय और प्रौद्योगिकी के बारे में व्यापक सामाजिक प्रश्नों को दर्शाता है।