AI में पूर्वाग्रह (Bias in AI), जिसे एल्गोरिदमिक पूर्वाग्रह (algorithmic bias) के रूप में भी जाना जाता है, एक कम्प्यूटरीकृत सामाजिक-तकनीकी प्रणाली में अनुचित परिणाम उत्पन्न करने की व्यवस्थित और दोहराव वाली हानिकारक प्रवृत्ति का वर्णन करता है, जैसे कि एक श्रेणी को दूसरे पर विशेषाधिकार देना, जो एल्गोरिदम के इच्छित कार्य से भिन्न हो सकता है। यह पूर्वाग्रह कई कारकों से उत्पन्न हो सकता है, जिसमें जानबूझकर पक्षपाती डिज़ाइन निर्णय या डेटा को कोडित, एकत्र, चयनित या एल्गोरिदम को प्रशिक्षित करने के लिए उपयोग करने के तरीके से संबंधित अनपेक्षित या अप्रत्याशित उपयोग या निर्णय शामिल हैं। एल्गोरिदमिक पूर्वाग्रह का अध्ययन सबसे अधिक उन एल्गोरिदम से संबंधित है जो व्यवस्थित और अनुचित भेदभाव को दर्शाते हैं, और इसे खोज इंजन परिणामों, सोशल मीडिया प्लेटफार्मों और अन्य अनुप्रयोगों में देखा गया है, जिसके प्रभाव गोपनीयता उल्लंघन से लेकर नस्ल, लिंग, कामुकता और जातीयता के सामाजिक पूर्वाग्रहों को सुदृढ़ करने तक हैं।
जैसे-जैसे एल्गोरिदम समाज, राजनीति, संस्थानों और व्यवहार को व्यवस्थित करने की अपनी क्षमता का विस्तार करते हैं, समाजशास्त्री उन तरीकों से चिंतित हो गए हैं जिनमें अप्रत्याशित आउटपुट और डेटा का हेरफेर भौतिक दुनिया को प्रभावित कर सकता है। चूंकि एल्गोरिदम को अक्सर तटस्थ और निष्पक्ष माना जाता है, वे मानव विशेषज्ञता से अधिक अधिकार को गलत तरीके से प्रदर्शित कर सकते हैं, आंशिक रूप से स्वचालन पूर्वाग्रह (automation bias) की मनोवैज्ञानिक घटना के कारण। कुछ मामलों में, एल्गोरिदम पर निर्भरता उनके परिणामों के लिए मानवीय जिम्मेदारी को विस्थापित कर सकती है। पूर्वाग्रह पूर्व-मौजूदा सांस्कृतिक, सामाजिक या संस्थागत अपेक्षाओं के परिणामस्वरूप; सुविधाओं और लेबलों को चुनने के तरीके के कारण; उनके डिज़ाइन की तकनीकी सीमाओं के कारण; या अप्रत्याशित संदर्भों में या ऐसे दर्शकों द्वारा उपयोग किए जाने के कारण एल्गोरिदमिक प्रणालियों में प्रवेश कर सकता है, जिन्हें सॉफ्टवेयर के प्रारंभिक डिज़ाइन में नहीं माना गया था।
पूर्वाग्रह के स्रोत
पूर्वाग्रह को कई तरीकों से एल्गोरिदम में पेश किया जा सकता है। डेटासेट के संयोजन के दौरान, डेटा को मानव-डिज़ाइन किए गए सूचीकरण मानदंडों के अनुसार एकत्र, डिजिटलीकृत, अनुकूलित और डेटाबेस में दर्ज किया जा सकता है। प्रोग्रामर यह प्राथमिकता या पदानुक्रम निर्धारित करते हैं कि कोई प्रोग्राम उस डेटा का मूल्यांकन और क्रमबद्ध कैसे करेगा, जिसके लिए वर्गीकरण और समावेश या बहिष्करण के बारे में मानवीय निर्णयों की आवश्यकता होती है। कुछ एल्गोरिदम मानव-चयनित मानदंडों के आधार पर अपना स्वयं का डेटा एकत्र करते हैं, जो मानव डिजाइनरों के पूर्वाग्रह को प्रतिबिंबित कर सकता है। अन्य एल्गोरिदम मानव उपयोगकर्ताओं के लिए प्रासंगिक डेटा संसाधित और प्रदर्शित करते समय रूढ़ियों और वरीयताओं को सुदृढ़ कर सकते हैं, उदाहरण के लिए, किसी समान उपयोगकर्ता या समूह के पिछले विकल्पों के आधार पर जानकारी का चयन करके।
डेटा को इकट्ठा करने और संसाधित करने के अलावा, पूर्वाग्रह डिज़ाइन के परिणामस्वरूप उभर सकता है। संसाधनों या जांच के आवंटन को निर्धारित करने वाले एल्गोरिदम, जैसे स्कूल प्लेसमेंट निर्धारित करना, समान उपयोगकर्ताओं के आधार पर जोखिम का निर्धारण करते समय अनजाने में किसी श्रेणी के खिलाफ भेदभाव कर सकते हैं, जैसा कि क्रेडिट स्कोर में होता है। अनुशंसा इंजन जो उपयोगकर्ताओं को समान उपयोगकर्ताओं से जोड़ते हैं या विपणन लक्षणों का अनुमान लगाते हैं, गलत संबंधों पर भरोसा कर सकते हैं जो व्यापक जातीय, लिंग, सामाजिक-आर्थिक या नस्लीय रूढ़ियों को दर्शाते हैं। परिणामों में क्या शामिल और बाहर रखा गया है, इसके मानदंड अप्रत्याशित परिणाम प्रस्तुत कर सकते हैं, जैसे कि उड़ान-अनुशंसा सॉफ्टवेयर जो प्रायोजक एयरलाइन के उड़ान पथ का पालन नहीं करने वाली उड़ानों को छोड़ देता है। एल्गोरिदम अनिश्चितता पूर्वाग्रह भी प्रदर्शित कर सकते हैं, बड़े डेटासेट उपलब्ध होने पर अधिक आत्मविश्वासपूर्ण आकलन की पेशकश करते हैं, जो परिणामों को बड़े नमूनों की ओर झुका सकता है और कम प्रतिनिधित्व वाली आबादी के डेटा की उपेक्षा कर सकता है।
ऐतिहासिक संदर्भ
सबसे पहले कंप्यूटर प्रोग्राम मानव तर्क और निष्कर्षों का अनुकरण करने के लिए डिज़ाइन किए गए थे, और उन्हें कार्यशील माना जाता था जब वे सफलतापूर्वक और लगातार अपेक्षित आउटपुट को पुन: उत्पन्न करते थे। जैसे-जैसे Machine learning और Artificial intelligence उन्नत हुए, डेटा-संचालित निर्णय लेने पर निर्भरता बढ़ी, और पूर्वाग्रह के बारे में चिंताएं अधिक प्रमुख हो गईं। 2021 के एक सर्वेक्षण ने एल्गोरिदमिक पूर्वाग्रह के कई रूपों की पहचान की, जिसमें ऐतिहासिक, प्रतिनिधित्व और माप पूर्वाग्रह शामिल हैं, जिनमें से प्रत्येक अनुचित परिणामों में योगदान कर सकता है। ऐतिहासिक पूर्वाग्रह तब उत्पन्न होता है जब डेटा अतीत की सामाजिक असमानताओं को दर्शाता है, प्रतिनिधित्व पूर्वाग्रह तब होता है जब कुछ समूह प्रशिक्षण डेटा में कम प्रतिनिधित्व रखते हैं, और माप पूर्वाग्रह दोषपूर्ण या अपूर्ण मैट्रिक्स का उपयोग करने से उत्पन्न होता है।
प्रभाव क्षेत्र
एल्गोरिदमिक पूर्वाग्रह को चुनाव परिणामों से लेकर ऑनलाइन घृणा भाषण के प्रसार तक के मामलों में उद्धृत किया गया है। यह आपराधिक न्याय, स्वास्थ्य देखभाल और भर्ती में भी उभरा है, जो मौजूदा नस्लीय, सामाजिक-आर्थिक और लिंग पूर्वाग्रहों को बढ़ाता है। चेहरे की पहचान तकनीक की गहरे रंग के चेहरों को सटीक रूप से पहचानने में सापेक्ष अक्षमता कई गलत गिरफ्तारियों से जुड़ी हुई है, जो असंतुलित डेटासेट से उत्पन्न एक मुद्दा है। भर्ती में, ऐतिहासिक रिज्यूमे पर प्रशिक्षित एल्गोरिदम पुरुष उम्मीदवारों का पक्ष ले सकते हैं यदि पिछली भर्ती प्रथाएं पक्षपाती थीं। स्वास्थ्य देखभाल में, भविष्य कहने वाले मॉडल अपर्याप्त प्रशिक्षण डेटा के कारण अल्पसंख्यक आबादी में स्थितियों का कम निदान कर सकते हैं।
कानूनी और नियामक प्रतिक्रियाएं
AI में पूर्वाग्रह को केवल हाल ही में कानूनी ढांचे में संबोधित किया गया है। यूरोपीय संघ का सामान्य डेटा संरक्षण विनियमन, 2018 में लागू किया गया, स्वचालित निर्णय लेने और स्पष्टीकरण के अधिकार से संबंधित प्रावधान शामिल करता है। 2021 में प्रस्तावित और 2024 में अपनाया गया कृत्रिम बुद्धिमत्ता अधिनियम, AI प्रणालियों के लिए जोखिम-आधारित आवश्यकताओं को स्थापित करता है, जिसमें पूर्वाग्रह को कम करने के उपाय शामिल हैं। ये नियम पारदर्शिता और जवाबदेही बढ़ाने का लक्ष्य रखते हैं, हालांकि कई एल्गोरिदम की मालिकाना प्रकृति के कारण प्रवर्तन चुनौतीपूर्ण बना हुआ है।
पूर्वाग्रह को संबोधित करने में चुनौतियाँ
एल्गोरिदम की मालिकाना प्रकृति के कारण, जिन्हें आमतौर पर व्यापार रहस्य माना जाता है, एल्गोरिदमिक पूर्वाग्रह को समझने, शोध करने और खोजने में समस्याएं बनी रहती हैं। यहां तक कि जब पूर्ण पारदर्शिता प्रदान की जाती है, तो कुछ एल्गोरिदम की जटिलता उनके कार्य को समझने में बाधा उत्पन्न करती है। इसके अलावा, एल्गोरिदम इनपुट या आउटपुट के जवाब में उन तरीकों से बदल सकते हैं या प्रतिक्रिया दे सकते हैं जिनकी भविष्यवाणी या विश्लेषण के लिए आसानी से पुन: उत्पन्न नहीं किया जा सकता है। कई मामलों में, एक ही वेबसाइट या एप्लिकेशन के भीतर भी, जांचने के लिए कोई एकल एल्गोरिदम नहीं होता है, बल्कि कई परस्पर संबंधित प्रोग्राम और डेटा इनपुट का एक नेटवर्क होता है, यहां तक कि एक ही सेवा के उपयोगकर्ताओं के बीच भी।
शमन दृष्टिकोण
शोधकर्ताओं और चिकित्सकों ने AI में पूर्वाग्रह को कम करने के लिए विभिन्न दृष्टिकोण विकसित किए हैं। इनमें डेटासेट को संतुलित करने के लिए पूर्व-प्रसंस्करण तकनीकें, मॉडल प्रशिक्षण के दौरान निष्पक्षता बाधाओं को शामिल करने वाली इन-प्रोसेसिंग विधियां, और आउटपुट में पोस्ट-प्रोसेसिंग समायोजन शामिल हैं। उदाहरण के लिए, Data Augmentation कम प्रतिनिधित्व वाले समूहों के लिए सिंथेटिक उदाहरण उत्पन्न करके प्रतिनिधित्व पूर्वाग्रह को संबोधित करने में मदद कर सकता है। निष्पक्षता मेट्रिक्स, जैसे जनसांख्यिकीय समानता और समानीकृत ऑड्स, का उपयोग पूर्वाग्रह को मापने और निगरानी करने के लिए किया जाता है। हालांकि, अक्सर निष्पक्षता और सटीकता के बीच एक समझौता होता है, और निष्पक्षता की कोई एक परिभाषा सार्वभौमिक रूप से लागू नहीं होती है।
भविष्य की दिशाएं
जैसे-जैसे AI प्रणालियां समाज में अधिक एकीकृत होती जा रही हैं, पूर्वाग्रह को संबोधित करना एक महत्वपूर्ण चुनौती बनी हुई है। कंप्यूटर वैज्ञानिकों, समाजशास्त्रियों, नैतिकतावादियों और कानूनी विद्वानों के बीच अंतःविषय सहयोग आवश्यक है। OpenAI, Anthropic, और Google DeepMind जैसे संगठनों ने निष्पक्षता और पूर्वाग्रह पर शोध प्रकाशित किया है, हालांकि उनके एल्गोरिदम काफी हद तक मालिकाना बने हुए हैं। व्याख्यात्मक AI का विकास, जिसका उद्देश्य मॉडल निर्णयों को अधिक व्याख्यात्मक बनाना है, अनुसंधान का एक सक्रिय क्षेत्र है। अंततः, पूर्वाग्रह को कम करने के लिए न केवल तकनीकी समाधान बल्कि उन सामाजिक और संस्थागत संदर्भों की निरंतर जांच की आवश्यकता होती है जिनमें एल्गोरिदम तैनात किए जाते हैं।