एआई नैतिकता

AI नैतिकता वह अंतःविषयक क्षेत्र है जो कृत्रिम बुद्धिमत्ता प्रणालियों के निर्माण और तैनाती के नैतिक, सामाजिक और राजनीतिक निहितार्थों की जांच करता है। यह AI safety के साथ अतिव्यापी है, लेकिन उससे व्यापक है - एआई-सुरक्षा विनाशकारी या अस्तित्वगत विफलताओं को रोकने पर केंद्रित होती है; इसके बजाय AI नैतिकता अल्पकालिक नुकसानों पर केंद्रित है, जैसे कि भेदभाव, गोपनीयता की हानि, जवाबदेही का क्षरण, श्रम विस्थापन, और सत्ता का उन कुछ कंपनियों और सरकारों में केंद्रीकरण जो अत्याधुनिक प्रणालियों को नियंत्रित करती हैं। इस क्षेत्र के व्यवसायी दार्शनिक, कंप्यूटर वैज्ञानिक, वकील और समाजशास्त्री शामिल हैं, और इसकी चिंताएँ EU AI Act जैसे ढाँचों के माध्यम से तेजी से कॉर्पोरेट नीति और सरकारी विनियमन को सूचित करती हैं।

मुख्य चिंताएँ

पूर्वाग्रह और निष्पक्षता AI नैतिकता में सबसे अधिक अध्ययन किए गए विषयों में से हैं: क्योंकि Machine learning प्रणालियाँ Training data से सांख्यिकीय पैटर्न सीखती हैं, वे उस डेटा में मौजूद ऐतिहासिक भेदभाव को पुन: उत्पन्न और प्रवर्धित कर सकती हैं, यह प्रभाव भर्ती उपकरणों, क्रेडिट स्कोरिंग और चेहरे की पहचान में प्रलेखित है, और Algorithmic bias पर लेख में विस्तार से चर्चा की गई है। पारदर्शिता और जवाबदेही इस बात से संबंधित है कि क्या AI निर्णय से प्रभावित लोग इसे समझ या चुनौती दे सकते हैं, यह चुनौती बड़े तंत्रिका नेटवर्क मॉडल की ब्लैक-बॉक्स प्रकृति के कारण और भी गंभीर हो गई है, जिसने Explainable AI और Mechanistic interpretability के अलग-अलग क्षेत्रों को प्रेरित किया है। गोपनीयता की चिंताएँ मॉडल बनाने के लिए एकत्रित विशाल प्रशिक्षण डेटा और AI-सक्षम निगरानी क्षमताओं दोनों से उत्पन्न होती हैं। अन्य आवर्ती विषयों में बड़े मॉडलों को प्रशिक्षित करने और चलाने की पर्यावरणीय लागत, डेटा को लेबल करने और सामग्री को मॉडरेट करने वाले मानव एनोटेटरों की श्रम स्थितियाँ, और जनरेटिव उपकरणों द्वारा Deepfake मीडिया और निम्न-गुणवत्ता वाले बड़े पैमाने पर उत्पादित सामग्री के माध्यम से गलत सूचना के प्रसार को तेज करने का जोखिम शामिल है, जिसे कभी-कभी AI स्लॉप कहा जाता है।

स्टोकेस्टिक तोता बहस

इस क्षेत्र के लिए एक महत्वपूर्ण क्षण 2021 का पेपर "ऑन द डेंजर्स ऑफ स्टोकेस्टिक पैरेट्स" था, जो Timnit Gebru, Emily Bender और सहयोगियों द्वारा सह-लेखित था, जिसमें तर्क दिया गया कि बड़े और बड़े भाषा मॉडल बड़े पैमाने पर पूर्वाग्रह को एनकोड करने का जोखिम उठाते हैं, पर्याप्त पर्यावरणीय और वित्तीय लागतें लगाते हैं, और समझ का एक झूठा आभास बना सकते हैं जहाँ कोई अस्तित्व में नहीं है, यह आलोचना बाद में Stochastic parrot शब्द द्वारा संक्षेपित की गई। पेपर का प्रकाशन गेब्रू के Google से प्रस्थान के साथ मेल खाता था, जो पेपर की समीक्षा पर आंतरिक विवाद के बीच हुआ, जो कॉर्पोरेट AI प्रयोगशालाओं और आंतरिक नैतिकता शोधकर्ताओं के बीच तनाव का व्यापक रूप से चर्चित केस स्टडी बन गया।

संस्थागत प्रतिक्रिया

बढ़ती सार्वजनिक चिंता के जवाब में, अधिकांश प्रमुख AI डेवलपर्स, जिनमें OpenAI और Anthropic शामिल हैं, अब किसी न किसी रूप में उपयोग नीति, सुरक्षा या जिम्मेदार-AI ढाँचा, और ज्ञात सीमाओं का दस्तावेजीकरण करने वाला मॉडल कार्ड प्रकाशित करते हैं। एंथ्रोपिक ने विशेष रूप से अपने शोध कार्यक्रम का अधिकांश भाग, संवैधानिक AI सहित, नैतिक सिद्धांतों को सीधे मॉडल प्रशिक्षण में एम्बेड करने के आसपास तैयार किया है। सरकारों ने भी AI नैतिकता सिद्धांतों को कानून या दिशानिर्देशों में संहिताबद्ध करने के लिए कदम उठाए हैं, जिसमें OECD AI सिद्धांत, यू.एस. AI बिल ऑफ राइट्स के लिए ब्लूप्रिंट, और EU AI अधिनियम के तहत बाध्यकारी नियम शामिल हैं; व्यापक नियामक परिदृश्य AI governance पर लेख में शामिल है।

आलोचना और बहस

एक क्षेत्र के रूप में AI नैतिकता को स्वयं कई दिशाओं से आलोचना का सामना करना पड़ा है। कुछ प्रौद्योगिकीविद तर्क देते हैं कि नैतिकता समीक्षाएँ लाभकारी तैनाती को धीमा कर देती हैं या वास्तविक परिवर्तन के बजाय दिखावटी अनुपालन के रूप में समाप्त होती हैं। अन्य, जिनमें कुछ AI सुरक्षा शोधकर्ता शामिल हैं, तर्क देते हैं कि अल्पकालिक नैतिकता ढाँचा अधिक परिणामी दीर्घकालिक जोखिमों से ध्यान भटकाता है; इसके विपरीत, नैतिकता-केंद्रित शोधकर्ताओं ने तर्क दिया है कि अस्तित्वगत-जोखिम ढाँचा, जिस पर Existential risk from AI लेख में चर्चा की गई है, प्रलेखित वर्तमान-काल के नुकसानों से ध्यान और धन भटकाता है। किस चिंता के सेट को AI शासन नीति का मार्गदर्शन करना चाहिए, इस पर बहस सक्रिय बनी हुई है और 2020 के दशक के मध्य तक काफी हद तक अनसुलझी है।