AI गवर्नेंस उन कानूनों, विनियमों, मानकों और संस्थानों को संदर्भित करता है, जो राष्ट्रीय और अंतर्राष्ट्रीय दोनों स्तरों पर, यह आकार देते हैं कि कृत्रिम बुद्धिमत्ता कैसे विकसित और तैनात की जाती है। यह क्षेत्र एआई-सुरक्षा और एआई-नैतिकता के प्रतिच्छेदन पर स्थित है, जो एआई से संबंधित तकनीकी और सामाजिक चिंताओं, जैसे एल्गोरिथमिक पूर्वाग्रह, भ्रम और दीर्घकालिक एआई से अस्तित्वगत जोखिम को बाध्यकारी नियमों, स्वैच्छिक प्रतिबद्धताओं और निरीक्षण निकायों में अनुवादित करता है। गवर्नेंस दृष्टिकोण क्षेत्राधिकार के अनुसार व्यापक रूप से भिन्न होते हैं, जो व्यापक, जोखिम-आधारित विनियमन से लेकर हल्के-छू वाले ढांचे तक होते हैं जो उद्योग के स्व-शासन पर निर्भर करते हैं।
प्रमुख नियामक ढांचे
मध्य-2020 के दशक के सबसे व्यापक बाध्यकारी कानून के रूप में यूरोपीय संघ एआई अधिनियम है, जिसे 2024 में यूरोपीय संघ द्वारा अपनाया गया, जो एआई अनुप्रयोगों को जोखिम स्तरों में वर्गीकृत करता है, जिसमें सामाजिक स्कोरिंग जैसे प्रतिबंधित उपयोग से लेकर बायोमेट्रिक पहचान और भर्ती उपकरणों सहित भारी विनियमित "उच्च-जोखिम" श्रेणियां शामिल हैं, और बड़े भाषा मॉडल चैटबॉट जैसी सामान्य-उद्देश्य प्रणालियों के लिए हल्के पारदर्शिता दायित्वों के साथ। संयुक्त राज्य अमेरिका में, गवर्नेंस एक व्यापक क़ानून के बजाय कार्यकारी कार्रवाई और क्षेत्र-विशिष्ट नियमों के माध्यम से आगे बढ़ा है; राष्ट्रपति बाइडेन के अक्टूबर 2023 के एआई पर कार्यकारी आदेश ने संघीय एजेंसियों को सुरक्षा-परीक्षण और रिपोर्टिंग आवश्यकताओं को विकसित करने का निर्देश दिया, जबकि उसके बाद आए प्रशासन ने अमेरिकी प्रतिस्पर्धात्मकता पर जोर देने वाले एक विनियमन-विरोधी रुख की ओर रुख किया। चीन ने जनरेटिव एआई सेवाओं पर अपने स्वयं के बाध्यकारी नियम जारी किए हैं, जिसमें सार्वजनिक-सामना करने वाली प्रणालियों के लिए सुरक्षा मूल्यांकन और सामग्री लेबलिंग की आवश्यकता है। यूनाइटेड किंगडम, जापान और कनाडा सहित अन्य क्षेत्राधिकारों ने आम तौर पर व्यापक विधान के बजाय मार्गदर्शन-आधारित या क्षेत्र-विशिष्ट दृष्टिकोणों का पक्ष लिया है।
अंतर्राष्ट्रीय समन्वय
सरकारों ने बाध्यकारी कानून के बाहर स्वैच्छिक अंतर्राष्ट्रीय समन्वय भी किया है। ब्लेचली घोषणा, जिस पर नवंबर 2023 में यूके के एआई सुरक्षा शिखर सम्मेलन में 28 देशों ने हस्ताक्षर किए, पहला प्रमुख बहुपक्षीय वक्तव्य था जिसने एआई द्वारा गंभीर, यहां तक कि विनाशकारी, जोखिम उत्पन्न करने की संभावना को मान्यता दी, और इसने दक्षिण कोरिया और फ्रांस में अनुवर्ती शिखर सम्मेलनों की एक श्रृंखला शुरू की। समानांतर में, कई देशों ने समर्पित एआई सुरक्षा संस्थान स्थापित किए, जिनमें यूके एआई सुरक्षा संस्थान और NIST के भीतर स्थित अमेरिकी एआई सुरक्षा संस्थान शामिल हैं, जिनका कार्य रिलीज़ से पहले या तुरंत बाद फ्रंटियर मॉडल का स्वतंत्र रूप से परीक्षण करना है। आर्थिक सहयोग और विकास संगठन और संयुक्त राष्ट्र ने भी गैर-बाध्यकारी एआई सिद्धांत जारी किए हैं जिन्हें कई सरकारें घरेलू नीति तैयार करते समय संदर्भित करती हैं।
उद्योग प्रतिबद्धताएं
सरकारी विनियमन के साथ-साथ, ओपनएआई, एंथ्रोपिक और गूगल डीपमाइंड सहित फ्रंटियर एआई डेवलपर्स ने अपने स्वयं के स्वैच्छिक गवर्नेंस ढांचे प्रकाशित किए हैं, जिन्हें अक्सर जिम्मेदार स्केलिंग नीतियां या तैयारी ढांचे कहा जाता है, जो कंपनी को मॉडल द्वारा परिभाषित क्षमता सीमा पार करने के बाद विशिष्ट सुरक्षा मूल्यांकन और शमन उपायों के लिए प्रतिबद्ध करते हैं; इन पर एंथ्रोपिक सिद्धांतों लेख में आगे चर्चा की गई है। कंपनियों ने प्रमुख रिलीज़ से पहले सरकारी सुरक्षा संस्थानों द्वारा बाहरी रेड-टीमिंग और मूल्यांकन के लिए मॉडल भी प्रस्तुत किए हैं, यह एक अभ्यास जिसने ब्लेचली शिखर सम्मेलन के बाद गति पकड़ी।
बहसें
एआई गवर्नेंस कई पहलुओं पर विवादित बनी हुई है। कुछ शोधकर्ता और नीति निर्माता तर्क देते हैं कि विनियमन को कल्पनाशील भविष्य के जोखिमों के बजाय पूर्वाग्रह और गलत सूचना जैसे ठोस, वर्तमान-काल के नुकसानों पर ध्यान केंद्रित करना चाहिए; अन्य इसके विपरीत तर्क देते हैं, कि क्षमता लाभ की गति को देखते हुए नियामक ध्यान कम-संभाव्यता लेकिन विनाशकारी परिदृश्यों को अधिक भार देना चाहिए, यह विभाजन स्केलिंग-कानूनों और उभरती-क्षमताओं की व्याख्या करने पर व्यापक असहमति की गूंज है। एक अलग बहस यह है कि क्या विनियमन को सामान्य-उद्देश्य फाउंडेशन मॉडल को स्वयं लक्षित करना चाहिए या केवल विशिष्ट डाउनस्ट्रीम अनुप्रयोगों को, एक दृष्टिकोण जिसे यूरोपीय संघ एआई अधिनियम आंशिक रूप से सामान्य-उद्देश्य प्रणालियों पर हल्के, पारदर्शिता-केंद्रित कर्तव्यों और उच्च-जोखिम उपयोगों पर भारी कर्तव्यों को लागू करके समेटता है। उद्योग की पैरवी, नियामक कब्जे की चिंताएं और कम विनियमित क्षेत्राधिकारों के साथ प्रतिस्पर्धा स्थायी अंतर्राष्ट्रीय समझौते तक पहुंचने के प्रयासों को और जटिल बनाती है।