यूरोपीय संघ का कृत्रिम बुद्धिमत्ता अधिनियम (AI Act), जो 1 अगस्त 2024 को लागू हुआ, कृत्रिम बुद्धिमत्ता के लिए जोखिम-आधारित नियामक ढांचा स्थापित करता है। इसकी चार जोखिम श्रेणियों में से, उच्च-जोखिम वाली AI प्रणालियाँ वे हैं जिनसे स्वास्थ्य, सुरक्षा, या मौलिक अधिकारों के लिए महत्वपूर्ण खतरे उत्पन्न होने की उम्मीद है। इन प्रणालियों पर विनियमन के तहत सबसे कठोर दायित्व लागू होते हैं, जिनमें अनिवार्य अनुरूपता मूल्यांकन, पारदर्शिता आवश्यकताएँ, मानवीय निगरानी, और कुछ मामलों में, तैनाती से पहले मौलिक अधिकार प्रभाव मूल्यांकन (FRIA) शामिल हैं। AI अधिनियम 21 अप्रैल 2021 को यूरोपीय आयोग द्वारा प्रस्तावित किया गया था, 13 मार्च 2024 को यूरोपीय संसद द्वारा पारित किया गया, और 21 मई 2024 को EU परिषद द्वारा सर्वसम्मति से अनुमोदित किया गया। इसके प्रावधानों को लागू होने की तारीख से 6 से 36 महीनों में धीरे-धीरे लागू किया जा रहा है।
उच्च-जोखिम वर्गीकरण स्वास्थ्य, शिक्षा, भर्ती, महत्वपूर्ण बुनियादी ढांचे प्रबंधन, कानून प्रवर्तन, और न्याय जैसे महत्वपूर्ण क्षेत्रों में उपयोग की जाने वाली AI प्रणालियों पर लागू होता है। इन प्रणालियों को डिजाइन से लेकर तैनाती तक, अपने पूरे जीवनचक्र में गुणवत्ता, पारदर्शिता, और सुरक्षा दायित्वों का पालन करना होगा। उच्च-जोखिम वाले अनुप्रयोगों की सूची को AI अधिनियम में संशोधन किए बिना समय के साथ बढ़ाया जा सकता है, जिससे विनियमन उभरते जोखिमों के अनुकूल हो सके। नागरिकों को उच्च-जोखिम वाली AI प्रणालियों के बारे में शिकायत दर्ज करने और ऐसी प्रणालियों द्वारा उनके अधिकारों को प्रभावित करने वाले निर्णयों के स्पष्टीकरण प्राप्त करने का अधिकार है।
परिभाषा और दायरा
उच्च-जोखिम वाली AI प्रणालियों को AI अधिनियम के तहत ऐसे अनुप्रयोगों के रूप में परिभाषित किया गया है जिनसे व्यक्तियों या समाज को महत्वपूर्ण नुकसान होने की संभावना है। वर्गीकरण प्रणाली के अंतर्निहित तकनीक के बजाय उसके इच्छित उद्देश्य पर आधारित है। उदाहरण के लिए, चिकित्सा निदान के लिए उपयोग की जाने वाली AI प्रणाली उच्च-जोखिम वाली है, जबकि प्रशासनिक दस्तावेज़ छँटाई के लिए उपयोग किया जाने वाला वही एल्गोरिदम न्यूनतम-जोखिम वाला हो सकता है। यह अधिनियम क्षेत्रों की एक विस्तृत श्रृंखला में अधिकांश AI प्रणालियों को कवर करता है, जिसमें सैन्य, राष्ट्रीय सुरक्षा, अनुसंधान, और गैर-पेशेवर उपयोग के लिए छूट शामिल है। उत्पाद विनियमन के एक रूप के रूप में, यह व्यक्तियों पर नहीं, बल्कि प्रदाताओं और तैनात करने वालों पर दायित्व डालता है।
उच्च-जोखिम श्रेणी में AI प्रणालियाँ शामिल हैं जो उत्पादों के सुरक्षा घटक हैं, या स्वयं उत्पाद हैं, जो EU सामंजस्य कानून जैसे चिकित्सा उपकरण विनियमन या मशीनरी विनियमन के अधीन हैं। इसके अतिरिक्त, विशिष्ट क्षेत्रों में स्टैंडअलोन AI प्रणालियाँ उच्च-जोखिम वाली हैं, जिनमें बायोमेट्रिक पहचान, महत्वपूर्ण बुनियादी ढांचा, शिक्षा और व्यावसायिक प्रशिक्षण, रोजगार और श्रमिक प्रबंधन, आवश्यक सेवाएँ, कानून प्रवर्तन, प्रवासन और शरण, और न्याय प्रशासन शामिल हैं। दायरा व्यापक है, जो मौलिक अधिकारों को प्रभावित करने की इन प्रणालियों की क्षमता को दर्शाता है।
प्रदाताओं और तैनात करने वालों के लिए दायित्व
उच्च-जोखिम वाली AI प्रणालियों के प्रदाताओं को एक जोखिम प्रबंधन प्रणाली लागू करनी होगी जो सिस्टम के पूरे जीवनचक्र में जोखिमों की पहचान और शमन करती है। उन्हें यह सुनिश्चित करना होगा कि प्रशिक्षण, सत्यापन, और परीक्षण डेटा प्रासंगिक, प्रतिनिधि, और पूर्वाग्रह से मुक्त हो। सिस्टम को बाजार में रखने से पहले तकनीकी दस्तावेज तैयार किए जाने चाहिए, जो अधिनियम के अनुपालन को प्रदर्शित करते हों। सिस्टम के संचालन की पता लगाने की क्षमता सक्षम करने के लिए लॉगिंग क्षमताएँ अंतर्निहित होनी चाहिए। मानवीय निगरानी आवश्यक है, जिसका अर्थ है कि प्राकृतिक व्यक्तियों को सिस्टम के आउटपुट की व्याख्या करने और आवश्यकता पड़ने पर उसे ओवरराइड करने में सक्षम होना चाहिए।
उच्च-जोखिम वाली AI प्रणालियों के तैनात करने वालों, या उपयोगकर्ताओं, के अपने दायित्व हैं। उन्हें उपयोग के निर्देशों के अनुसार सिस्टम का उपयोग करना चाहिए, यह सुनिश्चित करना चाहिए कि इनपुट डेटा प्रासंगिक और पर्याप्त रूप से प्रतिनिधि है, और जोखिम के संकेतों के लिए सिस्टम के संचालन की निगरानी करनी चाहिए। उन्हें प्रभावित व्यक्तियों को सूचित करना चाहिए कि वे उच्च-जोखिम वाली प्रणाली के साथ बातचीत कर रहे हैं, और कुछ मामलों में, तैनाती से पहले मौलिक अधिकार प्रभाव मूल्यांकन करना चाहिए। यह मूल्यांकन मौलिक अधिकारों पर संभावित प्रभावों की पहचान और शमन के लिए एक पूर्व-समीक्षा है, जो एल्गोरिदमिक प्रभाव मूल्यांकन पर पहले के काम पर आधारित है जो सुझाव देता है कि ऐसे उपकरणों को प्रभावित समुदायों की पहचान करनी चाहिए, संभावित नुकसान का वर्णन करना चाहिए, और सार्वजनिक जांच के लिए आधार प्रदान करना चाहिए।
अनुरूपता मूल्यांकन और बाजार निगरानी
उच्च-जोखिम वाली AI प्रणाली को EU बाजार में रखे जाने से पहले, उसे अनुरूपता मूल्यांकन से गुजरना होगा। यह प्रक्रिया सत्यापित करती है कि सिस्टम AI अधिनियम की आवश्यकताओं को पूरा करता है। कई उच्च-जोखिम प्रणालियों के लिए, प्रदाता स्व-मूल्यांकन कर सकता है, लेकिन बायोमेट्रिक पहचान या कानून प्रवर्तन जैसे क्षेत्रों में उपयोग की जाने वाली प्रणालियों के लिए, एक अधिसूचित निकाय शामिल होना चाहिए। मूल्यांकन में जोखिम प्रबंधन प्रणाली, डेटा शासन, तकनीकी दस्तावेज, और मानवीय निगरानी उपायों की समीक्षा शामिल है। पास होने के बाद, सिस्टम को CE चिह्न प्राप्त होता है, जो अनुरूपता दर्शाता है।
प्रत्येक सदस्य राज्य में बाजार निगरानी प्राधिकरण तैनाती के बाद अनुपालन की निगरानी करते हैं। वे प्रदाताओं को सुधारात्मक कार्रवाई करने की आवश्यकता कर सकते हैं यदि कोई सिस्टम गैर-अनुपालन पाया जाता है। अधिनियम द्वारा बनाया गया यूरोपीय कृत्रिम बुद्धिमत्ता बोर्ड, राष्ट्रीय सहयोग को बढ़ावा देता है और पूरे EU में सुसंगत प्रवर्तन सुनिश्चित करता है। सामान्य डेटा संरक्षण विनियमन की तरह, AI अधिनियम EU के बाहर के प्रदाताओं पर भी लागू हो सकता है यदि उनके EU के भीतर उपयोगकर्ता हैं, जिसका अर्थ है कि गैर-यूरोपीय कंपनियों को भी अनुपालन करना होगा।
मौलिक अधिकार प्रभाव मूल्यांकन
कुछ क्षेत्रों जैसे सार्वजनिक सेवाओं, कानून प्रवर्तन, और प्रवासन में उपयोग की जाने वाली उच्च-जोखिम वाली AI प्रणालियों के लिए मौलिक अधिकार प्रभाव मूल्यांकन (FRIA) आवश्यक है। FRIA तैनाती से पहले आयोजित किया जाना चाहिए और इसमें मौलिक अधिकारों पर सिस्टम के संभावित प्रभाव का विस्तृत विश्लेषण शामिल है, जिसमें गैर-भेदभाव, गोपनीयता, और डेटा संरक्षण शामिल हैं। इसे सिस्टम के इच्छित उद्देश्य, प्रभावित व्यक्तियों की श्रेणियों, और उनके अधिकारों के लिए विशिष्ट जोखिमों का वर्णन करना चाहिए। शमन उपायों की रूपरेखा होनी चाहिए, और मूल्यांकन को अद्यतन रखा जाना चाहिए।
FRIA AI अधिनियम का एक प्रमुख नवाचार है, जो एल्गोरिदमिक प्रभाव मूल्यांकन की ओर व्यापक प्रवृत्ति को दर्शाता है। विद्वानों ने तर्क दिया है कि ऐसे मूल्यांकनों को यह पहचानना चाहिए कि कौन से व्यक्ति और समुदाय प्रभावित हैं, संभावित नुकसान का वर्णन करना चाहिए, और सार्वजनिक और संस्थागत जांच के लिए आधार प्रदान करना चाहिए। AI अधिनियम की FRIA आवश्यकता यह सुनिश्चित करने के लिए डिज़ाइन की गई है कि उच्च-जोखिम वाली प्रणालियों को उनके सामाजिक निहितार्थों पर सावधानीपूर्वक विचार करने के बाद ही तैनात किया जाए।
उच्च-जोखिम बनाम अन्य जोखिम श्रेणियाँ
AI अधिनियम AI अनुप्रयोगों को चार स्तरों में वर्गीकृत करता है: अस्वीकार्य, उच्च, सीमित, और न्यूनतम जोखिम। अस्वीकार्य जोखिम वाले अनुप्रयोग पूरी तरह से प्रतिबंधित हैं, जिनमें वे शामिल हैं जो मानव व्यवहार में हेरफेर करते हैं, सार्वजनिक स्थानों में वास्तविक समय की दूरस्थ बायोमेट्रिक पहचान का उपयोग करते हैं, या सामाजिक स्कोरिंग सक्षम करते हैं। उच्च-जोखिम वाले अनुप्रयोग, जैसा कि वर्णित है, सख्त दायित्वों के अधीन हैं। सीमित-जोखिम वाले अनुप्रयोग, जैसे डीपफेक, केवल पारदर्शिता दायित्व हैं, जिसके लिए उपयोगकर्ताओं को सूचित किया जाना चाहिए कि वे AI के साथ बातचीत कर रहे हैं। न्यूनतम-जोखिम वाले अनुप्रयोग, जैसे वीडियो गेम या स्पैम फ़िल्टर, विनियमित नहीं हैं, और सदस्य राज्य अधिकतम सामंजस्य नियमों के कारण अतिरिक्त प्रतिबंध नहीं लगा सकते हैं।
यह जोखिम-आधारित योजना उत्पाद-सुरक्षा मॉडल का पालन करती है, जहाँ संभावित प्रभाव के साथ नियामक दायित्व बढ़ते हैं। इसका उद्देश्य उन प्रणालियों पर निगरानी केंद्रित करना है जिनसे महत्वपूर्ण जोखिम पैदा होने की संभावना है, जबकि कम संवेदनशील उपयोगों के लिए हल्के दृष्टिकोण की अनुमति देना है। कुछ कानूनी विद्वानों का तर्क है कि यह अधिनियम 'विश्वसनीय AI' को उन प्रणालियों के रूप में तैयार करता है जो इन सुरक्षा और जोखिम सीमाओं के अनुपालन को प्रदर्शित कर सकते हैं। यूरोपीय संसदीय अनुसंधान सेवा ने नोट किया कि आयोग का प्रभाव मूल्यांकन नीति विकल्पों की तुलना करते समय हितधारक परामर्श और मौजूदा शोध पर आधारित था।
सामान्य-उद्देश्य AI और उच्च-जोखिम ओवरलैप
2023 में, मसौदा अधिनियम को जनरेटिव AI प्रणालियों, जैसे ChatGPT, के उदय को संबोधित करने के लिए संशोधित किया गया था, जिनकी सामान्य-उद्देश्य क्षमताएँ मुख्य ढांचे में फिट नहीं होती थीं। सामान्य-उद्देश्य AI के लिए एक नई श्रेणी जोड़ी गई, जिसमें फाउंडेशन मॉडल शामिल हैं जो कार्यों की एक विस्तृत श्रृंखला कर सकते हैं। ये मॉडल, जैसे OpenAI, Anthropic, और Google DeepMind द्वारा विकसित, पारदर्शिता आवश्यकताओं के अधीन हैं, जिसमें ओपन-सोर्स मॉडल के लिए कम दायित्व हैं। उच्च-प्रभाव वाले मॉडल जो व्यवस्थित जोखिम पैदा करते हैं, जिन्हें प्रशिक्षित करने के लिए 10^25 से अधिक फ्लोटिंग-पॉइंट संचालन की आवश्यकता होती है, को अतिरिक्त मूल्यांकन और प्रतिकूल परीक्षण से गुजरना होगा।
जबकि सामान्य-उद्देश्य AI स्वचालित रूप से उच्च-जोखिम नहीं है, उच्च-जोखिम वाले अनुप्रयोगों में इसका उपयोग उच्च-जोखिम दायित्वों को ट्रिगर करता है। उदाहरण के लिए, चिकित्सा निदान उपकरण में उपयोग किया जाने वाला एक बड़ा भाषा मॉडल AI अधिनियम की उच्च-जोखिम आवश्यकताओं के अधीन होगा। 10 जुलाई 2025 को प्रकाशित सामान्य-उद्देश्य AI आचार संहिता, पारदर्शिता, कॉपीराइट, और सुरक्षा और संरक्षा पर तीन मुख्य अध्यायों की रूपरेखा तैयार करती है ताकि प्रदाताओं को अनुपालन प्रदर्शित करने में मदद मिल सके। संहिता में भागीदारी स्वैच्छिक है, लेकिन यह अधिनियम के दायित्वों को पूरा करने के लिए एक ढांचा प्रदान करती है।
प्रवर्तन और दंड
AI अधिनियम का प्रवर्तन धीरे-धीरे शुरू होता है, अस्वीकार्य जोखिम वाले अनुप्रयोगों पर प्रतिबंध फरवरी 2025 से लागू होते हैं, और उच्च-जोखिम दायित्व अगस्त 2026 से लागू होते हैं। गैर-अनुपालन के लिए दंड महत्वपूर्ण हैं, जो निषिद्ध प्रथाओं से जुड़े उल्लंघनों के लिए 35 मिलियन यूरो या वैश्विक वार्षिक कारोबार के 7%, जो भी अधिक हो, तक पहुँच सकते हैं। अन्य उल्लंघनों के लिए, दंड 15 मिलियन यूरो या कारोबार के 3% तक पहुँच सकते हैं। ये जुर्माने सामान्य डेटा संरक्षण विनियमन के तहत तुलनीय हैं, जो मजबूत प्रवर्तन के लिए EU की प्रतिबद्धता को दर्शाता है।
सदस्य राज्यों और आयोग के प्रतिनिधियों से बना यूरोपीय कृत्रिम बुद्धिमत्ता बोर्ड, प्रवर्तन के समन्वय में महत्वपूर्ण भूमिका निभाता है। यह अधिनियम के सुसंगत अनुप्रयोग को सुनिश्चित करने के लिए मार्गदर्शन और राय जारी करता है। राष्ट्रीय पर्यवेक्षी प्राधिकरण शिकायतों की जांच और दंड लगाने के लिए जिम्मेदार हैं। अधिनियम की बाह्यक्षेत्रीय पहुंच का अर्थ है कि EU के बाहर के प्रदाताओं, जैसे संयुक्त राज्य अमेरिका या एशिया में, को भी अनुपालन करना होगा यदि वे EU उपयोगकर्ताओं को AI सिस्टम प्रदान करते हैं।
नवाचार और उद्योग पर प्रभाव
AI अधिनियम की उच्च-जोखिम आवश्यकताओं का AI उद्योग पर महत्वपूर्ण प्रभाव पड़ता है। स्वास्थ्य सेवा, वित्त, या सार्वजनिक सेवाओं के लिए AI सिस्टम विकसित करने वाली कंपनियों को दस्तावेज, परीक्षण, और मानवीय निगरानी सहित अनुपालन उपायों में निवेश करना होगा। यह विकास लागत बढ़ा सकता है, लेकिन यह एक स्पष्ट नियामक ढांचा भी प्रदान करता है जो AI प्रौद्योगिकियों में विश्वास बढ़ा सकता है। यह अधिनियम नवाचार को संरक्षण के साथ संतुलित करने का लक्ष्य रखता है, और इसका जोखिम-आधारित दृष्टिकोण अन्य न्यायक्षेत्रों के लिए एक मॉडल के रूप में देखा जाता है।
Artificial intelligence शोधकर्ताओं और डेवलपर्स के लिए, यह अधिनियम Machine learning और Deep learning जैसी तकनीकों को जिम्मेदार तरीके से उपयोग करने को प्रोत्साहित करता है। यह पारदर्शिता को भी बढ़ावा देता है, जो पूर्वाग्रह और जवाबदेही के बारे में चिंताओं को दूर करने में मदद कर सकता है। अधिनियम की डेटा शासन और लॉगिंग आवश्यकताएँ Neural network और Transformer (architecture)-आधारित प्रणालियों के लिए विशेष रूप से प्रासंगिक हैं, जो अक्सर अपारदर्शी होती हैं। मानवीय निगरानी को अनिवार्य करके, यह अधिनियम यह सुनिश्चित करना चाहता है कि AI सिस्टम मानव नियंत्रण में रहें, भले ही वे अधिक स्वायत्त हो जाएँ।
भविष्य के विकास
उच्च-जोखिम वाले अनुप्रयोगों की सूची को समय के साथ बढ़ाया जा सकता है, जिससे EU को नए जोखिमों का जवाब देने की अनुमति मिलती है। यह अधिनियम न्यूनतम-जोखिम प्रणालियों के लिए स्वैच्छिक आचार संहिता के प्रावधान भी शामिल करता है, जो सर्वोत्तम प्रथाओं को प्रोत्साहित करता है। जैसे-जैसे AI तकनीक विकसित होती है, यूरोपीय आयोग अधिनियम में अद्यतन प्रस्तावित कर सकता है, और यूरोपीय कृत्रिम बुद्धिमत्ता बोर्ड मार्गदर्शन प्रदान करना जारी रखेगा। अधिनियम की सफलता प्रभावी प्रवर्तन और सदस्य राज्यों के बीच सहयोग के साथ-साथ AI विनियमन पर अंतर्राष्ट्रीय सामंजस्य पर निर्भर करेगी।
संक्षेप में, EU AI अधिनियम के तहत उच्च-जोखिम वाली AI प्रणालियाँ दुनिया की सबसे व्यापक नियामक आवश्यकताओं के अधीन हैं। उन्हें सुरक्षा, पारदर्शिता, और मानवीय निगरानी के लिए सख्त मानकों को पूरा करना होगा, और बाजार में प्रवेश से पहले अनुरूपता मूल्यांकन से गुजरना होगा। यह अधिनियम AI को इस तरह से विनियमित करने की दिशा में एक प्रमुख कदम का प्रतिनिधित्व करता है जो नवाचार को बढ़ावा देते हुए मौलिक अधिकारों की रक्षा करता है। इसका प्रभाव वैश्विक स्तर पर महसूस किया जाएगा, क्योंकि कई कंपनियों को EU बाजार में काम करने के लिए अपनी आवश्यकताओं के अनुकूल होना होगा।