यूरोपीय संघ एआई अधिनियम उच्च-जोखिम तिथि

यूरोपीय संघ AI अधिनियम उच्च-जोखिम तिथि उस दिन को चिह्नित करती है जिस दिन से यूरोपीय संघ के कृत्रिम बुद्धिमत्ता अधिनियम (AI अधिनियम) के सबसे महत्वपूर्ण अनुपालन दायित्व लागू हो जाते हैं। 2 अगस्त 2026 को पड़ने वाली यह तिथि, विनियमन के लागू होने के ठीक 24 महीने बाद, अधिनियम के जोखिम-आधारित ढांचे के तहत उच्च-जोखिम के रूप में वर्गीकृत AI प्रणालियों के प्रदाताओं और तैनात करने वालों के लिए दायित्वों को सक्रिय करती है। AI अधिनियम, जिसे 21 अप्रैल 2021 को यूरोपीय आयोग द्वारा प्रस्तावित किया गया था और 13 मार्च 2024 को यूरोपीय संसद और 21 मई 2024 को यूरोपीय संघ परिषद द्वारा अनुमोदित किया गया था, पूरे यूरोपीय संघ में Artificial intelligence के लिए एक सामान्य नियामक ढांचा स्थापित करता है, जो ब्लॉक के बाहर के प्रदाताओं पर भी लागू होता है यदि उनके भीतर उपयोगकर्ता हैं।

उच्च-जोखिम श्रेणी में ऐसी AI प्रणालियाँ शामिल हैं जो स्वास्थ्य, सुरक्षा या मौलिक अधिकारों के लिए महत्वपूर्ण खतरे पैदा करती हैं, जिनमें स्वास्थ्य, शिक्षा, भर्ती, महत्वपूर्ण बुनियादी ढांचे के प्रबंधन, कानून प्रवर्तन और न्याय में उपयोग की जाने वाली प्रणालियाँ शामिल हैं। उच्च-जोखिम तिथि से, इन प्रणालियों को सुरक्षा, पारदर्शिता और गुणवत्ता दायित्वों का पालन करना होगा, अनुरूपता मूल्यांकन से गुजरना होगा, और कुछ मामलों में तैनाती से पहले मौलिक अधिकार प्रभाव मूल्यांकन की आवश्यकता होगी। यह तिथि एक चरणबद्ध समयरेखा का हिस्सा है जिसमें अधिनियम के प्रावधान 6 से 36 महीनों में धीरे-धीरे लागू होते हैं, उच्च-जोखिम दायित्व 24 महीने के निशान पर आते हैं।

नियामक समयरेखा और चरणबद्धता

AI अधिनियम 1 अगस्त 2024 को लागू हुआ, लेकिन इसके प्रावधानों को हितधारकों को अनुकूलन करने की अनुमति देने के लिए समय के साथ चरणबद्ध तरीके से लागू करने के लिए डिज़ाइन किया गया था। अस्वीकार्य-जोखिम अनुप्रयोगों, जैसे सामाजिक स्कोरिंग और सार्वजनिक स्थानों में वास्तविक समय की दूरस्थ बायोमेट्रिक पहचान, पर पहला प्रतिबंध लागू होने के छह महीने बाद, 2 फरवरी 2025 को प्रभावी हुआ। सामान्य-उद्देश्य AI दायित्व, जिसमें फाउंडेशन मॉडल के लिए पारदर्शिता आवश्यकताएँ शामिल हैं, 2 अगस्त 2025 को लागू हुए। 2 अगस्त 2026 की उच्च-जोखिम तिथि तीसरा प्रमुख मील का पत्थर है, जो AI प्रणालियों की एक विस्तृत श्रृंखला पर सबसे व्यापक दायित्वों को लागू करती है।

चौथा चरण, जो उच्च-जोखिम AI प्रणालियों को कवर करता है जो पहले से ही अन्य यूरोपीय संघ कानून, जैसे चिकित्सा उपकरणों और मशीनरी, द्वारा विनियमित उत्पादों में एम्बेडेड हैं, 2 अगस्त 2027 के लिए निर्धारित है। यह चरणबद्ध दृष्टिकोण अधिनियम के उत्पाद-सुरक्षा मॉडल को दर्शाता है, जहां नियामक दायित्व प्रदाताओं और तैनात करने वालों को सौंपे जाते हैं, और स्वास्थ्य, सुरक्षा या मौलिक अधिकारों पर संभावित प्रभाव बढ़ने पर ये दायित्व अधिक कठोर हो जाते हैं। यूरोपीय आयोग ने इस समयरेखा को डेवलपर्स, विशेष रूप से छोटे और मध्यम उद्यमों को, अपने उत्पाद जीवन चक्र में अनुपालन तंत्र बनाने का समय देने के लिए डिज़ाइन किया था।

उच्च-जोखिम वर्गीकरण का दायरा

उच्च-जोखिम AI प्रणालियों को अधिनियम के अनुबंध III में परिभाषित किया गया है और आठ विशिष्ट क्षेत्रों को शामिल किया गया है: प्राकृतिक व्यक्तियों की बायोमेट्रिक पहचान और वर्गीकरण; महत्वपूर्ण बुनियादी ढांचे का प्रबंधन और संचालन; शिक्षा और व्यावसायिक प्रशिक्षण; रोजगार, कार्यकर्ता प्रबंधन, और स्व-रोजगार तक पहुंच; आवश्यक निजी सेवाओं और सार्वजनिक सेवाओं और लाभों तक पहुंच और आनंद; कानून प्रवर्तन; प्रवासन, शरण, और सीमा नियंत्रण प्रबंधन; और न्याय और लोकतांत्रिक प्रक्रियाओं का प्रशासन। इन क्षेत्रों में सिस्टम उच्च-जोखिम माने जाते हैं जब तक कि वे संकीर्ण प्रक्रियात्मक कार्य नहीं करते हैं, पहले से पूर्ण की गई मानव गतिविधि के परिणाम में सुधार नहीं करते हैं, या व्यक्तियों के अधिकारों को प्रभावित नहीं करते हैं।

वर्गीकरण गतिशील है। उच्च-जोखिम अनुप्रयोगों की सूची को यूरोपीय आयोग से प्रत्यायोजित अधिनियमों के माध्यम से AI अधिनियम को संशोधित किए बिना समय के साथ बढ़ाया जा सकता है। यह लचीलापन विनियमन को Machine learning और Deep learning प्रौद्योगिकियों के उभरते उपयोगों का जवाब देने की अनुमति देता है। प्रदाताओं को बाजार में रखने से पहले और अपने जीवन चक्र के दौरान दोनों अपनी प्रणालियों का मूल्यांकन करना चाहिए, तकनीकी दस्तावेज बनाए रखने, जोखिम प्रबंधन प्रणालियों को लागू करने, डेटा शासन सुनिश्चित करने और मानव निगरानी सक्षम करने के दायित्वों के साथ।

अनुरूपता मूल्यांकन और मौलिक अधिकार प्रभाव मूल्यांकन

उच्च-जोखिम तिथि से एक केंद्रीय आवश्यकता अनुरूपता मूल्यांकन है, एक प्रक्रिया जो सत्यापित करती है कि एक AI प्रणाली यूरोपीय संघ के बाजार में रखे जाने से पहले अधिनियम की आवश्यकताओं को पूरा करती है। अधिकांश उच्च-जोखिम प्रणालियों के लिए, प्रदाता सामंजस्यपूर्ण मानकों के खिलाफ स्व-मूल्यांकन करते हैं, जबकि कुछ श्रेणियों में सिस्टम, जैसे बायोमेट्रिक पहचान, को अधिसूचित निकाय की भागीदारी की आवश्यकता होती है। मूल्यांकन डेटा प्रशिक्षण प्रथाओं, मॉडल प्रदर्शन, साइबर सुरक्षा उपायों और सिस्टम की सटीकता और मजबूती को शामिल करता है।

सार्वजनिक प्रशासन, कानून प्रवर्तन या आवश्यक सेवाओं में उपयोग की जाने वाली उच्च-जोखिम प्रणालियों के लिए, तैनात करने वालों को तैनाती से पहले मौलिक अधिकार प्रभाव मूल्यांकन (FRIA) भी करना होगा। यह पूर्व-समीक्षा मौलिक अधिकारों पर संभावित प्रभावों की पहचान करती है और उन्हें कम करती है, यह बताती है कि कौन से व्यक्ति और समुदाय प्रभावित हैं, संभावित नुकसान, और सार्वजनिक और संस्थागत जांच के लिए एक आधार प्रदान करती है। FRIA आवश्यकता एल्गोरिथमिक प्रभाव आकलन पर पहले के काम पर आधारित है और इसका उद्देश्य यह सुनिश्करित करना है कि AI तैनाती यूरोपीय संघ के कानून के तहत संरक्षित अधिकारों का असंगत रूप से उल्लंघन नहीं करती है।

नागरिकों को उच्च-जोखिम तिथि से नए प्रक्रियात्मक अधिकार मिलते हैं। वे राष्ट्रीय पर्यवेक्षी अधिकारियों को AI प्रणालियों के बारे में शिकायतें दर्ज कर सकते हैं और उच्च-जोखिम AI द्वारा किए गए निर्णयों के स्पष्टीकरण प्राप्त कर सकते हैं जो उनके अधिकारों को प्रभावित करते हैं। ये अधिकार अधिनियम के तहत व्यक्तिगत कार्रवाई के कारण नहीं बनाते हैं, क्योंकि यह उत्पाद विनियमन का एक रूप है, लेकिन वे सामान्य डेटा संरक्षण विनियमन और राष्ट्रीय कानूनों के तहत मौजूदा उपायों के पूरक हैं।

प्रदाताओं और तैनात करने वालों के लिए दायित्व

उच्च-जोखिम AI प्रणालियों के प्रदाताओं को एक गुणवत्ता प्रबंधन प्रणाली स्थापित करनी होगी, तकनीकी दस्तावेज बनाए रखना होगा, बाजार के बाद की निगरानी लागू करनी होगी, और जब सिस्टम जोखिम पेश करते हैं तो सुधारात्मक कार्रवाई करनी होगी। उन्हें यह भी सुनिश्करित करना होगा कि प्रशिक्षण, सत्यापन और परीक्षण डेटा प्रासंगिक, प्रतिनिधि और जहां संभव हो पूर्वाग्रह से मुक्त हैं। पारदर्शिता दायित्वों की आवश्यकता है कि उपयोगकर्ताओं को AI प्रणाली के साथ बातचीत करते समय सूचित किया जाए, और सिस्टम को मानव निगरानी की अनुमति देने के लिए डिज़ाइन किया गया है, जिसमें आउटपुट की व्याख्या करने और हस्तक्षेप करने या संचालन रोकने की क्षमता शामिल है।

तैनात करने वाले, संगठन जो पेशेवर संदर्भ में उच्च-जोखिम AI का उपयोग करते हैं, उनके अलग कर्तव्य हैं। उन्हें निर्देशों के अनुसार सिस्टम का उपयोग करना होगा, उचित रूप से प्रशिक्षित कर्मियों को मानव निगरानी सौंपनी होगी, जोखिम के संकेतों के लिए निगरानी करनी होगी, और अधिकारियों को गंभीर घटनाओं की रिपोर्ट करनी होगी। सार्वजनिक क्षेत्र में तैनात करने वालों को तैनाती से पहले अपने सिस्टम को यूरोपीय संघ डेटाबेस में पंजीकृत करना होगा। ये कर्तव्य लागू होते हैं चाहे तैनात करने वाला यूरोपीय संघ में आधारित हो, क्योंकि अधिनियम यूरोपीय संघ के भीतर उपयोगकर्ताओं वाले प्रदाताओं और तैनात करने वालों पर बाहरी रूप से लागू हो सकता है।

सामान्य-उद्देश्य AI और जनरेटिव मॉडल से संबंध

उच्च-जोखिम तिथि सामान्य-उद्देश्य AI के लिए एक अलग श्रेणी के साथ काम करती है, जिसे 2023 में विधायी प्रक्रिया के दौरान Generative AI प्रणालियों जैसे ChatGPT के उदय को संबोधित करने के लिए जोड़ा गया था। सामान्य-उद्देश्य मॉडल, जिनमें Transformer (architecture) आर्किटेक्चर पर निर्मित Large language model शामिल हैं, स्वचालित रूप से उच्च-जोखिम नहीं हैं लेकिन अपनी पारदर्शिता आवश्यकताओं का सामना करते हैं। ओपन-सोर्स मॉडल को प्रशिक्षण डेटा सारांश और कॉपीराइट नीतियां प्रकाशित करनी चाहिए, जबकि बंद-स्रोत मॉडल को व्यापक पारदर्शिता दायित्वों का सामना करना पड़ता है। उच्च-प्रभाव मॉडल जिन्हें प्रशिक्षित करने के लिए 10^25 से अधिक फ्लोटिंग-पॉइंट संचालन की आवश्यकता होती है, उन्हें प्रणालीगत जोखिमों के लिए अतिरिक्त मूल्यांकन से गुजरना होगा।

यह भेद उच्च-जोखिम तिथि के लिए मायने रखता है क्योंकि कुछ सामान्य-उद्देश्य AI प्रणालियों को उच्च-जोखिम संदर्भों में तैनात किया जा सकता है। भर्ती या स्वास्थ्य देखभाल में उपयोग किया जाने वाला एक फाउंडेशन मॉडल, उदाहरण के लिए, तैनात करने वाले के लिए उच्च-जोखिम दायित्वों को ट्रिगर कर सकता है, भले ही मॉडल स्वयं सामान्य-उद्देश्य श्रेणी के तहत विनियमित हो। अधिनियम का ढांचा मॉडल प्रदाता और तैनात करने वाले दोनों को कर्तव्यों को सौंपता है, जिससे ओवरलैपिंग अनुपालन जिम्मेदारियां बनती हैं। सामान्य-उद्देश्य AI आचार संहिता, 10 जुलाई 2025 को प्रकाशित, पारदर्शिता, कॉपीराइट और सुरक्षा पर स्वैच्छिक मार्गदर्शन प्रदान करती है, लेकिन अनिवार्य उच्च-जोखिम आवश्यकताओं को प्रतिस्थापित नहीं करती है।

प्रवर्तन और शासन

उच्च-जोखिम तिथि राष्ट्रीय पर्यवेक्षी अधिकारियों और यूरोपीय कृत्रिम बुद्धिमत्ता बोर्ड द्वारा देखरेख किए गए प्रवर्तन तंत्र को सक्रिय करती है, जो राष्ट्रीय सहयोग को बढ़ावा देता है और लगातार अनुपालन सुनिश्चित करता है। प्रत्येक यूरोपीय संघ सदस्य राज्य को एक बाजार निगरानी प्राधिकरण नामित करना होगा जो उच्च-जोखिम प्रणालियों की निगरानी, जांच करने और गैर-अनुपालन के लिए दंड लगाने के लिए जिम्मेदार हो। निषिद्ध प्रथाओं से जुड़े उल्लंघनों के लिए जुर्माना 35 मिलियन यूरो या वैश्विक वार्षिक कारोबार के 7 प्रतिशत तक पहुंच सकता है, अन्य उल्लंघनों के लिए कम लेकिन फिर भी पर्याप्त जुर्माना के साथ।

यूरोपीय आयोग उच्च-जोखिम AI प्रणालियों का एक सार्वजनिक डेटाबेस बनाए रखता है, जिसका उपयोग सार्वजनिक क्षेत्र में तैनात करने वालों को पंजीकरण के लिए करना चाहिए। अधिनियम यूरोपीय मानकीकरण संगठनों द्वारा सामंजस्यपूर्ण मानकों के विकास को भी प्रोत्साहित करता है, जो अनुपालन के लिए तकनीकी विशिष्टताएं प्रदान करेगा। जहां मानक अभी उपलब्ध नहीं हैं, प्रदाता आयोग द्वारा अपनाए गए सामान्य विशिष्टताओं पर भरोसा कर सकते हैं। यह शासन संरचना यह सुनिश्चित करने के लिए डिज़ाइन की गई है कि उच्च-जोखिम तिथि केवल औपचारिक अनुपालन के बजाय सार्थक निरीक्षण की ओर ले जाए।

उद्योग और नवाचार पर प्रभाव

उच्च-जोखिम तिथि का विभिन्न क्षेत्रों में AI डेवलपर्स और उपयोगकर्ताओं के लिए महत्वपूर्ण प्रभाव है। चिकित्सा निदान, शैक्षिक मूल्यांकन, भर्ती या कानून प्रवर्तन के लिए AI विकसित करने वाली कंपनियों को अधिनियम की आवश्यकताओं को पूरा करने के लिए अपने वर्कफ़्लो को फिर से डिज़ाइन करना होगा। इसमें डेटा उत्पत्ति का दस्तावेजीकरण, जोखिम प्रबंधन प्रक्रियाओं को लागू करना और ऑडिट ट्रेल्स सुनिश्चित करना शामिल है। अनुपालन का बोझ काफी है, लेकिन अधिनियम कम संवेदनशील मानी जाने वाली प्रणालियों के लिए हल्के दृष्टिकोण की अनुमति देता है, और अधिकांश AI अनुप्रयोग, जैसे वीडियो गेम और स्पैम फ़िल्टर, न्यूनतम-जोखिम श्रेणी में आते हैं और विनियमित नहीं हैं।

गैर-यूरोपीय संघ प्रदाताओं के लिए, अधिनियम की बाहरी पहुंच का मतलब है कि संयुक्त राज्य अमेरिका, चीन और अन्य जगहों की कंपनियों को अनुपालन करना होगा यदि वे यूरोपीय संघ के उपयोगकर्ताओं को उच्च-जोखिम AI प्रणाली प्रदान करते हैं। इससे AI शासन प्रथाओं में वैश्विक अभिसरण हुआ है, क्योंकि कई बहुराष्ट्रीय फर्म अपने संचालन में अधिनियम के मानकों को लागू करती हैं। उच्च-जोखिम तिथि अन्य यूरोपीय संघ डिजिटल विनियमों के साथ भी बातचीत करती है, जिसमें सामान्य डेटा संरक्षण विनियमन और प्रस्तावित AI देयता निर्देश शामिल हैं, जो यूरोप में Artificial intelligence के लिए एक जटिल लेकिन सुसंगत नियामक परिदृश्य बनाते हैं।