EU AI अधिनियम उच्च-जोखिम प्रणालियाँ

यूरोपीय संघ का कृत्रिम बुद्धिमत्ता अधिनियम (AI अधिनियम) कृत्रिम बुद्धिमत्ता के लिए एक व्यापक कानूनी ढांचा स्थापित करता है, जिसमें उच्च-जोखिम वाली AI प्रणालियों के लिए एक विशिष्ट स्तर समर्पित है। ये प्रणालियाँ, जो स्वास्थ्य, सुरक्षा या मौलिक अधिकारों के लिए महत्वपूर्ण जोखिम पैदा करती हैं, EU बाजार में रखे जाने से पहले कठोर दायित्वों के एक समूह के अधीन हैं। यह विनियमन विश्वसनीय AI को बढ़ावा देने के साथ-साथ नवाचार सुनिश्चित करने का लक्ष्य रखता है, कृत्रिम बुद्धिमत्ता के लाभों को नागरिकों के लिए मजबूत सुरक्षा उपायों के साथ संतुलित करता है।

AI अधिनियम के तहत उच्च-जोखिम वर्गीकरण दो मुख्य श्रेणियों को कवर करता है: AI प्रणालियाँ जो उन उत्पादों के सुरक्षा घटक हैं जो पहले से EU क्षेत्रीय कानून (जैसे चिकित्सा उपकरण, खिलौने और मशीनरी) के अधीन हैं, और अनुलग्नक III में सूचीबद्ध स्वतंत्र AI प्रणालियाँ, जिनमें महत्वपूर्ण बुनियादी ढांचे, शिक्षा, रोजगार, कानून प्रवर्तन, प्रवासन और क्रेडिट स्कोरिंग जैसी आवश्यक निजी सेवाओं में उपयोग की जाने वाली प्रणालियाँ शामिल हैं। दायित्व प्रदाताओं (डेवलपर्स) पर और कुछ मामलों में, तैनात करने वालों (उपयोगकर्ताओं) पर लागू होते हैं, जिसमें चरणबद्ध कार्यान्वयन समयरेखा होती है।

दायरा और वर्गीकरण मानदंड

AI अधिनियम उच्च-जोखिम वाली AI प्रणालियों को उनके इच्छित उद्देश्य और उस क्षेत्र के आधार पर परिभाषित करता है जिसमें वे काम करती हैं। मौजूदा EU कानूनों (जैसे चिकित्सा उपकरण विनियमन या मशीनरी निर्देश) द्वारा पहले से विनियमित उत्पादों के लिए, AI प्रणाली को स्वचालित रूप से उच्च-जोखिम माना जाता है यदि यह एक सुरक्षा घटक है। स्वतंत्र प्रणालियों के लिए, वर्गीकरण इस बात पर निर्भर करता है कि प्रणाली अनुलग्नक III में सूचीबद्ध आठ क्षेत्रों में से एक में आती है या नहीं, जैसे बायोमेट्रिक पहचान, महत्वपूर्ण बुनियादी ढांचा प्रबंधन, शिक्षा और व्यावसायिक प्रशिक्षण, रोजगार और कर्मचारी प्रबंधन, आवश्यक सेवाओं तक पहुंच, कानून प्रवर्तन, प्रवासन और सीमा नियंत्रण, और न्याय प्रशासन।

यूरोपीय आयोग के पास प्रत्यायोजित अधिनियमों के माध्यम से अनुलग्नक III को अद्यतन करने की शक्ति है, जो जोखिम के साक्ष्य के आधार पर विशिष्ट उपयोग मामलों को जोड़ या हटा सकता है। यह गतिशील दृष्टिकोण विनियमन को तकनीकी विकास के अनुकूल होने की अनुमति देता है, जिसमें मशीन लर्निंग और गहन शिक्षण मॉडल में प्रगति शामिल है। हालाँकि, अधिनियम में एक संकीर्ण अपवाद शामिल है: यदि अनुलग्नक III में सूचीबद्ध कोई प्रणाली स्वास्थ्य, सुरक्षा या मौलिक अधिकारों को नुकसान का महत्वपूर्ण जोखिम नहीं पैदा करती है, तो एक प्रदाता गैर-वर्गीकरण के लिए तर्क दे सकता है, जो राष्ट्रीय अधिकारियों द्वारा समीक्षा के अधीन है।

प्रदाताओं के लिए दायित्व

उच्च-जोखिम वाली AI प्रणालियों के प्रदाताओं को एक गुणवत्ता प्रबंधन प्रणाली लागू करनी होगी जो प्रणाली के पूरे जीवनचक्र में अनुपालन सुनिश्चित करती है। प्रमुख दायित्वों में एक जोखिम प्रबंधन प्रणाली स्थापित करना शामिल है जो पूर्वानुमानित जोखिमों की पहचान, मूल्यांकन और शमन करती है, जिसमें दुरुपयोग और कमजोर समूहों को संभावित नुकसान शामिल है। यह प्रक्रिया पुनरावृत्त होनी चाहिए, जिसमें जोखिम आकलन की निरंतर निगरानी और अद्यतन हो।

डेटा शासन एक और महत्वपूर्ण आवश्यकता है। प्रशिक्षण, सत्यापन और परीक्षण डेटासेट प्रासंगिक, प्रतिनिधि और उन पूर्वाग्रहों से मुक्त होने चाहिए जो भेदभावपूर्ण परिणामों का कारण बन सकते हैं। प्रदाताओं को डेटा उत्पत्ति का दस्तावेजीकरण करना चाहिए, उचित डेटा सफाई और तैयारी सुनिश्चित करनी चाहिए, और इच्छित उपयोग के विशिष्ट संदर्भ पर विचार करना चाहिए। तंत्रिका नेटवर्क वास्तुकला वाली प्रणालियों के लिए, इसका मतलब है कुछ आबादी के अति-फिटिंग या कम प्रतिनिधित्व से बचने के लिए कठोर सत्यापन।

तकनीकी दस्तावेज बाजार में प्रणाली रखने से पहले तैयार किया जाना चाहिए, जिसमें प्रणाली के उद्देश्य, डिजाइन, विकास प्रक्रिया और प्रदर्शन मेट्रिक्स के बारे में विस्तृत जानकारी शामिल हो। यह दस्तावेज अद्यतन रखा जाना चाहिए और अनुरोध पर राष्ट्रीय सक्षम अधिकारियों को उपलब्ध कराया जाना चाहिए। इसके अतिरिक्त, प्रदाताओं को प्रणाली के संचालन की ट्रेसेबिलिटी सक्षम करने के लिए स्वचालित लॉगिंग क्षमताओं को लागू करना होगा, विशेष रूप से उन प्रणालियों के लिए जो वास्तविक दुनिया के डेटा से लगातार सीखती हैं।

अनुरूपता मूल्यांकन और पंजीकरण

उच्च-जोखिम वाली AI प्रणाली को EU बाजार में रखे जाने से पहले, इसे अनुरूपता मूल्यांकन प्रक्रिया से गुजरना होगा। अधिकांश प्रणालियों के लिए, इसमें प्रदाता की अपनी गुणवत्ता प्रबंधन प्रणाली और तकनीकी दस्तावेज के आधार पर आंतरिक मूल्यांकन शामिल होता है। हालाँकि, कुछ श्रेणियों के लिए, जैसे बायोमेट्रिक पहचान प्रणाली, एक अधिसूचित निकाय द्वारा तृतीय-पक्ष मूल्यांकन आवश्यक है। मूल्यांकन अधिनियम में निर्धारित दायित्वों के अनुपालन को सत्यापित करता है, जिसमें जोखिम प्रबंधन, डेटा शासन और पारदर्शिता शामिल है।

एक बार अनुरूपता स्थापित हो जाने के बाद, प्रदाता को EU अनुरूपता घोषणा तैयार करनी होगी और CE चिह्न लगाना होगा। फिर प्रणाली को यूरोपीय आयोग द्वारा बनाए गए EU-व्यापी डेटाबेस में पंजीकृत किया जाना चाहिए। इस पंजीकरण में प्रदाता के बारे में जानकारी, प्रणाली का इच्छित उद्देश्य और तकनीकी दस्तावेज के लिंक शामिल हैं। डेटाबेस अधिकांश उच्च-जोखिम प्रणालियों के लिए सार्वजनिक रूप से सुलभ है, जिसमें सुरक्षा हितों की रक्षा के लिए कानून प्रवर्तन और प्रवासन अनुप्रयोगों के लिए प्रतिबंधित पहुंच है।

पारदर्शिता और मानवीय निगरानी

उच्च-जोखिम वाली AI प्रणालियों को प्रभावी मानवीय निगरानी की अनुमति देने के लिए डिज़ाइन किया जाना चाहिए। इसका मतलब है कि प्राकृतिक व्यक्तियों को प्रणाली के आउटपुट को समझने, इसके संचालन में हस्तक्षेप करने और आवश्यक होने पर निर्णयों को ओवरराइड या उलटने में सक्षम होना चाहिए। निगरानी का स्तर जोखिम और प्रणाली की स्वायत्तता के अनुपात में होना चाहिए। उदाहरण के लिए, रोजगार स्क्रीनिंग में उपयोग की जाने वाली प्रणाली को एक मानव भर्तीकर्ता को स्वचालित निर्णयों की समीक्षा और विवाद करने की अनुमति देनी चाहिए।

पारदर्शिता दायित्वों के लिए भी आवश्यक है कि उपयोगकर्ताओं को सूचित किया जाए जब वे उच्च-जोखिम वाली AI प्रणाली के साथ बातचीत कर रहे हों, जब तक कि यह संदर्भ से स्पष्ट न हो। सिंथेटिक सामग्री उत्पन्न करने वाली प्रणालियों के लिए, जैसे डीपफेक, प्रदाताओं को यह सुनिश्चित करना होगा कि आउटपुट उनकी कृत्रिम उत्पत्ति को इंगित करने के लिए मशीन-पठनीय प्रारूप में चिह्नित हैं। यह जनरेटिव AI मॉडल के लिए विशेष रूप से प्रासंगिक है जो यथार्थवादी छवियां, ऑडियो या पाठ उत्पन्न कर सकते हैं।

तैनात करने वालों की जिम्मेदारियाँ

तैनात करने वाले, या उच्च-जोखिम वाली AI प्रणालियों के उपयोगकर्ता, के पास दायित्वों का अपना सेट होता है। उन्हें निर्माता द्वारा प्रदान किए गए उपयोग के निर्देशों के अनुसार प्रणाली का उपयोग करना चाहिए, जिसमें इच्छित उद्देश्य और सीमाओं का सम्मान करना शामिल है। तैनात करने वालों को यह भी सुनिश्चित करना चाहिए कि इनपुट डेटा प्रासंगिक और पूर्वाग्रह-मुक्त है, और प्रणाली की निगरानी प्रदर्शन में बहाव या गिरावट के संकेतों के लिए की जाती है।

रोजगार संदर्भों में, तैनात करने वालों को कर्मचारियों को सूचित करना चाहिए कि वे एक उच्च-जोखिम वाली AI प्रणाली के अधीन हैं और प्रणाली के तर्क और संभावित प्रभावों के बारे में स्पष्ट जानकारी प्रदान करनी चाहिए। व्यक्तियों के अधिकारों को प्रभावित करने वाले निर्णय लेने वाली प्रणालियों के लिए, जैसे क्रेडिट स्कोरिंग या बीमा, तैनात करने वालों को मौलिक अधिकार प्रभाव मूल्यांकन करना चाहिए, विशेष रूप से जब प्रणाली संवेदनशील डेटा संसाधित करती है या कमजोर आबादी को शामिल करती है।

तैनात करने वाले प्रणाली द्वारा उत्पन्न स्वचालित लॉग को बनाए रखने और उन्हें विनियमन में निर्दिष्ट अवधि के लिए बनाए रखने के लिए भी जिम्मेदार हैं, आमतौर पर छह महीने, जब तक कि क्षेत्रीय कानून द्वारा अन्यथा आवश्यक न हो। उन्हें राष्ट्रीय अधिकारियों के साथ सहयोग करना चाहिए और किसी भी गंभीर घटना या खराबी की रिपोर्ट करनी चाहिए जो नुकसान का कारण बन सकती है।

शासन और प्रवर्तन

AI अधिनियम का प्रवर्तन राष्ट्रीय सक्षम अधिकारियों और यूरोपीय आयोग के बीच साझा किया जाता है। प्रत्येक सदस्य राज्य को कम से कम एक अधिसूचित प्राधिकरण और एक बाजार निगरानी प्राधिकरण नामित करना होगा। यूरोपीय आयोग EU भर में सुसंगत आवेदन की सुविधा के लिए और तकनीकी और नैतिक मुद्दों पर सलाह देने के लिए एक यूरोपीय कृत्रिम बुद्धिमत्ता बोर्ड स्थापित करेगा।

गैर-अनुपालन के लिए दंड महत्वपूर्ण हैं। निषिद्ध प्रथाओं से संबंधित उल्लंघनों के लिए जुर्माना €35 मिलियन या किसी कंपनी के वैश्विक वार्षिक कारोबार के 7% तक पहुंच सकता है, जो भी अधिक हो। उच्च-जोखिम प्रणाली दायित्वों के गैर-अनुपालन के लिए, जुर्माना €15 मिलियन या कारोबार के 3% तक हो सकता है। अधिकारियों को गलत जानकारी प्रदान करने के लिए छोटे जुर्माने लागू होते हैं।

समयरेखा और संक्रमणकालीन अवधि

AI अधिनियम 1 अगस्त 2024 को लागू हुआ, जिसमें चरणबद्ध कार्यान्वयन कार्यक्रम है। सामाजिक स्कोरिंग और हेरफेर तकनीकों जैसी कुछ AI प्रथाओं पर प्रतिबंध 2 फरवरी 2025 से लागू हो गए। उच्च-जोखिम प्रणालियों के लिए दायित्व प्रणाली की श्रेणी के आधार पर चरणबद्ध हैं: विनियमित उत्पादों में एम्बेडेड लोगों के पास लंबी संक्रमण अवधि होती है, जिसमें 2 अगस्त 2027 तक पूर्ण प्रयोज्यता होती है। अनुलग्नक III में सूचीबद्ध स्वतंत्र उच्च-जोखिम प्रणालियों को 2 अगस्त 2026 तक अनुपालन करना होगा, जिसमें पहले से बाजार में मौजूद प्रणालियों के लिए कुछ अपवाद हैं।

सामान्य-उद्देश्य वाले AI मॉडल के प्रदाता, जिनमें बड़े भाषा मॉडल प्रणालियाँ शामिल हैं, के पास अतिरिक्त पारदर्शिता दायित्व हैं जो 2 अगस्त 2025 से लागू होते हैं। इनमें प्रशिक्षण डेटा के सारांश प्रकाशित करना और कॉपीराइट कानून का अनुपालन सुनिश्चित करना शामिल है। अधिनियम एक नियामक सैंडबॉक्स ढांचा भी स्थापित करता है जो नवीन कंपनियों को पूर्ण अनुपालन की आवश्यकता से पहले पर्यवेक्षी शर्तों के तहत उच्च-जोखिम प्रणालियों का परीक्षण करने की अनुमति देता है।

उद्योग और नवाचार पर प्रभाव

AI अधिनियम के उच्च-जोखिम प्रावधानों का प्रौद्योगिकी कंपनियों पर महत्वपूर्ण प्रभाव पड़ता है, विशेष रूप से विनियमित क्षेत्रों के लिए मशीन लर्निंग प्रणाली विकसित करने वालों पर। ओपनएआई, एंथ्रोपिक, और गूगल डीपमाइंड जैसी कंपनियों को दस्तावेज़ीकरण और जोखिम प्रबंधन मानकों को पूरा करने के लिए अपनी विकास प्रक्रियाओं को अनुकूलित करना होगा। एएमडी, इंटेल, और एनवीडिया जैसे हार्डवेयर प्रदाताओं के लिए (हालांकि अधिनियम में स्पष्ट रूप से नामित नहीं), विनियमन अप्रत्यक्ष रूप से प्रभावित करता है कि AI त्वरक कैसे डिज़ाइन किए जाते हैं, क्योंकि उन्हें लॉगिंग और ट्रेसेबिलिटी सुविधाओं का समर्थन करना चाहिए।

छोटे और मध्यम आकार के उद्यमों को अनुपालन बोझ को पूरा करने में चुनौतियों का सामना करना पड़ सकता है, लेकिन अधिनियम में उनका समर्थन करने के उपाय शामिल हैं, जैसे अनुरूपता मूल्यांकन के लिए कम शुल्क और परीक्षण सुविधाओं तक पहुंच। विनियमन आचार संहिता और मानकों के विकास को भी प्रोत्साहित करता है, जो EU भर में अनुपालन प्रथाओं को सुसंगत बनाने में मदद कर सकता है।

कुल मिलाकर, EU AI अधिनियम उच्च-जोखिम वाली AI प्रणालियों को विनियमित करने के लिए एक अग्रणी प्रयास का प्रतिनिधित्व करता है, जो AI शासन के लिए एक वैश्विक मानक स्थापित करता है। इसकी सफलता प्रभावी कार्यान्वयन, अंतर्राष्ट्रीय सहयोग और सुरक्षा को नवाचार के साथ संतुलित करने की क्षमता पर निर्भर करेगी। जैसे-जैसे कृत्रिम बुद्धिमत्ता का क्षेत्र विकसित होता रहता है, अधिनियम का जोखिम-आधारित दृष्टिकोण उन्नत AI प्रौद्योगिकियों द्वारा उत्पन्न सामाजिक चुनौतियों का समाधान करने के लिए अन्य न्यायक्षेत्रों के लिए एक मॉडल के रूप में काम कर सकता है।