यूरोपीय संघ AI अधिनियम निषिद्ध प्रथाएँ

EU AI अधिनियम एक यूरोपीय संघ विनियमन है जो कृत्रिम बुद्धिमत्ता के लिए एक सामान्य नियामक ढांचा स्थापित करता है। यह 1 अगस्त 2024 को लागू हुआ, जिसके प्रावधान 6 से 36 महीनों में चरणबद्ध रूप से लागू होते हैं। यह अधिनियम AI अनुप्रयोगों को जोखिम श्रेणियों में वर्गीकृत करता है: अस्वीकार्य, उच्च, सीमित, और न्यूनतम, साथ ही सामान्य-उद्देश्य AI के लिए एक विशिष्ट श्रेणी। जो अनुप्रयोग अस्वीकार्य जोखिम पैदा करते हैं, उन पर सीधे प्रतिबंध लगाया जाता है। यह अधिनियम व्यक्तिगत अधिकार नहीं बनाता बल्कि प्रदाताओं और पेशेवर तैनातीकर्ताओं पर दायित्व लगाता है; यह EU में उपयोगकर्ताओं वाले गैर-EU प्रदाताओं पर अतिरिक्त-क्षेत्रीय रूप से लागू हो सकता है।

"अस्वीकार्य जोखिम" प्रथाओं पर प्रतिबंध विनियमन के सबसे महत्वपूर्ण हिस्सों में से एक है। यह उन AI उपयोगों के खिलाफ एक कठोर रेखा खींचने की नीतिगत पसंद को दर्शाता है जो मौलिक अधिकारों और लोकतांत्रिक मूल्यों को कमजोर कर सकते हैं। जबकि अधिनियम कुछ लचीलापन देता है, ये प्रतिबंध पूर्ण हैं जब तक कि कोई विशिष्ट छूट लागू न हो, और यूरोपीय आयोग ने प्रतिबंधों के दायरे को स्पष्ट करने के लिए मार्गदर्शन प्रदान किया है।

प्रतिबंध प्रावधानों के तहत प्रतिबंधित प्रथाएँ

अधिनियम के प्रतिबंध उन AI प्रणालियों को कवर करते हैं जो कमजोरियों का शोषण करती हैं, व्यवहार में हेरफेर करती हैं, सामाजिक स्कोरिंग सक्षम करती हैं, या कुछ प्रकार की बायोमेट्रिक निगरानी तैनात करती हैं। विशेष रूप से, निम्नलिखित को EU के भीतर जहाँ भी होते हैं, संकीर्ण अपवादों के अधीन, अस्वीकार्य माना जाता है:

व्यवहार हेरफेर और शोषण। AI प्रणालियाँ जो किसी व्यक्ति के व्यवहार को विकृत करने और महत्वपूर्ण नुकसान पहुँचाने के लिए डिज़ाइन की गई अचेतन, जोड़-तोड़ या भ्रामक तकनीकों का उपयोग करती हैं, प्रतिबंधित हैं। इसमें व्यक्तियों की कमजोरियों का शोषण शामिल है - जैसे कि उम्र, विकलांगता, या सामाजिक-आर्थिक स्थिति से जुड़ी - जब यह प्रथा व्यवहार को भौतिक रूप से विकृत करती है और उस व्यक्ति या किसी अन्य व्यक्ति को नुकसान पहुँचाती है या पहुँचाने की संभावना होती है। उदाहरण के लिए, एक खिलौना जो किसी बच्चे को खतरनाक कार्य करने के लिए प्रोत्साहित करने के लिए आवाज सहायता का उपयोग करता है, प्रतिबंधित है।

सामाजिक स्कोरिंग। अधिनियम उन AI प्रणालियों पर प्रतिबंध लगाता है जो विभिन्न संदर्भों में किसी व्यक्ति के सामाजिक व्यवहार के आधार पर उनका मूल्यांकन या वर्गीकरण करती हैं, जहाँ परिणामी सामाजिक स्कोर मूल डेटा या परिस्थितियों के अनुपातहीन हानिकारक या प्रतिकूल व्यवहार की ओर ले जाता है। यह प्रतिबंध सार्वजनिक या निजी अभिनेताओं द्वारा नागरिकों को सामाजिक क्रेडिट स्कोर सौंपने की प्रथा को लक्षित करता है जो मूल रूप से आयोजित डेटा से असंबंधित संदर्भों में बदतर व्यवहार का परिणाम देता है।

प्रतिबंध उन विशिष्ट प्रथाओं को संबोधित करने के लिए तैयार किए गए हैं जिन्हें सबसे हानिकारक माना जाता है और यूरोपीय कानून को सार्वजनिक अपेक्षाओं और मानवाधिकार दायित्वों के अनुरूप लाने के लिए।

रीयल-टाइम बायोमेट्रिक निगरानी

विनियमन कानून प्रवर्तन के उद्देश्य से सार्वजनिक रूप से सुलभ स्थानों में रीयल-टाइम रिमोट बायोमेट्रिक पहचान के लिए AI प्रणालियों पर प्रतिबंध लगाता है, संकीर्ण रूप से परिभाषित परिस्थितियों को छोड़कर। रीयल-टाइम उस प्रसंस्करण को संदर्भित करता है जो बिना महत्वपूर्ण देरी के, गैर-अंतराल तरीके से होता है। यह प्रतिबंध सार्वजनिक स्थानों (जैसे, पार्क, सड़कें, स्टेडियम, और ऐसे स्थानों के डिजिटल संस्करण) पर लागू होता है। यह विशेष रूप से चेहरे की पहचान तकनीकों पर लक्षित है जो सुरक्षा उद्देश्यों के लिए वास्तविक समय में व्यक्तियों की पहचान करती हैं।

हालाँकि, कुछ संकीर्ण रूप से उल्लिखित अपवाद कानून प्रवर्तन को उनका उपयोग करने की अनुमति देते हैं यदि वे किसी विशिष्ट वैध उद्देश्य या महत्वपूर्ण हित के लिए आवश्यक हों। इनमें राष्ट्रीय सुरक्षा या अधिनियम में पहचाने गए शामिल हैं:

• विशिष्ट लापता व्यक्तियों की खोज।
• आतंकवादी हमले का खतरा।
• कुछ गंभीर अपराधों, जैसे हत्या, बाल यौन शोषण, और बलात्कार का अभियोजन या पता लगाना - जहाँ उपयोग आवश्यक माना जाता है और सख्त सुरक्षा उपायों के तहत।

ऐसे सभी उपयोग एक स्वतंत्र प्रशासनिक न्यायालय या प्रशासनिक प्राधिकरण द्वारा अधिकृत होने चाहिए। प्राधिकरण वस्तुनिष्ठ साक्ष्य पर आधारित होना चाहिए और एक उद्देश्य को परिभाषित करना चाहिए, अंततः सामान्य कानूनी ढांचे के साथ संघर्ष के दायरे को सीमित करना चाहिए। व्यवहार में, ये अपवाद कानून प्रवर्तन को असाधारण मामलों में रिमोट बायोमेट्रिक पहचान का उपयोग करने की अनुमति देंगे, बशर्ते उचित प्रक्रिया आवश्यकताएँ पूरी हों।

दायरा और छूट

कई श्रेणियाँ पूरी तरह से AI अधिनियम के दायरे से बाहर हैं, जिनमें विशेष रूप से सैन्य, रक्षा, या राष्ट्रीय सुरक्षा उद्देश्यों के लिए उपयोग की जाने वाली AI प्रणालियाँ, और शुद्ध वैज्ञानिक अनुसंधान या विकास के लिए उपयोग की जाने वाली प्रणालियाँ शामिल हैं, अनुच्छेद 2.3 के अनुसार। साथ ही, व्यक्तिगत गैर-पेशेवर उपयोग के लिए तैनात AI इसके अंतर्गत नहीं आता है। यह प्रतिबंध ऐसी प्रणालियों पर लागू नहीं होता है, लेकिन यह उन आयोजकों को संवैधानिक सुरक्षा से राहत नहीं देता है जो EU के क्षेत्रों में प्रतिबंधित प्रणालियों का उपयोग करते हैं।

कार्यान्वयन समयरेखा और प्रतिबंध

अस्वीकार्य-जोखिम प्रथाओं पर प्रतिबंध, जैसा कि अनुच्छेद 5 में परिभाषित है, 2 फरवरी 2025 से लागू होगा। यह 1 अगस्त 2024 को लागू होने के 6 महीने बाद निर्धारित किया गया था। विनियमन यूरोपीय आयोग द्वारा 21 अप्रैल 2021 को प्रस्तावित किया गया था, यूरोपीय संसद द्वारा 13 मार्च 2024 को अपनाया गया, और EU परिषद द्वारा 21 मई 2024 को अनुमोदित किया गया। अंतिम पाठ में बड़े भाषा मॉडल जैसे सामान्य-उद्देश्य AI के उदय को ध्यान में रखा गया, और जोड़-तोड़ उपयोगों और भावनात्मक पहचान को ध्यान में रखते हुए प्रतिबंधों को तदनुसार परिष्कृत किया गया।

अनुग्रह अवधि प्रदाताओं को नए प्रतिबंधों का पालन करने के लिए अपनी AI प्रणालियों में परिवर्तन करने की अनुमति देने के लिए डिज़ाइन की गई थी, और यह प्राधिकरणों को तैयारी करने की अनुमति देती है। प्रतिबंध के बाद से, व्यापारियों और सार्वजनिक निकायों को यह सुनिश्चित करने के लिए अपनी AI प्रणालियों का ऑडिट करना पड़ा है कि वे किसी भी प्रतिबंधित विधि पर निर्भर नहीं हैं या प्रतिबंधित श्रेणियों में नहीं आते हैं।

मामूली रूप से, यूरोपीय आयोग ने व्याख्या पर मार्गदर्शन जारी किया है, लेकिन यह अभी भी काफी व्यापक है क्योंकि शब्दावली एक राजनीतिक समझौते का उत्पाद है। कुछ प्रथाएँ, जैसे कमजोर लोगों के लिए जोड़-तोड़ के रूप में उपयोग, सख्ती से प्रतिबंधित नहीं हैं यदि नुकसान की गारंटी नहीं है या इरादा दुर्भावनापूर्ण नहीं है। साथ ही, सामाजिक क्रेडिट पर प्रतिबंध केवल सबसे गंभीर, भेदभावपूर्ण व्यवहार को लक्षित करता है, लेकिन कम गंभीर परिणाम अभी भी उच्च-जोखिम श्रेणी या अन्य नियामक दायित्वों के अंतर्गत आ सकते हैं।

प्रवर्तन और दंड

प्रत्येक EU सदस्य राज्य बाजार निगरानी के लिए जिम्मेदार एक प्राधिकरण नामित करता है। प्राधिकरणों के पास उल्लंघनों के लिए वित्तीय दंड लगाने की शक्तियाँ हैं। प्रतिबंधित प्रथाओं के मामले में, दंड 35 मिलियन यूरो या अपराधी कंपनी के वैश्विक वार्षिक कारोबार के 7% तक पहुँच सकता है, जो भी अधिक हो। यह सामान्य डेटा संरक्षण विनियमन (GDPR) दृष्टिकोण को दर्शाता है, और प्राधिकरण सुधारात्मक उपाय भी जारी कर सकते हैं, जैसे कि विशिष्ट AI प्रणाली को बाजार से प्रतिबंधित करना।

अतिरिक्त-क्षेत्रीय दायरे के कारण, EU के बाहर स्थित प्रदाताओं को EU के भीतर एक अधिकृत प्रतिनिधि नामित करना होगा जिसके पास वे जवाबदेह हों। वे अभी भी उत्तरदायी हो सकते हैं यदि वे बाजार में सिस्टम रखते हैं या EU के भीतर उपयोगकर्ताओं को सेवाएँ प्रदान करते हैं, भले ही कंपनी कहीं और मुख्यालय से संचालित हो।

यूरोपीय कृत्रिम बुद्धिमत्ता बोर्ड

पूरे नियामक ढांचे की देखरेख के लिए, अधिनियम एक यूरोपीय कृत्रिम बुद्धिमत्ता बोर्ड स्थापित करता है, जो प्रत्येक सदस्य राज्य से एक, कुल 21 प्रतिनिधियों से बना है, साथ ही यूरोपीय डेटा संरक्षण पर्यवेक्षक भी। यह राष्ट्रीय पर्यवेक्षी प्राधिकरणों का समन्वय करता है और मार्गदर्शन और राय जारी करता है। विशेष रूप से, यह ***प्रतिबंध की व्याख्या और संचालन के लिए एक सुसंगत दृष्टिकोण की सुविधा प्रदान करेगा।

बोर्ड उन जाँच प्रथाओं में भी महत्वपूर्ण भूमिका निभा सकता है जो स्पष्ट रूप से प्रतिबंधित के रूप में सूचीबद्ध नहीं हैं लेकिन उसके आकलन में अस्वीकार्य मानी जाती हैं, हालाँकि यह अपनी पहल पर कार्य करने की शक्तियों तक सीमित है। यह प्रतिबंधों के व्यावहारिक अनुप्रयोग की देखरेख करता है।

व्यापक संदर्भ: AI अधिनियम का जोखिम-मॉडल

प्रतिबंधित प्रथाएँ जोखिम पिरामिड के शीर्ष का प्रतिनिधित्व करती हैं। उच्च-जोखिम AI अनुप्रयोगों को अनुरूपता दायित्वों का सामना करना पड़ता है, और सीमित-जोखिम वाले जनरेटिव AI सिस्टम (जैसे, डीपफेक) को AI-जनित के रूप में प्रकट किया जाना चाहिए। प्रतिबंधित सूची व्यक्तियों और समाज के लिए वास्तविक खतरों पर संकीर्ण रूप से लक्षित है।

ध्यान दें, उच्च-जोखिम अनुप्रयोगों की श्रेणी में कुछ "बायोमेट्रिक पहचान" शामिल है, लेकिन यह वह नहीं है जो यह नहीं करता है। उच्च-जोखिम प्रणालियों को अनुरूपता मूल्यांकन से गुजरना होगा, लेकिन यह एक अनुमत उपयोग है यदि वे कानून प्रवर्तन में सहायता नहीं करते हैं। उदाहरण के लिए, एक AI प्रणाली जो आपराधिक डेटाबेस में उंगलियों के निशान का मिलान करती है, अस्वीकार्य जोखिम नहीं है, लेकिन भीड़ भरे स्थान में रीयल-टाइम रिमोट बायोमेट्रिक पहचान है। यह प्राथमिकता है।

AI अधिनियम, एक उत्पाद विनियमन के रूप में, निजी कार्रवाई के अधिकार स्थापित नहीं करता है, लेकिन यह सिस्टम तैनातीकर्ताओं पर कर्तव्य रखता है। यह अनुपालन के लिए समन्वय और तकनीकी सलाह प्रदान करने के लिए एक पैनल भी बनाता है। कुछ प्रभाव आकलन प्रतिबंधित उच्च-जोखिम प्रणाली के बीच की रेखा को स्पष्ट करने की आवश्यकता पर ध्यान देते हैं, विशेष रूप से वास्तविक अपवादों के लिए। और यूरोपीय आयोग ने इस संभावना का वादा किया है।

संभावित वैश्विक प्रभाव

सामाजिक स्कोरिंग और बायोमेट्रिक पहचान पर प्रतिबंध - कनाडा और अन्य न्यायक्षेत्रों ने AI अधिनियम को एक मॉडल के रूप में उद्धृत किया है, और तकनीकी उद्योग कुछ हद तक प्रभावित हुआ है। विशेष रूप से, सार्वजनिक स्थानों में बायोमेट्रिक पहचान प्रतिबंध एक सर्वसम्मति को दर्शाते हैं कि कुछ उपयोग सुरक्षा और मौलिक अधिकारों के कारण जोखिम-नुकसान नहीं हो सकते।

यह देखना बाकी है कि न्यूनतम बायोमेट्रिक पहचान के उपयोग के अपवादों का दुरुपयोग किया जाएगा या नहीं। निकट अवधि में, ओपनएआई, एंथ्रोपिक, और गूगल-डीपमाइंड जैसे तकनीकी दिग्गजों ने कानूनी रोकथाम के रूप में नहीं, बल्कि प्रतिबंधों को दर्शाने के लिए अपनी नीतियों को अनुकूलित किया है। इस प्रतिबंध ने एक मिसाल स्थापित की है कि कुछ AI प्रथाएँ लोकतांत्रिक समाज में कभी स्वीकार्य नहीं हैं।

निष्कर्ष

EU AI अधिनियम की प्रतिबंधित प्रथाएँ विनियमन की एक विशिष्ट विशेषता हैं। जबरदस्ती हेरफेर, सामाजिक स्कोरिंग, और रीयल-टाइम बायोमेट्रिक निगरानी के खिलाफ एक लाल रेखा खींचना एक प्रमुख कानूनी नवाचार को चिह्नित करता है, जब वे अप्रतिबंधित तकनीकी प्रगति के साथ संघर्ष करते हैं तो मौलिक अधिकारों को प्राथमिकता देता है। 2025 की शुरुआत तक, कंपनियों को अनुपालन के लिए अपनी AI प्रणालियों का सावधानीपूर्वक ऑडिट करना चाहिए, और AI अधिनियम धीरे-धीरे अपने शेष दायित्वों को लागू कर रहा है, जो अगले कुछ वर्षों में प्रवर्तन के लिए निर्धारित हैं। बोर्ड की गतिविधि प्रतिबंधित प्रथाओं की सटीक सीमाओं की व्याख्या करने में महत्वपूर्ण होगी, और प्रतिबंध निरंतर समीक्षा के अधीन होगा। कानून में कोई भी परिवर्तन संशोधन की आवश्यकता होगी, लेकिन EU का निकट भविष्य में इस क्षेत्र को कम करने का कोई इरादा नहीं है।

प्रत्येक कार्य के साथ, सीमाओं को समायोजित किया जा सकता है, लेकिन अस्वीकार्य जोखिम का सख्त प्रतिबंध AI अधिनियम और EU की डिजिटल नीति का मुख्य हिस्सा बना रहेगा।