कृत्रिम बुद्धिमत्ता अधिनियम (AI अधिनियम) एक यूरोपीय संघ विनियमन है जो पूरे यूरोपीय संघ में कृत्रिम बुद्धिमत्ता के लिए एक सामान्य नियामक और कानूनी ढांचा स्थापित करता है। यह AI अनुप्रयोगों को चार जोखिम स्तरों - अस्वीकार्य, उच्च, सीमित, और न्यूनतम - के साथ-साथ सामान्य-उद्देश्य AI के लिए एक अलग श्रेणी में वर्गीकृत करता है। अस्वीकार्य जोखिम वाले अनुप्रयोगों पर सीधा प्रतिबंध लगाया जाता है, विशिष्ट छूटों के अधीन। यह विनियमन 1 अगस्त 2024 को लागू हुआ, जिसके प्रावधान अगले 6 से 36 महीनों में चरणबद्ध रूप से लागू किए गए।
अस्वीकार्य-जोखिम AI प्रणालियों का निषेध AI अधिनियम के जोखिम-आधारित दृष्टिकोण का सबसे कठोर स्तर है। यह उन AI अनुप्रयोगों को लक्षित करता है जो यूरोपीय संघ के भीतर व्यक्तियों के मौलिक अधिकारों, सुरक्षा, या लोकतांत्रिक प्रक्रियाओं के लिए स्पष्ट खतरा पैदा करते हैं। उच्च-जोखिम प्रणालियों के विपरीत, जिन्हें अनुपालन दायित्वों का पालन करना होता है, अस्वीकार्य-जोखिम प्रणालियों को यूरोपीय संघ के बाजार में तब तक अनुमति नहीं दी जाती जब तक वे संकीर्ण रूप से परिभाषित अपवादों के अंतर्गत न आती हों। यह प्रतिबंध, सामान्य डेटा संरक्षण विनियमन के समान, यूरोपीय संघ के बाहर के प्रदाताओं पर भी लागू होता है यदि उनके यूरोपीय संघ के भीतर उपयोगकर्ता हों।
प्रतिबंध का दायरा
AI अधिनियम उन AI अनुप्रयोगों पर प्रतिबंध लगाता है जो स्वतंत्र इच्छा को दरकिनार करने वाले तरीकों से मानव व्यवहार में हेरफेर करते हैं, जैसे अवचेतन तकनीक या विशिष्ट समूहों (उदाहरण के लिए, बच्चे या विकलांग व्यक्ति) की कमजोरियों का शोषण करके नुकसान पहुंचाना। यह सामाजिक स्कोरिंग पर भी प्रतिबंध लगाता है - व्यक्तिगत विशेषताओं, सामाजिक-आर्थिक स्थिति, या व्यवहार के आधार पर व्यक्तियों की रैंकिंग - जब सार्वजनिक प्राधिकरणों द्वारा हानिकारक व्यवहार के लिए उपयोग किया जाता है। सार्वजनिक रूप से सुलभ स्थानों में वास्तविक समय की दूरस्थ बायोमेट्रिक पहचान (चेहरे की पहचान सहित) को कानून प्रवर्तन उद्देश्यों के लिए प्रतिबंधित किया गया है, विशिष्ट गंभीर अपराधों, आतंकवाद, या लापता व्यक्तियों के लिए सीमित अपवादों के साथ, न्यायिक प्राधिकरण के अधीन।
अतिरिक्त प्रतिबंधित प्रथाओं में वह AI शामिल है जो उम्र, विकलांगता, या सामाजिक या आर्थिक स्थिति के कारण कमजोरियों का शोषण करता है, और वह AI जो कार्यस्थल या शैक्षिक सेटिंग्स में भावनाओं का अनुमान लगाता है, चिकित्सा या सुरक्षा कारणों को छोड़कर। सूची संपूर्ण है; इस श्रेणी के अंतर्गत कोई अन्य प्रथा स्वचालित रूप से प्रतिबंधित नहीं है। यूरोपीय आयोग प्रत्यायोजित अधिनियमों के माध्यम से सूची को अद्यतन कर सकता है, लेकिन किसी भी विस्तार के लिए पूर्ण विधायी संशोधन की आवश्यकता होती है।
प्रतिबंध से छूट
AI अधिनियम के अनुच्छेद 2.3 और 2.6 उन AI प्रणालियों को छूट देते हैं जो विशेष रूप से सैन्य, रक्षा, या राष्ट्रीय सुरक्षा उद्देश्यों के साथ-साथ शुद्ध वैज्ञानिक अनुसंधान और विकास के लिए उपयोग की जाती हैं। ये छूट संकीर्ण हैं: AI प्रणाली का उपयोग केवल उन्हीं उद्देश्यों के लिए होना चाहिए, दोहरे-उपयोग क्षमता में नहीं। गैर-पेशेवर व्यक्तिगत उपयोग भी दायरे से बाहर है। छूट वाणिज्यिक तैनाती या नागरिक संदर्भों में उपयोग की जाने वाली प्रणालियों पर लागू नहीं होती, भले ही वे सैन्य या सुरक्षा एजेंसियों द्वारा विकसित की गई हों।
वास्तविक समय की दूरस्थ बायोमेट्रिक पहचान के लिए, प्रतिबंध में कानून प्रवर्तन के लिए तीन परिदृश्यों में एक विशिष्ट छूट शामिल है: अपहरण या तस्करी के पीड़ितों की खोज, एक आसन्न और गंभीर आतंकवादी खतरे को रोकना, और एक गंभीर अपराध (राष्ट्रीय कानून द्वारा परिभाषित) के संदिग्ध व्यक्ति का पता लगाना या पहचान करना। किसी भी उपयोग को न्यायिक या स्वतंत्र प्रशासनिक प्राधिकरण द्वारा अधिकृत किया जाना चाहिए, और निर्णय वस्तुनिष्ठ साक्ष्य पर आधारित होना चाहिए। प्राधिकरण समय-सीमित और भौगोलिक रूप से प्रतिबंधित है, जिसमें यूरोपीय कृत्रिम बुद्धिमत्ता बोर्ड को अनिवार्य रिपोर्टिंग शामिल है।
ऐतिहासिक संदर्भ और विधायी प्रक्रिया
यूरोपीय आयोग ने 21 अप्रैल 2021 को AI अधिनियम का प्रस्ताव रखा। मूल मसौदे में सामान्य-उद्देश्य AI के लिए एक समर्पित श्रेणी शामिल नहीं थी, लेकिन ChatGPT जैसी जनरेटिव AI प्रणालियों के तेजी से उदय - जो बड़े भाषा मॉडल पर निर्मित हैं - ने संशोधन को प्रेरित किया। यूरोपीय संसद ने 13 मार्च 2024 को अधिनियम पारित किया, और यूरोपीय संघ परिषद ने 21 मई 2024 को सर्वसम्मति से इसे मंजूरी दी। अंतिम पाठ में सामान्य-उद्देश्य AI श्रेणी शामिल की गई, जिसे 2023 में जोड़ा गया था ताकि उन फाउंडेशन मॉडलों को संबोधित किया जा सके जो कई प्रकार के कार्य कर सकते हैं।
अस्वीकार्य-जोखिम प्रथाओं पर प्रतिबंध प्रारंभिक प्रस्ताव में मौजूद था, लेकिन बातचीत के दौरान इसका दायरा परिष्कृत किया गया। प्रारंभिक मसौदों में 'जोड़-तोड़ तकनीकों' के लिए उपयोग किए जाने वाले AI पर व्यापक प्रतिबंध शामिल था, जिसे स्वतंत्र इच्छा को दरकिनार करने वाली तकनीकों पर ध्यान केंद्रित करने के लिए संकुचित किया गया। सामाजिक स्कोरिंग प्रतिबंध को भी स्पष्ट किया गया ताकि यह विशेष रूप से सार्वजनिक प्राधिकरणों पर लागू हो, न कि निजी संस्थाओं पर, हालांकि निजी उपयोग जो हानिकारक व्यवहार की ओर ले जाता है, अन्य प्रावधानों के तहत अभी भी पकड़ा जा सकता है।
अनुपालन और प्रवर्तन
अधिनियम द्वारा स्थापित यूरोपीय कृत्रिम बुद्धिमत्ता बोर्ड, राष्ट्रीय सहयोग को बढ़ावा देता है और सुसंगत प्रवर्तन सुनिश्चित करता है। राष्ट्रीय पर्यवेक्षी प्राधिकरण अपने सदस्य राज्यों के भीतर अनुपालन की निगरानी के लिए जिम्मेदार हैं। अस्वीकार्य-जोखिम प्रणालियों के लिए, प्राथमिक दायित्व उन्हें बाजार में न रखना या उनका उपयोग न करना है। यदि कोई प्रदाता या तैनातकर्ता प्रतिबंधित प्रणाली का उपयोग करते हुए पाया जाता है, तो उन्हें दंड का सामना करना पड़ता है - प्रतिबंध के उल्लंघन के लिए €35 मिलियन या वैश्विक वार्षिक कारोबार का 7%, जो भी अधिक हो।
प्रवर्तन जोखिम-आधारित है: प्राधिकरण बाजार निगरानी कर सकते हैं, दस्तावेज़ीकरण का अनुरोध कर सकते हैं, और ऑडिट कर सकते हैं। अधिनियम व्यक्तिगत अधिकार नहीं बनाता है, इसलिए नागरिक AI अधिनियम के तहत सीधे क्षतिपूर्ति के लिए मुकदमा नहीं कर सकते; उन्हें मौजूदा राष्ट्रीय कानूनों या सामान्य डेटा संरक्षण विनियमन पर निर्भर रहना होगा। हालांकि, नागरिक AI प्रणालियों के बारे में राष्ट्रीय प्राधिकरणों को शिकायत दर्ज करा सकते हैं, जिनमें वे भी शामिल हैं जिन्हें वे अस्वीकार्य-जोखिम प्रतिबंध के अंतर्गत मानते हैं।
अन्य जोखिम श्रेणियों से संबंध
अस्वीकार्य-जोखिम प्रणालियों का निषेध तीन अन्य स्तरों के साथ स्थित है। उच्च-जोखिम अनुप्रयोग - जैसे स्वास्थ्य, शिक्षा, भर्ती, महत्वपूर्ण बुनियादी ढांचे, कानून प्रवर्तन, या न्याय में उपयोग किया जाने वाला AI - को सुरक्षा, पारदर्शिता, और गुणवत्ता दायित्वों का पालन करना होगा, और अनुरूपता मूल्यांकन से गुजरना होगा। कुछ उच्च-जोखिम प्रणालियों को तैनाती से पहले मौलिक अधिकार प्रभाव मूल्यांकन की आवश्यकता होती है। सीमित-जोखिम प्रणालियों, जैसे डीपफेक जनरेटर, पर केवल पारदर्शिता दायित्व होते हैं। न्यूनतम-जोखिम प्रणालियाँ, जैसे वीडियो गेम AI या स्पैम फ़िल्टर, अनियमित हैं, और सदस्य राज्य अधिकतम सामंजस्य के कारण अतिरिक्त नियम नहीं लगा सकते।
अस्वीकार्य और उच्च-जोखिम के बीच का अंतर व्यवहार में हमेशा स्पष्ट नहीं होता। उदाहरण के लिए, भर्ती में उपयोग की जाने वाली भावना पहचान प्रणाली को उच्च-जोखिम माना जा सकता है (क्योंकि यह भर्ती को प्रभावित करती है) लेकिन यदि यह कमजोरियों का शोषण करती है तो इसे प्रतिबंधित भी किया जा सकता है। यूरोपीय आयोग ने सीमावर्ती मामलों को वर्गीकृत करने में मदद के लिए दिशानिर्देश प्रकाशित किए हैं, लेकिन 2025 तक, ये गैर-बाध्यकारी हैं। कानूनी विद्वान ध्यान देते हैं कि जोखिम-आधारित योजना एक उत्पाद-सुरक्षा मॉडल का अनुसरण करती है, जहां स्वास्थ्य, सुरक्षा, या मौलिक अधिकारों पर संभावित प्रभाव के साथ नियामक कर्तव्य बढ़ते हैं।
सामान्य-उद्देश्य AI और प्रतिबंध
सामान्य-उद्देश्य AI मॉडल, जिनमें फाउंडेशन मॉडल शामिल हैं, स्वचालित रूप से प्रतिबंधित नहीं हैं, लेकिन वे पारदर्शिता आवश्यकताओं के अधीन हैं। ओपन-सोर्स मॉडल को प्रशिक्षण डेटा सारांश और कॉपीराइट नीति प्रकाशित करनी होगी; क्लोज्ड-सोर्स मॉडल को व्यापक पारदर्शिता कर्तव्यों का सामना करना पड़ता है। प्रशिक्षण के लिए 10^25 से अधिक फ्लोटिंग-पॉइंट ऑपरेशंस की आवश्यकता वाले उच्च-प्रभाव मॉडल को प्रणालीगत जोखिमों के लिए अतिरिक्त मूल्यांकन से गुजरना होगा। 10 जुलाई 2025 को प्रकाशित सामान्य-उद्देश्य AI आचार संहिता, पारदर्शिता, कॉपीराइट, और सुरक्षा पर अध्यायों की रूपरेखा प्रस्तुत करती है, हालांकि भागीदारी स्वैच्छिक है।
अस्वीकार्य-जोखिम प्रथाओं पर प्रतिबंध सामान्य-उद्देश्य AI पर तब लागू होता है जब इसका उपयोग प्रतिबंधित अनुप्रयोगों में किया जाता है। उदाहरण के लिए, सामाजिक स्कोरिंग के लिए उपयोग की जाने वाली जनरेटिव AI प्रणाली प्रतिबंधित होगी, भले ही अंतर्निहित मॉडल अन्यथा कानूनी हो। यह एक दोहरा दायित्व बनाता है: प्रदाताओं को यह सुनिश्चित करना होगा कि उनके मॉडल प्रतिबंधित तरीकों से उपयोग न हों, और तैनातकर्ताओं को ऐसे संदर्भों में उनका उपयोग नहीं करना चाहिए। अधिनियम के लिए प्रदाताओं को प्रतिबंधित उपयोगों के खिलाफ तकनीकी सुरक्षा उपाय बनाने की आवश्यकता नहीं है, लेकिन उन्हें दस्तावेज़ प्रदान करना होगा जो तैनातकर्ताओं को मॉडल की क्षमताओं और सीमाओं को समझने में मदद करते हैं।
प्रभाव और आलोचना
नागरिक समाज समूहों द्वारा इस प्रतिबंध की प्रशंसा की गई है, विशेष रूप से चेहरे की पहचान और सामाजिक स्कोरिंग के संबंध में AI विनियमन में एक मजबूत मिसाल स्थापित करने के लिए। हालांकि, उद्योग आलोचकों का तर्क है कि प्रतिबंध अत्यधिक व्यापक है और नवाचार को बाधित कर सकता है, विशेष रूप से मशीन लर्निंग अनुप्रयोगों में जिनके वैध उपयोग हैं। कुछ कानूनी विशेषज्ञों ने ध्यान दिया है कि सैन्य और राष्ट्रीय सुरक्षा के लिए छूट व्यापक हैं और उनका शोषण किया जा सकता है, हालांकि अधिनियम के लिए आवश्यक है कि ऐसी प्रणालियों का उपयोग 'विशेष रूप से' उन्हीं उद्देश्यों के लिए किया जाए।
प्रतिबंध की क्षेत्रीय पहुंच ने भी ध्यान आकर्षित किया है। गैर-यूरोपीय संघ कंपनियों, जिनमें OpenAI, Anthropic, और Google DeepMind जैसे प्रमुख AI डेवलपर शामिल हैं, को यह सुनिश्चित करना होगा कि यूरोपीय संघ के उपयोगकर्ताओं की सेवा करते समय उनकी प्रणालियाँ प्रतिबंधित प्रथाओं में शामिल न हों। इसने जियो-ब्लॉकिंग या सिस्टम व्यवहार को समायोजित करने जैसे अनुपालन प्रयासों को जन्म दिया है। 2025 तक, कोई बड़ी प्रवर्तन कार्रवाई सार्वजनिक रूप से रिपोर्ट नहीं की गई है, लेकिन यूरोपीय आयोग ने संकेत दिया है कि वह अस्वीकार्य-जोखिम प्रणालियों की निगरानी को प्राथमिकता देगा।
AI अधिनियम का अस्वीकार्य-जोखिम AI पर प्रतिबंध AI शासन के लिए पहले के, अधिक स्वैच्छिक दृष्टिकोणों से एक महत्वपूर्ण विचलन का प्रतिनिधित्व करता है। यह कुछ अनुप्रयोगों के लिए एक स्पष्ट सीमा रेखा स्थापित करता है, जबकि उच्च-जोखिम प्रणालियों को सख्त शर्तों के तहत संचालित करने के लिए जगह छोड़ता है। प्रावधानों का क्रमिक चरण-प्रवेश का मतलब है कि प्रतिबंध का पूर्ण प्रवर्तन अगस्त 2027 तक पूरा हो जाएगा, विशिष्ट दायित्वों के लिए पहले की समय सीमा के साथ। व्यावहारिक प्रभाव इस बात पर निर्भर करेगा कि राष्ट्रीय प्राधिकरण छूटों की व्याख्या कैसे करते हैं और यूरोपीय आयोग तकनीकी विकास के जवाब में प्रतिबंधित प्रथाओं की सूची को कैसे अद्यतन करता है।