यूरोपीय संघ AI अधिनियम प्रस्ताव 2021 यूरोपीय आयोग का यूरोपीय संघ के भीतर कृत्रिम बुद्धिमत्ता (AI) को विनियमित करने के लिए प्रारंभिक विधायी प्रस्ताव है। 21 अप्रैल 2021 को पेश किया गया, इसने AI अनुप्रयोगों को चार स्तरों - अस्वीकार्य, उच्च, सीमित और न्यूनतम - में वर्गीकृत करने के लिए एक जोखिम-आधारित ढांचा स्थापित किया, जिसमें प्रदाताओं और परिनियोजकों के लिए संबंधित दायित्व निर्धारित किए गए। बाद में ChatGPT जैसी जनरेटिव AI प्रणालियों के उदय को संबोधित करने के लिए प्रस्ताव को संशोधित किया गया, इससे पहले इसे 2024 में अंतिम AI अधिनियम के रूप में अपनाया गया।
यह प्रस्ताव यूरोपीय संघ की एक व्यापक रणनीति से उभरा, जिसका उद्देश्य ब्लॉक को विश्वसनीय AI में अग्रणी के रूप में स्थापित करना था, जिसमें नवाचार और मौलिक अधिकारों की सुरक्षा के बीच संतुलन बनाया जा सके। इसने यूरोपीय संसद और आयोग के AI पर उच्च-स्तरीय विशेषज्ञ समूह के पहले के काम पर आधारित था, जिसने एक ऐसे नियामक ढांचे का आह्वान किया था जो तीव्र तकनीकी परिवर्तन के अनुकूल हो सके। मूल पाठ का उद्देश्य राष्ट्रीय नियमों को सामंजस्यपूर्ण बनाना, बाजार विखंडन को रोकना और यह सुनिश्चित करना था कि यूरोपीय संघ के बाजार में रखी गई AI प्रणालियाँ सुरक्षित हों और मौजूदा कानूनों का सम्मान करें।
पृष्ठभूमि और विधायी इतिहास
यूरोपीय आयोग 2018 से AI नीति विकसित कर रहा था, जब उसने सदस्य राज्यों के साथ AI पर एक समन्वित योजना प्रकाशित की थी। फरवरी 2020 में, आयोग ने AI पर एक श्वेत पत्र जारी किया, जिसमें नीति विकल्पों की रूपरेखा दी गई और एक सार्वजनिक परामर्श शुरू किया गया। प्रतिक्रिया, प्रभाव आकलनों के साथ मिलकर, 21 अप्रैल 2021 को आंतरिक बाजार आयुक्त थियरी ब्रेटन और उपाध्यक्ष मार्गरेट वेस्टागर द्वारा प्रस्तुत मसौदा विनियमन की जानकारी दी।
यह प्रस्ताव एक व्यापक डिजिटल पैकेज का हिस्सा था जिसमें डिजिटल सेवा अधिनियम और डिजिटल बाजार अधिनियम भी शामिल थे। उन विनियमों के विपरीत, जो ऑनलाइन प्लेटफार्मों पर केंद्रित थे, AI अधिनियम ने तकनीक को ही लक्षित किया, जिसमें मशीनरी, खिलौनों और चिकित्सा उपकरणों पर मौजूदा यूरोपीय संघ कानून के समान उत्पाद-सुरक्षा मॉडल का उपयोग किया गया। इस दृष्टिकोण ने AI प्रदाताओं (डेवलपर्स) और परिनियोजकों (उपयोगकर्ताओं) पर उनकी प्रणालियों द्वारा उत्पन्न जोखिम के स्तर के आधार पर कर्तव्य निर्धारित किए।
विधायी प्रक्रिया में तीन साल से अधिक समय लगा। यूरोपीय संसद और यूरोपीय संघ की परिषद ने संशोधनों पर बातचीत की, जिसमें जनरेटिव AI उपकरणों के तीव्र अपनाने के जवाब में महत्वपूर्ण परिवर्तन किए गए। अंतिम पाठ 13 मार्च 2024 को संसद द्वारा पारित किया गया और 21 मई 2024 को परिषद द्वारा अनुमोदित किया गया, जो 1 अगस्त 2024 को लागू हुआ। हालांकि, 2021 का प्रस्ताव इन वार्ताओं की नींव के रूप में ऐतिहासिक रूप से महत्वपूर्ण बना हुआ है।
जोखिम-आधारित वर्गीकरण
प्रस्ताव का मूल एक चार-स्तरीय जोखिम पिरामिड था, जिसे अंतिम अधिनियम में काफी हद तक बरकरार रखा गया था। श्रेणियों को AI प्रणाली द्वारा स्वास्थ्य, सुरक्षा या मौलिक अधिकारों को होने वाले संभावित नुकसान को प्रतिबिंबित करने के लिए डिज़ाइन किया गया था।
अस्वीकार्य जोखिम
अस्वीकार्य जोखिम पैदा करने वाले अनुप्रयोगों पर सीधा प्रतिबंध लगाया जाना था। इसमें वे AI प्रणालियाँ शामिल थीं जो स्वतंत्र इच्छा को दरकिनार करने के लिए मानव व्यवहार में हेरफेर करती हैं, वे जो विशिष्ट समूहों (जैसे बच्चों या विकलांग व्यक्तियों) की कमजोरियों का शोषण करती हैं, और सामाजिक स्कोरिंग प्रणालियाँ जो व्यक्तिगत विशेषताओं या व्यवहार के आधार पर व्यक्तियों को रैंक करती हैं। प्रस्ताव ने कानून प्रवर्तन उद्देश्यों के लिए सार्वजनिक रूप से सुलभ स्थानों में वास्तविक समय की दूरस्थ बायोमेट्रिक पहचान पर भी प्रतिबंध लगाया, जिसमें विशिष्ट अपराधों और न्यायिक प्राधिकरण के साथ संकीर्ण अपवाद थे।
उच्च जोखिम
उच्च-जोखिम AI प्रणालियाँ सबसे व्यापक दायित्वों के अधीन थीं। प्रस्ताव ने आठ विशिष्ट क्षेत्रों को सूचीबद्ध किया: प्राकृतिक व्यक्तियों की बायोमेट्रिक पहचान और वर्गीकरण; महत्वपूर्ण बुनियादी ढांचे का प्रबंधन और संचालन; शिक्षा और व्यावसायिक प्रशिक्षण; रोजगार और श्रमिक प्रबंधन; आवश्यक निजी और सार्वजनिक सेवाओं तक पहुंच; कानून प्रवर्तन; प्रवासन, शरण और सीमा नियंत्रण; और न्याय प्रशासन और लोकतांत्रिक प्रक्रियाएं। उच्च-जोखिम प्रणालियों के प्रदाताओं को जोखिम प्रबंधन प्रणाली लागू करनी थी, उच्च-गुणवत्ता वाले प्रशिक्षण डेटा का उपयोग करना था, तकनीकी दस्तावेज बनाए रखना था, स्वचालित लॉगिंग सक्षम करना था, पारदर्शिता सुनिश्चित करनी थी और मानवीय निगरानी प्रदान करनी थी। उन्हें बाजार में रखने से पहले और सिस्टम के जीवनचक्र के दौरान अनुरूपता मूल्यांकन से भी गुजरना पड़ता था।
सीमित जोखिम
सीमित-जोखिम AI प्रणालियाँ, जैसे चैटबॉट और डीपफेक जनरेटर, पारदर्शिता दायित्वों के अधीन थीं। उपयोगकर्ताओं को सूचित किया जाना था जब वे AI प्रणाली के साथ बातचीत कर रहे थे, और AI द्वारा उत्पन्न या हेरफेर की गई सामग्री को इस रूप में लेबल किया जाना था। इसका उद्देश्य व्यक्तियों को सूचित विकल्प बनाने और धोखे को रोकने की अनुमति देना था।
न्यूनतम जोखिम
अधिकांश AI अनुप्रयोग, जिनमें वीडियो गेम और स्पैम फिल्टर शामिल हैं, न्यूनतम जोखिम वाले माने गए और उन्हें विनियमित नहीं किया गया। प्रस्ताव ने इन प्रणालियों के लिए स्वैच्छिक आचार संहिता को प्रोत्साहित किया, लेकिन बाध्यकारी आवश्यकताएं नहीं लगाईं। सदस्य राज्यों को न्यूनतम-जोखिम प्रणालियों के लिए अतिरिक्त राष्ट्रीय नियम जोड़ने से भी रोका गया, जिससे AI के लिए एकल बाजार सुनिश्चित हुआ।
सामान्य-उद्देश्य AI और जनरेटिव मॉडल
मूल 2021 प्रस्ताव ने सामान्य-उद्देश्य AI (GPAI) प्रणालियों को स्पष्ट रूप से संबोधित नहीं किया, जो विभिन्न डोमेन में कार्यों की एक विस्तृत श्रृंखला कर सकती हैं। यह अंतर 2022 और 2023 के अंत में ChatGPT और अन्य फाउंडेशन मॉडल जैसे जनरेटिव AI मॉडल के विस्फोटक विकास के साथ स्पष्ट हो गया। मसौदे को GPAI के लिए एक समर्पित श्रेणी शामिल करने के लिए संशोधित किया गया, जिसमें स्तरीय दायित्व थे।
संशोधित ढांचे के तहत, सभी GPAI मॉडलों को तकनीकी दस्तावेज प्रदान करना, प्रशिक्षण डेटा सारांश प्रकाशित करना और कॉपीराइट कानून का पालन करना आवश्यक था। ओपन-सोर्स मॉडल, जहां वजन और डिज़ाइन सार्वजनिक किए गए थे, को कम आवश्यकताओं का सामना करना पड़ा, जैसे केवल प्रशिक्षण डेटा सारांश और कॉपीराइट नीति प्रकाशित करना। क्लोज्ड-सोर्स मॉडल को व्यापक पारदर्शिता कर्तव्यों को पूरा करना था। उच्च-प्रभाव वाले मॉडल जिन्हें प्रशिक्षित करने के लिए 10^25 से अधिक फ्लोटिंग-पॉइंट ऑपरेशंस की आवश्यकता थी, उन्हें प्रणालीगत जोखिम पैदा करने वाला माना गया और उन्हें अतिरिक्त मूल्यांकन, प्रतिकूल परीक्षण और साइबर सुरक्षा उपायों से गुजरना पड़ा।
यह संशोधन मशीन लर्निंग प्रणालियों द्वारा उत्पन्न चुनौतियों का सीधा जवाब था, जिन्हें कई अनुप्रयोगों के लिए फाइन-ट्यून किया जा सकता था, जिससे उन्हें मूल जोखिम श्रेणियों के तहत वर्गीकृत करना मुश्किल हो गया। दृष्टिकोण का उद्देश्य नवाचार और निगरानी के बीच संतुलन बनाना था, विशेष रूप से Google DeepMind और Anthropic जैसी कंपनियों द्वारा विकसित सबसे शक्तिशाली मॉडलों के लिए।
प्रवर्तन और शासन
प्रस्ताव ने यूरोपीय संघ भर में सुसंगत आवेदन सुनिश्चित करने के लिए एक शासन संरचना स्थापित की। इसने एक यूरोपीय कृत्रिम बुद्धिमत्ता बोर्ड बनाया, जो सदस्य राज्यों और आयोग के प्रतिनिधियों से बना था, ताकि सहयोग की सुविधा हो और मार्गदर्शन प्रदान किया जा सके। राष्ट्रीय पर्यवेक्षी प्राधिकरण अपने क्षेत्रों में विनियमन लागू करने के लिए जिम्मेदार थे, जिनके पास बाजार निगरानी करने और दंड लगाने की शक्ति थी।
गैर-अनुपालन के लिए दंड निषिद्ध प्रथाओं से संबंधित उल्लंघनों के लिए कंपनी के वैश्विक वार्षिक कारोबार के 6% तक, अन्य उल्लंघनों के लिए 4% और गलत जानकारी देने के लिए 2% निर्धारित किए गए थे। ये जुर्माने सामान्य डेटा संरक्षण विनियमन के तहत दंड के बराबर थे, जो मजबूत प्रवर्तन के लिए यूरोपीय संघ की प्रतिबद्धता को दर्शाता है।
प्रस्ताव में बाह्य-क्षेत्रीय आवेदन के प्रावधान भी शामिल थे, जिसका अर्थ है कि यूरोपीय संघ के बाहर के प्रदाता विनियमन के अधीन होंगे यदि वे यूरोपीय संघ के भीतर उपयोगकर्ताओं को AI प्रणाली प्रदान करते हैं। यह GDPR के दृष्टिकोण को प्रतिबिंबित करता है और वैश्विक AI डेवलपर्स के लिए एक समान अवसर बनाने का लक्ष्य रखता है।
छूट और दायरा
कुछ AI प्रणालियों को प्रस्ताव के दायरे से बाहर रखा गया था। इनमें विशेष रूप से सैन्य, रक्षा या राष्ट्रीय सुरक्षा उद्देश्यों के लिए उपयोग की जाने वाली प्रणालियाँ, साथ ही विशेष रूप से वैज्ञानिक अनुसंधान और विकास के लिए विकसित और सेवा में लगाई गई प्रणालियाँ शामिल थीं। विनियमन व्यक्तिगत, गैर-पेशेवर गतिविधियों के लिए उपयोग किए जाने वाले AI पर भी लागू नहीं होता था। ये छूट सुरक्षा मामलों में सदस्य राज्यों की संप्रभुता का सम्मान करने और अनुसंधान सेटिंग्स में नवाचार में बाधा डालने से बचने के लिए थीं।
हालांकि, प्रस्ताव ने कानून प्रवर्तन या प्रवासन नियंत्रण में उपयोग की जाने वाली AI प्रणालियों को छूट नहीं दी, भले ही ये अक्सर राज्य के कार्य हों। इसके बजाय, उन्हें उच्च-जोखिम श्रेणी के अधीन किया गया, जिसमें मानवीय निगरानी और मौलिक अधिकार प्रभाव आकलन जैसे अतिरिक्त सुरक्षा उपाय शामिल थे।
प्रभाव और विरासत
2021 का प्रस्ताव AI विनियमन में एक मील का पत्थर था, जो किसी प्रमुख क्षेत्राधिकार द्वारा प्रस्तावित AI के लिए पहला व्यापक कानूनी ढांचा था। इसने बाद में दुनिया भर के नियामक प्रयासों को प्रभावित किया, जिसमें यूरोप की परिषद का AI सम्मेलन और विभिन्न राष्ट्रीय पहल शामिल हैं। जोखिम-आधारित दृष्टिकोण पर व्यापक बहस हुई, कुछ विद्वानों ने इसकी लचीलेपन की प्रशंसा की और अन्य ने संभावित अंतराल या अति-विनियमन की आलोचना की।
विधायी प्रक्रिया के दौरान, उद्योग और नागरिक समाज की चिंताओं को दूर करने के लिए प्रस्ताव में संशोधन किया गया। उदाहरण के लिए, उच्च-जोखिम अनुप्रयोगों की सूची को परिष्कृत किया गया, और AI की परिभाषा को OECD के साथ संरेखित किया गया। 2024 में अपनाया गया अंतिम अधिनियम, 2021 के प्रस्ताव की मूल संरचना को बरकरार रखा, लेकिन GPAI श्रेणी जोड़ी और कुछ सीमाओं को समायोजित किया।
प्रस्ताव ने AI विनियमन की प्रकृति के बारे में शैक्षणिक और नीति चर्चाओं को भी जन्म दिया। कुछ ने तर्क दिया कि उत्पाद-सुरक्षा मॉडल AI के लिए उपयुक्त था, जबकि अन्य ने अधिक मानव-अधिकार-केंद्रित दृष्टिकोण का आह्वान किया। मौलिक अधिकार प्रभाव आकलन का समावेश एक प्रगतिशील कदम के रूप में देखा गया, जो एल्गोरिथम प्रभाव आकलन पर पहले के काम पर आधारित था।
2025 तक, AI अधिनियम के प्रावधानों को चरणबद्ध तरीके से लागू किया जा रहा है, जिसमें निषिद्ध प्रथाओं और GPAI दायित्वों के लिए पहली समय-सीमाएं पहले से ही प्रभावी हैं। 2021 का प्रस्ताव यूरोपीय संघ और वैश्विक स्तर पर AI शासन के विकास को समझने के लिए एक प्रमुख संदर्भ बिंदु बना हुआ है।