कैलिफोर्निया एआई कानून (2024)

2024 में, कैलिफोर्निया ने कृत्रिम बुद्धिमत्ता से संबंधित कानूनों की एक श्रृंखला लागू की जो व्यापक रूप से प्रचारित सीनेट बिल 1047 से कहीं आगे तक फैली हुई थी। जबकि एसबी 1047, फ्रंटियर आर्टिफिशियल इंटेलिजेंस मॉडल्स के लिए सुरक्षित और सुरक्षित नवाचार अधिनियम, ने राष्ट्रीय सुर्खियाँ बटोरीं और अंततः 29 सितंबर, 2024 को गवर्नर गेविन न्यूसोम द्वारा वीटो कर दिया गया, राज्य विधानमंडल ने कई अन्य एआई-संबंधित उपायों को पारित किया और गवर्नर ने उन पर हस्ताक्षर किए। इन कानूनों ने कई तरह की चिंताओं को संबोधित किया, जिनमें एआई-जनित सामग्री में पारदर्शिता, राजनीतिक अभियानों में डीपफेक का उपयोग, और स्वचालित निर्णय लेने वाली प्रणालियों की जवाबदेही शामिल थी। साथ में, उन्होंने कैलिफोर्निया को एआई विनियमन में अग्रणी के रूप में स्थापित किया, भले ही राज्य का दृष्टिकोण एसबी 1047 द्वारा प्रस्तावित व्यापक ढांचे की तुलना में अधिक खंडित बना रहा।

विधायी पैकेज ने कैलिफोर्निया के विधायकों के बीच Generative AI उपकरणों के तेजी से प्रसार का जवाब देने की बढ़ती तात्कालिकता को दर्शाया। कानून उद्योग समूहों, शैक्षणिक संस्थानों और नागरिक समाज संगठनों की गहन पैरवी के बीच तैयार किए गए थे। गवर्नर न्यूसोम, एक डेमोक्रेट, ने सितंबर 2024 के दौरान घोषणाओं की एक श्रृंखला में बिलों पर हस्ताक्षर किए, और नवाचार को बढ़ावा देते हुए उपभोक्ताओं और मतदाताओं की रक्षा करने की आवश्यकता पर जोर दिया। परिणामी क़ानूनों ने राज्य के भीतर Artificial intelligence प्रणालियों को विकसित करने और तैनात करने वाली कंपनियों के लिए नई बाध्यताएँ पैदा कीं, जो दुनिया की कई प्रमुख एआई फर्मों का घर है, जिनमें OpenAI, Anthropic, और Google DeepMind शामिल हैं।

एआई-जनित सामग्री में पारदर्शिता

सबसे महत्वपूर्ण विधानों में से एक असेंबली बिल 2013 था, जिसने प्रशिक्षण डेटा के लिए पारदर्शिता को अनिवार्य किया। कानून के अनुसार जनरेटिव एआई सिस्टम के डेवलपर्स को अपने मॉडलों को प्रशिक्षित करने के लिए उपयोग किए गए डेटासेट के बारे में दस्तावेज़ प्रकाशित करना होगा। इस दस्तावेज़ में डेटा के स्रोतों, डेटा में कॉपीराइट सामग्री शामिल है या नहीं, और डेटा को कैसे क्यूरेट और संसाधित किया गया था, इसकी जानकारी शामिल होनी चाहिए। यह कानून उन डेवलपर्स पर लागू होता है जो कैलिफोर्निया के निवासियों को एआई सेवाएं प्रदान करते हैं, भले ही कंपनी का मुख्यालय कहीं भी हो। यह 1 जनवरी, 2025 को प्रभावी हुआ, जिससे कंपनियों को अनुपालन के लिए कम समय मिला।

एबी 2013 को OpenAI और Anthropic जैसी कंपनियों के खिलाफ लेखकों और कलाकारों द्वारा दायर मुकदमों की सीधी प्रतिक्रिया के रूप में देखा गया, जिन्होंने आरोप लगाया कि उनके कॉपीराइट किए गए कार्यों का उपयोग Large language model को प्रशिक्षित करने के लिए बिना अनुमति के किया गया था। कानून कॉपीराइट सामग्री के उपयोग पर रोक नहीं लगाता है, लेकिन यह इसके उपयोग के बारे में पारदर्शिता को मजबूर करता है। कानूनी विशेषज्ञों ने कहा कि दस्तावेज़ीकरण की आवश्यकताएं छोटे स्टार्टअप के लिए बोझिल हो सकती हैं, जबकि अधिक संसाधनों वाली बड़ी फर्में अनुपालन करने के लिए बेहतर स्थिति में थीं। कानून ने डेवलपर्स को मॉडल के उद्देश्य और इच्छित उपयोग के मामलों के साथ-साथ किसी भी ज्ञात सीमाओं या जोखिमों का वर्णन करने की भी आवश्यकता थी।

राजनीतिक अभियानों में डीपफेक

कैलिफोर्निया ने चुनावों में डीपफेक के उपयोग को विनियमित करने के लिए भी आक्रामक रूप से कदम उठाया। असेंबली बिल 2655, जिस पर सितंबर 2024 में कानून के रूप में हस्ताक्षर किए गए थे, के लिए बड़े ऑनलाइन प्लेटफार्मों को चुनावों से संबंधित भ्रामक एआई-जनित सामग्री को लेबल करने या हटाने की आवश्यकता होती है। यह कानून उस सामग्री पर लागू होता है जो किसी उम्मीदवार या निर्वाचित अधिकारी को भौतिक रूप से भ्रामक तरीके से चित्रित करती है, जैसे कि एक नकली वीडियो जिसमें उम्मीदवार कुछ ऐसा कह रहा है जो उसने कभी नहीं कहा। प्लेटफार्मों को ऐसी सामग्री के बारे में सूचित किए जाने के 72 घंटों के भीतर कार्रवाई करनी होगी। यह कानून पहले के कैलिफोर्निया क़ानूनों पर आधारित है जो चुनावों में डीपफेक को संबोधित करते थे, लेकिन यह आवश्यकताओं को प्लेटफार्मों और सामग्री की एक व्यापक श्रेणी तक विस्तारित करता है।

एबी 2655 को असेंबली बिल 2839 द्वारा पूरक बनाया गया था, जो अदालतों को भ्रामक एआई-जनित चुनाव सामग्री के वितरण के खिलाफ निषेधाज्ञा जारी करने की अनुमति देता है। कानून उम्मीदवारों को त्वरित कानूनी उपायों की तलाश करने की भी अनुमति देता है। साथ में, इन कानूनों ने 2024 चुनाव चक्र और उसके बाद एआई-संचालित गलत सूचना का मुकाबला करने के लिए एक मजबूत कानूनी ढांचा तैयार किया। समर्थकों ने तर्क दिया कि लोकतांत्रिक प्रक्रियाओं की रक्षा के लिए कानून आवश्यक थे, जबकि आलोचकों ने संभावित प्रथम संशोधन उल्लंघनों और "भौतिक रूप से भ्रामक" डीपफेक की परिभाषा की कठिनाई के बारे में चिंता जताई।

एल्गोरिथमिक जवाबदेही और स्वचालित निर्णय लेना

एक और उल्लेखनीय कानून, सीनेट बिल 942, ने स्वचालित निर्णय लेने वाली प्रणालियों में एआई के उपयोग को संबोधित किया। कानून के अनुसार जो कंपनियां महत्वपूर्ण निर्णय लेने के लिए एआई का उपयोग करती हैं - जैसे कि रोजगार, आवास, ऋण, या स्वास्थ्य देखभाल को प्रभावित करने वाले - उन्हें उपभोक्ताओं को यह जानकारी प्रदान करनी होगी कि सिस्टम कैसे काम करता है। इसमें निर्णय में शामिल तर्क, एआई की भूमिका का महत्व, और उपभोक्ता का बाहर निकलने या मानव समीक्षा का अनुरोध करने का अधिकार शामिल है। यह कानून 1 जनवरी, 2025 को प्रभावी हुआ, और आंशिक रूप से यूरोपीय संघ के सामान्य डेटा संरक्षण विनियमन पर आधारित था।

एसबी 942 को गोपनीयता अधिवक्ताओं द्वारा एल्गोरिथमिक पारदर्शिता की दिशा में एक कदम के रूप में सराहा गया। हालांकि, "महत्वपूर्ण निर्णय" क्या होता है, इस बारे में अस्पष्ट होने और कंपनियों को अपनी प्रणालियों के स्वतंत्र ऑडिट करने की आवश्यकता नहीं होने के लिए भी इसकी आलोचना की गई। कानून के प्रवर्तन तंत्र काफी हद तक कैलिफोर्निया गोपनीयता संरक्षण एजेंसी पर छोड़ दिए गए थे, जिसे क़ानून को लागू करने के लिए नियम जारी करने का कार्य सौंपा गया था। कुछ उद्योग समूहों ने चेतावनी दी कि कानून अनुपालन बोझ का एक पैचवर्क बना सकता है, क्योंकि कंपनियों को कैलिफोर्निया की आवश्यकताओं को पूरा करने के लिए अपनी प्रणालियों को अनुकूलित करने की आवश्यकता होगी।

कलाकारों और रचनाकारों के लिए सुरक्षा

कैलिफोर्निया ने अभिनेताओं, संगीतकारों और अन्य कलाकारों को अनधिकृत एआई प्रतिकृतियों से बचाने के उद्देश्य से कानून भी बनाए। असेंबली बिल 2602 के लिए आवश्यक है कि कलाकारों और स्टूडियो के बीच अनुबंधों में डिजिटल प्रतिकृतियों के उपयोग के बारे में स्पष्ट भाषा शामिल हो। यह कानून, जो 1 जनवरी, 2025 को प्रभावी हुआ, स्पष्ट सहमति के बिना किसी कलाकार की डिजिटल प्रतिकृति के उपयोग पर रोक लगाता है, जब तक कि उपयोग सामूहिक सौदेबाजी समझौते द्वारा कवर नहीं किया जाता है। इसे स्क्रीन एक्टर्स गिल्ड - अमेरिकन फेडरेशन ऑफ टेलीविज़न एंड रेडियो आर्टिस्ट्स (SAG-AFTRA) का समर्थन प्राप्त था, जिसने हाल ही में एक हड़ताल समाप्त की थी जिसमें एआई के बारे में चिंताएं शामिल थीं।

एक संबंधित कानून, असेंबली बिल 1836, ने मृत कलाकारों को समान सुरक्षा प्रदान की। इसके लिए किसी मृत व्यक्ति की डिजिटल प्रतिकृति को व्यावसायिक उत्पादन में उपयोग करने से पहले संपत्ति या उत्तराधिकारियों से सहमति की आवश्यकता होती है। इस कानून को ऐतिहासिक हस्तियों और मृत मशहूर हस्तियों की समानता को फिर से बनाने के लिए एआई के बढ़ते उपयोग की प्रतिक्रिया के रूप में देखा गया। दोनों कानून अपनी विशिष्टता के लिए उल्लेखनीय थे, जो मनोरंजन उद्योग में एआई द्वारा उत्पन्न अद्वितीय चुनौतियों को संबोधित करते थे, जो कैलिफोर्निया में एक प्रमुख आर्थिक चालक है।

एसबी 1047 का वीटो

इन कानूनों के पारित होने के बावजूद, कैलिफोर्निया में सबसे महत्वाकांक्षी एआई विधान कानून बनने में विफल रहा। सीनेटर स्कॉट वीनर द्वारा पेश किया गया एसबी 1047, बड़े एआई मॉडल के डेवलपर्स को सुरक्षा प्रोटोकॉल लागू करने की आवश्यकता होती, जिसमें एक किल स्विच और तीसरे पक्ष के ऑडिट शामिल थे। बिल ने फ्रंटियर एआई मॉडल की देखरेख के लिए एक नई राज्य एजेंसी भी बनाई होती। गवर्नर न्यूसोम ने 29 सितंबर, 2024 को बिल को वीटो कर दिया, यह तर्क देते हुए कि यह अत्यधिक व्यापक था और नवाचार को दबा सकता है। अपने वीटो संदेश में, न्यूसोम ने कहा कि बिल सबसे बड़े मॉडलों पर केंद्रित था और "कठोर मानक" लगा सकता है जो वर्तमान जोखिमों से उचित नहीं थे।

वीटो तकनीकी उद्योग में कई लोगों के लिए एक जीत थी, जिसमें OpenAI और Anthropic शामिल थे, जिन्होंने बिल के खिलाफ पैरवी की थी। हालांकि, इसने अधिवक्ताओं को निराश किया जिन्होंने तर्क दिया कि कैलिफोर्निया को उन्नत एआई के संभावित नुकसान के खिलाफ मजबूत सुरक्षा उपायों की आवश्यकता है। अपने संदेश में, न्यूसोम ने कहा कि उन्होंने राज्य एजेंसियों को वैकल्पिक दृष्टिकोण विकसित करने के लिए विशेषज्ञों के साथ काम करने का निर्देश दिया है, जिसमें एआई विनियमन के लिए जोखिम-आधारित ढांचे शामिल हैं। वीटो ने एआई विनियमन में नेतृत्व करने की राज्य की इच्छा और तकनीकी नवाचार के लिए वैश्विक केंद्र के रूप में अपनी स्थिति बनाए रखने में उसकी रुचि के बीच तनाव को उजागर किया।

प्रतिक्रियाएं और उद्योग प्रतिक्रिया

2024 के कानूनों ने एआई उद्योग से मिश्रित प्रतिक्रियाएं प्राप्त कीं। OpenAI और Anthropic जैसी कंपनियों ने सार्वजनिक रूप से कुछ पारदर्शिता और डीपफेक उपायों का समर्थन किया, जबकि अनुपालन के संचयी बोझ के बारे में चिंता व्यक्त की। छोटे स्टार्टअप, विशेष रूप से Generative AI क्षेत्र में, चिंतित थे कि एबी 2013 की दस्तावेज़ीकरण आवश्यकताओं को पूरा करना मुश्किल होगा। कुछ कंपनियों ने नए नियमों को नेविगेट करने के लिए अनुपालन अधिकारियों और कानूनी टीमों को काम पर रखना शुरू कर दिया। चैंबर ऑफ प्रोग्रेस और टेकनेट ट्रेड एसोसिएशन जैसे उद्योग समूहों ने तर्क दिया कि कानून एक खंडित नियामक वातावरण बना सकते हैं, क्योंकि अन्य राज्य और संघीय सरकार भी एआई विधान पर विचार कर रहे थे।

अमेरिकन सिविल लिबर्टीज यूनियन और इलेक्ट्रॉनिक फ्रंटियर फाउंडेशन सहित नागरिक समाज संगठन, आम तौर पर पारदर्शिता और जवाबदेही उपायों के समर्थन में थे। उन्होंने तर्क दिया कि कानूनों ने उपभोक्ताओं और मतदाताओं को एआई-संचालित निर्णयों को समझने और चुनौती देने के लिए महत्वपूर्ण उपकरण दिए। हालांकि, कुछ गोपनीयता अधिवक्ताओं ने कहा कि कानून पर्याप्त नहीं हैं, विशेष रूप से स्वतंत्र ऑडिट की आवश्यकता या एआई के कुछ उच्च जोखिम वाले उपयोगों को पूरी तरह से प्रतिबंधित करने में। कैलिफोर्निया में एआई विनियमन पर बहस जारी रहने की संभावना है, क्योंकि राज्य विधानमंडल ने पहले ही संकेत दिया है कि वह 2025 में अतिरिक्त एआई बिलों पर विचार करेगा।

कार्यान्वयन और प्रवर्तन

2024 के कानूनों का कार्यान्वयन काफी हद तक राज्य एजेंसियों पर निर्भर करता है, जिनमें कैलिफोर्निया गोपनीयता संरक्षण एजेंसी और अटॉर्नी जनरल का कार्यालय शामिल है। गोपनीयता संरक्षण एजेंसी को एसबी 942 के लिए नियम लिखने का कार्य सौंपा गया है, जो कानून के दायरे और प्रवर्तन की प्रक्रियाओं को स्पष्ट करेगा। एजेंसी ने उद्योग प्रतिनिधियों, शिक्षाविदों और उपभोक्ता अधिवक्ताओं सहित हितधारकों से इनपुट इकट्ठा करने के लिए सार्वजनिक कार्यशालाएं आयोजित की हैं। अटॉर्नी जनरल का कार्यालय डीपफेक कानूनों को लागू करने के लिए जिम्मेदार है और उल्लंघनकर्ताओं के खिलाफ सिविल कार्रवाई कर सकता है।

नए कानूनों का अनुपालन कैलिफोर्निया में काम करने वाली कंपनियों के लिए एक महत्वपूर्ण कार्य होने की उम्मीद है। राज्य का बड़ा प्रौद्योगिकी क्षेत्र, जिसमें प्रमुख एआई डेवलपर्स और Amazon Web Services, Microsoft Azure, और Google Cloud जैसे क्लाउड प्रदाता शामिल हैं, सबसे अधिक प्रभावित होंगे। इनमें से कई कंपनियों ने कानूनों की प्रत्याशा में मॉडल दस्तावेज़ प्रकाशित करना और सामग्री-लेबलिंग सिस्टम लागू करना शुरू कर दिया है। कानूनों का दीर्घकालिक प्रभाव इस बात पर निर्भर करेगा कि अदालतों और नियामकों द्वारा उनकी व्याख्या कैसे की जाती है, साथ ही साथ संघीय सरकार अपना स्वयं का एआई विधान पारित करती है या नहीं जो राज्य कानूनों को पूर्व-खाली कर सकता है।

व्यापक संदर्भ और भविष्य का दृष्टिकोण

कैलिफोर्निया के 2024 एआई कानून एआई विनियमन की ओर एक व्यापक वैश्विक आंदोलन का हिस्सा हैं। यूरोपीय संघ का एआई अधिनियम, जिसे औपचारिक रूप से 2024 में अपनाया गया था, अपने जोखिम स्तर के आधार पर एआई सिस्टम पर व्यापक आवश्यकताओं को लागू करता है। चीन और यूनाइटेड किंगडम सहित अन्य देशों ने भी एआई शासन ढांचे पेश किए हैं। संयुक्त राज्य अमेरिका में, संघीय सरकार ने व्यापक विधान के बजाय कार्यकारी आदेशों और एजेंसी मार्गदर्शन के साथ एक अधिक खंडित दृष्टिकोण अपनाया है। कैलिफोर्निया के कानून, यूरोपीय संघ के एआई अधिनियम की तुलना में संकीर्ण होते हुए भी, संघीय कार्रवाई की अनुपस्थिति में एक महत्वपूर्ण कदम का प्रतिनिधित्व करते हैं।

कैलिफोर्निया में एआई विनियमन का भविष्य अनिश्चित बना हुआ है। एसबी 1047 के वीटो ने एक डेमोक्रेटिक सुपरमेजॉरिटी वाले राज्य में भी व्यापक एआई विधान पारित करने की राजनीतिक चुनौतियों का प्रदर्शन किया। हालांकि, 2024 पैकेज के पारित होने से पता चला कि डीपफेक और एल्गोरिथमिक पूर्वाग्रह जैसे विशिष्ट नुकसानों को संबोधित करने के लिए द्विदलीय समर्थन है। जैसे-जैसे एआई तकनीक विकसित होती रहेगी, कैलिफोर्निया के विधायक शायद इस मुद्दे पर फिर से विचार करेंगे, संभावित रूप से उभरती चुनौतियों का समाधान करने के लिए नए बिल पेश करेंगे। अभी के लिए, 2024 के कानून राज्य में एआई शासन के लिए एक आधार प्रदान करते हैं, नवाचार को सुरक्षा के साथ संतुलित करते हैं।