कैलिफोर्निया सीनेट बिल 1047, जिसे सेफ एंड सिक्योर इनोवेशन फॉर फ्रंटियर आर्टिफिशियल इंटेलिजेंस मॉडल्स एक्ट के रूप में जाना जाता है, एक प्रस्तावित राज्य कानून है जो बड़े पैमाने पर कृत्रिम बुद्धिमत्ता मॉडल के डेवलपर्स के लिए बाध्यकारी सुरक्षा दायित्व स्थापित करेगा। फरवरी 2024 में सीनेटर स्कॉट वीनर द्वारा पेश किया गया, यह बिल उन्नत एआई प्रणालियों द्वारा उत्पन्न विनाशकारी जोखिमों को कम करने का लक्ष्य रखता है, जिसमें संभावित साइबर हमले, जैव हथियार निर्माण और बड़े पैमाने पर हताहत शामिल हैं। यह मई 2024 में कैलिफोर्निया राज्य सीनेट और अगस्त 2024 में असेंबली से पारित हुआ, लेकिन 29 सितंबर 2024 को गवर्नर गेविन न्यूसम द्वारा वीटो कर दिया गया, जिससे यह संयुक्त राज्य अमेरिका में सबसे अधिक बहस वाले एआई विनियमन प्रयासों में से एक बन गया।
यह कानून "कवर किए गए मॉडल" को लक्षित करता है - एआई सिस्टम जिन्हें 10^26 फ्लोटिंग-पॉइंट ऑपरेशंस (FLOPs) से अधिक कंप्यूटिंग शक्ति के साथ प्रशिक्षित किया गया है, एक सीमा जो OpenAI, Anthropic, और Google DeepMind द्वारा विकसित फ्रंटियर मॉडल जैसे मॉडलों को पकड़ने के लिए डिज़ाइन की गई है। डेवलपर्स को एक सुरक्षा ढांचा लागू करना होगा जिसमें जोखिम मूल्यांकन, घटना रिपोर्टिंग, और आवश्यक होने पर मॉडल संचालन को रोकने के लिए एक किल स्विच शामिल है। यह बिल डेवलपर्स पर उनके मॉडलों द्वारा उत्पन्न गंभीर नुकसान के लिए दायित्व भी लगाता है, जिसमें झूठे बयानों के लिए $10 मिलियन तक और वास्तविक नुकसान के लिए $50 मिलियन तक का जुर्माना शामिल है। छूट केवल अनुसंधान के लिए उपयोग किए जाने वाले मॉडल, संशोधनों के साथ ओपन-सोर्स मॉडल, और कंप्यूट सीमा से नीचे के मॉडल पर लागू होती है, हालांकि बिल में कैलिफोर्निया प्रौद्योगिकी विभाग के लिए कंप्यूटिंग शक्ति बढ़ने पर सीमा को समायोजित करने का प्रावधान शामिल है।
पृष्ठभूमि और विधायी संदर्भ
यह बिल Generative AI और Large language model प्रणालियों के तेजी से विकास के बारे में बढ़ती चिंताओं के बीच उभरा, जिन्होंने कोडिंग, तर्क, और सामग्री निर्माण में क्षमताओं का प्रदर्शन किया है। समर्थकों ने तर्क दिया कि एआई प्रयोगशालाओं से स्वैच्छिक प्रतिबद्धताएं अपर्याप्त थीं, जिसमें गलत सूचना के लिए एआई के दुरुपयोग और भविष्य की प्रणालियों द्वारा मानव नियंत्रण से बचने की संभावना जैसी घटनाओं का हवाला दिया गया। कैलिफोर्निया, कई प्रमुख एआई कंपनियों का घर होने के नाते, वाहन उत्सर्जन और डेटा गोपनीयता जैसे क्षेत्रों में राष्ट्रीय मानक स्थापित करने के अपने इतिहास को देखते हुए, अग्रणी विनियमन के लिए एक स्वाभाविक स्थान के रूप में देखा गया।
सीनेटर वीनर ने 7 फरवरी 2024 को SB 1047 पेश किया, जिसमें फ्यूचर ऑफ लाइफ इंस्टीट्यूट का सह-प्रायोजन और Yoshua Bengio और Geoffrey Hinton सहित प्रमुख एआई शोधकर्ताओं का समर्थन था। समिति की सुनवाई के दौरान बिल में कई संशोधन किए गए, जिसमें अत्यधिक व्यापकता और अनपेक्षित परिणामों के बारे में आलोचनाओं को संबोधित किया गया। विशेष रूप से, "कवर किए गए मॉडल" की परिभाषा को उन मॉडलों को बाहर करने के लिए परिष्कृत किया गया जो तैनात नहीं हैं या जनता के लिए उपलब्ध नहीं हैं, और दायित्व खंड को केवल तब लागू करने के लिए संकुचित किया गया जब डेवलपर को जोखिम के बारे में पता था या पता होना चाहिए था।
मुख्य प्रावधान और आवश्यकताएं
SB 1047 के तहत, कवर किए गए मॉडल के डेवलपर्स को प्रशिक्षण शुरू करने से पहले कैलिफोर्निया प्रौद्योगिकी विभाग को एक "सुरक्षा और सुरक्षा ढांचा" जमा करना होगा। इस ढांचे में मॉडल के इच्छित उपयोग, संभावित जोखिम, और शमन उपायों का विवरण होना चाहिए। विशिष्ट आवश्यकताओं में शामिल हैं:
- जोखिम मूल्यांकन: डेवलपर्स को प्रशिक्षण से पहले एक जोखिम मूल्यांकन करना होगा, जिसमें साइबर हमलों, रासायनिक या जैविक हथियारों, या अन्य विनाशकारी नुकसान को सक्षम करने की मॉडल की क्षमता का मूल्यांकन किया जाएगा। मूल्यांकन को प्रशिक्षण के बाद और सार्वजनिक रिलीज से पहले अद्यतन किया जाना चाहिए।
- घटना रिपोर्टिंग: किसी भी "गंभीर नुकसान की घटना" - जिसे मृत्यु, बड़े पैमाने पर हताहत, या महत्वपूर्ण संपत्ति क्षति का कारण बनने वाली घटना के रूप में परिभाषित किया गया है - की सूचना राज्य अटॉर्नी जनरल को 72 घंटों के भीतर दी जानी चाहिए। रिपोर्ट में तकनीकी विवरण और डेवलपर की प्रतिक्रिया शामिल होनी चाहिए।
- किल स्विच: ढांचे में एक "तत्काल और पूर्ण शटडाउन" क्षमता शामिल होनी चाहिए, जिससे डेवलपर मॉडल के संचालन को तुरंत रोक सके यदि यह एक आसन्न खतरा पैदा करता है।
- तृतीय-पक्ष ऑडिट: डेवलपर्स को ढांचे के अनुपालन को सत्यापित करने के लिए स्वतंत्र ऑडिटरों को नियुक्त करना होगा, जिसमें ऑडिट रिपोर्ट राज्य को सालाना जमा की जाएगी।
- व्हिसलब्लोअर संरक्षण: सुरक्षा उल्लंघनों की रिपोर्ट करने वाले कर्मचारियों को प्रतिशोध से संरक्षित किया जाता है, जिससे आंतरिक पारदर्शिता को प्रोत्साहन मिलता है।
बिल डेवलपर्स को सुरक्षा चिंताओं को उठाने वाले कर्मचारियों के खिलाफ प्रतिशोध लेने से भी रोकता है, और इसके लिए आवश्यक है कि सभी कवर किए गए मॉडल "मॉडल चोरी" के जोखिम को कम करने के तरीके से विकसित किए जाएं - मॉडल के वजन तक अनधिकृत पहुंच।
दायित्व और प्रवर्तन
SB 1047 एआई डेवलपर्स के लिए एक नई दायित्व व्यवस्था स्थापित करता है। यदि एक कवर किया गया मॉडल गंभीर नुकसान का कारण बनता है - जिसे मृत्यु, बड़े पैमाने पर हताहत, या $500 मिलियन से अधिक की संपत्ति क्षति के रूप में परिभाषित किया गया है - तो डेवलपर को दोषी ठहराया जा सकता है, भले ही उन्होंने जानबूझकर नुकसान न किया हो। यह "सख्त दायित्व" दृष्टिकोण दोषपूर्ण वस्तुओं के लिए उत्पाद दायित्व कानूनों के समान है, लेकिन यह सॉफ्टवेयर पर लागू होता है, जो पारंपरिक रूप से ऐसे मानकों से मुक्त रहा है।
प्रवर्तन कैलिफोर्निया अटॉर्नी जनरल द्वारा किया जाएगा, जो नागरिक दंड और निषेधाज्ञा राहत मांग सकता है। बिल प्रौद्योगिकी विभाग के भीतर एक "फ्रंटियर एआई डिवीजन" भी बनाता है, जिसे अनुपालन की निगरानी और कवर किए गए मॉडलों का सार्वजनिक रजिस्ट्री बनाए रखने का कार्य सौंपा गया है। सुरक्षा ढांचे में झूठे बयानों के लिए दंड $10 मिलियन प्रति उल्लंघन तक है, जबकि वास्तविक नुकसान के परिणामस्वरूप $50 मिलियन तक का जुर्माना हो सकता है। हालांकि, बिल स्पष्ट रूप से बताता है कि यह निजी कार्रवाई का अधिकार नहीं बनाता है, जिसका अर्थ है कि व्यक्ति इस कानून के तहत सीधे डेवलपर्स पर मुकदमा नहीं कर सकते।
समर्थन और विरोध
बिल ने ध्रुवीकृत प्रतिक्रियाएं उत्पन्न कीं। समर्थकों, जिनमें सेंटर फॉर एआई सेफ्टी और फ्यूचर ऑफ लाइफ इंस्टीट्यूट शामिल हैं, ने तर्क दिया कि यह अस्तित्वगत जोखिमों वाली तकनीक के लिए आवश्यक सुरक्षा उपाय प्रदान करता है। उन्होंने सर्वेक्षणों की ओर इशारा किया जो दिखाते हैं कि अधिकांश एआई शोधकर्ताओं का मानना है कि उन्नत एआई से विनाशकारी परिणामों की महत्वपूर्ण संभावना है। समर्थकों ने यह भी नोट किया कि बिल की कंप्यूट सीमा यह सुनिश्चित करती है कि यह केवल सबसे बड़ी प्रयोगशालाओं को प्रभावित करता है, जिससे स्टार्टअप और शैक्षणिक संस्थानों को बचाया जा सके।
विरोध दो मुख्य समूहों से आया। उद्योग समूहों, जिनमें चैंबर ऑफ कॉमर्स और कई एआई कंपनियां शामिल हैं, ने तर्क दिया कि बिल नवाचार को दबा देगा और एआई विकास को कैलिफोर्निया से बाहर ले जाएगा। उन्होंने दावा किया कि सख्त दायित्व मानक ओपन-सोर्स विकास को हतोत्साहित करेगा, क्योंकि संशोधित मॉडल भी मूल डेवलपर से जोड़े जा सकते हैं। Fei-Fei Li और Andrew Ng जैसे कुछ प्रौद्योगिकीविदों ने बिल का विरोध करते हुए खुले पत्रों पर हस्ताक्षर किए, यह तर्क देते हुए कि यह वर्तमान क्षमताओं के बजाय सट्टा भय पर आधारित था।
आलोचकों का दूसरा समूह, जिसमें कुछ एआई सुरक्षा शोधकर्ता शामिल थे, ने तर्क दिया कि बिल बहुत कमजोर था। उन्होंने नोट किया कि कंप्यूट सीमा को वितरित प्रशिक्षण या अधिक कुशल एल्गोरिदम का उपयोग करके दरकिनार किया जा सकता है, और दायित्व प्रावधान केवल उन नुकसानों पर लागू होते हैं जो "उचित रूप से पूर्वानुमानित" हैं, जिसे साबित करना मुश्किल हो सकता है। कुछ ने बिल की आलोचना यह भी की कि यह छोटे मॉडलों को संबोधित नहीं करता जो अन्य उपकरणों के साथ संयोजन में खतरनाक हो सकते हैं।
संशोधन और समझौते
विधायी प्रक्रिया के दौरान, SB 1047 को कुछ चिंताओं को दूर करने के लिए संशोधित किया गया था। मूल संस्करण में डेवलपर्स को प्रमाणित करने की आवश्यकता थी कि उनके मॉडल सामूहिक विनाश के हथियार बनाने के लिए उपयोग नहीं किए जा सकते, जिसे आलोचकों ने गारंटी देना असंभव बताया। इसे "उचित आश्वासन" मानक में बदल दिया गया। बिल ने विशेष रूप से सैन्य या राष्ट्रीय सुरक्षा उद्देश्यों के लिए उपयोग किए जाने वाले मॉडलों के लिए एक छूट भी जोड़ी, और यह स्पष्ट किया कि 10^26 FLOPs से कम प्रशिक्षण कंप्यूट वाले ओपन-सोर्स मॉडल कवर नहीं हैं।
एक और महत्वपूर्ण संशोधन एक प्रावधान को हटाना था जो एआई को विनियमित करने के लिए एक नई राज्य एजेंसी बनाता। इसके बजाय, बिल मौजूदा विभागों पर निर्भर करता है, जिसमें प्रौद्योगिकी विभाग अग्रणी भूमिका निभाता है। इसे विरोधियों के लिए एक रियायत के रूप में देखा गया जो नौकरशाही अतिक्रमण से डरते थे।
गवर्नर का वीटो और उसके बाद
गवर्नर न्यूसम ने 29 सितंबर 2024 को SB 1047 को वीटो कर दिया, एक ऐसा कदम जिसने कई पर्यवेक्षकों को आश्चर्यचकित किया। अपने वीटो संदेश में, न्यूसम ने तर्क दिया कि बिल "अच्छे इरादे" वाला था लेकिन अत्यधिक व्यापक था, और यह पर्याप्त संघीय समन्वय के बिना एआई डेवलपर्स पर "कठोर, महंगी, और संभावित रूप से घातक" आवश्यकताएं लगाएगा। उन्होंने एक अधिक "लचीले" दृष्टिकोण का आह्वान किया, सुझाव देते हुए कि कैलिफोर्निया को एक एकीकृत नियामक ढांचा विकसित करने के लिए संघीय सरकार और अन्य राज्यों के साथ काम करना चाहिए।
वीटो का उद्योग समूहों और कुछ शिक्षाविदों द्वारा जश्न मनाया गया, लेकिन सुरक्षा अधिवक्ताओं को निराश किया। सीनेटर वीनर ने अगले विधायी सत्र में बिल को फिर से पेश करने की कसम खाई, संभवतः संशोधनों के साथ। इस बीच, कैलिफोर्निया ने अन्य एआई विनियमनों का पीछा करना जारी रखा है, जिसमें एआई-जनित सामग्री में पारदर्शिता की आवश्यकता वाला कानून और रोजगार पर एआई के प्रभाव का अध्ययन करने वाला एक कार्य बल शामिल है।
व्यापक निहितार्थ
SB 1047 का प्रक्षेपवक्र संयुक्त राज्य अमेरिका में एआई विनियमन पर व्यापक बहस को दर्शाता है। जबकि यूरोपीय संघ ने 2024 में एआई अधिनियम पारित किया, अमेरिका ने बड़े पैमाने पर कंपनियों से स्वैच्छिक प्रतिबद्धताओं पर भरोसा किया है। बिल की विफलता तेजी से विकसित हो रही तकनीक को विनियमित करने की कठिनाई को उजागर करती है, जहां परिभाषाएं महीनों के भीतर पुरानी हो सकती हैं। हालांकि, इसकी शुरूआत ने पहले ही कॉर्पोरेट व्यवहार को प्रभावित किया है, कई प्रमुख एआई प्रयोगशालाओं ने स्वैच्छिक सुरक्षा ढांचे की घोषणा की है जो SB 1047 की आवश्यकताओं को दर्शाते हैं।
बिल ने तकनीक को विनियमित करने में राज्य सरकारों की भूमिका के बारे में भी सवाल उठाए। समर्थकों ने तर्क दिया कि कैलिफोर्निया की अपने नागरिकों की रक्षा करने की जिम्मेदारी है, जबकि विरोधियों ने राज्य कानूनों के एक पैचवर्क की चेतावनी दी जो कंपनियों पर बोझ डालेगा। बहस जारी रहने की संभावना है, खासकर जब एआई क्षमताएं बढ़ती हैं और नुकसान की संभावना अधिक ठोस हो जाती है। 2025 की शुरुआत तक, किसी अन्य राज्य में कोई समान बिल पारित नहीं हुआ है, लेकिन यह मुद्दा विधायकों के लिए प्राथमिकता बना हुआ है।
तकनीकी और नैतिक विचार
बिल की 10^26 FLOPs की कंप्यूट सीमा उल्लेखनीय है क्योंकि यह GPT-4 जैसे मॉडलों के प्रशिक्षण लागत के अनुमानों के साथ संरेखित है, जिसके बारे में माना जाता है कि इसने लगभग 2.1e25 FLOPs का उपयोग किया है। इसका मतलब है कि केवल मुट्ठी भर मॉडल कवर होंगे, जिनमें OpenAI, Anthropic, और Google DeepMind द्वारा विकसित मॉडल शामिल हैं। हालांकि, सीमा स्थिर नहीं है; बिल में प्रौद्योगिकी विभाग के लिए कंप्यूटिंग शक्ति के रुझानों के आधार पर इसे समायोजित करने का प्रावधान शामिल है, यह सुनिश्चित करते हुए कि हार्डवेयर में सुधार होने पर यह प्रासंगिक बनी रहे।
नैतिक रूप से, बिल एआई कार्यों के लिए जिम्मेदारी के बारे में सवाल उठाता है। पारंपरिक सॉफ्टवेयर के विपरीत, जहां डेवलपर्स आम तौर पर उपयोगकर्ता के दुरुपयोग के लिए उत्तरदायी नहीं होते, SB 1047 डेवलपर्स को पूर्वानुमानित नुकसान के लिए जवाबदेह ठहराएगा। यह बदलाव एक बढ़ती सहमति को दर्शाता है कि एआई सिस्टम तटस्थ उपकरण नहीं हैं बल्कि उनमें एजेंसी है, और उनके निर्माताओं पर देखभाल का कर्तव्य है। आलोचकों का तर्क है कि यह अत्यधिक सतर्क विकास का कारण बन सकता है, जिससे चिकित्सा निदान या जलवायु मॉडलिंग जैसे लाभकारी अनुप्रयोगों पर प्रगति धीमी हो सकती है।
बिल Model Pruning और Data Augmentation के मुद्दे को भी छूता है, क्योंकि डेवलपर्स विनियमन से बचने के लिए मॉडल के कंप्यूट पदचिह्न को कम करने की कोशिश कर सकते हैं। हालांकि, बिल की "कवर किए गए मॉडल" की परिभाषा में कोई भी मॉडल शामिल है जो कवर किए गए मॉडल का व्युत्पन्न है, जिससे इसे दरकिनार करना मुश्किल हो जाता है। यह "व्युत्पन्न" खंड विवाद का एक प्रमुख बिंदु था, जिसमें ओपन-सोर्स अधिवक्ताओं ने तर्क दिया कि यह OpenPanel समुदाय में नवाचार को ठंडा करेगा।
निष्कर्ष
कैलिफोर्निया SB 1047 फ्रंटियर एआई को विनियमित करने के लिए एक ऐतिहासिक प्रयास का प्रतिनिधित्व करता है, जो उत्पाद सुरक्षा, पर्यावरण कानून, और प्रौद्योगिकी नीति के तत्वों को जोड़ता है। हालांकि इसे वीटो कर दिया गया, बिल ने भविष्य के विधायी प्रयासों के लिए एक मिसाल स्थापित की है, दोनों कैलिफोर्निया में और अन्यत्र। इसके मूल विचार - कंप्यूट सीमाएं, सुरक्षा ढांचे, और विनाशकारी नुकसान के लिए दायित्व - किसी न किसी रूप में फिर से प्रकट होने की संभावना है, चाहे राज्य या संघीय स्तर पर। SB 1047 पर बहस ने एआई सुरक्षा पर सार्वजनिक प्रवचन को भी सक्रिय किया है, जिससे Reinforcement Learning from AI Feedback (RLAIF) और Gradient Clipping जैसे मुद्दे मुख्यधारा की बातचीत में आ गए हैं। जैसे-जैसे एआई आगे बढ़ता है, इसे कैसे शासित किया जाए यह सवाल 21वीं सदी की सबसे गंभीर चुनौतियों में से एक बना रहेगा।
संदर्भ
- कैलिफोर्निया राज्य सीनेट। (2024)। SB 1047: सेफ एंड सिक्योर इनोवेशन फॉर फ्रंटियर आर्टिफिशियल इंटेलिजेंस मॉडल्स एक्ट। विधायी परामर्शदाता का डाइजेस्ट।
- वीनर, एस. (2024)। SB 1047 की शुरूआत पर प्रेस विज्ञप्ति।
- न्यूसम, जी. (2024)। SB 1047 के लिए वीटो संदेश।
- फ्यूचर ऑफ लाइफ इंस्टीट्यूट। (2024)। SB 1047 का विश्लेषण।
- सेंटर फॉर एआई सेफ्टी। (2024)। SB 1047 पर बयान।