कैलिफोर्निया एसबी 1047 बहस 2024 में प्रस्तावित सुरक्षित और नवाचारी फ्रंटियर आर्टिफिशियल इंटेलिजेंस मॉडल अधिनियम (Safe and Secure Innovation for Frontier Artificial Intelligence Models Act) पर एक निर्णायक विधायी विवाद था। कैलिफोर्निया राज्य सीनेट में पेश किया गया यह विधेयक बड़े पैमाने पर कृत्रिम बुद्धिमत्ता प्रणालियों के डेवलपर्स पर सुरक्षा आवश्यकताएं लागू करने का लक्ष्य रखता था। इसने समर्थकों, जो विनाशकारी जोखिमों पर जोर देते थे, और विरोधियों, जो नवाचार को बाधित करने और राज्य की तकनीकी अर्थव्यवस्था को नुकसान पहुंचाने की चेतावनी देते थे, के बीच एक तीव्र टकराव पैदा कर दिया। यह बहस तेजी से उन्नत होती एआई तकनीक को नियंत्रित करने के तरीके पर एक राष्ट्रीय जनमत संग्रह बन गई।
यह कानून "फ्रंटियर मॉडल" - एआई सिस्टम जो महत्वपूर्ण कंप्यूटिंग शक्ति के साथ प्रशिक्षित होते हैं, आमतौर पर 10^26 फ्लोटिंग-पॉइंट ऑपरेशंस से अधिक - को लक्षित करता था। इसके लिए डेवलपर्स को सुरक्षा प्रोटोकॉल लागू करने, परिनियोजन-पूर्व परीक्षण करने और अनुपालन की निगरानी के लिए एक नई राज्य एजेंसी स्थापित करने की आवश्यकता होती। महत्वपूर्ण रूप से, इसमें एक प्रावधान शामिल था जो राज्य के अटॉर्नी जनरल को उनके मॉडलों के कारण होने वाले गंभीर नुकसान के लिए डेवलपर्स पर मुकदमा करने की अनुमति देता था, जो विवाद का एक केंद्रीय बिंदु बन गया।
विधायी पृष्ठभूमि और समयरेखा
सीनेटर स्कॉट वीनर ने फरवरी 2024 में एसबी 1047 पेश किया। यह विधेयक मई 2024 में 32-1 के वोट से कैलिफोर्निया सीनेट में पारित हुआ, जो प्रारंभिक द्विदलीय समर्थन को दर्शाता है। इसके बाद यह असेंबली में चला गया, जहां उद्योग की आलोचना के जवाब में इसमें महत्वपूर्ण संशोधन किए गए। संशोधित संस्करण ने कवर किए गए मॉडलों की परिभाषा को संकुचित कर दिया, 10^26 से कम संचालन वाले ओपन-सोर्स मॉडलों को छूट दी, और डेवलपर्स के लिए आपराधिक दायित्व हटा दिया। इन परिवर्तनों के बावजूद, विधेयक विवादास्पद बना रहा।
सितंबर 2024 में, कैलिफोर्निया असेंबली ने 41-20 के वोट से विधेयक पारित किया, और सीनेट ने 30-8 से सहमति व्यक्त की। गवर्नर गेविन न्यूसम ने 29 सितंबर, 2024 को इसे कानून के रूप में हस्ताक्षरित किया, जिससे कैलिफोर्निया व्यापक एआई सुरक्षा कानून बनाने वाला पहला अमेरिकी राज्य बन गया। हालांकि, कानून के कार्यान्वयन को तुरंत उद्योग समूहों के मुकदमों द्वारा चुनौती दी गई, और 2025 की शुरुआत तक इसका भविष्य अनिश्चित बना रहा।
समर्थन तर्क
एआई शोधकर्ताओं और सुरक्षा अधिवक्ताओं सहित समर्थकों ने तर्क दिया कि कृत्रिम बुद्धिमत्ता की तीव्र प्रगति अस्तित्वगत जोखिम पैदा करती है। उन्होंने बड़े भाषा मॉडल के साइबर हमलों, जैव-हथियार विकास या स्वायत्त हानिकारक कार्यों के लिए दुरुपयोग की संभावना की ओर इशारा किया। उन्होंने सर्वेक्षणों का हवाला दिया जो दिखाते हैं कि अधिकांश एआई शोधकर्ताओं का मानना था कि असंरेखित एआई से विनाशकारी परिणामों की एक सार्थक संभावना है।
समर्थकों ने सावधानी के सिद्धांत पर जोर दिया: उच्च दांव को देखते हुए, समाज को आपदाओं से पहले कार्य करना चाहिए। उन्होंने कहा कि सिलिकॉन वैली के घर के रूप में कैलिफोर्निया की जिम्मेदारी है कि वह जिम्मेदार एआई शासन में अग्रणी भूमिका निभाए। विधेयक की सुरक्षा मूल्यांकन और घटना रिपोर्टिंग की आवश्यकता को संघीय विनियमन की दिशा में एक आवश्यक पहला कदम माना गया।
प्रमुख समर्थकों में बर्कले एआई रिसर्च संकाय, सेंटर फॉर एआई सेफ्टी, और जोशुआ टेनेनबाम और मेलानी मिशेल जैसी हस्तियां शामिल थीं, जिन्होंने तर्क दिया कि पारदर्शिता और जवाबदेही आवश्यक हैं। उन्होंने पार्टी लाइनों के पार एआई विनियमन के लिए व्यापक समर्थन दिखाने वाले जनमत सर्वेक्षणों पर भी प्रकाश डाला।
विरोध तर्क
प्रमुख तकनीकी कंपनियों और कुछ शिक्षाविदों सहित विरोधियों ने तर्क दिया कि विधेयक समय से पहले था और नवाचार को नुकसान पहुंचाएगा। उन्होंने दावा किया कि "फ्रंटियर मॉडल" की परिभाषा मनमानी थी और ऐसे मॉडलों को शामिल करेगी जो अभी तक खतरनाक नहीं थे। उन्होंने चेतावनी दी कि मुकदमेबाजी का खतरा निवेश को हतोत्साहित करेगा और एआई अनुसंधान को अन्य राज्यों या देशों में ले जाएगा।
ओपनएआई और एंथ्रोपिक जैसी कंपनियों - दोनों कैलिफोर्निया में मुख्यालय वाली - ने चिंता व्यक्त की, हालांकि उनके रुख सूक्ष्म थे। ओपनएआई ने शुरू में नियामक अतिरेक का हवाला देते हुए विधेयक का विरोध किया, जबकि एंथ्रोपिक ने संशोधनों के लिए सुझाव दिए। गूगल डीपमाइंड और मेटा सहित अन्य तकनीकी दिग्गजों ने इसके खिलाफ पैरवी की, तर्क दिया कि संघीय विनियमन अधिक उपयुक्त होगा।
विरोधियों ने यह भी दावा किया कि विधेयक की आवश्यकताएं तकनीकी रूप से अव्यवहार्य थीं। उन्होंने तर्क दिया कि वर्तमान सुरक्षा परीक्षण विधियां अपर्याप्त थीं और विधेयक के आदेशों को विश्वसनीय रूप से लागू नहीं किया जा सकता था। अलेक्जेंडर मैड्री और अली रहीमी जैसे कुछ शिक्षाविदों ने सवाल उठाया कि क्या विधेयक का दृष्टिकोण वास्तव में सुरक्षा में सुधार करेगा, यह सुझाव देते हुए कि यह सुरक्षा की झूठी भावना पैदा कर सकता है।
एआई लैब्स और उद्योग की भूमिका
बहस ने एआई उद्योग के भीतर एक विभाजन को उजागर किया। जबकि ओपनएआई और एंथ्रोपिक को अक्सर सुरक्षा में अग्रणी के रूप में देखा जाता था, उनके रुख अलग थे। एंथ्रोपिक के सीईओ डेरियो अमोदेई ने संशोधनों के बाद विधेयक के पक्ष में गवाही दी, जबकि ओपनएआई के सैम ऑल्टमैन विरोधी बने रहे, तर्क दिया कि विधेयक के दायित्व प्रावधान बहुत व्यापक थे।
छोटे एआई स्टार्टअप और ओपन-सोर्स अधिवक्ता विरोध में विशेष रूप से मुखर थे। उन्हें डर था कि अनुपालन लागत निषेधात्मक होगी, जिससे बड़े स्थापित खिलाड़ियों को लाभ होगा। स्टैनफोर्ड एआई लैब और एमआईटी सीएसएआईएल ने बयान जारी कर चेतावनी दी कि विधेयक अकादमिक अनुसंधान और ओपन-सोर्स विकास में बाधा डाल सकता है।
दिलचस्प बात यह है कि उद्योग में सीधे तौर पर शामिल नहीं होने वाले कुछ एआई शोधकर्ताओं, जैसे अनिमा आनंदकुमार और माइकल जॉर्डन ने विधेयक की तकनीकी मान्यताओं पर चिंता व्यक्त की। उन्होंने तर्क दिया कि कंप्यूट थ्रेशोल्ड पर ध्यान केंद्रित करने से अन्य जोखिम कारकों की अनदेखी होती है और विधेयक सबसे गंभीर मुद्दों को संबोधित नहीं कर सकता है।
अकादमिक और विशेषज्ञ दृष्टिकोण
अकादमिक समुदाय विभाजित था। 100 से अधिक एआई शोधकर्ताओं के एक समूह ने विधेयक का समर्थन करते हुए एक खुले पत्र पर हस्ताक्षर किए, जिसमें सैमी बेंगियो, आरोन कौरविले और ब्रेंडन लेक शामिल थे। उन्होंने तर्क दिया कि विधेयक की आवश्यकताएं मामूली थीं और उद्योग अनुकूलन कर सकता है। उन्होंने यह भी कहा कि विधेयक एक अत्यंत आवश्यक नियामक ढांचा तैयार करेगा।
इसके विपरीत, कार्लोस गेस्ट्रिन और क्रिस बिशप जैसे शोधकर्ताओं द्वारा हस्ताक्षरित एक अलग पत्र ने विधेयक का विरोध किया, दावा किया कि यह स्पष्ट लाभ के बिना प्रगति को धीमा कर देगा। उन्होंने स्वैच्छिक सुरक्षा प्रतिबद्धताओं और संघीय दिशानिर्देशों जैसे वैकल्पिक दृष्टिकोणों की वकालत की।
जैकब स्टीनहार्ट और डेविड कापलान जैसे कुछ विशेषज्ञों ने मध्य मार्ग अपनाया, विनियमन की आवश्यकता को स्वीकार किया लेकिन विशिष्ट प्रावधानों की आलोचना की। उन्होंने सुझाव दिया कि विधेयक का दायित्व खंड अनपेक्षित परिणाम दे सकता है, जैसे ओपन-सोर्स मॉडलों की रिलीज़ को हतोत्साहित करना जिन्हें सुरक्षा अनुसंधान के लिए फाइन-ट्यून किया जा सकता है।
राजनीतिक और जन प्रतिक्रिया
बहस राष्ट्रीय राजनीति में एक फ्लैशपॉइंट बन गई। समर्थकों ने इसे कॉर्पोरेट शक्ति पर एक आवश्यक अंकुश के रूप में प्रस्तुत किया, जबकि विरोधियों ने इसे सरकारी अतिरेक करार दिया। विधेयक ने राष्ट्रीय ध्यान आकर्षित किया, राष्ट्रपति पद के उम्मीदवारों ने अपनी राय व्यक्त की। कुछ ने तर्क दिया कि कैलिफोर्निया की कार्रवाई संघीय सरकार पर कार्य करने का दबाव डालेगी, जबकि अन्य को राज्य विनियमन के एक पैचवर्क का डर था।
जनमत आम तौर पर समर्थन में था, सर्वेक्षणों से पता चला कि कैलिफोर्निया के अधिकांश निवासी एआई विनियमन के पक्ष में थे। हालांकि, तकनीकी उद्योग की पैरवी के प्रयास तीव्र थे, और विधेयक का पारित होना सुरक्षा अधिवक्ताओं के लिए जीत लेकिन उद्योग के हितों के लिए हार के रूप में देखा गया।
संशोधन और समझौते
पारित होने को सुनिश्चित करने के लिए, विधेयक में कई संशोधन किए गए। अंतिम संस्करण में शामिल थे:
- 10^26 से 10^26 तक कम कंप्यूट थ्रेशोल्ड (अपरिवर्तित) लेकिन राज्य द्वारा इसे समायोजित करने के प्रावधान के साथ।
- केवल अनुसंधान या राष्ट्रीय सुरक्षा के लिए उपयोग किए जाने वाले मॉडलों के लिए छूट।
- डेवलपर्स के लिए आपात स्थिति में मॉडलों को निष्क्रिय करने के लिए "किल स्विच" लागू करने की आवश्यकता।
- प्रौद्योगिकी विभाग के भीतर फ्रंटियर एआई डिवीजन का निर्माण।
- दायित्व को "गंभीर नुकसान" के मामलों तक सीमित करना जैसे सामूहिक हताहत या महत्वपूर्ण बुनियादी ढांचे की विफलता।
ये परिवर्तन उद्योग की चिंताओं को दूर करने के लिए डिज़ाइन किए गए थे, लेकिन कई विरोधी असंतुष्ट बने रहे।
परिणाम और कानूनी चुनौतियां
गवर्नर के हस्ताक्षर के बाद, चैंबर ऑफ प्रोग्रेस सहित कई उद्योग समूहों ने संवैधानिक आधार पर कानून को चुनौती देते हुए मुकदमे दायर किए। उन्होंने तर्क दिया कि यह भाषण को विनियमित करके पहले संशोधन का उल्लंघन करता है और यह संघीय कानून द्वारा पूर्व-खाली है। 2025 की शुरुआत तक, अदालती फैसलों के लंबित रहने के कारण कानून प्रभावी नहीं था।
बहस ने संघीय प्रयासों को भी प्रभावित किया। 2025 में, अमेरिकी कांग्रेस ने कई एआई विधेयक पेश किए, लेकिन कोई भी पारित नहीं हुआ। कैलिफोर्निया कानून ने अन्य राज्यों के लिए एक टेम्पलेट के रूप में कार्य किया, कम से कम एक दर्जन समान कानून पर विचार कर रहे थे।
विवाद ने मशीन लर्निंग के क्षेत्र में नवाचार और सुरक्षा के बीच बढ़ते तनाव को उजागर किया। इसने एक ऐसी तकनीक को विनियमित करने की कठिनाई को भी रेखांकित किया जो विधायी प्रक्रिया से तेजी से विकसित होती है।
व्यापक निहितार्थ
एसबी 1047 बहस के कैलिफोर्निया से परे महत्वपूर्ण निहितार्थ थे। इसने समाज में जनरेटिव एआई की भूमिका, डीप लर्निंग की सीमाओं और अंतर्राष्ट्रीय समन्वय की आवश्यकता के बारे में चर्चाओं को जन्म दिया। इसने तंत्रिका नेटवर्क डेवलपर्स की जवाबदेही और ट्रांसफॉर्मर आर्किटेक्चर के हानिकारक तरीकों से उपयोग की संभावना के बारे में भी सवाल उठाए।
बहस ने एआई कंपनियों के भीतर सुरक्षा प्रथाओं के विकास को भी प्रभावित किया। ओपनएआई और एंथ्रोपिक सहित कई फर्मों ने विधायी दबाव के आंशिक रूप से जवाब में नए सुरक्षा ढांचे और रेड-टीमिंग प्रयासों की घोषणा की।
अंततः, कैलिफोर्निया एसबी 1047 बहस एआई शासन में एक ऐतिहासिक क्षण का प्रतिनिधित्व करती है। इसने प्रदर्शित किया कि सरकारें उन्नत एआई के विकास में हस्तक्षेप करने को तैयार हैं, लेकिन इसने तकनीकी समुदाय के भीतर इसे प्रभावी ढंग से करने के तरीके के बारे में गहरे विभाजन को भी उजागर किया। कानूनी चुनौतियों का परिणाम और कानून का कार्यान्वयन आने वाले वर्षों के लिए एआई विनियमन के भविष्य को आकार देगा।