कैलिफोर्निया सीनेट विधेयक 1047, जिसे आधिकारिक तौर पर सेफ एंड सिक्योर इनोवेशन फॉर फ्रंटियर आर्टिफिशियल इंटेलिजेंस मॉडल्स एक्ट कहा जाता है, एक प्रस्तावित राज्य कानून था जिसका उद्देश्य बड़े पैमाने पर कृत्रिम बुद्धिमत्ता प्रणालियों के विकास और तैनाती को विनियमित करना था। इसे फरवरी 2024 में राज्य सीनेटर स्कॉट वीनर द्वारा पेश किया गया था, और इस विधेयक ने फ्रंटियर एआई मॉडल - जिन्हें महत्वपूर्ण कंप्यूटिंग शक्ति के साथ प्रशिक्षित किया जाता है - के डेवलपर्स पर सुरक्षा आवश्यकताओं को लागू करने की मांग की, ताकि साइबर हमलों या जैविक हथियारों के निर्माण जैसे विनाशकारी नुकसान को रोका जा सके। यह विधेयक अगस्त 2024 में कैलिफोर्निया राज्य विधानमंडल से पारित हुआ, लेकिन 29 सितंबर, 2024 को गवर्नर गेविन न्यूसोम द्वारा वीटो कर दिया गया, जिससे कैलिफोर्निया व्यापक एआई सुरक्षा कानून का प्रयास करने वाला पहला अमेरिकी राज्य बन गया, हालांकि वीटो ने नियामक परिदृश्य को अनसुलझा छोड़ दिया।
विधेयक के मुख्य प्रावधानों ने उन एआई मॉडलों के डेवलपर्स को लक्षित किया जिन्हें 10^26 फ्लोटिंग-पॉइंट ऑपरेशंस (FLOPs) से अधिक का उपयोग करके प्रशिक्षित किया गया था, एक सीमा जो उस समय केवल प्रमुख प्रयोगशालाओं की सबसे उन्नत प्रणालियों को शामिल करती थी। इसके लिए ऐसे डेवलपर्स को एक लिखित सुरक्षा और सुरक्षा ढांचा लागू करना, तैनाती से पहले परीक्षण करना, और आपात स्थितियों में मॉडलों को पूरी तरह से बंद करने की क्षमता सुनिश्चित करना आवश्यक था। विधेयक ने प्रौद्योगिकी विभाग के भीतर एक नई राज्य एजेंसी, फ्रंटियर मॉडल डिवीजन भी स्थापित की, जो अनुपालन लागू करने और उल्लंघनों के लिए दंड जारी करने के लिए थी। उल्लेखनीय रूप से, इसमें उन कर्मचारियों के लिए एक व्हिसलब्लोअर संरक्षण खंड शामिल था जो सुरक्षा चिंताओं की रिपोर्ट करते थे, और यह अनिवार्य करता था कि डेवलपर्स सालाना राज्य अटॉर्नी जनरल के साथ अपने अनुपालन को प्रमाणित करें।
विधायी यात्रा और प्रमुख संशोधन
SB 1047 कैलिफोर्निया सीनेट और असेंबली के माध्यम से अपने पारित होने के दौरान महत्वपूर्ण संशोधनों से गुजरा। शुरुआत में फरवरी 2024 में पेश किया गया, अप्रैल में विधेयक को संशोधित किया गया ताकि इसका दायरा संकुचित हो सके, जिसमें $100 मिलियन से अधिक की प्रशिक्षण लागत वाले मॉडलों पर ध्यान केंद्रित किया गया। अगस्त में बाद के संशोधनों ने स्पष्ट किया कि विधेयक ओपन-सोर्स मॉडलों पर लागू नहीं होगा जब तक कि उन्हें सीमा को पूरा करने के लिए फाइन-ट्यून या संशोधित नहीं किया गया हो, और यह केवल अनुसंधान या राष्ट्रीय सुरक्षा उद्देश्यों के लिए उपयोग किए जाने वाले मॉडलों को छूट देता था। विधेयक में एक "किल स्विच" आवश्यकता भी शामिल थी, जो डेवलपर्स को मॉडल संचालन को पूरी तरह से रोकने की क्षमता लागू करने के लिए अनिवार्य करती थी, और इसके लिए एक "सुरक्षा ढांचा" बनाने की आवश्यकता थी जो सार्वजनिक रूप से उपलब्ध हो।
विधेयक 21 मई, 2024 को सीनेट में 32-1 के वोट से और 28 अगस्त, 2024 को असेंबली में 45-11 के वोट से पारित हुआ। अंतिम संस्करण 30 अगस्त, 2024 को सीनेट द्वारा अनुमोदित किया गया और गवर्नर न्यूसोम को भेजा गया। पूरी प्रक्रिया के दौरान, विधेयक ने समर्थकों और विरोधियों दोनों से तीव्र पैरवी आकर्षित की, जिसमें तकनीकी कंपनियों और शैक्षणिक संस्थानों ने नवाचार पर इसके संभावित प्रभाव पर अपनी राय व्यक्त की।
समर्थन और विरोध
SB 1047 के समर्थकों, जिनमें योशुआ बेंगियो, जेफ्री हिंटन, और स्टुअर्ट रसेल जैसे प्रमुख एआई शोधकर्ता शामिल थे, ने तर्क दिया कि यह विधेयक उन्नत एआई द्वारा उत्पन्न संभावित अस्तित्वगत जोखिमों के खिलाफ एक आवश्यक सावधानी थी। उन्होंने कहा कि स्वैच्छिक उद्योग प्रतिबद्धताएं अपर्याप्त थीं और सुरक्षा सुनिश्चित करने के लिए सरकारी विनियमन आवश्यक था। विधेयक को श्रम संघों, उपभोक्ता वकालत समूहों, और कुछ तकनीकी अधिकारियों का भी समर्थन प्राप्त था, जो इसे एआई डेवलपर्स को नुकसान के लिए जवाबदेह ठहराने के एक तरीके के रूप में देखते थे।
विरोधियों, जिनमें OpenAI, Anthropic, और Google DeepMind जैसी प्रमुख एआई कंपनियां, साथ ही तकनीकी व्यापार समूह और कुछ शिक्षाविद शामिल थे, ने तर्क दिया कि विधेयक अत्यधिक व्यापक था और नवाचार को बाधित करेगा। उन्होंने दावा किया कि FLOP सीमा मनमानी थी और यह विधेयक विशेष रूप से छोटे स्टार्टअप्स पर बोझिल अनुपालन लागत लगाएगा। कुछ आलोचकों ने यह भी तर्क दिया कि विधेयक का काल्पनिक विनाशकारी जोखिमों पर ध्यान केंद्रित करना पूर्वाग्रह और गलत सूचना जैसे अधिक तत्काल नुकसानों से ध्यान भटकाता है। उल्लेखनीय रूप से, Anthropic ने शुरू में चिंता व्यक्त की लेकिन बाद में अधिक समर्थनकारी रुख अपनाया, संशोधनों का सुझाव दिया जो आंशिक रूप से शामिल किए गए।
गवर्नर न्यूसोम का वीटो और तर्क
29 सितंबर, 2024 को, गवर्नर गेविन न्यूसोम ने SB 1047 को वीटो कर दिया, इसकी "अत्यधिक व्यापक" गुंजाइश और नवाचार को "बाधित" करने की क्षमता का हवाला देते हुए। अपने वीटो संदेश में, न्यूसोम ने एआई सुरक्षा के महत्व को स्वीकार किया लेकिन तर्क दिया कि मॉडल आकार और कंप्यूट सीमाओं पर विधेयक का ध्यान सबसे प्रभावी दृष्टिकोण नहीं था। उन्होंने कहा कि विधेयक डेवलपर्स पर "अव्यवहारिक" आवश्यकताएं लगा सकता है और यह एल्गोरिदमिक भेदभाव और नौकरी विस्थापन जैसे एआई जोखिमों की पूरी श्रृंखला को पर्याप्त रूप से संबोधित नहीं करता है। न्यूसोम ने इसके बजाय एक अधिक संतुलित नियामक ढांचे का आह्वान किया, साक्ष्य-आधारित नीतियों को विकसित करने के लिए चल रहे कार्यकारी आदेशों और विशेषज्ञों के साथ सहयोग की ओर इशारा किया।
वीटो को मिश्रित प्रतिक्रियाओं का सामना करना पड़ा। समर्थकों ने निराशा व्यक्त की, सीनेटर वीनर ने भविष्य के सत्रों में लड़ाई जारी रखने का वादा किया। विरोधियों ने इस निर्णय की प्रशंसा की, तकनीकी उद्योग समूहों ने दावा किया कि वीटो ने एआई में कैलिफोर्निया के नेतृत्व की रक्षा की। वीटो ने राज्य बनाम संघीय विनियमन की भूमिका के बारे में भी बहस छेड़ दी, क्योंकि अमेरिकी कांग्रेस ने अभी तक व्यापक एआई कानून पारित नहीं किया था।
प्रभाव और परिणाम
वीटो के बाद, एआई विनियमन का मुद्दा कैलिफोर्निया और राष्ट्रीय स्तर पर एक प्रमुख विषय बना रहा। अक्टूबर 2024 में, गवर्नर न्यूसोम ने कई अन्य एआई-संबंधित विधेयकों पर हस्ताक्षर किए, जिनमें डीपफेक और स्वास्थ्य देखभाल में एआई के उपयोग को संबोधित करने वाले उपाय शामिल थे, लेकिन उन्होंने व्यापक सुरक्षा कानून लागू करने से इनकार कर दिया। वीटो ने अन्य राज्यों में चर्चाओं को भी प्रभावित किया, कुछ विधायकों ने समान विधेयकों पर विचार किया लेकिन कैलिफोर्निया के अनुभव के आधार पर अपने दृष्टिकोण को समायोजित किया।
SB 1047 पर बहस ने तेजी से विकसित हो रही तकनीक को विनियमित करने की चुनौतियों को उजागर किया। विधेयक के समर्थकों ने तर्क दिया कि संघीय कार्रवाई की प्रतीक्षा करने से जनता असुरक्षित रहेगी, जबकि विरोधियों ने दावा किया कि समय से पहले विनियमन लाभकारी विकास में बाधा डाल सकता है। विधेयक की विरासत में एआई सुरक्षा मुद्दों के बारे में जागरूकता बढ़ाना और कंपनियों को स्वैच्छिक सुरक्षा प्रतिबद्धताओं को अपनाने के लिए प्रेरित करना शामिल है, जैसे कि 2023 में व्हाइट हाउस एआई सेफ्टी समिट में की गई प्रतिबद्धताएं।
एआई विनियमन में व्यापक संदर्भ
SB 1047 एआई विनियमन की ओर एक व्यापक वैश्विक आंदोलन का हिस्सा था। यूरोपीय संघ का एआई अधिनियम, जिसे 2024 में अंतिम रूप दिया गया था, ने जोखिम-आधारित दृष्टिकोण अपनाया, एआई अनुप्रयोगों को जोखिम स्तर के अनुसार वर्गीकृत किया और तदनुसार दायित्व लगाए। इसके विपरीत, SB 1047 विशेष रूप से फ्रंटियर मॉडलों पर केंद्रित था, एक अंतर जिसे कुछ विशेषज्ञों ने अधिक लक्षित लेकिन अधिक मनमाना भी बताया। विधेयक की विफलता ने नवाचार और सुरक्षा को संतुलित करने वाले कानून बनाने की कठिनाई को रेखांकित किया, एक चुनौती जो दुनिया भर के नीति निर्माताओं पर कब्जा करना जारी रखती है।
तकनीकी और नैतिक विचार
FLOP सीमाओं पर विधेयक की निर्भरता ने एआई क्षमताओं को मापने के तरीके के बारे में तकनीकी प्रश्न उठाए। आलोचकों ने कहा कि कंप्यूट जोखिम के लिए एक आदर्श प्रॉक्सी नहीं है, क्योंकि छोटे मॉडलों को कभी-कभी खतरनाक क्षमताओं को प्राप्त करने के लिए फाइन-ट्यून किया जा सकता है। विधेयक ने नैतिक मुद्दों को भी छुआ, जैसे कि उनके मॉडलों के डाउनस्ट्रीम उपयोगों के लिए डेवलपर्स की जिम्मेदारी, और पारदर्शिता और राष्ट्रीय सुरक्षा के बीच तनाव। ये विचार एआई शासन के बारे में चल रही बहसों में केंद्रीय बने हुए हैं।
भविष्य की संभावनाएं
2025 की शुरुआत तक, कैलिफोर्निया में कोई समान विधेयक लागू नहीं किया गया है, लेकिन सीनेटर वीनर ने संकेत दिया है कि वह अगले सत्र में कानून फिर से पेश करेंगे, संभवतः संशोधित मानदंडों के साथ। इस बीच, संघीय सरकार ने एआई सुरक्षा को संबोधित करने के लिए कदम उठाए हैं, जिसमें अक्टूबर 2023 में राष्ट्रपति बिडेन का एक कार्यकारी आदेश और अमेरिकी एआई सुरक्षा संस्थान की स्थापना शामिल है। इन प्रयासों का परिणाम संयुक्त राज्य अमेरिका में एआई विनियमन के भविष्य को आकार देने की संभावना है, कैलिफोर्निया का अनुभव किसी के दृष्टिकोण के आधार पर एक चेतावनी कहानी या एक खाका के रूप में कार्य करता है।