कैलिफोर्निया सीनेट विधेयक 1047, जिसका शीर्षक "सेफ एंड सिक्योर इनोवेशन फॉर फ्रंटियर आर्टिफिशियल इंटेलिजेंस मॉडल्स एक्ट" है, एक प्रस्तावित राज्य कानून था जिसका उद्देश्य बड़े पैमाने पर कृत्रिम बुद्धिमत्ता प्रणालियों के विकास और तैनाती को विनियमित करना था। फरवरी 2024 में राज्य सीनेटर स्कॉट वीनर द्वारा पेश किया गया, यह विधेयक कुछ कम्प्यूटेशनल सीमाओं से ऊपर के AI मॉडल के डेवलपर्स पर सुरक्षा आवश्यकताओं को लागू करना चाहता था। अगस्त 2024 में कैलिफोर्निया राज्य विधानमंडल पारित होने के बाद, विधेयक को 29 सितंबर, 2024 को गवर्नर गेविन न्यूसोम द्वारा वीटो कर दिया गया, जो संयुक्त राज्य अमेरिका में AI विनियमन पर चल रही बहस में एक महत्वपूर्ण क्षण था।
यह वीटो गहन पैरवी और सार्वजनिक बहस की परिणति था, जिसमें प्रमुख प्रौद्योगिकी कंपनियों, AI शोधकर्ताओं और वकालत समूहों से प्रतिक्रियाएँ आईं। समर्थकों ने तर्क दिया कि उन्नत AI से संभावित विनाशकारी नुकसान को रोकने के लिए यह विधेयक आवश्यक था, जबकि विरोधियों, जिनमें कई तकनीकी उद्योग के लोग शामिल थे, ने कहा कि यह नवाचार को बाधित करेगा और अवास्तविक दायित्व लगाएगा। वीटो के बाद के परिणामों ने राज्य और संघीय दोनों स्तरों पर वैकल्पिक विनियामक दृष्टिकोणों पर नई चर्चाओं को जन्म दिया है।
विधायी पृष्ठभूमि
सीनेटर स्कॉट वीनर ने फरवरी 2024 में SB 1047 पेश किया, जिसका लक्ष्य "फ्रंटियर AI मॉडल" के लिए एक विनियामक ढांचा स्थापित करना था - जो 10^26 फ्लोटिंग-पॉइंट ऑपरेशन (FLOPs) से अधिक कम्प्यूटिंग शक्ति के साथ प्रशिक्षित होते हैं। विधेयक में डेवलपर्स को सुरक्षा प्रोटोकॉल लागू करने की आवश्यकता थी, जिसमें मॉडल को तुरंत बंद करने की क्षमता और एक नव निर्मित राज्य एजेंसी को गंभीर घटनाओं की रिपोर्ट करना शामिल था। इसने डेवलपर्स को तैनाती से पहले परीक्षण करने और यह सुनिश्चित करने का भी आदेश दिया कि उनके मॉडल को आसानी से संशोधित करके सामूहिक हताहत या साइबर हमलों को सक्षम नहीं बनाया जा सके।
अपनी विधायी यात्रा के दौरान विधेयक में कई संशोधन हुए। विशेष रूप से, अगस्त 2024 में एक संशोधन ने दायरे को संकुचित कर दिया, जिसमें एक नई राज्य एजेंसी बनाने के प्रावधानों को हटा दिया गया, और इसके बजाय प्रौद्योगिकी विभाग को पर्यवेक्षण सौंपा गया। एक अन्य संशोधन ने मुख्य रूप से शैक्षणिक या शोध उद्देश्यों के लिए विकसित मॉडलों को छूट दी, बशर्ते उनका व्यावसायिक तैनाती के लिए उपयोग न किया जाए।
विधायी पारित
SB 1047 28 अगस्त, 2024 को कैलिफोर्निया राज्य विधानसभा में 41-16 के मत से और 30 अगस्त, 2024 को राज्य सीनेट में 30-8 के मत से पारित हुआ। विधेयक को द्विदलीय समर्थन मिला, जिसमें कुछ रिपब्लिकन डेमोक्रेट के साथ शामिल हुए। यह पारित एक ऐतिहासिक क्षण के रूप में देखा गया, क्योंकि कैलिफोर्निया दुनिया की कई अग्रणी AI कंपनियों का घर है, जिनमें OpenAI, Anthropic और Google DeepMind शामिल हैं।
गवर्नर का वीटो
29 सितंबर, 2024 को, गवर्नर गेविन न्यूसोम ने SB 1047 को वीटो कर दिया, एक बयान जारी करते हुए जिसमें AI नवाचार के लिए समर्थन व्यक्त किया गया लेकिन विधेयक के दृष्टिकोण की आलोचना की गई। न्यूसोम ने तर्क दिया कि मॉडल आकार और कम्प्यूटिंग शक्ति पर विधेयक का ध्यान बहुत संकीर्ण था और यह सुरक्षा की झूठी भावना दे सकता है, जबकि लाभकारी AI अनुप्रयोगों के विकास को हतोत्साहित कर सकता है। उन्होंने एक अधिक लचीले, साक्ष्य-आधारित विनियामक ढांचे की आवश्यकता पर जोर दिया जो तेजी से विकसित हो रही तकनीक के अनुकूल हो सके।
वीटो पूरी तरह से अप्रत्याशित नहीं था, क्योंकि न्यूसोम ने पहले अति-विनियमन के बारे में चिंता व्यक्त की थी। अपने वीटो संदेश में, उन्होंने नोट किया कि विधेयक AI के विविध अनुप्रयोगों को ध्यान में नहीं रखता था और छोटे डेवलपर्स पर बोझिल आवश्यकताएँ लगा सकता था। उन्होंने चल रहे संघीय प्रयासों और सितंबर 2023 में हस्ताक्षरित कैलिफोर्निया के अपने कार्यकारी आदेश को इन मुद्दों को संबोधित करने के लिए अधिक उपयुक्त मंच के रूप में भी इंगित किया।
वीटो पर प्रतिक्रियाएँ
वीटो पर प्रतिक्रियाएँ तीव्र रूप से विभाजित थीं। विधेयक के समर्थकों, जिनमें सीनेटर वीनर और विभिन्न AI सुरक्षा वकालत समूह शामिल थे, ने निराशा व्यक्त की। वीनर ने वीटो को सार्वजनिक सुरक्षा के लिए एक झटका बताया और विनियमन के लिए दबाव बनाना जारी रखने की कसम खाई। कुछ AI शोधकर्ताओं, जैसे योशुआ बेंगियो (हालांकि सीधे तौर पर जुड़े नहीं, वे एक प्रमुख व्यक्ति हैं), ने सार्वजनिक रूप से विधेयक का समर्थन किया था, तर्क देते हुए कि सावधानीपूर्वक उपाय आवश्यक थे।
विरोधियों, जिनमें कई तकनीकी उद्योग के लोग शामिल थे, ने वीटो की प्रशंसा की। OpenAI और Anthropic जैसी कंपनियों ने विधेयक के खिलाफ पैरवी की थी, तर्क देते हुए कि यह नवाचार में बाधा डालेगा और सीमाएँ मनमानी थीं। उद्यम पूंजी फर्मों और स्टार्टअप वकालत समूहों ने भी इस निर्णय का स्वागत किया, दावा करते हुए कि विधेयक AI कंपनियों को कैलिफोर्निया से बाहर निकाल देता।
परिणाम और विनियामक परिदृश्य
वीटो ने कैलिफोर्निया में AI विनियमन पर बहस को समाप्त नहीं किया है। सीनेटर वीनर ने अगले सत्र में संशोधित विधान पेश करने की योजना का संकेत दिया है, जिसमें हितधारकों से प्रतिक्रिया शामिल होगी। इस बीच, गवर्नर न्यूसोम ने AI जोखिमों का अध्ययन करने और भविष्य की नीति के लिए सिफारिशें करने के लिए एक विशेषज्ञ पैनल बुलाया है। राज्य ने अपने कार्यकारी आदेश को लागू करना भी जारी रखा है, जो जिम्मेदार AI खरीद और जोखिम मूल्यांकन पर केंद्रित है।
संघीय स्तर पर, वीटो ने राष्ट्रीय AI विनियामक ढांचे के लिए कॉल तेज कर दिए हैं। बिडेन प्रशासन ने अक्टूबर 2023 में AI पर एक कार्यकारी आदेश जारी किया था, लेकिन व्यापक विधान कांग्रेस में लंबित है। संघीय कार्रवाई की कमी ने राज्य पहलों की एक पैचवर्क स्थिति पैदा कर दी है, जिसमें कैलिफोर्निया का दृष्टिकोण एक संभावित मॉडल के रूप में बारीकी से देखा जा रहा है।
उद्योग और शैक्षणिक दृष्टिकोण
वीटो ने AI समुदाय के भीतर प्रगति को बाधित किए बिना सुरक्षा सुनिश्चित करने के सर्वोत्तम तरीकों पर चर्चा छेड़ दी है। कुछ शोधकर्ताओं का तर्क है कि स्व-विनियमन और स्वैच्छिक प्रतिबद्धताएँ, जैसे कि प्रमुख प्रयोगशालाओं द्वारा सबसे शक्तिशाली मॉडलों के विकास को रोकने के लिए की गई, अपर्याप्त हैं। अन्य का तर्क है कि विनियमन को मॉडलों के बजाय विशिष्ट उच्च-जोखिम अनुप्रयोगों पर ध्यान केंद्रित करना चाहिए।
Anthropic और OpenAI दोनों ने आंतरिक सुरक्षा टीमें स्थापित की हैं और सरकारी पर्यवेक्षण का आह्वान किया है, लेकिन उन्होंने SB 1047 के विशिष्ट प्रावधानों का विरोध किया। Google DeepMind भी AI सुरक्षा अनुसंधान में सक्रिय रहा है, लेकिन विधेयक पर सार्वजनिक रुख नहीं लिया। स्टैनफोर्ड AI लैब और बर्कले AI रिसर्च जैसे शैक्षणिक संस्थानों ने अनुसंधान और नीति सिफारिशों के माध्यम से बहस में योगदान दिया है।
भविष्य की संभावनाएँ
2025 की शुरुआत तक, कैलिफोर्निया में कोई नया राज्य AI विधेयक पारित नहीं हुआ है, लेकिन चर्चाएँ जारी हैं। SB 1047 पर बहस ने एक ऐसी तकनीक को विनियमित करने की चुनौतियों को उजागर किया है जो तेजी से विकसित होती है और व्यापक अनुप्रयोग रखती है। भविष्य के विधायी प्रयासों का परिणाम नवाचार और सार्वजनिक सुरक्षा के बीच संतुलन बनाने और प्रभावी और लचीले दोनों नियमों को तैयार करने की क्षमता पर निर्भर करेगा।
बाध्यकारी विनियमन की अनुपस्थिति में, कई AI डेवलपर्स ने स्वैच्छिक सुरक्षा ढांचे अपनाए हैं, जैसे कि Anthropic द्वारा प्रस्तावित "फ्रंटियर सेफ्टी फ्रेमवर्क"। ये प्रयास, हालांकि कानूनी रूप से लागू करने योग्य नहीं हैं, जिम्मेदार विकास की दिशा में एक कदम का प्रतिनिधित्व करते हैं। SB 1047 का वीटो इस प्रकार प्रौद्योगिकी, नीति और जनमत के बीच जटिल अंतःक्रिया में एक केस स्टडी बन गया है।