कैलिफोर्निया एआई डीपफेक कानून

कैलिफोर्निया एआई डीपफेक कानून राज्य के क़ानूनों का एक समूह है जो सिंथेटिक मीडिया, जिसे आमतौर पर डीपफेक के रूप में जाना जाता है, के निर्माण और वितरण को विनियमित करने के लिए अधिनियमित किया गया है, विशेष रूप से चुनावों और अश्लील साहित्य के संदर्भों में। ये कानून Generative AI प्रौद्योगिकियों के तेज़ी से विकास की प्रतिक्रिया हैं, जिन्होंने यथार्थवादी लेकिन नकली छवियों, वीडियो और ऑडियो का उत्पादन आसान बना दिया है। विधान का उद्देश्य चुनावी गलत सूचना, गैर-सहमति वाली अंतरंग कल्पना और धोखाधड़ी जैसे जोखिमों को कम करना है, साथ ही मुक्त भाषण और तकनीकी नवाचार के बारे में चिंताओं को संतुलित करना है।

डीपफेक, 'डीप लर्निंग' और 'फेक' का एक पोर्टमैंटू, Artificial intelligence तकनीकों का उपयोग करके उत्पन्न या संशोधित मीडिया कलाकृतियाँ हैं, जिनमें Machine learning और Neural network आर्किटेक्चर जैसे जनरेटिव एडवरसैरियल नेटवर्क (GANs) शामिल हैं। जबकि हेरफेर किए गए मीडिया की अवधारणा नई नहीं है, एआई के उपयोग ने ऐसी सामग्री की यथार्थता और पहुंच को नाटकीय रूप से बढ़ा दिया है। कैलिफोर्निया में, विधायकों ने इन चुनौतियों का समाधान करने के लिए कई विधेयक पेश किए और पारित किए हैं, जो सिंथेटिक मीडिया के दुरुपयोग के बारे में व्यापक सामाजिक चिंताओं को दर्शाते हैं।

विधायी पृष्ठभूमि

कैलिफोर्निया संयुक्त राज्य अमेरिका में डीपफेक को विनियमित करने में सबसे आगे रहा है, 2019 में कानूनों की पहली लहर अधिनियमित की गई थी। इन शुरुआती क़ानूनों ने दो प्राथमिक क्षेत्रों पर ध्यान केंद्रित किया: राजनीतिक डीपफेक और यौन रूप से स्पष्ट डीपफेक। राज्य का दृष्टिकोण प्रौद्योगिकी के उन्नत होने के साथ विकसित हुआ है, बाद के संशोधनों और नए विधेयकों के साथ नागरिक कार्यों में डीपफेक और ऑनलाइन प्लेटफार्मों के दायित्वों जैसे उभरते मुद्दों को संबोधित किया गया है।

विधायी प्रयास डीपफेक से संबंधित नुकसानों का जवाब देने के लिए अमेरिकी राज्यों के बीच एक व्यापक प्रवृत्ति का हिस्सा हैं। 2023 तक, एक दर्जन से अधिक राज्यों ने समान कानून अधिनियमित किए थे, लेकिन कैलिफोर्निया के प्रावधानों को अक्सर सबसे व्यापक के रूप में उद्धृत किया जाता है, राज्य की प्रौद्योगिकी केंद्र के रूप में भूमिका और इसके बड़े मीडिया उद्योग को देखते हुए।

चुनाव और राजनीतिक डीपफेक

कैलिफोर्निया के शुरुआती कानूनों में से एक, असेंबली बिल 730 (AB 730), 2019 में हस्ताक्षरित, चुनावी संचार में भ्रामक ऑडियो या दृश्य मीडिया को लक्षित करता है। कानून चुनाव के 60 दिनों के भीतर, निर्वाचित पद के उम्मीदवार के भौतिक रूप से भ्रामक मीडिया के वितरण को प्रतिबंधित करता है, जिसका उद्देश्य उम्मीदवार की प्रतिष्ठा को नुकसान पहुंचाना या मतदाताओं को धोखा देना है। इसमें उन मीडिया के लिए अपवाद शामिल हैं जिन्हें संशोधित के रूप में लेबल किया गया है या जो समाचार प्रसारण या टिप्पणी का हिस्सा हैं।

AB 730 को बाद में असेंबली बिल 2653 (AB 2653) द्वारा संशोधित और पूरक किया गया, जो 2024 में अधिनियमित हुआ, जो बड़े ऑनलाइन प्लेटफार्मों को चुनावों से संबंधित भ्रामक एआई-जनित सामग्री को हटाने या लेबल करने की आवश्यकता है। यह कानून कम से कम 1 मिलियन कैलिफोर्निया उपयोगकर्ताओं वाले प्लेटफार्मों पर लागू होता है और उन्हें अधिसूचना के 72 घंटों के भीतर ऐसी सामग्री को ब्लॉक या लेबल करने का आदेश देता है। यह उम्मीदवारों को गैर-अनुपालन करने वाले प्लेटफार्मों के खिलाफ निषेधाज्ञा राहत मांगने की भी अनुमति देता है।

ये कानून डीपफेक को चुनावी परिणामों को प्रभावित करने से रोकने के लिए डिज़ाइन किए गए हैं, एक चिंता जो Large language model और अन्य जनरेटिव उपकरणों के उदय के साथ बढ़ी है जो ठोस नकली भाषण या साक्षात्कार उत्पन्न कर सकते हैं। क़ानूनों का उद्देश्य लोकतांत्रिक प्रक्रियाओं की रक्षा की आवश्यकता को व्यंग्य और पैरोडी के लिए प्रथम संशोधन सुरक्षा के साथ संतुलित करना है।

गैर-सहमति वाली अंतरंग कल्पना

कैलिफोर्निया ने डीपफेक पोर्नोग्राफी को संबोधित करने वाले कानून भी अधिनियमित किए हैं, जिसमें किसी व्यक्ति की समानता का उपयोग करके सहमति के बिना यौन रूप से स्पष्ट सामग्री का निर्माण शामिल है। असेंबली बिल 602 (AB 602), 2019 में पारित, डीपफेक पोर्नोग्राफी के पीड़ितों को निर्माता और वितरक के खिलाफ मुकदमा करने की अनुमति देता है, जिसमें प्रति उल्लंघन $50,000 तक के वैधानिक नुकसान शामिल हैं। कानून वास्तविक और अनुकरणीय दोनों छवियों को कवर करता है, और यह उस सामग्री पर लागू होता है जो चित्रित व्यक्ति की सहमति के बिना वितरित की जाती है।

2020 में, सीनेट बिल 820 (SB 820) ने बदला पोर्न की परिभाषा का विस्तार एआई-जनित छवियों को शामिल करने के लिए किया, जिससे परेशान करने या भावनात्मक संकट पैदा करने के इरादे से डीपफेक अंतरंग कल्पना का वितरण एक अपराध बन गया। यह कानून सिंथेटिक मीडिया के नुकसानों को संबोधित करने के व्यापक प्रयास का हिस्सा है, जो मनोवैज्ञानिक आघात, प्रतिष्ठा क्षति और यहां तक कि वित्तीय धोखाधड़ी से जुड़े हैं।

ये क़ानून इस मान्यता को दर्शाते हैं कि डीपफेक का उपयोग दुर्व्यवहार के उपकरण के रूप में किया जा सकता है, विशेष रूप से महिलाओं और सार्वजनिक हस्तियों के खिलाफ। कानून नागरिक और आपराधिक दोनों उपाय प्रदान करते हैं, लेकिन ऑनलाइन अभिनेताओं की गुमनामी और इंटरनेट की अंतर-क्षेत्राधिकार प्रकृति के कारण प्रवर्तन चुनौतीपूर्ण बना हुआ है।

अन्य डीपफेक विनियम

चुनावों और पोर्नोग्राफी से परे, कैलिफोर्निया ने अन्य डीपफेक से संबंधित नुकसानों को संबोधित करने वाले कानून अधिनियमित किए हैं। उदाहरण के लिए, असेंबली बिल 1280 (AB 1280), 2024 में पारित, बड़े ऑनलाइन प्लेटफार्मों को कुछ संदर्भों में एआई-जनित सामग्री को लेबल करने की आवश्यकता है, जैसे जब इसका उपयोग सार्वजनिक स्वास्थ्य या सार्वजनिक सुरक्षा के बारे में गलत सूचना फैलाने के लिए किया जाता है। यह कानून सिंथेटिक मीडिया के आसपास पारदर्शिता बढ़ाने के व्यापक प्रयास का हिस्सा है।

इसके अतिरिक्त, कैलिफोर्निया ने नागरिक कार्यवाही में डीपफेक को संबोधित करने के लिए विधान पर विचार किया है, जैसे अदालत में नकली सबूत का उपयोग, और वाणिज्यिक विज्ञापन में डीपफेक के उपयोग को विनियमित करने के लिए। ये प्रयास जारी हैं, क्योंकि विधायक तकनीकी विकास के साथ बने रहने की कोशिश कर रहे हैं।

राज्य का दृष्टिकोण BAIR (Berkeley AI Research) और Stanford AI Lab जैसे संस्थानों के शोध से प्रभावित हुआ है, जिन्होंने डीपफेक के सामाजिक प्रभावों और पहचान विधियों की प्रभावशीलता का अध्ययन किया है। हालांकि, वर्तमान तिथि तक, कोई संघीय कानून विशेष रूप से डीपफेक को विनियमित नहीं करता है, जिससे कैलिफोर्निया जैसे राज्यों को नेतृत्व करने के लिए छोड़ दिया गया है।

प्रवर्तन और चुनौतियाँ

कैलिफोर्निया के डीपफेक कानूनों का प्रवर्तन कई बाधाओं का सामना करता है। एक चुनौती डीपफेक का पता लगाने की कठिनाई है, विशेष रूप से Generative AI मॉडल अधिक परिष्कृत होने के साथ। जबकि शोधकर्ताओं ने पहचान तकनीक विकसित की है, वे हमेशा विश्वसनीय नहीं होती हैं, और डीपफेक फिल्टर से बच सकते हैं। एक और चुनौती क्षेत्राधिकार का मुद्दा है, क्योंकि कई डीपफेक निर्माता संयुक्त राज्य के बाहर काम करते हैं, जिससे राज्य कानूनों को लागू करना मुश्किल हो जाता है।

प्लेटफार्मों की सामग्री मॉडरेशन नीतियों के असंगत प्रवर्तन के लिए भी आलोचना की गई है। 2024 का कानून जो प्लेटफार्मों को भ्रामक चुनावी सामग्री को लेबल या हटाने की आवश्यकता है, तकनीकी कंपनियों को कुछ जिम्मेदारी स्थानांतरित करने का एक प्रयास है, लेकिन यह देखना बाकी है कि इसे कितनी प्रभावी ढंग से लागू किया जाएगा। कानूनी विशेषज्ञों ने नोट किया है कि कानूनों को संवैधानिक चुनौतियों का सामना करना पड़ सकता है, विशेष रूप से मुक्त भाषण और 'भौतिक रूप से भ्रामक' की परिभाषा के संबंध में।

इन चुनौतियों के बावजूद, कैलिफोर्निया के कानूनों ने अन्य राज्यों के लिए एक मिसाल स्थापित की है और संघीय प्रस्तावों में उद्धृत किए गए हैं। वे एआई-जनित मीडिया के नुकसानों को कम करने के लिए एक सक्रिय दृष्टिकोण का प्रतिनिधित्व करते हैं, भले ही प्रौद्योगिकी विकसित होती रहे।

प्रभाव और स्वागत

कैलिफोर्निया के डीपफेक कानूनों के समर्थकों का तर्क है कि वे व्यक्तियों और लोकतांत्रिक संस्थानों को एआई के दुर्भावनापूर्ण उपयोग से बचाने के लिए आवश्यक हैं। वे डीपफेक के उदाहरणों की ओर इशारा करते हैं जिनका उपयोग गलत सूचना फैलाने के लिए किया जाता है, जैसे राजनेताओं के नकली वीडियो जो भड़काऊ बयान देते हैं, और गैर-सहमति वाले पोर्नोग्राफी के साथ व्यक्तियों को परेशान करने के लिए। कानूनों को बुरे अभिनेताओं को रोकने और पीड़ितों के लिए उपाय प्रदान करने के तरीके के रूप में देखा जाता है।

हालांकि, आलोचक अति-पहुंच के बारे में चिंताएं उठाते हैं। कुछ का तर्क है कि कानूनों का उपयोग वैध भाषण को दबाने के लिए किया जा सकता है, जैसे राजनीतिक व्यंग्य या कलात्मक अभिव्यक्ति। अन्य चिंता करते हैं कि लेबलिंग आवश्यकताएं अव्यावहारिक हैं और छोटे प्लेटफार्मों पर बोझ डाल सकती हैं। बहस Artificial intelligence के क्षेत्र में नवाचार और विनियमन के बीच व्यापक तनाव को दर्शाती है।

2025 तक, इन कानूनों के प्रभाव का अभी भी मूल्यांकन किया जा रहा है। शुरुआती अदालती मामलों ने कानून की सीमाओं का परीक्षण किया है, और कुछ प्रावधानों को चुनौती दी गई है। फिर भी, कैलिफोर्निया एआई विनियमन के लिए एक बैरोमीटर बना हुआ है, और इसके डीपफेक कानून राज्य और संघीय दोनों स्तरों पर भविष्य की नीति को प्रभावित करने की संभावना रखते हैं।

भविष्य की दिशाएँ

Deep learning और Transformer (architecture) मॉडल सहित एआई प्रौद्योगिकियों का तेज़ी से विकास, सुझाव देता है कि डीपफेक कानूनों को नियमित रूप से अद्यतन करने की आवश्यकता होगी। कैलिफोर्निया के विधायकों ने संकेत दिया है कि वे मुद्दे की निगरानी जारी रखेंगे और आवश्यकतानुसार नया विधान पेश करेंगे। भविष्य के विनियमन के संभावित क्षेत्रों में धोखाधड़ी में उपयोग किए जाने वाले डीपफेक शामिल हैं, जैसे वित्तीय घोटालों के लिए आवाज क्लोनिंग, और मनोरंजन उद्योग में डीपफेक, जहां वे बौद्धिक संपदा और सहमति के बारे में प्रश्न उठाते हैं।

तकनीकी समाधानों में भी बढ़ती रुचि है, जैसे वॉटरमार्किंग और प्रमाणीकरण प्रणाली, जो कानूनी उपायों के पूरक हो सकते हैं। नीति निर्माताओं, प्रौद्योगिकीविदों और शोधकर्ताओं के बीच सहयोग प्रभावी प्रतिक्रियाएं विकसित करने के लिए आवश्यक होगा। राज्य के प्रयास सिंथेटिक मीडिया को कैसे नियंत्रित किया जाए, इस बारे में वैश्विक बातचीत का हिस्सा हैं, अन्य देशों और अंतर्राष्ट्रीय निकायों के साथ भी नियामक ढांचे की खोज कर रहे हैं।

संक्षेप में, कैलिफोर्निया के एआई डीपफेक कानून सिंथेटिक मीडिया द्वारा उत्पन्न चुनौतियों का समाधान करने का एक महत्वपूर्ण प्रयास हैं। वे सबसे तत्काल नुकसानों - चुनावी हस्तक्षेप और गैर-सहमति वाले पोर्नोग्राफी - को लक्षित करते हैं, जबकि भविष्य के समायोजन के लिए जगह छोड़ते हैं। जैसे-जैसे प्रौद्योगिकी विकसित होती है, वैसे-वैसे कानूनी परिदृश्य भी विकसित होगा, और कैलिफोर्निया का अनुभव अन्य क्षेत्राधिकारों के लिए मूल्यवान सबक प्रदान करेगा।