डीपफेक अकाउंटेबिलिटी एक्ट एक प्रस्तावित संयुक्त राज्य संघीय विधेयक है जो एआई-जनित सामग्री, जिसमें डीपफेक शामिल हैं, के लेबलिंग को अनिवार्य करेगा, ताकि धोखे और गलत सूचना के जोखिमों को कम किया जा सके। पहली बार 2019 में पेश किया गया, यह कानून सिंथेटिक मीडिया के निर्माताओं और वितरकों के लिए पारदर्शिता दायित्व स्थापित करने का लक्ष्य रखता है, साथ ही बिना लेबल वाले डीपफेक से नुकसान उठाने वाले व्यक्तियों के लिए कानूनी उपाय भी प्रदान करता है। यह विधेयक Generative AI प्रौद्योगिकियों के दुरुपयोग के बारे में बढ़ती चिंताओं को दर्शाता है और एआई विनियमन पर बाद की नीति बहसों में एक संदर्भ बिंदु रहा है।
डीपफेक यथार्थवादी लेकिन निर्मित मीडिया हैं जो Artificial intelligence तकनीकों, विशेष रूप से Deep learning और Neural network आर्किटेक्चर का उपयोग करके बनाए जाते हैं। यह शब्द 'डीप लर्निंग' और 'फेक' को जोड़ता है, और यह तकनीक 2017 में प्रमुखता से उभरी जब एक अनाम Reddit उपयोगकर्ता ने हेरफेर किए गए सेलिब्रिटी वीडियो पोस्ट किए। 2019 तक, डीपफेक के प्रसार ने चुनावों को कमजोर करने, व्यक्तियों की बदनामी करने और मीडिया में जनता के विश्वास को क्षीण करने की उनकी क्षमता के बारे में अलार्म बजा दिया था। डीपफेक अकाउंटेबिलिटी एक्ट 12 जून, 2019 को अमेरिकी प्रतिनिधि सभा में न्यूयॉर्क की प्रतिनिधि यवेट क्लार्क द्वारा पेश किया गया था, जो एक डेमोक्रेट हैं और पहले साइबर सुरक्षा कानून प्रायोजित कर चुकी हैं।
विधायी प्रावधान
यह विधेयक अमेरिकी संचार अधिनियम 1934 में संशोधन का प्रस्ताव करता है, जिसमें 'सिंथेटिक मीडिया के निर्माण में पारदर्शिता' पर एक नया खंड जोड़ा जाएगा। कानून के तहत, कोई भी व्यक्ति जो वितरण के इरादे से डीपफेक बनाता है, उसे एक डिजिटल वॉटरमार्क या पाठ्य लेबल शामिल करना होगा जो दर्शाता है कि सामग्री एआई-जनित है। लेबल स्पष्ट रूप से दिखाई देना चाहिए और आसानी से हटाने योग्य नहीं होना चाहिए। विधेयक उन प्लेटफार्मों को भी अनिवार्य करता है जो उपयोगकर्ता-जनित सामग्री होस्ट करते हैं, ताकि वे उपयोगकर्ताओं को बिना लेबल वाले डीपफेक की रिपोर्ट करने के लिए एक तंत्र प्रदान करें और सूचना मिलने पर ऐसी सामग्री को हटा दें।
इसके अतिरिक्त, विधेयक एक निजी कार्रवाई का अधिकार स्थापित करता है, जिससे व्यक्तियों को बिना सहमति के डीपफेक में चित्रित किए जाने पर निर्माता पर मुकदमा करने की अनुमति मिलती है, जिसमें प्रति उल्लंघन $150,000 तक की वैधानिक क्षति शामिल है। यह संघीय संचार आयोग (FCC) को अधिनियमन के 180 दिनों के भीतर लेबलिंग आवश्यकताओं को लागू करने वाले नियम अपनाने का निर्देश भी देता है। विधेयक स्पष्ट रूप से उस सामग्री को बाहर करता है जो स्पष्ट रूप से व्यंग्य, पैरोडी या काल्पनिक है, बशर्ते इसे प्रामाणिक समाचार या तथ्यात्मक रिपोर्टिंग के रूप में प्रस्तुत न किया जाए।
विधायी इतिहास
डीपफेक अकाउंटेबिलिटी एक्ट 116वीं कांग्रेस में H.R. 3230 के रूप में पेश किया गया था। इसे हाउस कमेटी ऑन एनर्जी एंड कॉमर्स को भेजा गया, लेकिन उस सत्र के दौरान कोई और कार्रवाई नहीं की गई। विधेयक को 12 मार्च, 2020 को H.R. 6236 के रूप में समान प्रावधानों के साथ फिर से पेश किया गया। फिर से, यह समिति में रुक गया। 117वीं कांग्रेस में, प्रतिनिधि क्लार्क ने 24 जून, 2021 को H.R. 4230 के रूप में एक संशोधित संस्करण पेश किया, जिसमें राजनीतिक विज्ञापनों के लिए अतिरिक्त आवश्यकताएं शामिल थीं। इनमें से कोई भी संस्करण फ्लोर वोट तक नहीं पहुंचा।
पारित न होने के बावजूद, विधेयक को कई राज्य-स्तरीय पहलों और शैक्षणिक पत्रों में डीपफेक विनियमन के लिए एक मॉडल के रूप में उद्धृत किया गया है। उदाहरण के लिए, कैलिफोर्निया ने 2019 में एक कानून (AB 730) पारित किया जो चुनाव के 60 दिनों के भीतर राजनीतिक उम्मीदवारों के भ्रामक ऑडियो या दृश्य मीडिया के वितरण को प्रतिबंधित करता है, और डीपफेक अकाउंटेबिलिटी एक्ट को अक्सर एक संघीय समकक्ष के रूप में उल्लेख किया जाता है। विधेयक ने यूरोपीय संघ में चर्चाओं को भी प्रभावित किया है, जिसने 2021 में AI अधिनियम का प्रस्ताव किया, जिसमें डीपफेक के लिए पारदर्शिता दायित्व शामिल हैं।
प्रमुख समर्थक और विरोधी
प्रतिनिधि यवेट क्लार्क प्राथमिक प्रायोजक रही हैं, यह तर्क देते हुए कि उपभोक्ताओं की रक्षा और लोकतांत्रिक अखंडता को बनाए रखने के लिए विधेयक आवश्यक है। एक प्रेस विज्ञप्ति में, उन्होंने कहा कि 'डीपफेक हमारी राष्ट्रीय सुरक्षा, हमारे लोकतंत्र और हमारे समाज के लिए एक महत्वपूर्ण खतरा पैदा करते हैं।' विधेयक को इलेक्ट्रॉनिक फ्रंटियर फाउंडेशन जैसे नागरिक स्वतंत्रता संगठनों से समर्थन मिला है, जिसने इसके लेबलिंग और टेकडाउन प्रावधानों की प्रशंसा की, हालांकि EFF ने संभावित अतिक्रमण के बारे में भी चिंता व्यक्त की।
विरोधियों में मुक्त भाषण समर्थक और कुछ प्रौद्योगिकी उद्योग समूह शामिल हैं, जो तर्क देते हैं कि अनिवार्य लेबलिंग बोझिल हो सकती है और विधेयक की डीपफेक की परिभाषा बहुत व्यापक है। अमेरिकन सिविल लिबर्टीज यूनियन (ACLU) ने चेतावनी दी है कि निजी कार्रवाई का अधिकार वैध भाषण, जैसे आलोचनात्मक टिप्पणी या कलात्मक अभिव्यक्ति को दबाने के लिए इस्तेमाल किया जा सकता है। OpenAI और Google DeepMind सहित कुछ प्रौद्योगिकी कंपनियों ने स्वैच्छिक लेबलिंग का सार्वजनिक रूप से समर्थन किया है, लेकिन विशिष्ट कानून का समर्थन नहीं किया है।
तकनीकी संदर्भ
डीपफेक अकाउंटेबिलिटी एक्ट Generative AI मॉडलों में तेजी से प्रगति की अवधि के दौरान उभरा। 2018 में, NVIDIA शोधकर्ताओं ने StyleGAN आर्किटेक्चर पेश किया, जो अत्यधिक यथार्थवादी मानव चेहरे उत्पन्न कर सकता था। 2019 में, OpenAI ने GPT-2 जारी किया, एक Large language model जो सुसंगत पाठ उत्पन्न कर सकता था, जिससे एआई-जनित गलत सूचना के बारे में चिंताएं बढ़ीं। विधेयक की लेबलिंग आवश्यकता को इन विकासों की प्रतिक्रिया के रूप में देखा गया, हालांकि यह मुख्य रूप से पाठ के बजाय दृश्य और ऑडियो डीपफेक पर केंद्रित था।
डीपफेक निर्माण में आमतौर पर जनरेटिव-एडवर्सेरियल-नेटवर्क (GAN) शामिल होते हैं, जहां दो तंत्रिका नेटवर्क - एक जनरेटर और एक डिस्क्रिमिनेटर - एक साथ प्रशिक्षित होते हैं। जनरेटर सिंथेटिक मीडिया उत्पन्न करता है, जबकि डिस्क्रिमिनेटर इसे वास्तविक मीडिया से अलग करने का प्रयास करता है। समय के साथ, जनरेटर में सुधार होता है, जिससे तेजी से ठोस आउटपुट मिलते हैं। विधेयक की दृश्य लेबल की आवश्यकता का उद्देश्य दर्शकों के लिए ऐसी सामग्री की पहचान करना आसान बनाना था, भले ही अंतर्निहित तकनीक विकसित हो।
प्रभाव और विरासत
हालांकि डीपफेक अकाउंटेबिलिटी एक्ट कभी कानून नहीं बना, इसका नीति परिदृश्य पर स्थायी प्रभाव पड़ा है। यह विशेष रूप से डीपफेक को संबोधित करने वाले पहले संघीय विधेयकों में से एक था, और इसके प्रावधानों को बाद के प्रस्तावों में प्रतिध्वनित किया गया है, जैसे द्विदलीय डीपफेक टास्क फोर्स एक्ट 2020 और एल्गोरिथमिक अकाउंटेबिलिटी एक्ट 2022। विधेयक ने एआई नैतिकता और विनियमन पर व्यापक बातचीत में भी योगदान दिया, जिससे डीपफेक पहचान और वॉटरमार्किंग पर शैक्षणिक शोध प्रभावित हुआ।
संघीय कानून की अनुपस्थिति में, कई राज्यों ने अपने स्वयं के डीपफेक कानून बनाए हैं। 2024 तक, कम से कम 15 राज्यों ने डीपफेक को संबोधित करने वाले कानून पारित किए हैं, जो दुर्भावनापूर्ण उपयोग के लिए आपराधिक दंड से लेकर राजनीतिक विज्ञापनों में लेबलिंग की आवश्यकताओं तक हैं। डीपफेक अकाउंटेबिलिटी एक्ट को अक्सर इन राज्य प्रयासों में एक टेम्पलेट के रूप में उद्धृत किया जाता है। इसके अलावा, प्रमुख प्रौद्योगिकी प्लेटफार्मों ने एआई-जनित सामग्री को लेबल करने के लिए स्वैच्छिक नीतियां लागू की हैं, जैसे meta का 'Made with AI' टैग और Google (AI) की सामग्री क्रेडेंशियल्स।
वर्तमान स्थिति और भविष्य की संभावनाएं
2025 तक, डीपफेक अकाउंटेबिलिटी एक्ट को वर्तमान कांग्रेस में फिर से पेश नहीं किया गया है। हालांकि, यह मुद्दा प्रासंगिक बना हुआ है, विशेष रूप से GPT-4 जैसे Large language model के उदय और सिंथेटिक मीडिया उत्पन्न करने की बढ़ती आसानी के साथ। 2024 में, संघीय चुनाव आयोग (FEC) ने अधिकार की कमी का हवाला देते हुए राजनीतिक विज्ञापनों में एआई-जनित डीपफेक को विनियमित करने से इनकार कर दिया, जिसने संघीय कानून के लिए नई मांगें पैदा की हैं। प्रतिनिधि क्लार्क ने संकेत दिया है कि वह विधेयक का एक नया संस्करण पेश कर सकती हैं, लेकिन कोई औपचारिक घोषणा नहीं की गई है।
विधेयक का भविष्य राजनीतिक माहौल और एआई विनियमन पर चल रही बहसों के परिणाम पर निर्भर हो सकता है। कुछ विधायकों ने व्यापक एआई कानून का प्रस्ताव किया है, जैसे एआई फाउंडेशन मॉडल ट्रांसपेरेंसी एक्ट, जो सभी डोमेन में एआई-जनित सामग्री के प्रकटीकरण की आवश्यकता होगी। डीपफेक अकाउंटेबिलिटी एक्ट एक मौलिक संदर्भ बिंदु बना हुआ है, और इसके सिद्धांत किसी भी भविष्य के संघीय डीपफेक कानून को सूचित करने की संभावना रखते हैं।
आलोचना और सीमाएं
आलोचकों ने डीपफेक अकाउंटेबिलिटी एक्ट की कई सीमाओं की ओर इशारा किया है। पहला, विधेयक की डीपफेक की परिभाषा 'ऑडियो या दृश्य मीडिया जो प्रामाणिक दिखता है और किसी व्यक्ति को कुछ कहते या करते हुए दर्शाता है जो उन्होंने नहीं कहा या किया' तक सीमित है। यह पाठ-आधारित एआई-जनित सामग्री को बाहर करता है, जिसका उपयोग गलत सूचना फैलाने के लिए भी किया जा सकता है। दूसरा, लेबलिंग आवश्यकता को परिष्कृत उपयोगकर्ताओं द्वारा दरकिनार किया जा सकता है जो वॉटरमार्क हटा सकते हैं या एआई का उपयोग करके ऐसी सामग्री उत्पन्न कर सकते हैं जो पहचान से बच जाती है। तीसरा, विधेयक डीपफेक वितरण की अंतर्राष्ट्रीय प्रकृति को संबोधित नहीं करता है, क्योंकि कई डीपफेक संयुक्त राज्य के बाहर से उत्पन्न होते हैं।
इसके अतिरिक्त, कुछ कानूनी विद्वानों ने तर्क दिया है कि निजी कार्रवाई का अधिकार तुच्छ मुकदमों का कारण बन सकता है, और $150,000 की वैधानिक क्षति अत्यधिक है। दूसरों ने नोट किया है कि विधेयक प्लेटफार्मों को सक्रिय रूप से डीपफेक का पता लगाने की आवश्यकता नहीं करता है, केवल रिपोर्टों का जवाब देने के लिए, जो प्रतिदिन अपलोड की जाने वाली सामग्री के पैमाने को देखते हुए अपर्याप्त हो सकता है। इन आलोचनाओं ने बाद के विधायी प्रयासों को सूचित किया है, जिन्होंने इनमें से कुछ अंतरालों को संबोधित करने की मांग की है।
निष्कर्ष
डीपफेक अकाउंटेबिलिटी एक्ट संघीय स्तर पर एआई-जनित सामग्री को विनियमित करने का एक प्रारंभिक प्रयास है। हालांकि यह पारित नहीं हुआ, इसने डीपफेक विनियमन पर प्रवचन को आकार दिया है और राज्य और अंतर्राष्ट्रीय दोनों प्रयासों को प्रभावित किया है। जैसे-जैसे एआई तकनीक आगे बढ़ती जा रही है, सिंथेटिक मीडिया में पारदर्शिता और जवाबदेही की आवश्यकता दबावपूर्ण बनी हुई है, और विधेयक के सिद्धांत भविष्य के विधायी प्रस्तावों में फिर से उभरने की संभावना रखते हैं।