डीपफेक विनियमन उन कानूनों, प्रशासनिक नियमों और उद्योग दिशानिर्देशों का निकाय है जो कृत्रिम बुद्धिमत्ता तकनीकों के माध्यम से उत्पादित सिंथेटिक मीडिया के निर्माण, वितरण और उपयोग को नियंत्रित करने के लिए अधिनियमित किए गए हैं। डीपफेक - 'डीप लर्निंग' और 'फेक' का एक पोर्टमैंटू - छवियां, वीडियो या ऑडियो हैं जिन्हें एआई-आधारित उपकरणों का उपयोग करके संपादित या उत्पन्न किया गया है, जो अक्सर वास्तविक या काल्पनिक लोगों को चित्रित करते हैं। जबकि नकली सामग्री बनाने की क्रिया डिजिटल तकनीक से पहले की है, डीपफेक विशिष्ट रूप से मशीन लर्निंग और तंत्रिका नेटवर्क जैसे वेरिएशनल ऑटोएनकोडर और जनरेटिव एडवरसैरियल नेटवर्क (GANs) का लाभ उठाते हैं, जो अत्यधिक यथार्थवादी हेरफेर को सक्षम बनाते हैं जिसने गल सूचना, धोखाधड़ी और गोपनीयता उल्लंघन के बारे में चिंताएं उठाई हैं।
नियामक प्रतिक्रियाएं विभिन्न क्षेत्राधिकारों में असमान रूप से उभरी हैं, जो व्यक्तियों और समाजों को नुकसान से बचाने तथा अभिव्यक्ति की स्वतंत्रता, कलात्मक प्रयोग और तकनीकी नवाचार को संरक्षित करने के बीच तनाव को दर्शाती हैं। यह क्षेत्र गतिशील बना हुआ है, जिसमें सरकारें, उद्योग निकाय और शैक्षणिक शोधकर्ता अंतर्निहित प्रौद्योगिकियों के विकसित होने पर पता लगाने के तरीके और शमन रणनीतियां प्रस्तावित कर रहे हैं।
ऐतिहासिक संदर्भ
फोटो हेरफेर 19वीं शताब्दी में विकसित किया गया था और जल्द ही मोशन पिक्चर्स पर लागू किया गया, 20वीं शताब्दी के दौरान तकनीक में लगातार सुधार होता रहा और डिजिटल वीडियो के साथ तेजी आई। शैक्षणिक शोधकर्ताओं ने 1990 के दशक में स्वचालित चेहरे की पुनर्जीवन तकनीक विकसित करना शुरू किया, विशेष रूप से 1997 के 'वीडियो रीराइट' कार्यक्रम के साथ, जिसने मशीन लर्निंग का उपयोग करके किसी व्यक्ति को विभिन्न ऑडियो ट्रैक से शब्द बोलते हुए चित्रित करने के लिए मौजूदा फुटेज को संशोधित किया। 2010 के दशक के मध्य में GANs का विकास एक प्रमुख तकनीकी मोड़ था, जिसने प्रतिस्पर्धी तंत्रिका नेटवर्क को अत्यधिक यथार्थवादी नकली छवियों और वीडियो उत्पन्न करने की अनुमति दी, जिनकी दृश्य निष्ठा पहले के नियम-आधारित या ऑटोएनकोडर तरीकों से कहीं अधिक थी।
बाद के शैक्षणिक परियोजनाओं ने इन तकनीकों को परिष्कृत किया। 2016 का 'फेस2फेस' कार्यक्रम उपभोक्ता कैमरों का उपयोग करके वास्तविक समय में चेहरे की अभिव्यक्ति पुनः-अभिनय सक्षम बनाता था, जबकि 2017 का 'सिंथेसाइजिंग ओबामा' परियोजना ऑडियो से फोटोरियलिस्टिक मुंह के आकार उत्पन्न करता था। इन प्रगतियों ने डीपफेक निर्माण को विशेष अनुसंधान सेटिंग्स से व्यापक उपलब्धता की ओर स्थानांतरित किया, अंततः ऑनलाइन समुदायों और वाणिज्यिक अनुप्रयोगों तक पहुंच गया।
विनियमन के लिए तर्क
नीति निर्माताओं ने डीपफेक विनियमन को उचित ठहराने में कई नुकसानों का हवाला दिया है। दुर्भावनापूर्ण उपयोगों में बाल यौन शोषण सामग्री, सेलिब्रिटी पोर्नोग्राफिक वीडियो, बदला पोर्न, नकली समाचार, धोखा, बदमाशी और वित्तीय धोखाधड़ी शामिल हैं। शैक्षणिक शोधकर्ताओं ने चुनावों में हस्तक्षेप, गल सूचना और घृणा भाषण को बढ़ावा देने, और मीडिया में जनता के विश्वास के क्षरण की संभावना के बारे में चिंताएं उठाई हैं। शोधकर्ताओं ने मीडिया हेरफेर से परे खतरों का भी प्रदर्शन किया है, जिसमें चिकित्सा इमेजरी पर हमले शामिल हैं - एक अध्ययन ने दिखाया कि कैसे एक हमलावर रोगी के 3डी सीटी स्कैन में फेफड़ों के कैंसर को स्वचालित रूप से इंजेक्ट या हटा सकता है, जिससे रेडियोलॉजिस्ट और पहचान एआई दोनों धोखा खा सकते हैं।
वित्तीय धोखाधड़ी बढ़ती चिंता का विषय है, क्योंकि आवाज-क्लोनिंग और वीडियो-हेरफेर उपकरण घोटालों के लिए अधिकारियों और परिवार के सदस्यों की पहचान करने में सक्षम बनाते हैं। सूचना प्रौद्योगिकी उद्योग ने पता लगाने के तरीकों और सामग्री उत्पत्ति मानकों के साथ प्रतिक्रिया दी है, लेकिन नियामक ढांचे विभिन्न देशों में अलग-अलग गति से विकसित हुए हैं।
संयुक्त राज्य अमेरिका का दृष्टिकोण
संयुक्त राज्य अमेरिका ने एक खंडित दृष्टिकोण अपनाया है, जिसमें 2025 तक कोई व्यापक संघीय डीपफेक कानून नहीं है। संघीय विधान प्रस्तावित किया गया है लेकिन अधिनियमित नहीं किया गया है, जिसमें चुनाव में हस्तक्षेप, गैर-सहमति अंतरंग इमेजरी और धोखाधड़ी को संबोधित करने वाले विधेयक शामिल हैं। व्यक्तिगत राज्यों ने अधिक ठोस कार्रवाई की है। कैलिफोर्निया ने 2019 में चुनावों से पहले निर्दिष्ट समय सीमा के भीतर डीपफेक पोर्नोग्राफी और राजनीतिक डीपफेक को अपराधीकरण करने वाले कानून अधिनियमित किए। टेक्सास, वर्जीनिया और न्यूयॉर्क सहित अन्य राज्यों ने गैर-सहमति अंतरंग इमेजरी या चुनाव-संबंधी डीपफेक को लक्षित करने वाले उपाय पारित किए हैं, हालांकि दंड और परिभाषाएं व्यापक रूप से भिन्न हैं।
संघीय एजेंसियों ने जहां संभव हो मौजूदा कानूनों को लागू किया है। संघीय व्यापार आयोग ने कुछ मामलों में भ्रामक प्रथाओं के खिलाफ अपने अधिकार का उपयोग किया है, और संघीय चुनाव आयोग ने एआई-जनित अभियान सामग्री के लिए नियमों पर विचार किया है। अदालतों ने भी मानहानि, प्रचार का अधिकार और झूठी रोशनी जैसे मौजूदा टोर्ट दावों के माध्यम से डीपफेक को संबोधित किया है, हालांकि ये असमान सुरक्षा प्रदान करते हैं।
यूरोपीय संघ और अन्य क्षेत्राधिकार
यूरोपीय संघ ने अधिक व्यापक दृष्टिकोण अपनाया है। डिजिटल सेवा अधिनियम, 2024 में प्रभावी, बहुत बड़े ऑनलाइन प्लेटफार्मों को सूचना के हेरफेर सहित प्रणालीगत जोखिमों का आकलन और शमन करने की आवश्यकता है। एआई अधिनियम, 2024 में अपनाया गया, एआई प्रणालियों पर पारदर्शिता दायित्व लगाता है जो सामग्री उत्पन्न या हेरफेर करते हैं, यह आवश्यक है कि सामग्री सिंथेटिक है इसका खुलासा किया जाए। यह कुछ हेरफेर तकनीकों पर प्रतिबंध लगाता है और अधिकांश संदर्भों में डीपफेक लेबलिंग की आवश्यकता होती है, कलात्मक और व्यंग्यात्मक कार्यों के लिए छूट के साथ।
चीन ने सांस्कृतिक और राजनीतिक संदर्भों को दर्शाते हुए एक अलग मार्ग अपनाया है। चीनी में डीपफेक के लिए शब्द, 'हुआनलियान' (जिसका अर्थ है 'चेहरे बदलना'), अंग्रेजी में 'फेक' के नकारात्मक अर्थ की कमी है। चीनी नियम, 2020 और 2023 में प्रभावी, डीपफेक प्रदाताओं को सिंथेटिक सामग्री लेबल करने, उपयोगकर्ता पहचान सत्यापित करने और उन व्यक्तियों से सहमति प्राप्त करने की आवश्यकता होती है जिनकी छवियों या आवाज़ों का उपयोग किया जाता है। ये नियम राजनीतिक गल सूचना के बजाय धोखाधड़ी जोखिम, छवि अधिकार, आर्थिक लाभ और नैतिक असंतुलन पर जोर देते हैं।
अन्य देशों ने लक्षित उपाय अधिनियमित किए हैं। यूनाइटेड किंगडम का ऑनलाइन सुरक्षा अधिनियम, 2023 में पारित, डीपफेक अंतरंग छवियों को साझा करने को अपराधीकरण करता है। दक्षिण कोरिया ने 2020 में डीपफेक पोर्नोग्राफी को संबोधित करने के लिए अपने दूरसंचार कानून में संशोधन किया। भारत ने मौजूदा सूचना प्रौद्योगिकी नियमों पर भरोसा किया है जो मध्यस्थों को अवैध सामग्री हटाने की आवश्यकता होती है, सिंथेटिक मीडिया को संबोधित करने वाले प्रस्तावित संशोधनों के साथ।
उद्योग स्व-विनियमन
प्रौद्योगिकी कंपनियों ने सरकारी विनियमन के साथ स्वैच्छिक उपाय विकसित किए हैं। OpenAI, Google DeepMind और Anthropic सहित प्रमुख प्लेटफार्मों ने सिंथेटिक मीडिया पर नीतियां प्रकाशित की हैं, जिनमें से कुछ वॉटरमार्किंग या सामग्री उत्पत्ति मेटाडेटा के लिए प्रतिबद्ध हैं। सामग्री उत्पत्ति और प्रामाणिकता गठबंधन (C2PA), एक उद्योग संघ, ने क्रिप्टोग्राफिक रूप से हस्ताक्षरित सामग्री इतिहास के लिए तकनीकी मानक विकसित किए हैं।
सोशल मीडिया प्लेटफार्मों ने हेरफेर किए गए मीडिया के लिए लेबलिंग आवश्यकताओं को लागू किया है, हालांकि प्रवर्तन असंगत रहा है। कुछ कंपनियों ने डीपफेक निर्माण उपकरणों को प्रतिबंधित किया है या सिंथेटिक सामग्री उत्पन्न करने वाले उपयोगकर्ताओं के लिए पहचान सत्यापन की आवश्यकता की है। उद्योग प्रयासों ने भी पता लगाने के अनुसंधान पर ध्यान केंद्रित किया है, जिसमें MIT CSAIL और बर्कले एआई अनुसंधान जैसे संगठन हेरफेर किए गए मीडिया की पहचान करने के लिए फोरेंसिक उपकरण विकसित कर रहे हैं।
चुनौतियां और आलोचनाएं
विनियमन को महत्वपूर्ण चुनौतियों का सामना करना पड़ता है। पता लगाना अपूर्ण बना हुआ है, क्योंकि डीपफेक निर्माण तकनीकें तेजी से विकसित होती हैं और प्रतिकूल तरीके फोरेंसिक उपकरणों से बच सकते हैं। क्षेत्राधिकार संबंधी मुद्दे उत्पन्न होते हैं क्योंकि एक देश में बनाई गई सामग्री वैश्विक रूप से वितरित की जा सकती है, जिससे प्रवर्तन जटिल हो जाता है। परिभाषात्मक प्रश्न बने रहते हैं कि मनोरंजन, शिक्षा या कलात्मक अभिव्यक्ति में उपयोग किए जाने वाले वैध सिंथेटिक मीडिया बनाम डीपफेक क्या गठित करता है।
आलोचकों का तर्क है कि अत्यधिक व्यापक विनियमन संरक्षित भाषण को ठंडा कर सकता है, जिसमें व्यंग्य, पैरोडी और राजनीतिक टिप्पणी शामिल हैं। दृश्य प्रभावों और अभिनेताओं की उम्र घटाने के लिए डीपफेक तकनीक के मनोरंजन उद्योग का उपयोग सहमति और श्रम अधिकारों के बारे में प्रश्न उठाता है। शोधकर्ताओं ने सोशल मीडिया पर डीपफेक कैसे फैलते हैं, इसकी समझ में अंतराल देखा है, नकारात्मकता और भावनात्मक प्रतिक्रिया साझा करने के प्राथमिक चालक हैं - ऐसे कारक जिन्हें अकेले विनियमन संबोधित नहीं कर सकता है।
भविष्य की दिशाएं
2025 तक, डीपफेक विनियमन एक विकसित क्षेत्र बना हुआ है। प्रस्तावों में वास्तविक समय पता लगाने के उपकरणों की आवश्यकता, दुर्भावनापूर्ण डीपफेक होस्ट करने वाले प्लेटफार्मों के लिए दायित्व स्थापित करना, और मानकों को सामंजस्य बनाने के लिए अंतर्राष्ट्रीय समझौते बनाना शामिल है। शैक्षणिक अनुसंधान तकनीकी प्रतिकार उपायों और सामाजिक विज्ञान दृष्टिकोण दोनों का पता लगाना जारी रखता है, जिसमें डीपफेक के सौंदर्य और सांस्कृतिक आयाम शामिल हैं। तकनीक के तेजी से ठोस और सुलभ होने के साथ नवाचार, अभिव्यक्ति और सुरक्षा के बीच संतुलन संभवतः विवादास्पद बना रहेगा।