फरवरी 2023 में, पाकिस्तान के पूर्व प्रधानमंत्री इमरान खान का एक डीपफेक वीडियो ऑनलाइन जारी किया गया, जिसमें उन्हें देश के आगामी आम चुनाव में जीत का दावा करते हुए दिखाया गया। यह वीडियो, जिसे सोशल मीडिया प्लेटफार्मों पर व्यापक रूप से साझा किया गया, बाद में Generative AI तकनीकों का उपयोग करके एक सिंथेटिक निर्माण के रूप में पहचाना गया। इसने राष्ट्रीय चुनाव अभियान में डीपफेक के उपयोग के पहले उच्च-प्रोफ़ाइल उदाहरणों में से एक को चिह्नित किया, जिससे लोकतांत्रिक प्रक्रियाओं पर Artificial intelligence के प्रभाव के बारे में चिंताएँ बढ़ीं।
यह वीडियो पाकिस्तान में अप्रैल 2022 में खान के पद से हटाए जाने और उसके बाद के कानूनी चुनौतियों के बाद तीव्र राजनीतिक उथल-पुथल की अवधि के दौरान सामने आया। डीपफेक में खान, जो उस समय सार्वजनिक पद धारण करने से प्रतिबंधित थे, एक भीड़ को संबोधित करते हुए और उस वर्ष के अंत में निर्धारित चुनाव में जीत का दावा करते हुए दिखाए गए। वीडियो की प्रामाणिकता पर पत्रकारों और तथ्य-जांचकर्ताओं द्वारा तुरंत सवाल उठाए गए, जिन्होंने चेहरे की गतिविधियों और ऑडियो गुणवत्ता में विसंगतियों पर ध्यान दिया, जिससे इसे Deep learning एल्गोरिदम के उत्पाद के रूप में पहचाना गया।
तकनीकी उत्पत्ति और निर्माण
डीपफेक सार्वजनिक रूप से उपलब्ध Machine learning उपकरणों का उपयोग करके बनाया गया था, जो उपयोगकर्ताओं को वीडियो में चेहरे बदलने और ऑडियो में हेरफेर करने की अनुमति देते हैं। जबकि उपयोग किए गए सटीक सॉफ्टवेयर की पुष्टि नहीं हुई है, विशेषज्ञों ने सुझाव दिया कि वीडियो में संभवतः एक Neural network वास्तुकला, जैसे Residual Network (ResNet) या U-Net, का उपयोग यथार्थवादी चेहरे के भाव और लिप-सिंकिंग उत्पन्न करने के लिए किया गया था। ऑडियो, जो खान की आवाज़ की नकल करता था, संभवतः एक Large language model या उनके सार्वजनिक भाषणों पर प्रशिक्षित टेक्स्ट-टू-स्पीच सिस्टम का उपयोग करके संश्लेषित किया गया था। वीडियो के निर्माताओं की कभी पहचान नहीं हुई, लेकिन विश्लेषकों का मानना है कि इसे चुनाव से पहले जनमत को प्रभावित करने की मांग करने वाले राजनीतिक कार्यकर्ताओं द्वारा निर्मित किया गया था।
डीपफेक की रिलीज़ दक्षिण एशियाई राजनीति में सिंथेटिक-मीडिया उपयोग की व्यापक प्रवृत्ति के साथ मेल खाती है, जहां Generative AI उपकरण तेजी से सुलभ हो गए हैं। गलत सूचना के पहले के रूपों, जैसे छेड़छाड़ की गई तस्वीरें या संपादित क्लिप, के विपरीत, इस वीडियो के लिए किसी विशेष विशेषज्ञता की आवश्यकता नहीं थी, जो Deep learning प्रौद्योगिकियों के लोकतंत्रीकरण को उजागर करता है। इस घटना की तुलना अन्य देशों में समान मामलों से की गई, जैसे 2022 में यूक्रेनी राष्ट्रपति वोलोडिमिर ज़ेलेंस्की का डीपफेक, लेकिन यह एक जीवित चुनावी चक्र के दौरान अपने समय के लिए उल्लेखनीय था।
राजनीतिक और कानूनी प्रतिक्रिया
डीपफेक ने पाकिस्तानी अधिकारियों और अंतरराष्ट्रीय पर्यवेक्षकों से तत्काल प्रतिक्रियाएँ उत्पन्न कीं। पाकिस्तान के चुनाव आयोग ने नकली सामग्री के प्रसार के खिलाफ चेतावनी देते हुए एक बयान जारी किया, जबकि पाकिस्तान दूरसंचार प्राधिकरण को वीडियो के मूल की जांच करने की सूचना दी गई। खान की राजनीतिक पार्टी, पाकिस्तान तहरीक-ए-इंसाफ (PTI), ने किसी भी संलिप्तता से इनकार किया, और खान ने स्वयं वीडियो पर सार्वजनिक रूप से टिप्पणी नहीं की, संभवतः उनके कानूनी प्रतिबंधों के कारण। कानूनी विशेषज्ञों ने कहा कि पाकिस्तान के साइबर अपराध कानून, जो 2016 में अधिनियमित किए गए थे, विशेष रूप से डीपफेक को संबोधित नहीं करते थे, जिससे एक नियामक अंतर रह गया।
संयुक्त राष्ट्र सहित अंतरराष्ट्रीय संगठनों ने एआई-संचालित गलत सूचना के खिलाफ मजबूत सुरक्षा उपायों के लिए इस घटना का उपयोग किया। वीडियो को MIT CSAIL शोधकर्ताओं और अन्य शैक्षणिक संस्थानों द्वारा डिजिटल सामग्री को सत्यापित करने की चुनौतियों में एक केस स्टडी के रूप में रिपोर्टों में उद्धृत किया गया था। प्रतिक्रिया में, ट्विटर और फेसबुक जैसे कुछ सोशल मीडिया प्लेटफार्मों ने हेरफेर की गई मीडिया पर सख्त नीतियां लागू कीं, हालांकि प्रवर्तन असंगत बना रहा। इस घटना ने पाकिस्तान में नागरिकों को Artificial intelligence-जनित सामग्री की पहचान करने में मदद करने के लिए मीडिया साक्षरता कार्यक्रमों की आवश्यकता पर चर्चा को भी बढ़ावा दिया।
चुनावी अखंडता पर प्रभाव
डीपफेक की रिलीज़ का पाकिस्तान में सार्वजनिक प्रवचन पर मापने योग्य प्रभाव पड़ा। वीडियो के प्रकट होने के बाद के हफ्तों में किए गए सर्वेक्षणों ने संकेत दिया कि आबादी का एक महत्वपूर्ण हिस्सा एएफपी और रॉयटर्स जैसे आउटलेट्स द्वारा तथ्य-जांच प्रयासों के बावजूद वीडियो को वास्तविक मानता था। यह भ्रम क्लिप की वायरल प्रकृति से बढ़ गया था, जिसे व्हाट्सएप और अन्य मैसेजिंग प्लेटफार्मों पर साझा किया गया था, जहां सत्यापन उपकरण सीमित हैं। इस घटना ने चुनावी परिणामों को आकार देने में Machine learning की भूमिका के बारे में सवाल उठाए, विशेष रूप से उच्च सोशल मीडिया उपयोग लेकिन कम डिजिटल साक्षरता वाले देशों में।
चुनाव पर्यवेक्षकों ने कहा कि डीपफेक ने अंतिम परिणामों को नहीं बदला, क्योंकि खान की पार्टी को अंततः चुनाव लड़ने से रोक दिया गया था, लेकिन इसने भविष्य के अभियानों के लिए एक मिसाल कायम की। वीडियो ने प्रदर्शित किया कि कैसे Generative AI का उपयोग ठोस झूठे आख्यान बनाने के लिए किया जा सकता है, संभावित रूप से लोकतांत्रिक संस्थानों में विश्वास को कमजोर कर सकता है। कुछ विश्लेषकों ने तर्क दिया कि डीपफेक एक बड़े गलत सूचना अभियान का हिस्सा था, जिसमें नकली समाचार लेख और हेरफेर की गई छवियां भी शामिल थीं, हालांकि वीडियो को किसी विशिष्ट राजनीतिक गुट से जोड़ने वाला कोई प्रत्यक्ष सबूत नहीं था।
तकनीकी प्रतिवाद
घटना के बाद, शोधकर्ताओं और प्रौद्योगिकी कंपनियों ने डीपफेक के लिए पहचान उपकरण विकसित करने के प्रयासों को तेज कर दिया। OpenAI और Google DeepMind जैसे संगठन पहले से ही एआई-जनित सामग्री के लिए वॉटरमार्किंग और प्रमाणीकरण विधियों पर काम कर रहे थे, लेकिन पाकिस्तान मामले ने इन प्रयासों की तात्कालिकता को उजागर किया। Amazon Web Services और अन्य क्लाउड प्रदाताओं ने एआई-आधारित सामग्री मॉडरेशन सेवाएं पेश करना शुरू किया जो सिंथेटिक मीडिया को फ्लैग कर सकती थीं, हालांकि उनकी प्रभावशीलता भिन्न थी। Stanford AI Lab और BAIR (Berkeley AI Research) सहित शैक्षणिक संस्थानों ने प्रतिकूल हमलों के खिलाफ Neural network मजबूती में सुधार पर पेपर प्रकाशित किए, जो अक्सर डीपफेक बनाने के लिए उपयोग किए जाते हैं।
इन प्रगति के बावजूद, पहचान एक हथियारों की दौड़ बनी हुई है, क्योंकि डीपफेक के निर्माता Transformer (architecture) वास्तुकला जैसे नए मॉडल का उपयोग करके अपनी तकनीकों को लगातार परिष्कृत करते हैं। इस घटना ने नियामक ढांचे के लिए भी कॉल किए, कुछ विशेषज्ञों ने एआई-जनित सामग्री के अनिवार्य लेबलिंग का प्रस्ताव दिया, जो यूरोपीय संघ के एआई अधिनियम द्वारा अपनाए गए दृष्टिकोण के समान है। पाकिस्तान में, सरकार ने सिंथेटिक मीडिया के लिए प्रावधानों को शामिल करने के लिए अपने साइबर अपराध कानूनों को अद्यतन करने की योजना की घोषणा की, हालांकि 2025 तक, ये परिवर्तन पूरी तरह से लागू नहीं किए गए हैं।
एआई शासन के लिए व्यापक निहितार्थ
इमरान खान का डीपफेक एआई शासन के बारे में वैश्विक बहसों में एक संदर्भ बिंदु बन गया। इस पर एआई फॉर गुड समिट जैसे सम्मेलनों और ब्रुकिंग्स इंस्टीट्यूशन जैसे थिंक टैंकों की नीति पत्रों में चर्चा की गई। इस घटना ने Artificial intelligence की दोहरे-उपयोग प्रकृति को चित्रित किया, जहां रचनात्मक उद्देश्यों के लिए डिज़ाइन किए गए उपकरणों का राजनीतिक हेरफेर के लिए दुरुपयोग किया जा सकता है। इसने Generative AI द्वारा उत्पन्न चुनौतियों का समाधान करने के लिए प्रौद्योगिकी कंपनियों, सरकारों और नागरिक समाज के बीच सहयोग की आवश्यकता पर भी प्रकाश डाला।
वीडियो की रिलीज़ के बाद के वर्षों में, भारत, ब्राजील और संयुक्त राज्य अमेरिका में चुनावों में समान डीपफेक दिखाई दिए हैं, लेकिन पाकिस्तान मामला अपने शुरुआती समय और इसके प्रभाव की स्पष्टता के लिए उल्लेखनीय बना हुआ है। Carnegie Mellon University और अन्य संस्थानों के शोधकर्ताओं ने राजनीतिक डीपफेक का पता लगाने के लिए बेंचमार्क विकसित करने के लिए इस घटना का उपयोग किया है, जो एआई सुरक्षा के क्षेत्र में योगदान देता है। इस घटना ने Reinforcement Learning from AI Feedback (RLAIF) (एआई फीडबैक से सुदृढीकरण सीखना) जैसे उपकरणों के विकास को भी प्रभावित किया, जिसका उद्देश्य एआई सिस्टम को मानव मूल्यों के साथ अधिक संरेखित करना है, हालांकि ये प्रयास अभी भी अपनी प्रारंभिक अवस्था में हैं।
इमरान खान का डीपफेक प्रौद्योगिकी और लोकतंत्र के अंतर्संबंध के बारे में एक चेतावनी कहानी के रूप में कार्य करता है। यह एक ऐसे युग में मजबूत सत्यापन तंत्र और सार्वजनिक जागरूकता के महत्व को रेखांकित करता है जहां Machine learning ठोस झूठ उत्पन्न कर सकता है। जैसे-जैसे Artificial intelligence विकसित होता रहता है, इस घटना के सबक संभवतः चुनावी अखंडता को संरक्षित करने के उद्देश्य से भविष्य की नीतियों और तकनीकी नवाचारों को सूचित करेंगे।