जून 2023 में, फ्लोरिडा के गवर्नर रॉन डेसेंटिस से जुड़ा एक छेड़छाड़ किया गया वीडियो ऑनलाइन प्रसारित हुआ, जिसे एक नकली समर्थन विज्ञापन के रूप में पेश किया गया। यह डीपफेक, जिसने गवर्नर की छवि और आवाज को सुपरइम्पोज़ करने के लिए कृत्रिम बुद्धिमत्ता का उपयोग किया, उनके राष्ट्रपति अभियान के लिए एक प्रचार स्पॉट के रूप में प्रस्तुत किया गया था। वीडियो की प्रामाणिकता को तथ्य-जांचकर्ताओं और समाचार संगठनों द्वारा तुरंत चुनौती दी गई, जिन्होंने इसे वास्तविक अभियान सामग्री के बजाय एक सिंथेटिक निर्माण के रूप में पहचाना। इस घटना ने राजनीतिक संचार में जनरेटिव एआई की बढ़ती भूमिका और चुनावी सामग्री को सत्यापित करने में इसके सामने आने वाली चुनौतियों की ओर ध्यान आकर्षित किया।
डीपफेक राजनीतिक गतिविधि की बढ़ी हुई अवधि के दौरान उभरा, क्योंकि डेसेंटिस ने 24 मई, 2023 को एलन मस्क के साथ एक ट्विटर स्पेस इवेंट के माध्यम से 2024 रिपब्लिकन राष्ट्रपति पद के नामांकन के लिए अपनी उम्मीदवारी की औपचारिक घोषणा की थी। नकली विज्ञापन, जो ट्विटर (अब एक्स) और यूट्यूब सहित सोशल मीडिया प्लेटफार्मों पर दिखाई दिया, ने डेसेंटिस को उनके ज्ञात सार्वजनिक बयानों और अभियान संदेशों के अनुरूप नहीं दर्शाया। इसे आधिकारिक डेसेंटिस अभियान द्वारा निर्मित नहीं किया गया था, जिसने प्रेस आउटलेट्स को दिए बयानों में वीडियो को अस्वीकार कर दिया। वीडियो की उत्पत्ति अस्पष्ट रही, हालांकि विश्लेषकों ने सुझाव दिया कि इसे किसी व्यक्ति या समूह द्वारा गवर्नर की पैरोडी या बदनामी करने के लिए बनाया गया हो सकता है।
तकनीकी विशेषताएं
डीपफेक ने समकालीन जनरेटिव एआई में सामान्य तकनीकों का उपयोग किया, जिसमें चेहरे की छवियों और ऑडियो रिकॉर्डिंग के बड़े डेटासेट पर प्रशिक्षित गहन शिक्षण मॉडल शामिल थे। ऐसी प्रणालियाँ, जो अक्सर ऑटोएनकोडर या जनरेटिव एडवरसैरियल नेटवर्क जैसे तंत्रिका नेटवर्क आर्किटेक्चर पर निर्मित होती हैं, एक लक्ष्य व्यक्ति के चेहरे के भाव और भाषण पैटर्न को एक स्रोत अभिनेता पर मैप करके यथार्थवादी वीडियो संश्लेषित कर सकती हैं। इस मामले में, वीडियो में डेसेंटिस को ऐसे शब्द बोलते हुए दिखाया गया जो उन्होंने सार्वजनिक रूप से नहीं बोले थे, जिसमें होंठों की गति और स्वर-शैली उनकी आदतों की नकल करती थी। MIT CSAIL और Stanford AI Lab जैसे संस्थानों के शोधकर्ताओं द्वारा विकसित पहचान उपकरणों ने पलक झपकने, प्रकाश और ऑडियो आवृत्ति में विसंगतियों को चिह्नित किया जो हेरफेर का संकेत देते थे।
प्लेटफ़ॉर्म प्रतिक्रिया
सोशल मीडिया प्लेटफार्मों को डीपफेक के प्रबंधन पर जांच का सामना करना पड़ा। ट्विटर, मालिक एलन मस्क के अधीन, ने 2022 में सामग्री मॉडरेशन कर्मचारियों को कम कर दिया था, जिससे गलत सूचना के प्रसार के बारे में चिंताएँ बढ़ गईं। गूगल के स्वामित्व वाले यूट्यूब ने हेरफेर की गई सामग्री के खिलाफ नीतियां बनाए रखीं जो दर्शकों को गुमराह कर सकती थीं, लेकिन प्रवर्तन भिन्न था। किसी भी प्लेटफ़ॉर्म ने वीडियो को तुरंत नहीं हटाया, और यह तीसरे पक्ष के तथ्य-जांचकर्ताओं द्वारा चिह्नित किए जाने से पहले कई दिनों तक प्रसारित होता रहा। इस घटना ने अधिक मजबूत पहचान और लेबलिंग प्रणालियों के लिए आह्वान किया, कुछ विशेषज्ञों ने एआई-जनित सामग्री पर अनिवार्य वॉटरमार्क की वकालत की।
राजनीतिक और कानूनी निहितार्थ
नकली विज्ञापन ने अमेरिकी चुनाव कानून के तहत कानूनी प्रश्न उठाए, जो संघीय अभियानों में धोखाधड़ीपूर्ण गलत प्रस्तुति को प्रतिबंधित करता है। संघीय चुनाव आयोग ने अभी तक डीपफेक पर विशिष्ट नियम जारी नहीं किए थे, हालांकि कैलिफोर्निया और टेक्सास सहित कुछ राज्यों ने भ्रामक एआई-जनित राजनीतिक सामग्री को अपराध घोषित करने वाले कानून बनाए थे। फ्लोरिडा में उस समय ऐसा कोई क़ानून नहीं था, जिससे एक नियामक अंतर रह गया। डेसेंटिस अभियान ने कानूनी कार्रवाई नहीं की, लेकिन इस प्रकरण ने 2024 चुनाव चक्र की अखंडता के बारे में व्यापक बहसों में योगदान दिया।
व्यापक संदर्भ
यह घटना 2023 में एआई-जनित राजनीतिक सामग्री की एक लहर का हिस्सा थी। उस वर्ष की शुरुआत में, रिपब्लिकन नेशनल कमेटी ने राष्ट्रपति जो बिडेन के अधीन एक डायस्टोपियन भविष्य को दर्शाने वाला एक पूरी तरह से एआई-जनित विज्ञापन जारी किया, जिसे स्पष्ट रूप से सिंथेटिक के रूप में लेबल किया गया था। इसके विपरीत, डेसेंटिस डीपफेक को लेबल नहीं किया गया था, जिससे यह अधिक भ्रामक बन गया। BAIR (Berkeley AI Research) और University of Oxford के शोधकर्ताओं ने 2023 के मध्य में अध्ययन प्रकाशित किए जो दिखाते हैं कि डीपफेक पहचान अविश्वसनीय बनी हुई है, उन्नत प्रणालियों के लिए भी त्रुटि दर 10% से ऊपर है। इस प्रकरण ने मीडिया साक्षरता और तकनीकी सुरक्षा उपायों की आवश्यकता को रेखांकित किया क्योंकि जनरेटिव एआई उपकरण अधिक सुलभ हो गए।
परिणाम
घटना के बाद, गैर-लाभकारी OpenPanel सहित कई वकालत समूहों ने राजनीतिक विज्ञापनों में एआई को विनियमित करने के लिए संघीय कानून का आह्वान किया। अगस्त 2023 में, संघीय चुनाव आयोग ने घोषणा की कि वह डीपफेक पर अपने अधिकार को स्पष्ट करने के लिए एक याचिका पर विचार करेगा, हालांकि वर्ष के अंत से पहले कोई नियम परिवर्तन नहीं हुआ। डेसेंटिस अभियान ने स्वयं एक संक्षिप्त इनकार से परे वीडियो को सार्वजनिक रूप से संबोधित नहीं किया, पारंपरिक अभियान कार्यक्रमों पर ध्यान केंद्रित किया। डीपफेक शैक्षणिक और नीति चर्चाओं में एक केस स्टडी बना रहा, जिसे Carnegie Mellon University और Stanford AI Lab द्वारा रिपोर्टों में लोकतांत्रिक प्रक्रियाओं के लिए उभरते खतरों के उदाहरण के रूप में उद्धृत किया गया।