मार्क जुकरबर्ग, जो फेसबुक (अब मेटा प्लेटफॉर्म्स) के मुख्य कार्यकारी अधिकारी हैं, का एक डीपफेक वीडियो 2021 में कंपनी की डेटा-हैंडलिंग और कंटेंट-मॉडरेशन प्रथाओं से संबंधित एक निर्मित साक्षात्कार के हिस्से के रूप में ऑनलाइन प्रसारित हुआ। हेरफेर किए गए फुटेज, जिसमें Artificial intelligence तकनीकों का उपयोग करके जुकरबर्ग की समानता को किसी अन्य व्यक्ति के चेहरे पर आरोपित किया गया था, को फेसबुक की आंतरिक नीतियों के बारे में एक वास्तविक बातचीत के रूप में प्रस्तुत किया गया था। इस घटना ने शोधकर्ताओं और जनता से महत्वपूर्ण ध्यान आकर्षित किया, जो वास्तविक व्यक्तियों के ठोस लेकिन झूठे प्रतिनिधित्व बनाने के लिए Generative AI की बढ़ती क्षमता को रेखांकित करता है।
यह वीडियो फेसबुक के संचालन की बढ़ी हुई जांच की अवधि के दौरान उभरा, जो 2016 के अमेरिकी राष्ट्रपति चुनाव और कैम्ब्रिज एनालिटिका घोटाले के बाद आया था। इसे शुरू में इंस्टाग्राम सहित सोशल मीडिया प्लेटफार्मों पर साझा किया गया था, जहां यह एक छोटे क्लिप के रूप में दिखाई दिया। डीपफेक ने जुकरबर्ग को उपयोगकर्ता डेटा को नियंत्रित करने और चुनावों को प्रभावित करने के बारे में बयान देते हुए दिखाया, जो उन्होंने वास्तव में कभी नहीं कहा था। तथ्य-जांचकर्ताओं और पत्रकारों ने जल्दी से फुटेज को सिंथेटिक के रूप में पहचान लिया, लेकिन इससे पहले नहीं कि इसे हजारों बार देखा गया था, जो ऐसे मीडिया की गलत सूचना को तेजी से फैलाने की क्षमता को प्रदर्शित करता है।
तकनीकी पृष्ठभूमि
डीपफेक चेहरे बदलने या भाषण में हेरफेर करने के लिए Machine learning मॉडलों पर निर्भर करते हैं, विशेष रूप से Deep learning आर्किटेक्चर जैसे Neural network पर। 2021 का जुकरबर्ग वीडियो संभवतः चेहरे-बदलने नामक एक तकनीक का उपयोग करता था, जहां एक Generative AI मॉडल, अक्सर एक प्रकार का Autoencoder या generative adversarial network, लक्ष्य व्यक्ति के चेहरे के भावों को एक स्रोत अभिनेता के चेहरे पर मैप करता है। ये मॉडल छवियों और वीडियो के बड़े डेटासेट पर प्रशिक्षित होते हैं, जिससे वे यथार्थवादी गतिविधियों और प्रकाश उत्पन्न कर सकते हैं। इस प्रक्रिया में आमतौर पर मजबूती में सुधार के लिए Data Augmentation और दृश्य कलाकृतियों को कम करने के लिए Loss Functions शामिल होते हैं। जबकि इस विशिष्ट डीपफेक के लिए उपयोग किए गए सटीक उपकरण सार्वजनिक रूप से खुलासा नहीं किए गए थे, समान परियोजनाओं ने ओपन-सोर्स फ्रेमवर्क का उपयोग किया है जो स्थिरता के लिए Residual Network (ResNet) और Batch Normalization का लाभ उठाते हैं।
सार्वजनिक और कॉर्पोरेट प्रतिक्रिया
फेसबुक ने उस समय अपनी नीतियों के अनुरूप, वीडियो को हेरफेर किए गए मीडिया के रूप में फ्लैग करके प्रतिक्रिया दी। कंपनी के स्वतंत्र तथ्य-जांच भागीदारों ने सामग्री की समीक्षा की और इसे झूठा दर्जा दिया, जिससे इसके प्लेटफार्मों पर वितरण कम हो गया। हालांकि, वीडियो अन्य साइटों, जैसे ट्विटर और यूट्यूब पर प्रसारित होता रहा, जहां मॉडरेशन नीतियां भिन्न थीं। इस घटना ने सिंथेटिक मीडिया के लिए बेहतर पहचान उपकरणों और नियामक ढांचे की आवश्यकता पर चर्चा को बढ़ावा दिया। MIT CSAIL और Stanford AI Lab जैसे संस्थानों के शोधकर्ता पहले से ही डीपफेक की पहचान करने के तरीके विकसित कर रहे थे, अक्सर हेरफेर की गई सामग्री के ज्ञात उदाहरणों पर प्रशिक्षित Machine learning क्लासिफायर का उपयोग करते हुए।
व्यापक निहितार्थ
जुकरबर्ग डीपफेक सार्वजनिक हस्तियों, जिनमें राजनेता और मशहूर हस्तियां शामिल हैं, से जुड़ी समान घटनाओं की एक लहर का हिस्सा था। इसने Artificial intelligence प्रौद्योगिकियों की दोहरे-उपयोग प्रकृति को उजागर किया, जिनका उपयोग रचनात्मक उद्देश्यों, जैसे फिल्म निर्माण और मनोरंजन के लिए किया जा सकता है, लेकिन दुष्प्रचार अभियानों जैसी दुर्भावनापूर्ण गतिविधियों के लिए भी। वीडियो ने डिजिटल साक्ष्य की प्रामाणिकता और मीडिया में विश्वास के क्षरण के बारे में प्रश्न उठाए। प्रतिक्रिया में, Google DeepMind और OpenAI सहित कई तकनीकी कंपनियों ने सिंथेटिक मीडिया पहचान और वॉटरमार्किंग तकनीकों पर शोध में निवेश किया। इस घटना ने नीति चर्चाओं को भी प्रभावित किया, कुछ सरकारों ने एआई-जनित सामग्री के लेबलिंग की आवश्यकता के लिए कानून पर विचार किया।
विरासत और निरंतर प्रासंगिकता
2020 के दशक के मध्य तक, डीपफेक तकनीक अधिक परिष्कृत हो गई है, जिसमें Large language model और Transformer (architecture) आर्किटेक्चर न केवल दृश्य हेरफेर बल्कि यथार्थवादी पाठ निर्माण को भी सक्षम करते हैं। 2021 का जुकरबर्ग वीडियो अकादमिक साहित्य में अक्सर सिंथेटिक मीडिया के शासन की चुनौतियों में एक केस स्टडी के रूप में उद्धृत किया जाता है। यह मीडिया साक्षरता के महत्व और मजबूत सत्यापन विधियों की आवश्यकता की याद दिलाता है। जबकि विशिष्ट वीडियो को खारिज कर दिया गया था, इसने गोपनीयता, सहमति और झूठी जानकारी के प्रसार के बारे में जो अंतर्निहित मुद्दे उठाए, वे अनसुलझे बने हुए हैं, जिन्हें संबोधित करने के लिए शोधकर्ताओं और नीति निर्माताओं द्वारा चल रहे प्रयास जारी हैं।