जून 2019 में, मेटा प्लेटफॉर्म्स (तब फेसबुक) के सीईओ मार्क जुकरबर्ग को दर्शाती एक छेड़छाड़ की गई वीडियो सोशल मीडिया पर व्यापक रूप से प्रसारित हुई, जो डीपफेक तकनीक के मुख्यधारा के सार्वजनिक विमर्श में प्रवेश के शुरुआती उदाहरणों में से एक बन गई। यह क्लिप, जो लगभग एक मिनट की थी, में जुकरबर्ग को अपने उपयोगकर्ताओं पर फेसबुक की शक्ति के बारे में अप्राकृतिक ढंग से एक एकालाप देते हुए दिखाया गया था। यह वीडियो जुकरबर्ग या उनकी कंपनी द्वारा निर्मित नहीं थी, बल्कि कलाकारों और एक डिजिटल प्रभाव स्टूडियो द्वारा सिंथेटिक मीडिया के खतरों के प्रदर्शन के रूप में बनाई गई थी।
यह वीडियो ब्रिटिश डिजिटल कलाकार बिल पोस्टर्स द्वारा, विज्ञापन एजेंसी के सहयोग से तैयार की गई थी... दृश्य हेरफेर का स्रोत एक कस्टम डीप-लर्निंग सिस्टम था, जो Artificial intelligence का एक रूप है जो यथार्थवादी छवियों और आवाज़ों को संश्लेषित कर सकता है। यह काम यूनाइटेड किंगडम में शेफील्ड डॉक/फेस्ट में एक प्रदर्शनी के लिए कमीशन किया गया था, जहाँ इसे ऑनलाइन जारी करने से पहले प्रस्तुत किया गया था।
निर्माण और तकनीकी आधार
रचनाकारों ने जुकरबर्ग के चेहरे की गतिविधियों को एक वास्तविक, ... से मैप करने के लिए Neural network के रूप में ज्ञात एक मशीन-लर्निंग तकनीक का उपयोग किया। परिणामी वीडियो ने दृश्य ट्रैक और ऑडियो दोनों में हेरफेर किया, जिसमें एक वॉयस-ओवर था जो जुकरबर्ग के प्राकृतिक भाषण पैटर्न से मेल नहीं खाता था। अंतर्निहित तकनीक ने Deep learning और Generative AI में प्रगति पर आधारित थी, जो पिछले दशक में शैक्षणिक और औद्योगिक अनुसंधान सेटिंग्स में विकसित की गई थी। यह वीडियो एक साधारण संपादन नहीं था, बल्कि एक सिंथेटिक पुनर्निर्माण था, जो दिखाता था कि डीपफेक एल्गोरिदम को सार्वजनिक हस्तियों पर उनकी सहमति के बिना कैसे लागू किया जा सकता है।
यह टुकड़ा पोस्टर्स की श्रृंखला "द फ्यूचर ऑफ वॉर" का हिस्सा था, जिसमें पूर्व अमेरिकी राष्ट्रपति बराक ओबामा का एक डीपफेक और स्पाइस गर्ल्स की काल्पनिक रानी का एक भाषण भी शामिल था। जुकरबर्ग वीडियो के लिए, टीम ने एक फेस-स्वैप तकनीक का उपयोग किया जो जुकरबर्ग की उपस्थिति के सार्वजनिक डेटासेट पर निर्भर थी, जिसमें समाचार साक्षात्कारों और भाषणों से उनके भाव और होंठों की गतिविधियों को कैद किया गया था।
सार्वजनिक और व्यावसायिक प्रतिक्रिया
रिलीज़ होने पर, वीडियो इंस्टाग्राम सहित प्लेटफार्मों पर वायरल हो गई, जिसे जुकरबर्ग... जवाब में, फेसबुक ने वीडियो को हटाने से इनकार कर दिया, यह कहते हुए कि यह उसकी नीति के अनुसार है कि ऐसी सामग्री को नहीं हटाया जाए जो मानहानिकारक नहीं है या सामुदायिक मानकों का उल्लंघन नहीं करती है, भले ही वह भ्रामक हो। कंपनी ने एक तथ्य-जांच लेबल जोड़ा जिसने वीडियो को "झूठा" बताया और तीसरे पक्ष के सत्यापन संगठन से संदर्भ प्रदान किया। यह निर्णय प्लेटफ़ॉर्म द्वारा नैन्सी पेलोसी की एक अलग डीपफेक वीडियो को हटाने के पहले के कदम के विपरीत था, जिसे धीमा कर दिया गया था ताकि वह असंगत रूप से बोलती हुई दिखे।
यह प्रकरण प्लेटफ़ॉर्म शासन और सिंथेटिक मीडिया के प्रसार पर बहस में एक संदर्भ बिंदु बन गया। इसने सामग्री मॉडरेशन की सीमाओं को उजागर किया, क्योंकि प्लेटफ़ॉर्म अभिव्यक्ति की स्वतंत्रता और हेरफेर की संभावना के बीच संतुलन बनाने के लिए संघर्ष कर रहे थे। बाद में, 2020 में, फेसबुक ने भ्रामक छेड़छाड़ वाली वीडियो पर प्रतिबंध लगाने के लिए अपनी नीतियों को अद्यतन किया जो गंभीर नुकसान पहुंचा सकती हैं, हालांकि 2019 की घटना ऐसे नियमों को लागू करने की चुनौतियों का एक केस स्टडी बनी रही।
सिंथेटिक मीडिया के लिए व्यापक निहितार्थ
यह वीडियो अक्सर डीपफेक के सामाजिक जोखिमों पर चर्चा में उद्धृत किया जाता है, जिसमें राजनीतिक दुष्प्रचार, गैर-सहमति वाली अश्लील सामग्री और वित्तीय धोखाधड़ी में उनके संभावित उपयोग शामिल हैं। शोधकर्ताओं और नीति निर्माताओं ने कहा कि जबकि जुकरबर्ग क्लिप व्यंग्य का एक काम था, अंतर्निहित तकनीक का उपयोग दुर्भावनापूर्ण इरादे से किया जा सकता है। इसने स्वचालित पहचान की कठिनाई को भी रेखांकित किया, क्योंकि यह वीडियो कई दर्शकों को धोखा देने के लिए पर्याप्त आश्वस्त करने वाला था।
इस घटना ने डीपफेक पहचान पर शैक्षणिक अनुसंधान की लहर में योगदान दिया, जिसमें MIT CSAIL और Stanford AI Lab जैसे संस्थानों ने छेड़छाड़ की गई मीडिया की पहचान के लिए एल्गोरिदम विकसित किए। इसने वकालत समूहों और विधायी प्रयासों के काम को भी सूचित किया, जिसमें अमेरिकी कांग्रेस में भ्रामक सिंथेटिक मीडिया को अपराधीकृत करने के प्रस्ताव शामिल थे। बाद के वर्षों में, Large language model और अन्य जनरेटिव टूल के तेजी से विकास ने सिंथेटिक सामग्री के दायरे का विस्तार किया, जिससे 2019 की वीडियो प्रारंभिक पीढ़ी के डीपफेक का एक पुराना लेकिन शिक्षाप्रद उदाहरण बन गई।
विरासत और बाद के विकास
पीछे मुड़कर देखने पर, यह वीडियो एआई-जनित सामग्री की सार्वजनिक समझ में एक बेंचमार्क के रूप में पहचाना जाता है। इसने प्रदर्शित किया कि तकनीक अब अनुसंधान प्रयोगशालाओं तक सीमित नहीं थी, बल्कि ओपन-सोर्स टूल तक पहुंच वाले कलाकारों और शौकीनों द्वारा तैनात की जा सकती थी। रचनाकारों ने बाद में 202惯 में जुकरबर्ग का एक अनुवर्ती डीपफेक जारी किया, और मूल वीडियो अपने तथ्य-जांच लेबल के साथ यूट्यूब जैसे प्लेटफार्मों पर संग्रहीत बनी हुई है।
इस घटना ने डिजिटल सामग्री के लिए उत्पत्ति मानकों के विकास को भी तेज किया, जैसे कि कंटेंट ऑथेंटिसिटी इनिशिएटिव, जिसे एडोब द्वारा सह-स्थापित किया गया था और अंततः प्रमुख तकनीकी फर्मों द्वारा अपनाया गया। 2020 के दशक के मध्य तक, एआई-जनित छवियों और वीडियो के प्रसार ने वॉटरमार्किंग और पारदर्शिता उपायों के लिए व्यापक आह्वान किया, जिसमें जुकरबर्ग क्लिप अक्सर उन चर्चाओं में एक प्रारंभिक संदर्भ बिंदु के रूप में काम करती थी।
यह भी देखें
- जनरेटिव एआई - एआई सुरक्षा (सूची में नहीं) - डीपफेक-पहचान (सूची में नहीं)
नोट: दिए गए लिंक निर्दिष्ट सूची तक सीमित हैं; कई संबंधित विषय (जैसे, एआई-सुरक्षा, डीपफेक-पहचान) उपलब्ध स्लग में नहीं हैं, इसलिए केवल दो उपयोग किए गए लिंक शामिल हैं।
संदर्भ
- फीड, एट अल. (2019). हाउ ए डीपफेक ऑफ मार्क जुकरबर्ग वाज़ मेड. द वर्ज. 2. बीबीसी न्यूज़. (2019). मार्क जुकरबर्ग डीपफेक वीडियो: यह क्या है और क्यों मायने रखता है. 3. फेसबुक न्यूज़रूम. (2019). छेड़छाड़ की गई मीडिया पर नीति.
नोट: संदर्भ उदाहरणात्मक हैं और निर्देशों के अनुसार बाहरी यूआरएल के साथ उद्धृत नहीं किए गए हैं।