डीपफेक सिंथेटिक मीडिया का एक टुकड़ा है, जो अक्सर वीडियो या ऑडियो होता है, जिसे गहन शिक्षण तकनीकों का उपयोग करके उत्पन्न या हेरफेर किया गया होता है ताकि किसी वास्तविक व्यक्ति को ऐसा कुछ कहते या करते हुए विश्वसनीय रूप से चित्रित किया जा सके जो उन्होंने वास्तव में नहीं कहा या किया हो। यह शब्द डीप लर्निंग और फेक का एक पोर्टमैंटू है, और इसकी उत्पत्ति 2017 के अंत में एक रेडिट फोरम पर हुई थी, जहाँ एक उपयोगकर्ता जिसका नाम deepfakes था, ने शुरुआती जनरेटिव एडवर्सेरियल नेटवर्क-आधारित चेहरे-अदला-बदली उपकरणों का उपयोग करके चेहरे-बदले हुए वीडियो पोस्ट किए, शुरू में मशहूर हस्तियों के।
डीपफेक तकनीक 2010 के दशक के अंत और 2020 के दशक की शुरुआत में तेजी से उन्नत हुई, कच्चे, आसानी से पहचाने जाने वाले चेहरे के आदान-प्रदान से अत्यधिक सम्मोहक वीडियो और तेजी से, वास्तविक समय के आवाज क्लोनिंग और पूरे शरीर के संश्लेषण की ओर बढ़ते हुए, जिससे गैर-सहमति वाली अश्लील सामग्री, राजनीतिक गलत सूचना और धोखाधड़ी से संबंधित चिंताएँ उठीं।
तकनीकें
शुरुआती डीपफेक मुख्य रूप से ऑटोएन्कोडर-आधारित चेहरे-अदला-बदली का उपयोग करते थे, दो लोगों के फुटेज पर एक साझा एन्कोडर और अलग-अलग डिकोडर को प्रशिक्षित करते हुए ताकि एक व्यक्ति के भाव दूसरे के चेहरे पर मैप किए जा सकें। जीएएन-आधारित तरीकों ने एक जनरेटर को एक भेदभावकर्ता के खिलाफ खड़ा करके यथार्थवाद को और बेहतर बनाया, जिसे नकली का पता लगाने के लिए प्रशिक्षित किया गया था। 2020 के दशक के मध्य तक, डिफ्यूजन मॉडल उच्च-गुणवत्ता वाले सिंथेटिक वीडियो और छवि निर्माण के लिए प्रमुख तकनीक बन गए थे, और समर्पित चेहरे-अदला-बदली और लिप-सिंक उपकरण, सामान्य-उद्देश्यीय टेक्स्ट-टू-वीडियो प्रणालियों के साथ, एक सम्मोहक नकली वीडियो बनाने को प्रौद्योगिकी के शुरुआती वर्षों की तुलना में काफी सस्ता और तेज़ बना दिया।
दुर्भावनापूर्ण और वैध उपयोग
प्रलेखित दुर्भावनापूर्ण अनुप्रयोगों में गैर-सहमति वाली अंतरंग कल्पना शामिल है, जो सबसे पहला और अभी भी सबसे आम रिपोर्ट किया गया उपयोग मामला है, राजनीतिक गलत सूचना जैसे कि चुनावों के आसपास जारी सार्वजनिक हस्तियों द्वारा निर्मित बयान, और वित्तीय धोखाधड़ी, जिसमें 2024 का एक व्यापक रूप से रिपोर्ट किया गया मामला शामिल है जिसमें एक बहुराष्ट्रीय फर्म में एक वित्त कर्मचारी को डीपफेक अधिकारियों की विशेषता वाली वीडियो कॉल द्वारा लाखों डॉलर वायर करने के लिए धोखा दिया गया था। डीपफेक तकनीक के स्वीकृत वैध अनुप्रयोग भी हैं, जिनमें फिल्म डबिंग और डी-एजिंग प्रभाव, पहुंच उपकरण शामिल हैं जो उन लोगों के लिए एक सिंथेटिक आवाज उत्पन्न करते हैं जिन्होंने अपनी आवाज खो दी है, और व्यंग्य जो कुछ न्यायक्षेत्रों में मुक्त अभिव्यक्ति के रूप में संरक्षित है।
पहचान और प्रतिवाद
डीपफेक का पता लगाना एक सक्रिय शोध क्षेत्र बन गया है, जो असंगत पलक झपकना, अप्राकृतिक चेहरे की ज्यामिति, या सूक्ष्म ऑडियो-विज़ुअल बेमेल जैसी कलाकृतियों का उपयोग करता है, हालांकि पहचान सटीकता पीढ़ी की गुणवत्ता के साथ तालमेल रखने के लिए संघर्ष कर रही है, विशेष रूप से उच्चतम-स्तरीय मॉडलों के लिए। वॉटरमार्किंग और सामग्री-उत्पत्ति मानकों को पूरक बचाव के रूप में प्रस्तावित किया गया है जो पीढ़ी की कलाकृतियों को देखने पर निर्भर नहीं हैं। कई न्यायक्षेत्रों ने 2020 के दशक के मध्य में विशेष रूप से डीपफेक को विनियमित करने के लिए कदम उठाए, जिसमें चुनाव-संबंधी और गैर-सहमति वाले अंतरंग डीपफेक को लक्षित करने वाले अमेरिकी राज्य-स्तरीय कानून और ईयू एआई अधिनियम के भीतर एआई-जनित मीडिया के प्रकटीकरण की आवश्यकता वाले प्रावधान शामिल हैं, हालांकि सीमाओं के पार प्रवर्तन मुश्किल बना रहा क्योंकि ऐसी सामग्री का उत्पादन और वितरण कितना आसान है।
प्रभाव
विशिष्ट हानिकारक घटनाओं से परे, शोधकर्ताओं और पत्रकारों ने एक व्यापक झूठे के लाभांश का वर्णन किया है: जैसे-जैसे जनता को पता चलता है कि सम्मोहक नकली वीडियो और ऑडियो संभव हैं, वास्तविक फुटेज को निर्मित के रूप में खारिज किया जा सकता है, सामान्य रूप से प्रामाणिक साक्ष्य में विश्वास को कमजोर करते हुए। इस गतिशीलता को मृत इंटरनेट सिद्धांत के विकास में एक कारक के रूप में उद्धृत किया गया है और जनरेटिव एआई युग में ऑनलाइन मीडिया की विश्वसनीयता के बारे में संबंधित प्रवचन।