DeepNude एक सॉफ्टवेयर एप्लिकेशन था जिसे जून 2019 में जारी किया गया था, जो डीप लर्निंग तकनीकों, विशेष रूप से जनरेटिव एडवरसैरियल नेटवर्क (GAN) आर्किटेक्चर का उपयोग करके महिलाओं की तस्वीरों से स्वचालित रूप से कपड़े हटाने और यथार्थवादी नग्न छवियां बनाने का काम करता था। यह ऐप गैर-सहमति वाले छवि हेरफेर की संभावना के लिए कुख्यात हो गया, जिसे अक्सर "डीपफेक" कहा जाता है, और शोधकर्ताओं, कार्यकर्ताओं और जनता द्वारा व्यापक रूप से निंदा की गई। इसके निर्माता, एक डेवलपर जिसने छद्म नाम "अल्बर्टो" का उपयोग किया, ने सार्वजनिक रिलीज़ के कुछ दिनों के भीतर एप्लिकेशन को ऑफ़लाइन कर दिया, लेकिन कोड और समान उपकरण ऑनलाइन प्रसारित होते रहे।
यह एप्लिकेशन न्यूरल नेटवर्क पर आधारित था, जिसे नग्न और गैर-नग्न छवियों के एक बड़े डेटासेट पर प्रशिक्षित किया गया था। यह इनपुट तस्वीरों को U-Net-शैली आर्किटेक्चर के माध्यम से संसाधित करता था, जो कन्वोल्यूशनल न्यूरल नेटवर्क का एक प्रकार है जो आमतौर पर छवि विभाजन और निर्माण कार्यों के लिए उपयोग किया जाता है। सिस्टम अंतर्निहित शरीर संरचना और त्वचा बनावट की भविष्यवाणी और संश्लेषण करता था, फिर इसे मूल छवि पर ओवरले करता था, जिससे एक प्रशंसनीय लेकिन अक्सर अपूर्ण परिणाम उत्पन्न होता था। DeepNude शुरू में एक मुफ्त डाउनलोड के रूप में पेश किया गया था, जिसमें एक भुगतान संस्करण था जो वॉटरमार्क हटाता था और उच्च-रिज़ॉल्यूशन आउटपुट प्रदान करता था।
विकास और रिलीज़
DeepNude को एक एकल व्यक्ति द्वारा विकसित किया गया था, जिसे बाद में एस्टोनिया में रहने वाले एक 27 वर्षीय रूसी इंजीनियर के रूप में पहचाना गया। डेवलपर ने दावा किया कि उसने सार्वजनिक रूप से उपलब्ध डेटासेट और एक उच्च-अंत ग्राफिक्स कार्ड का उपयोग करके मॉडल को प्रशिक्षित करने में कई महीने बिताए। ऐप पहली बार जून 2019 की शुरुआत में एक निजी Discord सर्वर पर साझा किया गया था, फिर 19 जून, 2019 को एक वेबसाइट के माध्यम से सार्वजनिक रूप से जारी किया गया, जो पूर्ण संस्करण के लिए $50 शुल्क लेती थी। कुछ दिनों के भीतर, इसे हजारों बार डाउनलोड किया गया, और इसके अस्तित्व को प्रमुख प्रौद्योगिकी समाचार आउटलेट्स द्वारा कवर किया गया।
यह रिलीज़ डीपफेक तकनीक के बारे में बढ़ती सार्वजनिक जागरूकता के साथ मेल खाती थी, जिसका उपयोग पहले मशहूर हस्तियों और निजी व्यक्तियों की गैर-सहमति वाली पोर्नोग्राफिक वीडियो बनाने के लिए किया गया था। DeepNude इस तरह के हेरफेर को व्यापक दर्शकों के लिए सुलभ बनाने के लिए उल्लेखनीय था, क्योंकि इसमें एक तस्वीर अपलोड करने से परे कोई तकनीकी कौशल की आवश्यकता नहीं थी। डेवलपर ने शुरू में ऐप को एक "मजेदार" उपकरण के रूप में बचाव किया, लेकिन व्यापक आलोचना और कानूनी धमकियों के बाद जल्दी से अपना रुख बदल दिया।
नैतिक और कानूनी विवाद
ऐप की निंदा MIT CSAIL शोधकर्ता एलेक्सी एफ्रोस ने की, जिन्होंने इसे गोपनीयता और सहमति के लिए एक "दुःस्वप्न" कहा। कार्नेगी मेलन विश्वविद्यालय के प्रोफेसर हनी फरीद ने इसे "महिलाओं के खिलाफ एक हथियार" के रूप में वर्णित किया। इलेक्ट्रॉनिक फ्रंटियर फाउंडेशन और अन्य डिजिटल अधिकार समूहों ने उत्पीड़न, ब्लैकमेल और प्रतिष्ठा क्षति की संभावना को उजागर करते हुए बयान जारी किए। यूनाइटेड किंगडम और ऑस्ट्रेलिया सहित कई देशों में ऐसी छवियों के निर्माण और वितरण पर लागू होने वाले कानून थे, हालांकि ऐप के छोटे जीवनकाल के कारण प्रवर्तन जटिल था।
27 जून, 2019 को, डेवलपर ने घोषणा की कि वह "दुरुपयोग की संभावना" का हवाला देते हुए सेवा बंद कर रहा है और ग्राहकों को धनवापसी कर रहा है। उन्होंने यह भी कहा कि उन्हें धमकियां मिली थीं और ऐप "बहुत आगे निकल गया था।" हालांकि, स्रोत कोड शीघ्र ही लीक हो गया, जिससे दूसरों को समान उपकरणों को फिर से बनाने और वितरित करने की अनुमति मिली। 2023 तक, समान कार्यक्षमता प्रदान करने वाले कई ओपन-सोर्स प्रोजेक्ट और वाणिज्यिक सेवाएं अलग-अलग नामों के तहत सामने आई हैं, और अंतर्निहित तकनीकों को व्यापक जनरेटिव AI अनुसंधान में शामिल किया गया है।
तकनीकी विवरण
DeepNude का मुख्य मॉडल एक GAN था जिसमें एक जनरेटर और एक विभेदक शामिल था। जनरेटर को कपड़े पहने इनपुट से यथार्थवादी नग्न छवियां उत्पन्न करने के लिए प्रशिक्षित किया गया था, जबकि विभेदक को वास्तविक और उत्पन्न नग्न छवियों के बीच अंतर करने के लिए प्रशिक्षित किया गया था। प्रशिक्षण डेटासेट में वयस्क वेबसाइटों और अन्य स्रोतों से स्क्रैप की गई छवियां शामिल थीं, जिसने अतिरिक्त कॉपीराइट और सहमति मुद्दों को उठाया। मॉडल 256×256 पिक्सेल के रिज़ॉल्यूशन पर संचालित होता था, जिसने आउटपुट की गुणवत्ता को सीमित कर दिया लेकिन इसे उपभोक्ता हार्डवेयर पर चलाने के लिए पर्याप्त तेज़ बना दिया।
ऐप ने जनरेटर बैकबोन के रूप में U-Net का उपयोग किया, जो स्थानिक विवरणों को संरक्षित करने में प्रभावी है। इसने सामान्यीकरण में सुधार के लिए डेटा ऑग्मेंटेशन नामक तकनीक भी नियोजित की, जिसमें यादृच्छिक रोटेशन, फ्लिप और रंग समायोजन शामिल थे। अंतिम आउटपुट को किनारों को मिश्रित करने और कलाकृतियों को कम करने के लिए पोस्ट-प्रोसेस किया गया था। डेवलपर ने नोट किया कि मॉडल जटिल पृष्ठभूमि, असामान्य मुद्राओं या गैर-कोकेशियान त्वचा टोन वाली छवियों पर खराब प्रदर्शन करता था, जो प्रशिक्षण डेटा में पूर्वाग्रहों को दर्शाता है।
विरासत और प्रभाव
DeepNude घटना कृत्रिम बुद्धिमत्ता और मशीन लर्निंग की नैतिकता में एक महत्वपूर्ण केस स्टडी बन गई। इसने जनरेटिव मॉडल की दोहरे-उपयोग प्रकृति को उजागर किया, जिसका उपयोग रचनात्मक उद्देश्यों के लिए किया जा सकता है लेकिन नुकसान के लिए भी। प्रतिक्रिया में, OpenAI और Google DeepMind सहित कई प्रौद्योगिकी कंपनियों और अनुसंधान संस्थानों ने अपनी सामग्री मॉडरेशन नीतियों को मजबूत किया और कुछ मॉडलों की रिलीज़ को प्रतिबंधित किया। बर्कले AI रिसर्च प्रयोगशाला और अन्य शैक्षणिक समूहों ने डीपफेक का पता लगाने और शमन पर पेपर प्रकाशित किए।
ऐप ने विधायी प्रयासों को भी तेज किया। 2019 में, अमेरिकी राज्य वर्जीनिया ने गैर-सहमति वाले डीपफेक पोर्नोग्राफी के निर्माण को अपराध घोषित करने वाला कानून पारित किया, और अन्य राज्यों और देशों में समान कानून बनाए गए। कार्नेगी मेलन विश्वविद्यालय और स्टैनफोर्ड AI लैब ने तब से पहचान उपकरण विकसित किए हैं जो सोशल मीडिया प्लेटफार्मों द्वारा उपयोग किए जाते हैं। 2024 तक, "डीपन्यूड" शब्द एक सामान्य खोज क्वेरी बना हुआ है, और मूल वेबसाइट निष्क्रिय है, लेकिन अंतर्निहित तकनीक विकसित होती रहती है, अक्सर बड़े भाषा मॉडल और मल्टीमॉडल सिस्टम के संदर्भ में।