Stable Diffusion XL (SDXL) एक गहन शिक्षण (deep learning) आधारित टेक्स्ट-टू-इमेज मॉडल है, जिसे Stability AI द्वारा जुलाई 2023 में जारी किया गया था। यह मूल Stable Diffusion मॉडल का एक उन्नत संस्करण है, जिसे उच्च-रिज़ॉल्यूशन वाली छवियों को अधिक विवरण और रचनात्मक सटीकता के साथ उत्पन्न करने के लिए डिज़ाइन किया गया है। SDXL व्यापक जनरेटिव एआई उछाल का हिस्सा है और डिफ्यूजन मॉडल में एक महत्वपूर्ण प्रगति का प्रतिनिधित्व करता है, जिससे उच्च-गुणवत्ता वाली छवि संश्लेषण व्यापक दर्शकों के लिए सुलभ हो गया है।
यह मॉडल मुख्य रूप से टेक्स्ट विवरणों के आधार पर विस्तृत छवियाँ उत्पन्न करने के लिए उपयोग किया जाता है, लेकिन यह इनपेंटिंग, आउटपेंटिंग, और टेक्स्ट प्रॉम्प्ट द्वारा निर्देशित इमेज-टू-इमेज अनुवाद जैसे कार्यों का भी समर्थन करता है। DALL-E और Midjourney जैसी पहले की स्वामित्व वाली प्रणालियों के विपरीत, जो केवल क्लाउड सेवाओं के माध्यम से सुलभ थीं, SDXL का कोड और वेट सार्वजनिक रूप से जारी किए गए थे, जिससे इसे मामूली GPUs वाले उपभोक्ता हार्डवेयर पर चलाना संभव हो गया। इस खुलेपन ने पिछले टेक्स्ट-टू-इमेज मॉडल से एक बदलाव को चिह्नित किया और स्टेबल डिफ्यूजन प्रौद्योगिकियों के तेजी से अपनाने में योगदान दिया।
विकास
SDXL को Stability AI द्वारा LMU म्यूनिख के CompVis समूह और Runway के शोधकर्ताओं के सहयोग से विकसित किया गया था, जिसमें Stability AI से कम्प्यूटेशनल समर्थन और गैर-लाभकारी संगठनों से प्रशिक्षण डेटा प्राप्त हुआ था। यह परियोजना लेटेंट डिफ्यूजन मॉडल (LDM) वास्तुकला पर आधारित थी, जिसका आविष्कार 2021 में LMU म्यूनिख और हीडलबर्ग विश्वविद्यालय के शोधकर्ताओं द्वारा किया गया था, जिनमें रॉबिन रोमबैक, एंड्रियास ब्लैटमैन, पैट्रिक एस्सर और डोमिनिक लोरेंज शामिल थे। ये शोधकर्ता बाद में स्टेबल डिफ्यूजन के बाद के संस्करणों को विकसित करने के लिए Stability AI में शामिल हो गए।
मॉडल के लिए तकनीकी लाइसेंस CompVis समूह द्वारा जारी किया गया था, और विकास का नेतृत्व Runway के पैट्रिक एस्सर और CompVis के रॉबिन रोमबैक ने किया था। Stability AI ने EleutherAI और LAION, एक जर्मन गैर-लाभकारी संगठन जिसने प्रशिक्षण डेटासेट तैयार किया था, को समर्थकों के रूप में श्रेय दिया। SDXL का जारी होना 2022 में मूल स्टेबल डिफ्यूजन की सफलता के बाद हुआ और इसका उद्देश्य रिज़ॉल्यूशन और विवरण में सीमाओं को संबोधित करना था।
प्रौद्योगिकी
वास्तुकला
SDXL डिफ्यूजन मॉडल का एक प्रकार उपयोग करता है जिसे लेटेंट डिफ्यूजन मॉडल (LDMs) कहा जाता है, जिसे 2021 में विकसित किया गया था। डिफ्यूजन मॉडल, जो 2015 में पेश किए गए थे, प्रशिक्षण छवियों से गाऊसी शोर के क्रमिक अनुप्रयोगों को हटाने के लिए प्रशिक्षित किए जाते हैं, जो डीनॉइज़िंग ऑटोएनकोडर के अनुक्रम के रूप में कार्य करते हैं। "डिफ्यूजन" नाम थर्मोडायनामिक डिफ्यूजन से आया है, क्योंकि मॉडल थर्मोडायनामिक्स से प्रेरित थे।
SDXL में तीन मुख्य भाग होते हैं: एक वैरिएशनल ऑटोएनकोडर (VAE), एक U-Net, और एक वैकल्पिक टेक्स्ट एनकोडर। VAE एनकोडर एक छवि को पिक्सेल स्पेस से छोटे आयाम वाले लेटेंट स्पेस में संपीड़ित करता है, जो छवि के शब्दार्थ अर्थ को पकड़ता है। फॉरवर्ड डिफ्यूजन के दौरान संपीड़ित लेटेंट प्रतिनिधित्व पर गाऊसी शोर पुनरावृत्त रूप से लागू किया जाता है। U-Net ब्लॉक, जो एक ResNet बैकबोन से बना होता है, आउटपुट को डीनॉइज़ करके एक लेटेंट प्रतिनिधित्व प्राप्त करता है। अंत में, VAE डिकोडर प्रतिनिधित्व को वापस पिक्सेल स्पेस में परिवर्तित करके अंतिम छवि उत्पन्न करता है।
डीनॉइज़िंग चरण को टेक्स्ट, एक छवि, या किसी अन्य मोडैलिटी द्वारा कंडीशन किया जा सकता है। एनकोडेड कंडीशनिंग डेटा को क्रॉस-अटेंशन तंत्र के माध्यम से डीनॉइज़िंग U-Net के संपर्क में लाया जाता है। टेक्स्ट कंडीशनिंग के लिए, SDXL एक के बजाय दो टेक्स्ट एनकोडर का उपयोग करता है, जो जटिल प्रॉम्प्ट को समझने की मॉडल की क्षमता में सुधार करता है। बड़ा क्रॉस-अटेंशन संदर्भ और मल्टी-आस्पेक्ट अनुपात प्रशिक्षण SDXL को पिछले संस्करणों के वर्ग प्रारूप के बजाय विभिन्न रिज़ॉल्यूशन पर छवियाँ उत्पन्न करने की अनुमति देता है।
U-Net में 860 मिलियन पैरामीटर और टेक्स्ट एनकोडर में 123 मिलियन पैरामीटर के साथ, SDXL अपने युग के अन्य मॉडलों की तुलना में अपेक्षाकृत हल्का है, जिससे यह केवल 2.4 GB VRAM वाले उपभोक्ता GPUs पर चल सकता है। एक अनुकूलित संस्करण OpenVINO का उपयोग करके केवल CPU पर भी चल सकता है।
SD XL रिफाइनर
SDXL के साथ, Stability AI ने SD XL रिफाइनर भी जारी किया, जिसकी वास्तुकला समान है लेकिन इसे विशेष रूप से टेक्स्ट-कंडीशनल इमेज-टू-इमेज अनुवाद के माध्यम से मौजूदा छवियों में बारीक विवरण जोड़ने के लिए प्रशिक्षित किया गया था। यह रिफाइनर मॉडल उपयोगकर्ताओं को उत्पन्न छवियों को पुनरावृत्त रूप से बढ़ाने की अनुमति देता है।
प्रशिक्षण डेटा
SDXL को LAION-5B से छवियों और कैप्शन के जोड़े पर प्रशिक्षित किया गया था, जो वेब से स्क्रैप किए गए Common Crawl डेटा से प्राप्त एक सार्वजनिक रूप से उपलब्ध डेटासेट है। डेटासेट में 5 बिलियन इमेज-टेक्स्ट जोड़े हैं, जिन्हें भाषा, रिज़ॉल्यूशन, वॉटरमार्क संभावना और सौंदर्य स्कोर द्वारा फ़िल्टर किया गया है। प्रशिक्षण में तीन उपसमुच्चयों का उपयोग किया गया: laion2B-en, laion-high-resolution, और laion-aesthetics v2 5+। अंतिम उपसमुच्चय में 600 मिलियन छवियाँ शामिल हैं जिनका अनुमानित सौंदर्य स्कोर 10 में से कम से कम 5 है, जिसमें कम-रिज़ॉल्यूशन वाली छवियाँ और वॉटरमार्क वाली छवियाँ शामिल नहीं हैं।
प्रशिक्षण डेटा के एक तृतीय-पक्ष विश्लेषण से पता चला कि 12 मिलियन छवियों के एक छोटे उपसमुच्चय का लगभग 47% 100 विभिन्न डोमेन से आया था, जिसमें Pinterest का हिस्सा 8.5% था, उसके बाद WordPress, Blogspot, Flickr, DeviantArt और Wikimedia Commons थे। Bayerischer Rundfunk की एक जांच में पाया गया कि LAION के डेटासेट में बड़ी मात्रा में निजी और संवेदनशील डेटा था, जिससे गोपनीयता संबंधी चिंताएँ उठीं।
प्रशिक्षण प्रक्रियाएँ
मॉडल को शुरू में laion2B-en और laion-high-resolution पर प्रशिक्षित किया गया था, जिसमें अंतिम चरण LAION-Aesthetics v2 5+ पर थे। प्रशिक्षण में क्लासिफायर-फ्री डिफ्यूजन गाइडेंस में सुधार के लिए 10% टेक्स्ट कंडीशनिंग को हटा दिया गया। SDXL को Amazon Web Services पर 256 Nvidia A100 GPUs का उपयोग करके कुल 150,000 GPU-घंटे के लिए प्रशिक्षित किया गया था, जिसकी लागत $600,000 थी।
सीमाएँ
अन्य डिफ्यूजन मॉडल की तरह, SDXL की भी सीमाएँ हैं, जिनमें कुछ परिदृश्यों में गिरावट की समस्याएँ शामिल हैं। यह बारीक विवरणों, जैसे हाथ या टेक्स्ट, के साथ संघर्ष कर सकता है और कलाकृतियाँ उत्पन्न कर सकता है। मॉडल का प्रशिक्षण डेटा भी पूर्वाग्रहों और संभावित गोपनीयता मुद्दों को पेश करता है, जैसा कि जांचों में नोट किया गया है। अपने जारी होने के समय, SDXL को पिछले संस्करणों की तुलना में एक महत्वपूर्ण सुधार माना जाता था, लेकिन इष्टतम परिणामों के लिए अभी भी सावधानीपूर्वक प्रॉम्प्ट इंजीनियरिंग की आवश्यकता थी।
प्रभाव
SDXL के जारी होने ने उच्च-गुणवत्ता वाले टेक्स्ट-टू-इमेज जनरेशन को लोकतांत्रिक बनाकर एआई उछाल में योगदान दिया। इसकी खुली उपलब्धता ने डेवलपर्स और कलाकारों को इसे कला निर्माण से लेकर डिज़ाइन तक विभिन्न अनुप्रयोगों में एकीकृत करने की अनुमति दी। मॉडल की वास्तुकला ने लेटेंट डिफ्यूजन और ट्रांसफॉर्मर-आधारित मॉडलों में बाद के विकास को प्रभावित किया, जिसमें बाद का SD 3.0 भी शामिल है, जिसने U-Net को एक रेक्टिफाइड फ्लो ट्रांसफॉर्मर से बदल दिया।
SDXL ने कॉपीराइट, नैतिकता और जनरेटिव एआई के सामाजिक प्रभाव के बारे में चर्चाओं को भी जन्म दिया, क्योंकि इसने यथार्थवादी छवियों के व्यापक निर्माण को सक्षम किया। वेब से प्राप्त इसका प्रशिक्षण डेटा सहमति और डेटा उपयोग के बारे में प्रश्न उठाता है, जिससे एआई समुदाय में चल रही बहसें हुईं।
यह भी देखें
- स्टेबल डिफ्यूजन सार्वजनिक रिलीज़
- डिफ्यूजन मॉडल पेपर
- CLIP
- वैरिएशनल ऑटोएनकोडर
- U-Net
- ResNet
- अटेंशन तंत्र
- LAION
- EleutherAI
- Runway
- रॉबिन रोमबैक
- Stability AI