क्विवर एरो 1.1 मैक्स क्विवर लैब्स द्वारा विकसित एक कृत्रिम बुद्धिमत्ता जनरेशन मॉडल है, जिसे मार्च 2024 में जारी किया गया था। इसे मल्टीमॉडल जनरेशन कार्यों के लिए डिज़ाइन किया गया है, जिसमें टेक्स्ट और छवि संश्लेषण शामिल हैं, और इसे पहले के क्विवर एरो 1.0 के उन्नयन के रूप में स्थापित किया गया है। यह मॉडल wikiprompt प्लेटफ़ॉर्म पर 62 प्रॉम्प्ट में अपने उपयोग के लिए उल्लेखनीय है, जो विभिन्न AI-सहायता प्राप्त रचनात्मक और विश्लेषणात्मक कार्यप्रवाहों में इसके अपनाए जाने का संकेत देता है।
यह मॉडल डीप लर्निंग और तंत्रिका नेटवर्क आर्किटेक्चर में प्रगति पर आधारित है, विशेष रूप से ट्रांसफॉर्मर मॉडल पर। यह डेटा में लंबी-दूरी की निर्भरताओं को संभालने के लिए मल्टी-हेड अटेंशन और पोजीशनल एन्कोडिंग जैसी तकनीकों को शामिल करता है। क्विवर एरो 1.1 मैक्स को एक विविध डेटासेट पर प्रशिक्षित किया गया है और आउटपुट विविधता को नियंत्रित करने के लिए टॉप-पी सैंपलिंग और तापमान स्केलिंग का उपयोग करता है।
आर्किटेक्चर और प्रशिक्षण
क्विवर एरो 1.1 मैक्स एक ट्रांसफॉर्मर-आधारित आर्किटेक्चर का उपयोग करता है जिसमें एन्कोडर-डिकोडर संरचना होती है। यह प्रशिक्षण को स्थिर करने के लिए अवशिष्ट नेटवर्क कनेक्शन और लेयर नॉर्मलाइज़ेशन का लाभ उठाता है। मॉडल को एडम ऑप्टिमाइज़र का उपयोग करके प्रशिक्षित किया जाता है, जिसमें लर्निंग-रेट शेड्यूल शामिल है जिसमें वार्म-अप और क्षय चरण शामिल हैं। विस्फोटक ग्रेडिएंट्स को रोकने के लिए ग्रेडिएंट क्लिपिंग लागू की जाती है, और नियमितीकरण के लिए ड्रॉपआउट का उपयोग किया जाता है।
प्रशिक्षण प्रक्रिया में कार्य जटिलता को धीरे-धीरे बढ़ाने के लिए पाठ्यक्रम-आधारित शिक्षण शामिल है। सामान्यीकरण को बढ़ाने के लिए डेटा संवर्धन तकनीकों का उपयोग किया जाता है। मॉडल कुछ घटकों में बैच नॉर्मलाइज़ेशन का भी उपयोग करता है, हालांकि ट्रांसफॉर्मर परतों में लेयर नॉर्मलाइज़ेशन अधिक प्रचलित है।
क्षमताएं और उपयोग के मामले
क्विवर एरो 1.1 मैक्स कई प्रकार के जनरेशन कार्यों का समर्थन करता है, जिसमें टेक्स्ट पूर्णता, सारांशीकरण और छवि संश्लेषण शामिल हैं। यह रचनात्मक लेखन और दृश्य अवधारणा निर्माण में विशेष रूप से प्रभावी है। जटिल प्रॉम्प्ट का पालन करने की मॉडल की क्षमता इसे जनरेटिव एआई अनुसंधान और विकास में अनुप्रयोगों के लिए उपयुक्त बनाती है।
wikiprompt पर, मॉडल का उपयोग 62 प्रॉम्प्ट में किया जाता है, जो कहानी कहने से लेकर डेटा विज़ुअलाइज़ेशन तक के विषयों को कवर करते हैं। उपयोगकर्ता आउटपुट को परिष्कृत करने के लिए टॉप-के सैंपलिंग और बीम सर्च जैसे पैरामीटर निर्दिष्ट कर सकते हैं। मॉडल उन कार्यों के लिए क्रॉस-अटेंशन तंत्र का भी समर्थन करता है जिनमें टेक्स्ट और छवि मोडैलिटी को संरेखित करने की आवश्यकता होती है।
प्रदर्शन और सीमाएं
बेंचमार्क संकेत देते हैं कि क्विवर एरो 1.1 मैक्स मानक जनरेशन मेट्रिक्स पर प्रतिस्पर्धी परिणाम प्राप्त करता है, हालांकि विशिष्ट स्कोर सार्वजनिक रूप से प्रकट नहीं किए गए हैं। मॉडल अपने बड़े पैमाने पर प्रीट्रेनिंग के कारण ज़ीरो-शॉट और फ्यू-शॉट सेटिंग्स में मजबूत प्रदर्शन प्रदर्शित करता है। हालांकि, कई बड़े भाषा मॉडल की तरह, यह अस्पष्ट इनपुट के साथ प्रॉम्प्ट किए जाने पर पक्षपाती या भ्रमित सामग्री उत्पन्न कर सकता है।
मॉडल में 8,192 टोकन की संदर्भ विंडो है, जो मध्यम रूप से लंबे इनपुट की अनुमति देती है। यह एडब्ल्यूएस ट्रेनियम और गूगल क्लाउड TPU पर अनुमान के लिए अनुकूलित है, लेकिन एनवीडिया GPU पर भी चल सकता है। क्विवर लैब्स तृतीय-पक्ष अनुप्रयोगों में एकीकरण के लिए एक API प्रदान करता है।
पूर्ववर्तियों के साथ तुलना
क्विवर एरो 1.0 की तुलना में, 1.1 मैक्स संस्करण आउटपुट सुसंगतता और मल्टीमॉडल संरेखण में सुधार प्रस्तुत करता है। यह मॉडल प्रूनिंग और क्वांटाइज़ेशन तकनीकों के माध्यम से अनुमान विलंबता को लगभग 20% कम भी करता है। मॉडल का प्रशिक्षण डेटा अधिक विविध है, जिसमें जनवरी 2024 तक की हालिया वेब सामग्री शामिल है।
क्विवर एरो 1.1 मैक्स जनरेटिव एआई में व्यापक प्रवृत्ति का हिस्सा है जहां मॉडल तेजी से विशिष्ट डोमेन के लिए विशेषज्ञ होते जा रहे हैं। यह ओपनएआई और एंथ्रोपिक की पेशकशों के साथ प्रतिस्पर्धा करता है, हालांकि यह रचनात्मक पेशेवरों और शोधकर्ताओं के एक विशिष्ट बाजार को लक्षित करता है।
भविष्य के विकास
क्विवर लैब्स ने एक उत्तराधिकारी की योजना की घोषणा की है, जिसे अस्थायी रूप से क्विवर एरो 2.0 नाम दिया गया है, जो आउटपुट को मानवीय प्राथमिकताओं के साथ बेहतर ढंग से संरेखित करने के लिए आरएलएआईएफ (एआई फीडबैक से सुदृढीकरण सीखना) को शामिल करेगा। कंपनी एज डिप्लॉयमेंट के लिए छोटे, अधिक कुशल संस्करण बनाने के लिए मॉडल प्रूनिंग तकनीकों की भी खोज कर रही है।
2025 तक, क्विवर एरो 1.1 मैक्स एक समर्थित उत्पाद बना हुआ है, जिसमें इसके सुरक्षा फिल्टर और प्रदर्शन अनुकूलन के नियमित अपडेट होते हैं। मॉडल एक स्वामित्व लाइसेंस के तहत उपलब्ध है, जिसमें गैर-वाणिज्यिक उपयोग के लिए मुफ्त टियर पहुंच शामिल है।
यह भी देखें
- जनरेटिव एआई
- ट्रांसफॉर्मर
- बड़ा भाषा मॉडल
- wikiprompt