आईबीएम ग्रेनाइट बड़े भाषा मॉडल और फाउंडेशन मॉडल की एक श्रृंखला है, जिसे आईबीएम द्वारा बनाया गया है। 7 सितंबर, 2023 को घोषित, चार दिन बाद प्रकाशित एक प्रारंभिक शोध पत्र के साथ, इन मॉडलों को शुरू में आईबीएम के क्लाउड-आधारित डेटा और जनरेटिव एआई प्लेटफॉर्म वॉटसनएक्स के लिए अन्य मॉडलों के साथ डिज़ाइन किया गया था। आईबीएम ने बाद में कुछ कोड-केंद्रित वेरिएंट का स्रोत कोड खोल दिया, जिससे वे एक अनुमोदक लाइसेंस के तहत स्वतंत्र रूप से उपलब्ध हो गए।
ग्रेनाइट मॉडल इंटरनेट, शैक्षणिक प्रकाशनों, कोड रिपॉजिटरी और कानूनी और वित्तीय दस्तावेजों से लिए गए क्यूरेटेड डेटासेट पर प्रशिक्षित हैं। यह श्रृंखला विभिन्न तैनाती आवश्यकताओं को पूरा करते हुए, 3 बिलियन से 34 बिलियन तक के पैरामीटर आकारों की एक श्रृंखला शामिल करती है।
फाउंडेशन मॉडल आर्किटेक्चर
एक फाउंडेशन मॉडल एक एआई मॉडल है जिसे बड़े पैमाने पर व्यापक डेटा पर प्रशिक्षित किया जाता है, जो डाउनस्ट्रीम कार्यों की एक विस्तृत श्रृंखला के लिए अनुकूलन को सक्षम बनाता है। आईबीएम ग्रेनाइट मॉडल डिकोडर-ओनली ट्रांसफॉर्मर हैं, जो जनरेटिव भाषा मॉडल के लिए एक सामान्य आर्किटेक्चर है जो अनुक्रम में अगले टोकन की भविष्यवाणी करता है। पहले फाउंडेशन मॉडल, ग्रेनाइट.13बी.इंस्ट्रक्ट और ग्रेनाइट.13बी.चैट, प्रत्येक में 13 बिलियन पैरामीटर थे, जो कई समकालीन बड़े मॉडलों से छोटे थे। बाद के वेरिएंट ने सीमा को 3 बिलियन से 34 बिलियन पैरामीटर तक विस्तारित किया, जो विभिन्न कम्प्यूटेशनल बजट और उपयोग के मामलों के लिए लचीलापन प्रदान करता है।
प्रशिक्षण डेटा क्यूरेशन ने गुणवत्ता और विविधता पर जोर दिया, जिसमें शैक्षणिक पेपर, कोड डेटासेट और कानूनी और वित्त जैसे विशेष डोमेन जैसे स्रोत शामिल थे। इस दृष्टिकोण का उद्देश्य उद्यम-उन्मुख कार्यों पर प्रदर्शन में सुधार करना था, जो आईबीएम के वाणिज्यिक प्रसाद के लिए एक प्रमुख फोकस है।
रिलीज़ और ओपन-सोर्स कोड मॉडल
6 मई, 2024 को, आईबीएम ने ग्रेनाइट कोड मॉडल के चार वेरिएंट का स्रोत कोड अपाचे 2.0 लाइसेंस के तहत जारी किया, जो एक अनुमोदक ओपन-सोर्स लाइसेंस है जो मुफ्त उपयोग, संशोधन और साझाकरण की अनुमति देता है। ये मॉडल हगिंग फेस पर उपलब्ध कराए गए, जो एआई मॉडल होस्ट करने के लिए एक लोकप्रिय प्लेटफॉर्म है। आईबीएम की आंतरिक रिपोर्टों के अनुसार, ग्रेनाइट 8बी मॉडल ने समान पैरामीटर रेंज के भीतर कई कोडिंग-संबंधित बेंचमार्क पर लामा 3 से बेहतर प्रदर्शन किया, जो कोड जनरेशन और समझ में इसके प्रतिस्पर्धी प्रदर्शन को उजागर करता है।
ओपन-सोर्स रिलीज़ सामुदायिक अपनाने और सहयोग को बढ़ावा देने के लिए एक व्यापक रणनीति का हिस्सा था, जो अन्य विक्रेताओं के कुछ मालिकाना मॉडलों के विपरीत था। आईबीएम ने ग्रेनाइट को अनुकूलन योग्य एआई समाधान चाहने वाले उद्यमों के लिए एक लचीले विकल्प के रूप में स्थापित किया।
अनुप्रयोग और पारिस्थितिकी तंत्र
ग्रेनाइट मॉडल आईबीएम के वॉटसनएक्स प्लेटफॉर्म में एकीकृत हैं, जो डेटा विश्लेषण, जनरेटिव एआई और मॉडल तैनाती के लिए उपकरण प्रदान करता है। मॉडल कोड जनरेशन, दस्तावेज़ सारांशीकरण और प्रश्न उत्तर जैसे कार्यों के लिए उपयोग किए जाते हैं, विशेष रूप से वित्त और कानून जैसे विनियमित उद्योगों में जहां डेटा गोपनीयता और अनुपालन महत्वपूर्ण हैं। ओपन-सोर्स और क्लाउड-आधारित दोनों एक्सेस की पेशकश करके, आईबीएम का लक्ष्य स्टार्टअप से लेकर बड़े उद्यमों तक ग्राहकों की एक विस्तृत श्रृंखला की सेवा करना था।
ओपन-सोर्स कोड मॉडल की रिलीज़ ने तीसरे पक्ष के डेवलपर्स को अपने स्वयं के इंफ्रास्ट्रक्चर पर ग्रेनाइट को फाइन-ट्यून और तैनात करने में सक्षम बनाया, जिसमें अमेज़न वेब सर्विसेज और अन्य क्लाउड प्रदाता शामिल हैं। यह पारिस्थितिकी तंत्र दृष्टिकोण व्यापक एआई समुदाय में रुझानों को दर्शाता है, जहां एलएलएएमए और मिस्ट्रल एआई जैसे ओपन मॉडल ने लोकप्रियता हासिल की है।
प्रदर्शन और तुलना
आईबीएम ने बेंचमार्क प्रकाशित किए हैं जो दिखाते हैं कि ग्रेनाइट मॉडल मानक एनएलपी और कोडिंग कार्यों पर प्रतिस्पर्धी परिणाम प्राप्त करते हैं। उदाहरण के लिए, ग्रेनाइट 8बी मॉडल ने समान संख्या में पैरामीटर होने के बावजूद कोडिंग बेंचमार्क पर लामा 3 को पीछे छोड़ दिया। हालांकि, इन दावों का स्वतंत्र सत्यापन सीमित है, और प्रदर्शन विशिष्ट कार्य और मूल्यांकन पद्धति के आधार पर भिन्न हो सकता है। मॉडल कुशल होने के लिए डिज़ाइन किए गए हैं, जिनमें छोटे वेरिएंट एज तैनाती के लिए उपयुक्त हैं और बड़े वेरिएंट क्लाउड-आधारित वर्कलोड के लिए उपयुक्त हैं।
यह भी देखें
- मिस्ट्रल एआई, एक कंपनी जो ओपन-सोर्स मॉडल भी प्रदान करती है
- जीपीटी
- एलएलएएमए
- जेमिनी
संदर्भ
(लेख की शैली के अनुसार कोई बाहरी लिंक शामिल नहीं हैं।)