Llama 3.1 Nemotron बड़े भाषा मॉडल का एक परिवार है, जिसे NVIDIA द्वारा विकसित किया गया है, और यह Meta के Llama 3.1 की वास्तुकला पर आधारित है। ये मॉडल बेहतर तर्क, निर्देश पालन, और मानवीय प्राथमिकताओं के साथ संरेखण के लिए डिज़ाइन किए गए हैं। इन्हें खुले-वजन वाले मॉडल के रूप में जारी किया गया है, जिससे शोधकर्ताओं और डेवलपर्स को विभिन्न अनुप्रयोगों में इन्हें फाइन-ट्यून और तैनात करने की अनुमति मिलती है। इस परिवार में कई पैरामीटर आकार शामिल हैं, जिनमें से तीन प्रकार सार्वजनिक बेंचमार्क स्नैपशॉट में LLM लीडरबोर्ड पर दिखाई देते हैं।
विकास और रिलीज़
NVIDIA ने Llama 3.1 Nemotron परिवार की घोषणा 2024 के अंत में की, जो Meta के Llama 3.1 मॉडल के जुलाई 2024 में रिलीज़ होने के बाद हुई। प्रारंभिक रिलीज़ में Nemotron-70B संस्करण शामिल था, जिसने तर्क बेंचमार्क पर अपने प्रदर्शन के लिए तेजी से ध्यान आकर्षित किया। NVIDIA ने इन मॉडलों को ओपन-सोर्स AI पारिस्थितिकी तंत्र में योगदान के रूप में स्थापित किया, और उन्नत संरेखण तकनीकों के उपयोग पर जोर दिया। ये मॉडल Hugging Face जैसे प्लेटफार्मों पर उपलब्ध कराए गए, जिनके वजन अनुसंधान और व्यावसायिक उपयोग दोनों के लिए एक अनुमेय लाइसेंस के तहत सुलभ थे।
वास्तुकला और प्रशिक्षण
ये मॉडल ट्रांसफॉर्मर वास्तुकला पर आधारित हैं, विशेष रूप से Llama 3.1 में उपयोग किए गए डिकोडर-ओनली डिज़ाइन पर। इनमें मल्टी-हेड अटेंशन और रोटरी पोजीशनल एन्कोडिंग जैसी तकनीकें शामिल हैं। NVIDIA ने एक प्रशिक्षण पाइपलाइन का उपयोग किया जिसमें पर्यवेक्षित फाइन-ट्यूनिंग और AI फीडबैक से सुदृढीकरण सीखना (RLAIF) शामिल था, जिसमें आउटपुट को मानवीय प्राथमिकताओं के साथ संरेखित करने के लिए एक रिवार्ड मॉडल का उपयोग किया गया। प्रशिक्षण डेटा में सार्वजनिक रूप से उपलब्ध कॉर्पोरा और अन्य बड़े मॉडलों द्वारा उत्पन्न सिंथेटिक डेटा का मिश्रण शामिल था। NVIDIA ने डेटासेट की सटीक संरचना या प्रशिक्षण के लिए उपयोग की गई कुल कंप्यूट शक्ति का खुलासा नहीं किया है।
प्रदर्शन और बेंचमार्क
Llama 3.1 Nemotron मॉडलों का मूल्यांकन मानक बेंचमार्क की एक श्रृंखला पर किया गया है, जिसमें MMLU (मैसिव मल्टीटास्क लैंग्वेज अंडरस्टैंडिंग), GSM8K (ग्रेड स्कूल गणित), और HumanEval (कोड जनरेशन) शामिल हैं। 70B संस्करण ने कथित तौर पर कुछ तर्क कार्यों पर बड़े मालिकाना मॉडलों के बराबर या उनसे बेहतर स्कोर हासिल किए। LMArena (पूर्व में Chatbot Arena) जैसे सार्वजनिक लीडरबोर्ड पर, मॉडलों को उच्च स्तर में Elo रेटिंग के साथ सूचीबद्ध किया गया है, हालांकि विशिष्ट संख्याएं स्नैपशॉट के अनुसार भिन्न होती हैं। बेंचमार्क स्नैपशॉट में तीन प्रकार विभिन्न पैरामीटर आकारों के अनुरूप हैं, संभवतः 8B, 70B, और एक बड़ा कॉन्फ़िगरेशन, हालांकि सभी प्रकारों के लिए सटीक विशिष्टताएं समान रूप से प्रकाशित नहीं की गई हैं।
अनुप्रयोग और पारिस्थितिकी तंत्र
NVIDIA ने Llama 3.1 Nemotron को अपने NVIDIA AI Enterprise सॉफ्टवेयर स्टैक में एकीकृत किया है, जिससे Azure, Google Cloud, और AWS पर उनके संबंधित मार्केटप्लेस के माध्यम से तैनाती संभव होती है। ये मॉडल Groq और SambaNova द्वारा कम-विलंबता अनुमान के लिए भी समर्थित हैं। डेवलपर्स ने इन मॉडलों का उपयोग कोड जनरेशन, गणितीय तर्क, और संवादात्मक एजेंटों जैसे कार्यों के लिए किया है। मॉडलों की खुली-वजन प्रकृति ने स्वास्थ्य सेवा और वित्त सहित डोमेन-विशिष्ट अनुप्रयोगों के लिए फाइन-ट्यूनिंग को सुविधाजनक बनाया है।
स्वागत और प्रभाव
Llama 3.1 Nemotron की रिलीज़ को मशीन लर्निंग समुदाय से रुचि के साथ मिला, विशेष रूप से RLAIF के उपयोग के लिए, जिसने पारंपरिक RLHF का एक विकल्प पेश किया। कुछ शोधकर्ताओं ने नोट किया कि मॉडलों ने तर्क बेंचमार्क पर मजबूत प्रदर्शन दिखाया, जिससे खुले और बंद मॉडलों के बीच की खाई कम हुई। हालांकि, कुछ मूल्यांकनों ने विभिन्न कार्यों में प्रदर्शन में असंगतियों को भी उजागर किया, और मॉडल सार्वभौमिक रूप से शीर्ष-स्थान पर नहीं थे। NVIDIA ने Nemotron लाइन पर पुनरावृत्ति जारी रखी है, बेहतर क्षमताओं के साथ बाद के संस्करण जारी किए हैं।
लाइसेंसिंग और उपलब्धता
Llama 3.1 Nemotron मॉडल NVIDIA ओपन मॉडल लाइसेंस के तहत वितरित किए जाते हैं, जो व्यावसायिक उपयोग, संशोधन, और पुनर्वितरण की अनुमति देता है, जिसमें व्युत्पन्न कार्यों को समान लाइसेंसिंग शर्तों को शामिल करने की आवश्यकता होती है। वजन Hugging Face से डाउनलोड के लिए उपलब्ध हैं, और मॉडलों को संगत हार्डवेयर पर स्थानीय रूप से चलाया जा सकता है, जिसमें AMD और Intel GPU, साथ ही NVIDIA GPU शामिल हैं। लाइसेंस अनुसंधान उद्देश्यों के लिए मॉडलों के उपयोग को प्रतिबंधित नहीं करता है, और NVIDIA फाइन-ट्यूनिंग और तैनाती के लिए दस्तावेज़ीकरण और उदाहरण कोड प्रदान करता है।