Gemma 3 खुले-भार (open-weight) बड़े भाषा मॉडल का एक परिवार है, जिसे Google DeepMind द्वारा विकसित किया गया है। 12 मार्च 2025 को जारी, ये मॉडल Gemini 2.0 मॉडल के समान शोध और तकनीक पर आधारित हैं, लेकिन डेवलपर्स और शोधकर्ताओं के लिए स्थानीय रूप से या अपने स्वयं के बुनियादी ढांचे पर चलाने हेतु डिज़ाइन किए गए हैं। Gemma 3 में चार प्राथमिक आकार शामिल हैं - 1B, 4B, 12B, और 27B पैरामीटर - प्रत्येक आधार और निर्देश-ट्यून किए गए संस्करणों में उपलब्ध है, जिसमें 2025 के अंत तक सार्वजनिक बेंचमार्क स्नैपशॉट में कुल 11 संस्करण दिखाई देते हैं।
ये मॉडल अपनी बहु-मोडल क्षमताओं के लिए उल्लेखनीय हैं, जो पाठ और छवि दोनों इनपुट स्वीकार करते हैं, और 128,000 टोकन तक के संदर्भ विंडो का समर्थन करते हैं। Gemma 3 में 140 से अधिक भाषाओं के लिए समर्थन भी शामिल है, जो पहले के Gemma रिलीज़ से एक महत्वपूर्ण विस्तार है। यह परिवार OpenAI और Anthropic के मॉडलों के लिए एक प्रतिस्पर्धी खुले-भार विकल्प के रूप में स्थित है, विशेष रूप से 30B पैरामीटर से कम की सीमा में।
वास्तुकला और प्रशिक्षण
Gemma 3 मॉडल ट्रांसफॉर्मर वास्तुकला का उपयोग करते हैं, जिसमें मल्टी-हेड अटेंशन शामिल है, और बड़े आकारों में दक्षता के लिए समूहीकृत-क्वेरी अटेंशन को शामिल किया गया है। मॉडलों को वेब दस्तावेज़ों, कोड और गणितीय डेटा के मिश्रण पर प्रशिक्षित किया जाता है, जिसमें उच्च-गुणवत्ता फ़िल्टरिंग पर ध्यान केंद्रित किया जाता है। 27B मॉडल SwiGLU सक्रियण फ़ंक्शन और रोटरी पोजीशनल एम्बेडिंग का उपयोग करता है। प्रशिक्षण में Adam का उपयोग कोसाइन लर्निंग रेट शेड्यूल और ग्रेडिएंट क्लिपिंग के साथ किया गया।
कुछ मालिकाना मॉडलों के विपरीत, Gemma 3 के वज़न एक अनुमेय लाइसेंस के तहत जारी किए जाते हैं, जो व्यावसायिक उपयोग और फाइन-ट्यूनिंग की अनुमति देते हैं। निर्देश-ट्यून किए गए संस्करणों को RLHF (मानव प्रतिक्रिया से सुदृढीकरण सीखना) और पर्यवेक्षित फाइन-ट्यूनिंग का उपयोग करके संरेखित किया गया था, साथ ही अतिरिक्त सुरक्षा फ़िल्टरिंग भी की गई थी।
प्रदर्शन और बेंचमार्क
सार्वजनिक लीडरबोर्ड पर, Gemma 3 27B मानक बेंचमार्क जैसे MMLU (विशाल मल्टीटास्क भाषा समझ), GSM8K (ग्रेड स्कूल गणित), और HumanEval (कोड जनरेशन) पर प्रतिस्पर्धी स्कोर प्राप्त करता है। 2025 के मध्य तक, 27B निर्देश मॉडल विशिष्ट तर्क कार्यों पर कई बड़े मालिकाना मॉडलों से बेहतर प्रदर्शन करता है, हालांकि यह जटिल बहु-चरणीय तर्क पर सबसे बड़े फ्रंटियर मॉडल से पीछे रहता है। 4B और 12B आकार एज डिवाइसों और उपभोक्ता हार्डवेयर पर तैनाती के लिए अनुकूलित हैं, जिसमें 1B मॉडल मोबाइल अनुप्रयोगों के लिए उपयुक्त है।
Gemma 3 बहु-भाषी कार्यों में भी मजबूत प्रदर्शन प्रदर्शित करता है, विशेष रूप से कम-संसाधन भाषाओं में ताकत के साथ। मॉडल पूर्ववर्तियों की तुलना में बेहतर लंबे-संदर्भ हैंडलिंग दिखाते हैं, 128K टोकन इनपुट पर सुसंगतता बनाए रखते हैं।
तैनाती और पारिस्थितिकी तंत्र
Gemma 3 कई चैनलों के माध्यम से उपलब्ध है। इसे Google Cloud Vertex AI और Amazon Web Services SageMaker के माध्यम से, साथ ही उच्च-गति अनुमान के लिए Groq और SambaNova के माध्यम से एक्सेस किया जा सकता है। मॉडल Hugging Face Transformers और vLLM सहित मानक मशीन लर्निंग फ्रेमवर्क के साथ संगत हैं।
स्थानीय तैनाती के लिए, Gemma 3 प्रूनिंग और 4-बिट क्वांटाइज़ेशन जैसी क्वांटाइज़ेशन तकनीकों का समर्थन करता है, जिससे 27B मॉडल एक ही उच्च-अंत GPU पर चल सकता है। छोटे संस्करण लैपटॉप और रास्पबेरी पाई-श्रेणी के उपकरणों पर चल सकते हैं। Google फाइन-ट्यूनिंग और तैनाती के उदाहरणों के साथ एक Gemma कुकबुक प्रदान करता है।
सुरक्षा और जिम्मेदार उपयोग
Google DeepMind ने Gemma 3 के लिए एक स्तरित सुरक्षा दृष्टिकोण लागू किया। निर्देश-ट्यून किए गए मॉडलों में हानिकारक प्रॉम्प्ट को अस्वीकार करने के लिए प्रशिक्षित सुरक्षा फ़िल्टर शामिल हैं, और कंपनी ने सुरक्षा बेंचमार्क पर मूल्यांकन का विवरण देने वाला एक मॉडल कार्ड प्रकाशित किया। हालांकि, एक खुले-भार मॉडल के रूप में, Gemma 3 को सुरक्षा गार्डरेल हटाने के लिए फाइन-ट्यून किया जा सकता है, एक व्यापार-बंद जिसे डेवलपर्स ने स्वीकार किया है। लाइसेंस में कुछ उच्च-जोखिम वाले अनुप्रयोगों, जैसे हथियार विकास या निगरानी, के लिए मॉडलों के उपयोग पर प्रतिबंध शामिल है।
स्वागत और प्रभाव
Gemma 3 को एआई समुदाय में प्रदर्शन और पहुंच के संतुलन के लिए सकारात्मक स्वागत मिला। स्वतंत्र मूल्यांकनों ने नोट किया कि 27B मॉडल अक्सर विशिष्ट कार्यों पर बड़े बंद मॉडलों की गुणवत्ता से मेल खाता है या उससे अधिक होता है, जबकि चलाने में काफी सस्ता होता है। रिलीज़ ने खुले-भार मॉडलों के बढ़ते चलन में योगदान दिया जो मालिकाना प्रणालियों को चुनौती देते हैं, Alibaba और AI21 Labs जैसे अन्य संगठनों के प्रयासों के साथ।
2025 के अंत तक, Gemma 3 ऑन-प्रिमाइसेस या गोपनीयता-संरक्षण एआई की आवश्यकता वाले अनुसंधान और उत्पादन अनुप्रयोगों के लिए एक लोकप्रिय विकल्प बना हुआ है। इसका उत्तराधिकारी, Gemma 3n, 2025 के अंत में घोषित किया गया था, लेकिन Gemma 3 शैक्षणिक और औद्योगिक सेटिंग्स में व्यापक रूप से उपयोग किया जा रहा है।