Nous Research एक विकेंद्रीकृत AI अनुसंधान संगठन है जो ओपन-सोर्स बड़े भाषा मॉडल और संरेखण तकनीकों का विकास करता है। 2022 में स्वतंत्र शोधकर्ताओं और इंजीनियरों के एक समूह द्वारा स्थापित, यह प्रयोगशाला OpenAI और अन्य संगठनों के आधार मॉडल के फाइन-ट्यून किए गए संस्करणों के लिए प्रसिद्ध हुई, विशेष रूप से हर्मीस श्रृंखला, जिसका उद्देश्य पारदर्शिता बनाए रखते हुए निर्देश-पालन और तर्क क्षमताओं में सुधार करना था।
प्रयोगशाला बिना पारंपरिक कॉर्पोरेट संरचना के काम करती है, कई समय क्षेत्रों में योगदानकर्ताओं का समन्वय करती है और सामुदायिक-संचालित विकास पर निर्भर करती है। इसका काम Machine learning और Generative AI के प्रतिच्छेदन पर स्थित है, जिसमें अनुज्ञेय लाइसेंस के माध्यम से उन्नत मॉडल क्षमताओं को सुलभ बनाने पर ध्यान केंद्रित किया गया है। Anthropic या Google DeepMind जैसी प्रमुख प्रयोगशालाओं के विपरीत, Nous Research छोटी-टीम की चपलता पर जोर देती है और अपनी फाइन-ट्यूनिंग पद्धतियों पर विस्तृत तकनीकी रिपोर्ट प्रकाशित करती है।
हर्मीस मॉडल श्रृंखला
प्रमुख हर्मीस श्रृंखला हर्मीस 1 से शुरू हुई, जो मेटा के LLaMA-1 13B मॉडल का एक फाइन-ट्यून था और 2022 के अंत में जारी किया गया था। इसके बाद 2023 में हर्मीस 2 आया, जिसने प्रतिक्रिया गुणवत्ता में सुधार के लिए Reinforcement Learning from AI Feedback (RLAIF) (AI प्रतिक्रिया से सुदृढीकरण सीखना) को शामिल किया। श्रृंखला का विस्तार Mistral AI और अन्य ओपन-वेट मॉडल पर आधारित संस्करणों को शामिल करने के लिए हुआ, जिसमें 2024 में हर्मीस 2 प्रो और हर्मीस 3 जारी किए गए। इन मॉडलों ने तर्क और उपकरण उपयोग के लिए बेंचमार्क पर मजबूत प्रदर्शन दिखाया, जो अक्सर बड़े मालिकाना सिस्टम को टक्कर देते थे।
हर्मीस श्रृंखला की एक परिभाषित विशेषता समुदाय द्वारा तैयार किए गए विविध, उच्च-गुणवत्ता वाले प्रशिक्षण डेटासेट का उपयोग है। Nous Research ने मालिकाना डेटा पाइपलाइन विकसित की जो स्रोतों को फ़िल्टर और मिश्रित करती हैं, जिसमें मजबूत मॉडल से सिंथेटिक डेटा शामिल है, ताकि विनाशकारी भूलने के बिना निर्देश-पालन को बढ़ाया जा सके। मॉडल आमतौर पर अपाचे 2.0 लाइसेंस के तहत जारी किए जाते हैं, जो व्यावसायिक और अनुसंधान उपयोग की अनुमति देते हैं।
संरेखण और मूल्यांकन कार्य
मॉडल रिलीज़ के अलावा, Nous Research ने संरेखण अनुसंधान में योगदान दिया है, विशेष रूप से 'DangerousQA' बेंचमार्क के विकास में, जो मॉडल के इनकार व्यवहारों का परीक्षण करता है। 2023 में, प्रयोगशाला ने व्याख्यात्मकता के लिए 'Nous Puffer' लाइब्रेरी पेश की, और 2024 में, इसने 'व्यक्तित्व कंडीशनिंग' पर काम प्रकाशित किया - प्रॉम्प्ट में उपयोगकर्ता-परिभाषित लक्षणों को एम्बेड करके मॉडल आउटपुट को निर्देशित करने की एक विधि। इन उपकरणों का उपयोग अन्य शोधकर्ताओं द्वारा Large language model सुरक्षा और व्यवहार का मूल्यांकन करने के लिए किया जाता है।
प्रयोगशाला Hugging Face जैसे प्लेटफार्मों पर 'Nous Research लीडरबोर्ड' भी बनाए रखती है ताकि ओपन मॉडल प्रदर्शन को ट्रैक किया जा सके, जो बंद बेंचमार्क के लिए एक पारदर्शी विकल्प प्रदान करता है। इसने Nous Research को ओपन-सोर्स पारिस्थितिकी तंत्र में एक प्रमुख खिलाड़ी के रूप में स्थापित किया है, जिसे अक्सर Stanford AI Lab और BAIR (Berkeley AI Research) जैसे संस्थानों के शैक्षणिक समूहों द्वारा उद्धृत किया जाता है।
समुदाय और विकेंद्रीकृत संरचना
Nous Research अपने विकेंद्रीकृत परिचालन के लिए जाना जाता है, जिसमें मुख्य योगदानकर्ता छद्म नामों के तहत काम करते हैं और Discord के माध्यम से समन्वय करते हैं। प्रयोगशाला का कोई औपचारिक मुख्यालय नहीं है, लेकिन यह सैन फ्रांसिस्को में एक आभासी कार्यालय पता सूचीबद्ध करती है। वित्तपोषण अनुसंधान अनुदान, दान, और ai-infrastructure क्षेत्र की कंपनियों के साथ चयनात्मक परामर्श अनुबंधों से आता है। यह संरचना तेजी से पुनरावृत्ति की अनुमति देती है, जिसमें विकास के चरम अवधि के दौरान मॉडल अपडेट साप्ताहिक रूप से जारी किए जाते हैं।
सामुदायिक पहलू इसके 'Nous Research फोरम' तक फैला है, जो एक ऑनलाइन स्थान है जहां उपयोगकर्ता फाइन-ट्यूनिंग स्क्रिप्ट साझा करते हैं और Deep learning तकनीकों पर चर्चा करते हैं। प्रयोगशाला ने डेटासेट उत्पन्न करने के लिए सहयोगी 'हैकाथॉन' भी आयोजित किए हैं, जैसे 'OpenHermes' संग्रह, जो उपयोगकर्ता-जनित निर्देश युग्मों को एकत्र करता है।
प्रभाव और स्वागत
Nous Research के मॉडल शैक्षणिक और व्यावसायिक दोनों सेटिंग्स में व्यापक रूप से अपनाए गए हैं। उदाहरण के लिए, हर्मीस 3 का उपयोग कई Robotics और ai-agents परियोजनाओं में इसकी विश्वसनीय टूल-कॉलिंग क्षमताओं के कारण किया गया था। हालांकि, आलोचकों ने नोट किया है कि प्रयोगशाला का तीव्र रिलीज़ चक्र कभी-कभी संस्करणों में असमान गुणवत्ता का कारण बनता है। फिर भी, इसके खुले दृष्टिकोण ने AI21 Labs और Inflection AI सहित अन्य प्रयोगशालाओं को अधिक पारदर्शी फाइन-ट्यूनिंग प्रथाओं को अपनाने के लिए प्रभावित किया है।
कंप्यूट संसाधनों के संदर्भ में, प्रयोगशाला Amazon Web Services और Google Cloud जैसे क्लाउड प्रदाताओं पर निर्भर करती है, जो अक्सर NVIDIA H100 क्लस्टर किराए पर लेती है। जबकि इसने अपना हार्डवेयर विकसित नहीं किया है, इसने ओपन मॉडल के लिए इन्फ्रेंस को अनुकूलित करने के लिए Groq के साथ सहयोग किया है। 2025 तक, प्रयोगशाला नए फाइन-ट्यून जारी करना जारी रखती है, जिसमें बहुभाषी और मल्टीमॉडल विस्तार पर ध्यान केंद्रित किया गया है।
Nous Research का व्यापक महत्व इस प्रदर्शन में निहित है कि छोटी, वितरित टीमें बिना विशाल बजट के Artificial intelligence में सार्थक रूप से उन्नति कर सकती हैं। इसके काम ने मॉडल-लाइसेंसिंग और मालिकाना वेट्स के फाइन-ट्यूनिंग की नैतिकता के बारे में बहस भी उठाई है, जो AI नीति समुदाय में एक सक्रिय विषय बना हुआ है।
भविष्य की दिशाएँ
आगे देखते हुए, Nous Research निरंतर सीखने और कम-संसाधन भाषा समर्थन के तरीकों की खोज कर रही है। इसने अगले-टोकन पूर्वानुमान के विकल्प के रूप में डिफ्यूजन-आधारित अनुक्रम निर्माण के साथ प्रयोगों की भी घोषणा की है। हालांकि, ये परियोजनाएं प्रारंभिक चरण में हैं, और प्रयोगशाला का प्राथमिक आउटपुट मौजूदा Transformer (architecture) मॉडल के उच्च-गुणवत्ता वाले फाइन-ट्यून बना हुआ है।