Blog›Guides

लाया बनाम जेव: निर्णय-मॉडल लहर का ओपन-सोर्स उत्तर

TypeSafe द्वारा Jev लॉन्च करने के कुछ दिनों बाद, Convai Innovations ने Laya जारी किया: एक Apache 2.0, 421M-पैरामीटर निर्णय मॉडल जो 100+ भाषाओं में 33ms निर्णय का दावा करता है। दोनों की तुलना, ईमानदारी से, फाइन-ट्यूनिंग की चेतावनी सहित।

Laya बनाम Jev: डिसीजन-मॉडल लहर का ओपन-सोर्स जवाब

पिछले हफ्ते AI की दुनिया ने Jev से मुलाकात की, जो TypeSafe AI का गैर-चैट "System One" मॉडल है जो गद्य के बजाय टाइप किए गए निर्णय लौटाता है। इसका खुला जवाब सामने आने में कुछ दिन लगे: Laya, जो Convai Innovations का Apache 2.0, ओपन-वेट डिसीजन मॉडल है, जो कासरगोड, केरल, भारत का एक स्टार्टअप है। अगर Jev ने इस श्रेणी को दिलचस्प बनाया, तो Laya इसे सभी के लिए सुलभ बनाता है। यहाँ बताया गया है कि यह क्या है, दोनों की तुलना कैसे होती है, और किन बातों का ध्यान रखना चाहिए।

Laya क्या है

Laya एक नॉन-ऑटोरिग्रेसिव डिसीजन मॉडल है: यह बिल्कुल भी टेक्स्ट उत्पन्न नहीं करता। आप इसे एक स्टेट (एक ईमेल, एक सपोर्ट टिकट, एक एजेंट ट्रेस, एक JSON ऑब्जेक्ट) के साथ-साथ निश्चित उत्तर सेट वाले टाइप किए गए प्रश्न देते हैं, और यह एक ही फॉरवर्ड पास में कैलिब्रेटेड प्रोबेबिलिटीज़ के साथ चुने गए उत्तर लौटाता है। कोई टोकन नहीं, कोई गद्य नहीं, भ्रमित करने के लिए कुछ नहीं, JSON पार्सिंग विफलताएँ नहीं।

मुख्य अंग्रेजी चेकपॉइंट आधुनिक मानकों से छोटा है, लगभग 421 मिलियन पैरामीटर एक ModernBERT-large बैकबोन पर, जो वास्तव में बिंदु है: यह मामूली स्थानीय हार्डवेयर पर चलता है, और एक बहुभाषी संस्करण 100+ भाषाओं को कवर करता है।

Laya बनाम Jev, ईमानदारी से

| | Jev (TypeSafe AI) | Laya (Convai Innovations) |

|---|---|---|

| एक्सेस | बंद, होस्टेड API | Apache 2.0 ओपन वेट्स, सेल्फ-होस्टेबल |

| लेटेंसी (विक्रेता-रिपोर्टेड) | ~236-276 ms होस्टेड | ~33 ms p50 एकल Tesla T4 पर |

| लागत | प्रति-कॉल API मूल्य निर्धारण | $0 सेल्फ-होस्टेड |

| भाषाएँ | अंग्रेजी-केंद्रित | 100+ |

| आउट ऑफ द बॉक्स | डिसीजन कार्यों के लिए ट्यून किया गया | फाइन-ट्यून करने तक लगभग रैंडम |

दो बड़ी चेतावनियाँ इसे ईमानदार रखती हैं:

सभी हेडलाइन नंबर विक्रेता बेंचमार्क हैं। Jev का "Claude से 193x तेज़" TypeSafe के अपने इवैल्स से आया; Laya का "Jev से 7.8x तेज़" Convai से आया। दोनों के लिए स्वतंत्र सत्यापन पतला है। हर नंबर को एक दावे के रूप में मानें जिसे आप अपने वर्कलोड पर परखें।

Laya की सटीकता के लिए फाइन-ट्यूनिंग आवश्यक है। परियोजना स्वयं स्वीकार करती है कि बेस मॉडल आउट ऑफ द बॉक्स डिसीजन कार्यों पर लगभग रैंडम स्कोर करता है। Jev अपने API के माध्यम से कार्य-तैयार आता है; Laya एक कुशल ओपन आर्किटेक्चर के रूप में आता है जिसे आप अनुकूलित करते हैं। यह अंतर बहुत मायने रखता है, यह इस पर निर्भर करता है कि आपके पास प्रशिक्षण डेटा और ML क्षमता इन-हाउस है या नहीं।

यह श्रेणी क्यों मायने रखती है

दोनों मॉडल एक ही विचार पर दांव लगाते हैं, जिसका नाम Kahneman के System 1 के नाम पर रखा गया है: अधिकांश उत्पादन "AI" कार्य खुले-अंत वाले लेखन नहीं हैं, ये लाखों तेज़, संकीर्ण निर्णय हैं - क्या यह धोखाधड़ी है, कौन सी कतार, क्या यह नीति का उल्लंघन करता है, अगला कदम क्या है। एक छोटा टाइप किया गया क्लासिफायर उन्हें सस्ता, तेज़ और अधिक विश्वसनीय रूप से उत्तर देता है, बजाय एक चैट मॉडल से जिसे "केवल JSON में उत्तर दें" कहा जाता है।

उभरता हुआ स्टैक इस तरह दिखता है:

जनरेटिव मॉडल (जिन्हें आप हमारे कैटलॉग) से प्रॉम्प्ट करते हैं) सृजन और तर्क के लिए

डिसीजन मॉडल (Jev, Laya) उनके आसपास रूटिंग, स्कोरिंग और फ़िल्टरिंग के लिए

आपको कौन सा आज़माना चाहिए

आप शून्य-सेटअप, कार्य-तैयार निर्णय चाहते हैं और API मूल्य निर्धारण स्वीकार करते हैं: Jev।

आपके पास फाइन-ट्यून करने के लिए डेटा है, स्थानीय/निजी इन्फ्रेंस, बहुभाषी कवरेज, या शून्य सीमांत लागत चाहते हैं: Laya - वेट्स Hugging Face पर हैं, और ONNX के माध्यम से Node.js/TypeScript के लिए समुदाय रनटाइम पहले से मौजूद हैं।

आप केवल छवियों, वीडियो या टेक्स्ट के लिए प्रॉम्प्ट कर रहे हैं: कोई भी आपके आज के काम को प्रतिस्थापित नहीं करता - लेकिन यदि आप अपने जनरेशन के आसपास ऑटोमेशन बना रहे हैं (आउटपुट मॉडरेट करना, अनुरोध रूट करना, परिणाम स्कोर करना), तो यह श्रेणी आपके बॉक्स में सबसे सस्ता उपकरण बनने वाली है।

हमारे विकी में पूर्ण तकनीकी विवरण: Laya और Jev।