SambaNova Systems, Inc. एक अमेरिकी कृत्रिम बुद्धिमत्ता (AI) और अर्धचालक हार्डवेयर कंपनी है जो पालो ऑल्टो, कैलिफोर्निया में स्थित है। कंपनी हार्डवेयर एक्सेलेरेटर डिजाइन और निर्माण करती है, जिन्हें रिकॉन्फ़िगरेबल डेटाफ्लो यूनिट्स (RDUs) कहा जाता है, जो डीप-लर्निंग मॉडल और जनरेटिव-एआई अनुप्रयोगों के लिए समायोजित किए जाते हैं। SambaNova क्लाउड-आधारित और ऑन-प्रिमाइसेस कंप्यूटिंग सिस्टम दोनों प्रदान करता है जो बड़े-भाषा-मॉडल और अन्य AI वर्कलोड के प्रशिक्षण और अनुमान को तेज करने के लिए हैं।
नवंबर 2017 में स्थापित, SambaNova ने महत्वपूर्ण उद्यम पूंजी जुटाई है, जो अप्रैल 2021 तक $5.1 बिलियन के मूल्यांकन तक पहुंच गई। कंपनी ने 2023 में अपना SN40L RDU प्रोसेसर पेश किया, और इसकी तकनीक अनुसंधान संस्थानों और वाणिज्यिक क्लाउड प्लेटफार्मों में तैनात की गई है। SambaNova AI एक्सेलेरेटर बाजार में सीरेब्रास, ग्रोक, और एनवीडिया जैसी कंपनियों के साथ प्रतिस्पर्धा करता है, जो निश्चित-फ़ंक्शन डिजाइनों से भिन्न एक पुनर्न्यास योग्य वास्तुकला पर ध्यान केंद्रित करता है।
इतिहास
SambaNova की सह-स्थापना नवंबर 2017 में कुंले ओलुकोटुन, क्रिस्टोफर रे, और रोड्रिगो लियांग द्वारा की गई थी। ओलुकोटुन, स्टैनफोर्ड विश्वविद्यालय में इलेक्ट्रिकल इंजीनियरिंग और कंप्यूटर विज्ञान के प्रोफेसर, ने पहले मल्टी-कोर प्रोसेसर और ट्रांजेक्शनल मेमोरी पर काम का बीड़ा उठाया था। रे, जो स्टैनफोर्ड के प्रोफेसर भी हैं, मशीन लर्निंग सिस्टम और डेटा प्रबंधन में विशेषज्ञ थे। लियांग, जिन्होंने कंपनी के सीईओ के रूप में कार्य किया, के पास अर्धचालक इंजीनियरिंग में पूर्व अनुभव था।
SambaNova की तकनीकी नींव मशीन लर्निंग सिस्टम के लिए माइक्रोप्रोसेसिंग सरणियों पर शोध से प्राप्त हुई, जिसे रक्षा उन्नत अनुसंधान परियोजना एजेंसी (DARPA) से वित्त पोषण मिला। इस शोध ने पुनर्न्यास योग्य डेटाफ्लो वास्तुकला को सूचित किया जो कंपनी के उत्पादों का आधार बन गई।
2018 और 2021 के बीच, SambaNova ने कई दौरों में लगभग $1.1 बिलियन का वित्त पोषण जुटाया। कंपनी अप्रैल 2021 तक $5.1 बिलियन के मूल्यांकन तक पहुंच गई, जिसमें उद्यम पूंजी फर्मों और रणनीतिक भागीदारों से निवेश शामिल था। इस पूंजी ने इसके हार्डवेयर और सॉफ्टवेयर स्टैक के विकास के साथ-साथ इसकी क्लाउड सेवाओं के विस्तार का समर्थन किया।
2020 के दशक की शुरुआत में, SambaNova ने क्लाउड-आधारित AI सेवाएं और अनुमान प्लेटफॉर्म शुरू किए, जिससे ग्राहकों को हार्डवेयर सीधे खरीदे बिना अपने एक्सेलेरेटर तक पहुंचने की अनुमति मिली। 2023 में, कंपनी ने SN40L रिकॉन्फ़िगरेबल डेटाफ्लो यूनिट (RDU) पेश किया, जो AI मॉडल प्रशिक्षण और अनुमान वर्कलोड के लिए डिज़ाइन किया गया एक प्रोसेसर है।
2024 में, टाइम पत्रिका ने SambaNova Suite को अपनी वार्षिक सर्वश्रेष्ठ आविष्कार सूची में सूचीबद्ध किया। 2026 में, कंपनी को फोर्ब्स AI 50 में शामिल किया गया, जो प्रमुख निजी AI कंपनियों को मान्यता देने वाली एक सूची है।
प्रौद्योगिकी
SambaNova की तकनीक का मूल रिकॉन्फ़िगरेबल डेटाफ्लो यूनिट (RDU) है, जो पारंपरिक GPU-आधारित डिजाइनों से भिन्न एक प्रोसेसर वास्तुकला है। ग्राफिक्स प्रोसेसिंग यूनिटों के विपरीत, जो समानांतर कोर की एक निश्चित पाइपलाइन का उपयोग करते हैं, RDU को किसी विशिष्ट AI मॉडल के डेटाफ्लो ग्राफ से मेल खाने के लिए रनटाइम पर पुनर्न्यास किया जा सकता है। इस पुनर्न्यास का उद्देश्य डेटा आंदोलन और गणना दक्षता में सुधार करना है, जो अक्सर बड़े पैमाने पर मशीन लर्निंग में बाधाएं होती हैं।
SambaNova का सॉफ्टवेयर स्टैक, जिसमें SambaFlow कंपाइलर और रनटाइम शामिल है, तंत्रिका नेटवर्क संचालन को RDU के पुनर्न्यास योग्य फैब्रिक पर मैप करता है। कंपनी के सिस्टम सामान्य तंत्रिका-नेटवर्क फ्रेमवर्क और मॉडल का समर्थन करते हैं, जिसमें बड़े भाषा मॉडल में उपयोग किए जाने वाले ट्रांसफॉर्मर-आधारित आर्किटेक्चर शामिल हैं।
हार्डवेयर प्लेटफॉर्म डीप लर्निंग मॉडल के प्रशिक्षण और अनुमान दोनों के लिए है, जिसमें टेक्स्ट जनरेशन और छवि संश्लेषण जैसे जनरेटिव AI अनुप्रयोग शामिल हैं। SambaNova अपनी तकनीक को दो प्राथमिक मॉडलों के माध्यम से प्रदान करता है: SambaNova Suite, एक क्लाउड-आधारित सेवा, और डेटा केंद्रों में तैनात ऑन-प्रिमाइसेस सिस्टम।
SN40L प्रोसेसर
2023 में पेश किया गया SN40L, SambaNova का नवीनतम RDU प्रोसेसर है। इसे बड़े भाषा मॉडलों की मेमोरी-गहन आवश्यकताओं को संभालने के लिए डिज़ाइन किया गया है, जैसे लंबे संदर्भ विंडो को संसाधित करने की क्षमता। SN40L उच्च-बैंडविड्थ मेमोरी और एक पुनर्न्यास योग्य डेटाफ्लो वास्तुकला को एकीकृत करता है जिसे विभिन्न मॉडल आर्किटेक्चर के लिए प्रोग्राम किया जा सकता है।
प्रोसेसर प्रशिक्षण और अनुमान दोनों वर्कलोड को लक्षित करता है, जिसमें जनरेटिव AI अनुप्रयोगों के लिए अनुमान दक्षता पर विशेष जोर दिया गया है। SambaNova का दावा है कि SN40L वैकल्पिक एक्सेलेरेटर की तुलना में मेमोरी क्षमता और कंप्यूट घनत्व में लाभ प्रदान करता है, हालांकि विशिष्ट प्रदर्शन मेट्रिक्स आमतौर पर मामले-दर-मामले आधार पर बेंचमार्क किए जाते हैं।
तैनाती और साझेदारी
SambaNova कंप्यूटिंग हार्डवेयर प्लेटफार्मों का उपयोग सार्वजनिक अनुसंधान प्रयोगशालाओं और सुपरकंप्यूटिंग परिसरों में वैज्ञानिक गणनाओं के लिए वैकल्पिक त्वरण मॉडल का परीक्षण करने के लिए किया गया है। संयुक्त राज्य ऊर्जा विभाग की आर्गोन नेशनल लेबोरेटरी ने SambaNova कंप्यूटिंग फ्रेमवर्क को आर्गोन लीडरशिप कंप्यूटिंग सुविधा (ALCF) में अपने विशेष AI टेस्टबेड के भीतर एकीकृत किया। यह तैनाती शोधकर्ताओं को जलिमेट मॉडलिंग और सामग्री विज्ञान सहित वैज्ञानिक AI वर्कलोड के लिए RDU आर्किटेक्चर का मूल्ांकन करने की अनुमत देती है।
जापान में, रिकेन सेंटर फोर कंप्यूटेशनल साइंस (R-CCS) ने फुगाकू सुपरकंप्यूटर के साथ संचालित करने के लिए SambaNova सिस्टम तैनात किए। इस एकीकरण ने उच्च-प्रदर्शन कंप्यूटिंग वर्कलोड के लिए पुनर्न्यास योग्य डेटाफ्लो एक्सेलेरेटर के उपयोग की खोज की, जो फुगाकू की ARM-आधारित प्रोसेसर वास्तुकला का पूरक था।
SambaNova की तकनीक का उपयोग नए AI अनुमान परियोजनाओं में भी किया जाता है। वेक्टर कोर कंप्यूट, एक क्लाउड सेवा प्रदाता, AI अनुमान के लिए SambaNova हार्डवेयर का उपयोग करता है। OVHcloud, एक यूरोपीय क्लाउड कंपनी, ने अपने AI एंडपॉइंट्स प्लेटफॉर्म को संचालित करने के लिए SambaNova सिस्टम तैनात किए हैं।
अनुप्रयोग और उपयोग मामले
SambaNova के एक्सेलेरेटर का उपयोग वििभनन AI अनुप्रयोगों में किया जाता है, वििशेष रूप से उद्यम सेटिंग्स में जहां जनरेटिव AI मॉडल टेक्स्ट जनरेशन, कोड पूर्णता, और दस्तावेज़ विश्लेषण जैसे कार्यों के लिए तैनात किए जाते हैं। कंपनी का क्लाउड पलेटफॉर्म, SambaNova Suीte, संगठनों के लिए प्रबंधित APIs और फाइन-ट्यूनिंग क्षमताएं प्रदान करता है जिन्हें अनुकूलित बड़े भाषा मॉडल की आवश्यकता ह।
अनुसंधान संस्थानों ने वैज्ञानिक कंप्यूटिंग के लिए SambaNova हार्डवेयर अपनाया है। संयुक्त राज्य ऊर्जा विभाग की आर्गोन नेशनल लेबोरेटरी ने SambaNova के कंप्यूटिंग फ्रेमवर्क को आर्गोन लीडरशिप कंप्यूटिंग सुविधा (ALCF) में अपने विशेष AI टेस्टबेड में एकीकृत किया। यह टेस्टबेड शोधकर्ताओं को AI-संचालित वैज्ञानिक सिमुलेशन के लिए वैकल्पिक त्वरण आर्किटेक्चर का मूल्ांकन करने की अनुमत देता है।
जापान में, रिकेन सेंटर फोर कंप्यूटेशनल साइंस (R-CCS) ने फुगाकू सुपरकंप्यूटर के साथ संचालित करने के लिए SambaNova सिस्टम तैनात किए, जो दुनिया के सबसे तेज़ सुपरकंप्यूटरों में से एक है। यह सेटअप पारंपरिक HPC को AI त्वरण के साथ संयोजित करने वाले हाइब्रिड वर्कफ्लो की खोज के लिए डिज़ाइन किया गया था।
क्लाउड और उद्यम प्रसताव
SambaNova उत्पादों और सेवाओं की एक श्रृंखला प्रदान करता है, जिसमें SambaNova Suite शामिल है, जो AI मॉडल विकास और तैनाती के लिए एक सदस्यता-आधारित प्लेटफॉर्म प्रदान करता है। सूट में क्लाउड के माध्यम से RDUs तक पहुंच के साथ-साथ बड़े-भाषा-मॉडल को ठीक करने और चलाने के लिए उपकरण शामिल हैं।
कंपनी ऑन-प्रिमाइसेस तैनाती के लिए SambaNova DataScale जैसे एकीकृत सिस्टम भी बेचती है। ये सिस्टम उद्यमों और अनुसंधान संस्थानों द्वारा उपयोग किए जाते हैं जिन्हें डेटा निवास या समर्पित कंप्यूट संसाधनों की आवश्यकता होती है।
2024 में, SambaNova ने Samba-1 मॉडल पेश किया, जो एक ट्रिलियन-पैरामीटर मिश्रण-ऑफ-एक्सपर्ट्स आर्किटेक्चर वाला एक ओपन-सोर्स बड़ा भाषा मॉडल है। मॉडल को SN40L हार्डवेयर की क्षमताओं को प्रदर्शित करने और ओपनएआई और एंथ्रोपिक के मॉडलों के लिए एक प्रतिस्पर्धी विकल्प प्रदान करने के लिए जारी किया गया था। हालांकि, इस रिलीज के विवरण परिवर्तन के अधीन हैं।
बाजार स्थिति और प्रतिस्पर्धा
SambaNova AI हार्डवेयर बाजार में वैकल्पिक एक्सेलेरेटर आर्किटेक्चर की पेशकश करने वाली कंपनियों के साथ प्रतिस्पर्धा करता है। सीरेब्रास विशाल ऑन-चिप मेमोरी के साथ वेफर-स्केल चिप्स का उत्पादन करता है, जबकि ग्रोक अनुमान के लिए अनुकूलित एक टेंसर स्ट्रीमिंग प्रोसेसर डिजाइन पर केंद्रित है। अन्य प्रतिस्पर्धियों में एएमडी, इंटेल, और एनवीडिया जैसी सथापित अर्धचालक फर्में शामिल हैं, साथ ही AWS ट्रेनियम और गूगल के TPUs जैसे कस्टम सिलिकॉन वाले क्लाउड प्रदाता भी शामिल हैं।
SambaNova द्वारा अपनाया गया पुनर्न्यास योग्य डेटाफ्लो दृष्टिकोण GPUs और कई AI ASICs के निश्चित-फ़ंक्शन डिजाइनों से अलग है। यह नए मॉडल आर्किटेक्चर के अनुकूल होने में संभावित रूप से अधिक लचीलापन प्रदान करता है, हालांकि इस लाभ को साकार करने के लिए एक परिपक्व सॉफ्टवेयर स्टैक की भी आवश्यकता होती है।
अनुसंधान सहयोग
SambaNova की तकनीक सार्वजनिक अनुसंधान प्रयोगशालाओं में तैनात की गई है। आर्गोन नेशनल लेबोरेटरी, जो अमेरिकी ऊर्जा विभाग का हिस्सा है, आर्गोन लीडरशिप कंप्यूटिंग सुविधा में अपने AI टेस्टबेड में SambaNova सिस्टम का उपयोग करती है। वहां के शोधकर्ता सामग्री विज्ञान, जलवायु मॉडलिंग, और उच्च-ऊर्जा भौतिकी में परियोजनाओं के लिए सिस्टम का उपयोग करते हैं।
जापान में, रिकेन सेंटर फॉर कंप्यूटेशनल साइंस (R-CCS) ने फुगाकू सुपरकंप्यूटर के साथ संचालित करने के लिए SambaNova सिस्टम तैनात किए। इस सहयोग ने अनुसंधान किया कि पुनर्न्यास योग्य डेटाफ्लो आर्किटेक्चर AI-गहन वर्कलोड के लिए पारंपरिक सुपरकंप्यूटिंग का पूरक कर सकते हैं।
वित्त पोषण और वृद्धि
SambaNova ने पर्याप्त उद्यम पूंजी वित्त पोषण प्राप्त किया है। उल्लेखनीय निवेशकों में ओरेकल और इंटेल कैपिटल शामिल हैं, साथ ही ब्लैकरॉक और GV (पूर्व में गूगल वेंचर्स) जैसी फर्में भी शामिल हैं। 2018-2021 में कंपनी द्वारा जुटाया गया $1.1 बिलियन उस अवधि के सबसे अच्छे वित्त पोषित AI स्टार्टअपों में से एक था।
2023 में, SambaNova ने अलीबाबा क्लाउड और AWS के साथ पार्TNरशिप की घोषणा की ताकि उसकी तकनोलोजी अधिक सुलभ हो। हालांकि, कंपनी ने हार्डवेयर त्वरण बाजार की विशिष्ट चुनौतियों का भी सामना किया, जिसमें अच्छी तरह से संसाधनों वाले स्थापित खिलाड़ियों से प्रतिस्पर्धा और दीर्घकालिक विश्वसनीयता का परदर्शन करने की आवश्यकता शामिल है।
भविष्य की दिशाएं
SambaNova अपनी RDU आर्किटेक्चर और सॉफ्टवेयर स्टैक का विकास जारी रखता है, जिसमें उद्यम तैनाती में बड़े भाषा मॉडल के लिए अनुमान दक्षता में सुधार पर ध्यान केंद्रित किया गया है। कंपनी ने खुद को GPU-आधारित बुनियादी ढांचे के विकल्प के रूप में स्थापित किया है, जो AI वर्कलोड के लिए स्वामित्व की कुल लागत पर जोर देती है, विशेष रूप से डेटा केंद्रों में जहां बिजली और शीतलन बाधाएं हैं।
2025 तक, SambaNova ने SN40L से परे अपनी अगली पीढ़ी के हार्डवेयर के लिए योजनाओं का खुलासा नहीं किया था। हालांकि, 2026 में फोर्ब्स AI 50 जैसी उद्योग सूचियों में कंपनी का शामिल होना AI हार्डवेयर बाजार में निरंतर प्रासंगिकता का सुझाव देता है।