Cerebras Systems Inc., जिसका मुख्यालय सनीवेल, कैलिफोर्निया में है, कृत्रिम बुद्धिमत्ता गहन-शिक्षण अनुप्रयोगों जैसे कि इन्फ्रेंस इंजन को शक्ति प्रदान करने के लिए अर्धचालक, सुपरकंप्यूटर और संबंधित सॉफ्टवेयर विकसित करता है। उत्पादों में इसकी वेफर स्केल इंजन (WSE)-3 अर्धचालक, इसके CS-3 सुपरकंप्यूटर, और इसके "AI इन्फ्रेंस क्लाउड" और "AI प्रशिक्षण क्लाउड" API शामिल हैं, जो उपयोगकर्ताओं को अपना हार्डवेयर खरीदे बिना कंपनी की कंप्यूटिंग शक्ति तक पहुंचने की अनुमति देते हैं। कंपनी अपने प्रोसेसर और सुपरकंप्यूटर का उपयोग करके डेटा सेंटर भी बनाती है ताकि ग्राहकों को सीधे क्लाउड कंप्यूटिंग सेवाएं प्रदान की जा सकें।
215 मिमी (8.5 इंच) वर्ग माप वाली, कंपनी की WSE-3 अर्धचालक वर्तमान में अब तक निर्मित सबसे बड़ी AI अर्धचालक हैं। वे पूरे सिलिकॉन वेफर पर कब्जा करते हैं और वेफर-स्केल एकीकरण और स्विच्ड फैब्रिक का उपयोग करते हैं। यह GPU क्लस्टर की तुलना में विलंबता और इंटरकनेक्ट बाधाओं को कम करता है। वे डायनेमिक रैंडम-एक्सेस मेमोरी के विपरीत, स्टैटिक रैंडम-एक्सेस मेमोरी का उपयोग करते हैं। Cerebras अर्धचालक और कंप्यूटर सिस्टम प्रतिस्पर्धियों की तुलना में बहुत अधिक शक्तिशाली हैं; हालांकि, उनके बड़े आकार, 25kW बिजली की खपत, और प्रति नोड $3 मिलियन तक की लागत के कारण उनके नुकसान हैं।
इतिहास
Cerebras Systems की स्थापना 2015 में एंड्रयू फेल्डमैन, गैरी लॉटरबैक, माइकल जेम्स, सीन ली और जीन-फिलिप फ्रिकर द्वारा की गई थी। ये पांचों संस्थापक SeaMicro में एक साथ काम करते थे, जिसे 2007 में फेल्डमैन और लॉटरबैक ने शुरू किया था और 2012 में AMD को $334 मिलियन में बेच दिया गया था।
संस्थापक जानते थे कि GPU उच्च-स्तरीय प्रक्रियाओं के लिए इष्टतम अर्धचालक नहीं थे। हालांकि, उन्हें बिजली खींचते समय "विशाल" अर्धचालक को जलने से रोकने के लिए अद्वितीय शीतलन विधियों को डिजाइन करना पड़ा, सामान्य सूक्ष्म विनिर्माण दोषों के आसपास मार्ग खोजने के लिए अद्वितीय सॉफ्टवेयर, और उन्हें एक ऐसी मशीन का आविष्कार करना पड़ा जो बिना टूटे वेफर में एक साथ 40 स्क्रू ड्रिल कर सके।
कंपनी को एकीकृत सर्किट पैकेजिंग की समस्या को हल करने में कठिनाई हुई: सिलिकॉन को मदरबोर्ड से चिपकाना, बिजली प्राप्त करना, और हीटिंग और कूलिंग और डेटा वितरित करने और वापस लाने के लिए पाइप से निपटना। यह प्रति माह $8 मिलियन जला रही थी और समस्या को हल करने के लिए $200 मिलियन खर्च किए। जुलाई 2019 में, व्यापक परीक्षण और त्रुटि के बाद, कंपनी ने अंततः एक ऐसा उत्पाद तैयार किया जो काम करता था।
अगस्त 2019 में, Cerebras ने WSE-1, अपनी पहली पीढ़ी के वेफर-स्केल इंजन (WSE) अर्धचालक और अपनी CS-1 सुपरकंप्यूटिंग प्रणाली की घोषणा की। CS-1 एक 19-इंच रैक-माउंटेड उपकरण है और इसमें 400,000 प्रोसेसिंग कोर, 1.2 ट्रिलियन ट्रांजिस्टर (बारह 100-गीगाबिट ईथरनेट कनेक्शन) और 18 गीगाबाइट मेमोरी के साथ एक एकल WSE प्राथमिक प्रोसेसर शामिल है।
कंपनी के पहले ग्राहक शैक्षणिक संस्थान और जीवन-विज्ञान कंपनियां थीं जो दवा खोज, कम्प्यूटेशनल द्रव गतिकी, आनुवंशिक और जीनोमिक अनुसंधान, दवाओं के प्रति प्रतिक्रिया की भविष्यवाणी करने और COVID-19 अनुसंधान के लिए सुपरकंप्यूटर बना रही थीं। शुरुआती ग्राहकों में GlaxoSmithKline, AstraZeneca, राष्ट्रीय ऊर्जा प्रौद्योगिकी प्रयोगशाला, लॉरेंस लिवरमोर राष्ट्रीय प्रयोगशाला, पिट्सबर्ग सुपरकंप्यूटिंग सेंटर और एडिनबर्ग समानांतर कंप्यूटिंग सेंटर शामिल थे।
सितंबर 2020 में, कंपनी ने जापान में एक कार्यालय खोला और टोक्यो इलेक्ट्रॉन के साथ साझेदारी की।
अप्रैल 2021 में, कंपनी ने अपनी CS-2 प्रणाली जारी की, जो कंपनी के वेफर स्केल इंजन टू (WSE-2) पर आधारित है, जिसमें 850,000 कोर हैं। CS-2 TSMC की 7 nm प्रक्रिया द्वारा निर्मित है। यह 26 इंच (660 मिमी) लंबा है और एक मानक डेटा सेंटर रैक के एक तिहाई में फिट बैठता है। WSE-2 में 850,000 कोर और 2.6 ट्रिलियन ट्रांजिस्टर हैं। यह एक एकल प्रणाली को 120 ट्रिलियन से अधिक मापदंडों वाले AI मॉडल का समर्थन करने में सक्षम बनाता है। WSE-2 ने ऑन-चिप SRAM को 40 गीगाबाइट, मेमोरी बैंडविड्थ को 20 पेटाबाइट प्रति सेकंड और कुल फैब्रिक बैंडविड्थ को 220 पेटाबिट प्रति सेकंड तक विस्तारित किया। ग्राहकों में TotalEnergies, nference, राष्ट्रीय सुपरकंप्यूटिंग अनुप्रयोग केंद्र (NCSA) और लीबनिज सुपरकंप्यूटिंग सेंटर शामिल थे।
अगस्त 2021 में, Cerebras ने पेप्टाइड चिकित्सा विज्ञान के लिए AI के विकास पर Peptilogics के साथ एक साझेदारी की घोषणा की।
जून 2022 में, Cerebras ने एक उपकरण पर अब तक प्रशिक्षित सबसे बड़े AI मॉडल का रिकॉर्ड बनाया - एक एकल CS-2 प्रणाली जिसमें एक Cerebras वेफर ने 20 बिलियन मापदंडों तक के मॉडल प्रशिक्षित किए। Cerebras CS-2 प्रणाली GPT-3XL 1.3 बिलियन मॉडल के साथ-साथ GPT-J 6B, GPT-3 13B और GPT-NeoX 20B सहित बहु-अरब-पैरामीटर प्राकृतिक-भाषा-प्रसंस्करण (NLP) मॉडल को कम सॉफ्टवेयर जटिलता और बुनियादी ढांचे के साथ प्रशिक्षित कर सकती है।
अगस्त 2022 में, माउंटेन व्यू, कैलिफोर्निया में कंप्यूटर इतिहास संग्रहालय ने WSE-2 की विशेषता वाला एक नया प्रदर्शन अनावरण किया, जिसका नाम "द बिगेस्ट चिप इन द वर्ल्ड" रखा गया।
अगस्त 2022 में भी, Cerebras ने बैंगलोर, भारत में एक कार्यालय खोला।
सितंबर 2022 में, Cerebras ने घोषणा की कि वह AI कंप्यूटिंग के लिए अब तक का सबसे बड़ा कंप्यूटिंग क्लस्टर बनाने के लिए अपने चिप्स को एक साथ जोड़ सकता है। एक वेफर-स्केल क्लस्टर 192 CS-2 AI प्रणालियों को एक क्लस्टर में जोड़ सकता है, जबकि 16 CS-2 AI प्रणालियों का एक क्लस्टर प्राकृतिक भाषा प्रसंस्करण के लिए 13.6 मिलियन कोर के साथ एक कंप्यूटिंग प्रणाली बना सकता है। यह प्रशिक्षण के लिए डेटा समानता का उपयोग करता है।
अक्टूबर 2022 में, राष्ट्रीय परमाणु सुरक्षा प्रशासन की सैंडिया राष्ट्रीय प्रयोगशालाओं ने परमाणु स्टॉकपाइल प्रबंधन कंप्यूटिंग में CS-2 का उपयोग शुरू किया, यह निर्धारित करने के लिए कि क्या परमाणु हथियार इच्छित रूप से काम करेंगे।
नवंबर 2022 में, Cerebras ने एंड्रोमेडा सुपरकंप्यूटर का अनावरण किया, जो 16 WSE-2 चिप्स को 13.5 मिलियन AI-अनुकूलित कोर के साथ एक क्लस्टर में जोड़ता है, जो 1 एक्साफ्लॉप तक AI कंप्यूटिंग अश्वशक्ति, या कम से कम एक क्विंटिलियन (1018) ऑपरेशन प्रति सेकंड प्रदान करता है। पूरी प्रणाली 500 किलोवाट की खपत करती है, जो कुछ हद तक तुलनीय GPU-त्वरित सुपरकंप्यूटरों की तुलना में काफी कम थी।
नवंबर 2022 में, Cerebras ने अपने Cerebras AI मॉडल स्टूडियो के लिए फ्लैट-रेट "पे-प्रति-मॉडल" कंप्यूट समय प्रदान करने के लिए Cirrascale क्लाउड सेवाओं के साथ एक साझेदारी की घोषणा की।
नवंबर 2022 में, राष्ट्रीय ऊर्जा प्रौद्योगिकी प्रयोगशाला (NETL) ने Cerebras उत्पादों का उपयोग करके मील के पत्थर स्थापित किए।
नवंबर 2022 में, आर्गोन राष्ट्रीय प्रयोगशाला ने SARS-CoV-2 के वेरिएंट का विश्लेषण और भविष्यवाणी करने के लिए बड़े भाषा मॉडल को बदलने के लिए CS-2 के साथ-साथ Nvidia और हेवलेट-पैकार्ड के उत्पादों का उपयोग करके COVID-19 अनुसंधान के लिए 2022 गॉर्डन बेल विशेष पुरस्कार जीता।
जुलाई 2023 में, G42 Cerebras से संभावित नौ सुपरकंप्यूटरों में से पहला खरीदने के लिए लगभग $100 मिलियन का भुगतान करने पर सहमत हुआ। पहली प्रणाली उसी वर्ष बाद में वितरित की गई थी, और G42 बाद में एक प्रमुख ग्राहक बन गया, जो Cerebras के राजस्व का एक महत्वपूर्ण हिस्सा था।
प्रौद्योगिकी और उत्पाद
Cerebras की मुख्य तकनीक वेफर-स्केल इंजन है, एक एकल अर्धचालक जो पूरे सिलिकॉन वेफर में फैला हुआ है। यह दृष्टिकोण पारंपरिक चिप निर्माण के विपरीत है, जहां एक वेफर से कई चिप्स काटे जाते हैं। पूरे वेफर का उपयोग करके, Cerebras इंटर-चिप इंटरकनेक्ट की आवश्यकता को समाप्त करता है, जो GPU क्लस्टर में एक प्रमुख बाधा है। WSE-3, जिसकी घोषणा 2024 में की गई थी, इस डिजाइन की तीसरी पीढ़ी है, जिसमें 4 ट्रिलियन ट्रांजिस्टर और 900,000 कोर हैं। यह TSMC द्वारा 5 nm प्रक्रिया का उपयोग करके निर्मित है, और यह वर्तमान में अब तक निर्मित सबसे बड़ा AI अर्धचालक है।
CS-3 सुपरकंप्यूटर वह प्रणाली है जिसमें WSE-3 रहता है। इसे एकीकृत शीतलन और बिजली वितरण के साथ एक पूर्ण AI कंप्यूट नोड होने के लिए डिज़ाइन किया गया है। CS-3 का उपयोग प्रशिक्षण और अनुमान दोनों के लिए किया जा सकता है, और यह 24 ट्रिलियन मापदंडों तक के मॉडल का समर्थन करता है। Cerebras क्लाउड सेवाएं भी प्रदान करता है, जिससे ग्राहक सिस्टम को सीधे खरीदे बिना अपने API के माध्यम से अपने हार्डवेयर तक पहुंच सकते हैं।
कंपनी के अर्धचालक डायनेमिक रैंडम-एक्सेस मेमोरी (DRAM) के बजाय स्टैटिक रैंडम-एक्सेस मेमोरी (SRAM) का उपयोग करते हैं, जो उच्च बैंडविड्थ और कम विलंबता प्रदान करता है। यह विशेष रूप से AI कार्यभार के लिए फायदेमंद है जिसके लिए बड़ी मात्रा में डेटा तक त्वरित पहुंच की आवश्यकता होती है।
अनुप्रयोग और उपयोग के मामले
Cerebras प्रणालियों का उपयोग विभिन्न AI अनुप्रयोगों में किया जाता है, जिसमें प्राकृतिक भाषा प्रसंस्करण, दवा खोज और वैज्ञानिक अनुसंधान शामिल हैं। शुरुआती ग्राहकों में GlaxoSmithKline और AstraZeneca शामिल थे, जिन्होंने दवा खोज और जीनोमिक्स के लिए CS-1 का उपयोग किया। राष्ट्रीय ऊर्जा प्रौद्योगिकी प्रयोगशाला ने ऊर्जा अनुसंधान के लिए Cerebras प्रणालियों का उपयोग किया, और लॉरेंस लिवरमोर राष्ट्रीय प्रयोगशाला ने परमाणु स्टॉकपाइल प्रबंधन के लिए। CS-2 का उपयोग आर्गोन राष्ट्रीय प्रयोगशाला द्वारा COVID-19 अनुसंधान के लिए भी किया गया था, जिसने 2022 गॉर्डन बेल विशेष पुरस्कार जीता।
वाणिज्यिक क्षेत्र में, संयुक्त अरब अमीरात स्थित एक AI कंपनी G42, एक प्रमुख ग्राहक रही है, जो बड़े पैमाने पर AI प्रशिक्षण के लिए Cerebras प्रणालियों का उपयोग करती है। OpenAI और अमेज़न वेब सेवाओं ने 2026 में Cerebras हार्डवेयर का उपयोग करने के लिए समझौतों पर हस्ताक्षर किए, जिससे इसका ग्राहक आधार और विस्तार हुआ।
बाजार की स्थिति और प्रतिस्पर्धा
Cerebras दो मुख्य बाजारों में काम करता है: AI हार्डवेयर और AI क्लाउड सेवाएं। हार्डवेयर बाजार में, इसके प्राथमिक प्रतिस्पर्धी Nvidia, AMD, Intel और Broadcom हैं। Nvidia अपने GPU के साथ AI चिप बाजार पर हावी है, लेकिन Cerebras एक एकल-चिप समाधान पेश करके खुद को अलग करता है जो मल्टी-जीपीयू सिस्टम की इंटरकनेक्ट बाधाओं से बचता है। क्लाउड सेवा बाजार में, Cerebras अमेज़न वेब सेवाओं, माइक्रोसॉफ्ट एज़्योर, गूगल क्लाउड प्लेटफॉर्म, ओरेकल कॉर्पोरेशन और CoreWeave के साथ प्रतिस्पर्धा करता है।
अपने तकनीकी लाभों के बावजूद, Cerebras को अपने सिस्टम की उच्च लागत और बिजली आवश्यकताओं के कारण चुनौतियों का सामना करना पड़ता है। प्रत्येक नोड की लागत $3 मिलियन तक हो सकती है और 25 किलोवाट बिजली खींच सकती है, जो उच्च-प्रदर्शन कंप्यूटिंग उपयोगकर्ताओं के एक विशिष्ट बाजार के लिए इसकी अपील को सीमित करती है।
विनिर्माण और आपूर्ति श्रृंखला
Cerebras के अर्धचालक TSMC द्वारा निर्मित होते हैं, जो वर्तमान में ऐसे बड़े चिप्स का उत्पादन करने में सक्षम एकमात्र कंपनी है। वेफर-स्केल एकीकरण के लिए विशेष विनिर्माण प्रक्रियाओं की आवश्यकता होती है, और WSE-3 और WSE-2 के लिए क्रमशः TSMC के 5 nm और 7 nm नोड्स का उपयोग किया जाता है। एक एकल आपूर्तिकर्ता पर यह निर्भरता एक संभावित कमजोरी है, लेकिन यह उच्च स्तर की गुणवत्ता और स्थिरता भी सुनिश्चित करती है।
हाल के विकास और भविष्य का दृष्टिकोण
2024 में, Cerebras ने WSE-3 और CS-3 की घोषणा की, जो पिछली पीढ़ियों की तुलना में महत्वपूर्ण प्रदर्शन सुधार प्रदान करते हैं। कंपनी संयुक्त राज्य अमेरिका और अन्य क्षेत्रों में डेटा केंद्रों के साथ अपनी क्लाउड पेशकशों का विस्तार भी कर रही है। 2026 में, Cerebras ने OpenAI और अमेज़न वेब सेवाओं के साथ समझौतों पर हस्ताक्षर किए, जो इसकी तकनीक की बढ़ती मांग का संकेत देते हैं। कंपनी अनुसंधान और विकास में निवेश करना जारी रखती है, वेफर-स्केल एकीकरण में सुधार और बिजली की खपत को कम करने पर ध्यान केंद्रित करती है।
2025 तक, Cerebras के सनीवेल, सैन डिएगो, टोरंटो और बैंगलोर, भारत में कार्यालय हैं। कंपनी के प्रमुख ग्राहकों में मोहम्मद बिन जायद विश्वविद्यालय ऑफ आर्टिफिशियल इंटेलिजेंस शामिल है, जो 2025 के राजस्व का 62% था, और G42, जो 24% था। कंपनी की भविष्य की सफलता अपने विनिर्माण को बढ़ाने और अपने वर्तमान विशिष्ट बाजार से परे एक व्यापक ग्राहक आधार को आकर्षित करने की क्षमता पर निर्भर करेगी।
यह भी देखें
- कृत्रिम बुद्धिमत्ता
- मशीन लर्निंग
- गहन शिक्षण
- तंत्रिका नेटवर्क
- बड़ा भाषा मॉडल
- ट्रांसफॉर्मर
- ओपनएआई
- एंथ्रोपिक
- गूगल डीपमाइंड
- जनरेटिव एआई
- एएमडी
- इंटेल
- टीएसएमसी
- ब्रॉडकॉम
- अमेज़न वेब सेवाएं
- एज़्योर
- गूगल क्लाउड
- ओरेकल क्लाउड
- ग्रोक
- सांबा नोवा
- ग्राफकोर
- नोकिया बेल लैब्स
- ज़ेरॉक्स पार्क
- एमआईटी सीएसएआईएल
- स्टैनफोर्ड एआई लैब
- टोरंटो विश्वविद्यालय
- कार्नेगी मेलन विश्वविद्यालय
- बर्कले एआई अनुसंधान
- ऑक्सफोर्ड विश्वविद्यालय
- डी-वेव
- अलीबाबा क्लाउड
- वेमो
- टेस्ला ऑटोपायलट
- एडम ऑप्टिमाइज़र
- अवशिष्ट नेटवर्क
- यू-नेट
- आरएलएआईएफ
- पाठ्यक्रम शिक्षण
- ग्रेडिएंट क्लिपिंग
- बैच सामान्यीकरण
- लेयर सामान्यीकरण
- ड्रॉपआउट
- वेट इनिशियलाइज़ेशन
- हानि फलन
- स्थितीय एन्कोडिंग
- मल्टी-हेड अटेंशन
- क्रॉस-अटेंशन
- एन्कोडर-डिकोडर
- अनुक्रम-से-अनुक्रम
- बीम खोज
- टॉप-के सैंपलिंग
- टॉप-पी सैंपलिंग
- तापमान स्केलिंग
- मॉडल प्रूनिंग