Etched एक अर्धचालक कंपनी है जो Transformer (architecture) मॉडलों के लिए एप्लिकेशन-विशिष्ट एकीकृत सर्किट (ASIC) डिज़ाइन करने पर केंद्रित है, जो आधुनिक बड़े भाषा मॉडल के पीछे की प्रमुख वास्तुकला है। 2022 में गेविन उबेर्ती और क्रिस झू द्वारा स्थापित, कंपनी का लक्ष्य ट्रांसफॉर्मर संचालन, विशेष रूप से ध्यान तंत्र और फीड-फॉरवर्ड परतों के लिए अपने हार्डवेयर को विशेषज्ञ बनाकर सामान्य-उद्देश्य वाले GPU से बेहतर प्रदर्शन करना है। इसकी प्रमुख चिप, जिसका नाम सोहू है, OpenAI के GPT और Anthropic के Claude जैसे मॉडलों के लिए अनुमान को पारंपरिक त्वरक की तुलना में काफी कम विलंबता और लागत पर चलाने के लिए डिज़ाइन की गई है।
कंपनी AI हार्डवेयर में एक व्यापक प्रवृत्ति से उभरी है, जहां Cerebras, Groq, और SambaNova जैसे स्टार्टअप Nvidia और AMD जैसे स्थापित खिलाड़ियों को चुनौती देते हैं। Etched खुद को विशेष रूप से ट्रांसफॉर्मरों के लिए प्रतिबद्ध करके अलग पहचान बनाती है, यह तर्क देते हुए कि वास्तुकला का प्रभुत्व एक निश्चित-कार्य चिप को उचित ठहराता है। 2025 तक, कंपनी ने Amazon और Nvidia (बाद वाला एक रणनीतिक निवेश के माध्यम से) सहित निवेशकों से $120 मिलियन से अधिक की फंडिंग जुटाई है।
Architecture and Design
सोहू में 144 GB ऑन-चिप SRAM एकीकृत है और 128,000-टोकन संदर्भ विंडो तक का समर्थन करता है। इसे TSMC में 4nm प्रक्रिया का उपयोग करके निर्मित किया गया है, जिसका उत्पादन 2025 के लिए निर्धारित है। चिप ट्रांसफॉर्मर परतों को समर्पित सिलिकॉन में लागू करता है, जो GPU में पाए जाने वाले प्रोग्रामेबल कोर को दरकिनार करता है। यह डिज़ाइन निर्देश शेड्यूलिंग और मेमोरी प्रबंधन से ओवरहेड को समाप्त करता है, जिससे प्रति वाट उच्च थ्रूपुट सक्षम होता है। Etched का दावा है कि सोहू 70-बिलियन-पैरामीटर मॉडल के लिए प्रति सेकंड 500,000 से अधिक टोकन संसाधित कर सकता है, जो Nvidia के H100 GPU से लगभग एक क्रम की गति से तेज़ है।
कंपनी ने एक कस्टम सॉफ्टवेयर स्टैक भी विकसित किया है, जिसमें एक कंपाइलर शामिल है जो PyTorch और JAX मॉडल को हार्डवेयर पर मैप करता है। यह स्टैक Hugging Face Transformers और vLLM जैसे लोकप्रिय फ्रेमवर्क का समर्थन करता है, जिससे डेवलपर्स के लिए अपनाना आसान हो जाता है। AWS Trainium या Google Cloud TPU के विपरीत, जो व्यापक रूप से प्रशिक्षण और अनुमान को लक्षित करते हैं, सोहू विशेष रूप से अनुमान पर केंद्रित है, जिससे जटिलता और लागत कम होती है।
Market Position and Competition
Etched एक प्रतिस्पर्धी परिदृश्य में काम करती है जिसमें Cerebras (वेफर-स्केल इंजन), Groq (अनुमान के लिए LPU), और Graphcore (AI के लिए IPU) शामिल हैं। जबकि ये कंपनियां सामान्य-उद्देश्य वाले AI त्वरक प्रदान करती हैं, Etched का ट्रांसफॉर्मर-केवल दृष्टिकोण अद्वितीय है। यह विशेषज्ञता छोटे डाई आकार और कम बिजली खपत की अनुमति देती है, लेकिन यदि AI क्षेत्र ट्रांसफॉर्मरों से दूर जाता है तो अप्रचलन का जोखिम होता है। कंपनी इस जोखिम को स्वीकार करती है, यह देखते हुए कि किसी भी बड़े वास्तुशिल्प परिवर्तन के लिए पुनः डिज़ाइन की आवश्यकता होगी।
2024 में, Etched ने उन्नत पैकेजिंग के लिए TSMC और नेटवर्किंग इंटरफेस के लिए Broadcom के साथ साझेदारी की घोषणा की। इसने क्लाउड डेटा केंद्रों में सोहू क्लस्टर तैनात करने के लिए CoreWeave के साथ एक सौदा भी हासिल किया। ये साझेदारी Etched को AWS Trainium और Microsoft Azure की Maia चिप्स के साथ प्रतिस्पर्धा करने की स्थिति में रखती हैं, जो कस्टम सिलिकॉन भी हैं लेकिन कम विशेषज्ञ हैं।
Funding and Milestones
Etched की स्थापना 2022 में उबेर्ती (CEO) और झू (CTO) द्वारा की गई थी, दोनों OpenAI और Google DeepMind के पूर्व इंजीनियर थे। कंपनी जून 2024 में स्टील्थ से उभरी, जिसने Halcyon और Omniscient (काल्पनिक निवेशक, वास्तविक संस्थाओं के साथ भ्रमित न हों) के नेतृत्व में $120 मिलियन की Series A राउंड की घोषणा की। अतिरिक्त प्रतिभागियों में Amazon AI और Alibaba Cloud शामिल थे। 2025 की शुरुआत तक, Etched ने बेंचमार्किंग के लिए AI21 Labs और Inflection AI सहित चुनिंदा भागीदारों को प्रारंभिक प्रोटोटाइप भेज दिए थे।
कंपनी के तकनीकी मील के पत्थरों में ट्रांसफॉर्मर कर्नेल पर 90% सिलिकॉन दक्षता प्राप्त करना शामिल है, जबकि GPU के लिए लगभग 30% है। इसने एक एकल सोहू चिप पर 175-बिलियन-पैरामीटर मॉडल चलाने का भी प्रदर्शन किया, जिसके लिए कई GPU की आवश्यकता होती है। इन परिणामों ने Oracle Cloud और Azure का ध्यान आकर्षित किया है, जो अपनी अनुमान सेवाओं के लिए सोहू का मूल्यांकन कर रहे हैं।
Implications for AI Development
Etched की सफलता जनरेटिव AI अनुप्रयोगों की तैनाती की लागत को कम कर सकती है, जिससे बड़े मॉडल स्टार्टअप और शोधकर्ताओं के लिए अधिक सुलभ हो जाते हैं। अनुमान विलंबता को कम करके, यह चैटबॉट, कोडिंग सहायकों और स्वायत्त एजेंटों के लिए वास्तविक समय की बातचीत को सक्षम बनाता है। हालांकि, कंपनी का भाग्य ट्रांसफॉर्मरों के निरंतर प्रभुत्व पर निर्भर करता है, जिन्होंने 2017 से BERT और GPT जैसी सफलताओं को रेखांकित किया है। Stanford AI Lab और Berkeley AI Research के शोधकर्ताओं ने नोट किया है कि जबकि राज्य-स्थान मॉडल जैसे विकल्प मौजूद हैं, ट्रांसफॉर्मर उद्योग मानक बने हुए हैं।
Etched को विनिर्माण जोखिमों का भी सामना करना पड़ता है, क्योंकि उन्नत नोड्स के लिए TSMC पर इसकी निर्भरता इसे भू-राजनीतिक और आपूर्ति-श्रृंखला अनिश्चितताओं के संपर्क में लाती है। कंपनी भविष्य की पीढ़ियों में Samsung और Intel सहित कई फाउंड्री के लिए डिज़ाइन करके इसे कम करने की योजना बना रही है। 2025 तक, सोहू ने अभी तक वॉल्यूम उत्पादन हासिल नहीं किया है, और कंपनी ने पायलट कार्यक्रमों से परे विशिष्ट ग्राहक प्रतिबद्धताओं का खुलासा नहीं किया है।