ग्राफकोर लिमिटेड एक ब्रिटिश सेमीकंडक्टर कंपनी है जो AI और मशीन लर्निंग के लिए एक्सेलेरेटर विकसित करती है। इसका प्रमुख उत्पाद, इंटेलिजेंस प्रोसेसिंग यूनिट (IPU), एक बड़े पैमाने पर समानांतर प्रोसेसर है जिसे पूरे मशीन लर्निंग मॉडल को चिप के अंदर रखने के लिए डिज़ाइन किया गया है, जिससे मेमोरी और कंप्यूट के बीच लगातार डेटा आवाजाही की आवश्यकता कम हो जाती है। कंपनी की स्थापना 2016 में हुई थी और 2024 में सॉफ्टबैंक ग्रुप द्वारा अधिग्रहित होने से पहले यह AI हार्डवेयर क्षेत्र में एक उल्लेखनीय खिलाड़ी बन गई।
IPU आर्किटेक्चर पारंपरिक GPU से भिन्न है, क्योंकि इसमें बड़ी संख्या में छोटे प्रोसेसिंग कोर होते हैं, जिन्हें टाइल्स कहा जाता है, और प्रत्येक का अपना स्थानीय मेमोरी होता है। यह डिज़ाइन मॉडल पैरामीटर और एक्टिवेशन तक उच्च-बैंडविड्थ, कम-विलंबता पहुंच की अनुमति देता है, जो विशेष रूप से डीप लर्निंग वर्कलोड जैसे लार्ज लैंग्वेज मॉडल प्रशिक्षण और इन्फ्रेंस के लिए उपयुक्त है। ग्राफकोर ने लोकप्रिय मशीन लर्निंग फ्रेमवर्क जैसे TensorFlow और PyTorch का समर्थन करने के लिए पॉपलर सॉफ्टवेयर स्टैक भी विकसित किया।
इतिहास
ग्राफकोर की स्थापना 2016 में साइमन नोल्स और निगेल टून द्वारा की गई थी, जो दोनों सेमीकंडक्टर उद्योग के अनुभवी थे। कंपनी ने तेजी से वेंचर कैपिटल आकर्षित किया, जिसमें शरद 2016 में रॉबर्ट बॉश वेंचर कैपिटल के नेतृत्व में पहला फंडिंग राउंड शामिल था, और सैमसंग, अमाडियस कैपिटल पार्टनर्स, C4 वेंचर्स, ड्रेपर एस्प्रिट, फाउंडेशन कैपिटल और पिटांगो से अतिरिक्त समर्थन मिला। जुलाई 2017 में, एटोमिको के नेतृत्व में एक सीरीज B राउंड के बाद सिकोइया कैपिटल से $50 मिलियन आए। दिसंबर 2018 तक, ग्राफकोर ने $1.7 बिलियन मूल्यांकन पर $200 मिलियन की सीरीज D बंद की, जिससे यह एक यूनिकॉर्न बन गई, जिसमें माइक्रोसॉफ्ट, सैमसंग और डेल टेक्नोलॉजीज जैसे निवेशक शामिल थे।
नवंबर 2019 में, ग्राफकोर ने घोषणा की कि इसके C2 IPU कार्ड माइक्रोसॉफ्ट एज़्योर पर पूर्वावलोकन के लिए उपलब्ध हैं, जो एक महत्वपूर्ण क्लाउड तैनाती को चिह्नित करता है। 2023 की शुरुआत में, मेटा प्लेटफॉर्म्स ने ग्राफकोर से AI नेटवर्किंग तकनीक टीम का अधिग्रहण किया, हालांकि कंपनी ने अपने मुख्य कार्यों को जारी रखा। जुलाई 2024 में, सॉफ्टबैंक ग्रुप लगभग $500 मिलियन में ग्राफकोर का अधिग्रहण करने पर सहमत हुआ, एक ऐसा सौदा जो यूके के बिजनेस विभाग की निवेश सुरक्षा इकाई की समीक्षा के अधीन था।
उत्पाद और प्रौद्योगिकी
ग्राफकोर की पहली उत्पाद घोषणा 2016 में पॉपलर सॉफ्टवेयर स्टैक के साथ आई, जिसे मशीन इंटेलिजेंस के लिए दुनिया की पहली ग्राफ टूल चेन के रूप में वर्णित किया गया। जुलाई 2017 में, कंपनी ने अपनी पहली चिप, कोलोसस GC2 का अनावरण किया, जो एक 16 nm बड़े पैमाने पर समानांतर, मिश्रित-परिशुद्धता फ्लोटिंग पॉइंट प्रोसेसर था जो 2018 में उपलब्ध हुआ। GC2 को एक ही PCI एक्सप्रेस कार्ड पर दो चिप्स के रूप में पैक किया गया था, जिसे ग्राफकोर C2 IPU कहा जाता है, जिसे मानक मशीन लर्निंग फ्रेमवर्क के साथ GPU के समान भूमिका निभाने के लिए डिज़ाइन किया गया था। डिवाइस प्रदर्शन के लिए पारंपरिक कैश पदानुक्रम के बजाय स्क्रैचपैड मेमोरी पर निर्भर करता है।
जुलाई 2020 में, ग्राफकोर ने अपनी दूसरी पीढ़ी का प्रोसेसर, GC200 पेश किया, जो TSMC की 7nm FinFET प्रक्रिया का उपयोग करके बनाया गया था। GC200 एक 59 बिलियन ट्रांजिस्टर, 823 वर्ग-मिलीमीटर एकीकृत सर्किट है जिसमें 1,472 कम्प्यूटेशनल कोर और 900 Mbyte स्थानीय मेमोरी है। 2022 में, ग्राफकोर और TSMC ने बो IPU प्रस्तुत किया, जो GC200 डाई का एक 3D पैकेज है जो पावर-डिलीवरी डाई के साथ आमने-सामने बंधा होता है, जो कम कोर वोल्टेज पर उच्च क्लॉक दरों को सक्षम करता है। कंपनी ने I.J. गुड के नाम पर 'गुड मशीन' नामक एक दीर्घकालिक लक्ष्य भी रेखांकित किया, जो मानव मस्तिष्क में सिनैप्स की तुलना में अधिक पैरामीटर वाले AI मॉडल का समर्थन करेगा।
आर्किटेक्चर विवरण
GC2 और GC200 दोनों चिप्स प्रति टाइल 6 थ्रेड का समर्थन करते हैं, जो क्रमशः 7,296 और 8,832 थ्रेड देते हैं। आर्किटेक्चर MIMD (मल्टीपल इंस्ट्रक्शन, मल्टीपल डेटा) समानांतरता का उपयोग करता है, जिसमें डिवाइस पर मेमोरी का एकमात्र रूप वितरित, स्थानीय मेमोरी है (रजिस्टरों को छोड़कर)। पुरानी GC2 चिप में प्रति टाइल 256 KiB है, जबकि नई GC200 में प्रति टाइल लगभग 630 KiB है, जो 4 टाइलों के द्वीपों में व्यवस्थित है, जिन्हें फिर कॉलम में व्यवस्थित किया जाता है; विलंबता एक टाइल के भीतर सबसे अच्छी है। IPU स्टोकेस्टिक राउंडिंग के साथ IEEE FP16 और कम प्रदर्शन पर सिंगल-प्रिसिजन FP32 का समर्थन करता है। स्थानीय रूप से निष्पादित कोड और डेटा को एक टाइल के भीतर फिट होना चाहिए, लेकिन संदेश-पासिंग सभी ऑन-चिप या ऑफ-चिप मेमोरी के उपयोग की अनुमति देता है, और AI के लिए सॉफ्टवेयर इसे पारदर्शी बनाता है, जिसमें PyTorch समर्थन शामिल है।
बाजार स्थिति और प्रभाव
ग्राफकोर ने खुद को AI एक्सेलेरेटर बाजार में Nvidia के चैलेंजर के रूप में स्थापित किया, जो एक अद्वितीय आर्किचेक्चर पर ध्यान केंद्रित करता है जो GPU और Cerebras या Groq जैसे अन्य AI चिप्स दोनों से अलग है। इसका IPU विशेष रूप से न्यूरल नेटवर्क मॉडल के प्रशिक्षण और इन्फ्रेंस के लिए लक्षित था, जिसमें माइक्रोसॉफ्ट एज़्योर और विभिन्न शोध संस्थानों सहित शुरुआती अपनाने वाले शामिल थे। 2024 में सॉफ्टबैंक द्वारा अधिग्रहण को सॉफ्टबैंक की AI महत्वाकांक्षाओं को मजबूत करने के लिए एक रणनीतिक कदम के रूप में देखा गया, हालांकि इस सौदे को यूके में नियामक जांच का सामना करना पड़ा। ग्राफकोर की तकनीक का उपयोग क्लाउड और एंटरप्राइज़ सेटिंग्स में जारी है, और इसका सॉफ्टवेयर स्टैक विकास का एक सक्रिय क्षेत्र बना हुआ है।
यह भी देखें
- AI एक्सेलेरेटर
- बड़े पैमाने पर समानांतर प्रोसेसर