ग्राफकोर लिमिटेड एक ब्रिटिश सेमीकंडक्टर कंपनी है जो कृत्रिम बुद्धिमत्ता और मशीन लर्निंग कार्यभार के लिए एक्सेलेरेटर डिजाइन करती है। यह कंपनी अपने इंटेलिजेंस प्रोसेसिंग यूनिट (IPU) के लिए सबसे अधिक जानी जाती है, जो एक बड़े पैमाने पर समानांतर प्रोसेसर है जो पूरे मशीन लर्निंग मॉडल को चिप के भीतर ही रखता है, पारंपरिक ग्राफिक्स प्रोसेसिंग यूनिट (GPU) के विपरीत जो बाहरी मेमोरी पर निर्भर करते हैं। ग्राफकोर की तकनीक न्यूरल नेटवर्क के प्रशिक्षण और अनुमान दोनों को लक्षित करती है, जिसका उद्देश्य AI कंप्यूटिंग के लिए GPU-आधारित सिस्टम का विकल्प प्रदान करना है।
2016 में स्थापित, ग्राफकोर कई फंडिंग राउंड के माध्यम से तेजी से बढ़ा, दिसंबर 2018 तक इसका मूल्यांकन $1.7 बिलियन तक पहुंच गया। कंपनी के उत्पाद, जिनमें कोलोसस GC2 और GC200 प्रोसेसर शामिल हैं, क्लाउड और एंटरप्राइज़ सेटिंग्स में उपयोग किए गए हैं। जुलाई 2024 में, सॉफ्टबैंक ग्रुप ने लगभग $500 मिलियन में ग्राफकोर का अधिग्रहण करने पर सहमति व्यक्त की, यह सौदा यूनाइटेड किंगडम में नियामक समीक्षा के अधीन था।
इतिहास
ग्राफकोर की स्थापना 2016 में साइमन नोल्स और निगेल टून द्वारा की गई थी, दोनों सेमीकंडक्टर उद्योग के अनुभवी थे। नोल्स ने पहले आइसरा की सह-स्थापना की थी, जो एक बेसबैंड प्रोसेसर कंपनी थी जिसे NVIDIA द्वारा अधिग्रहित किया गया था, जबकि टून ने कई चिप स्टार्टअप्स का नेतृत्व किया था। कंपनी ने विशेष रूप से मशीन इंटेलिजेंस के लिए प्रोसेसर डिजाइन करने का लक्ष्य रखा, जो उस समय GPU द्वारा प्रभुत्व वाला एक क्षेत्र था।
2016 की शरद ऋतु में, ग्राफकोर ने अपना पहला बड़ा फंडिंग राउंड सुरक्षित किया, जिसका नेतृत्व रॉबर्ट बॉश वेंचर कैपिटल ने किया। अन्य निवेशकों में सैमसंग, अमाडियस कैपिटल पार्टनर्स, C4 वेंचर्स, ड्रेपर एस्प्रिट, फाउंडेशन कैपिटल और पिटांगो शामिल थे। इस शुरुआती समर्थन ने कंपनी को अपनी IPU वास्तुकला और सॉफ्टवेयर स्टैक विकसित करना शुरू करने की अनुमति दी।
जुलाई 2017 में एक सीरीज B राउंड हुआ, जिसका नेतृत्व एटोमिको ने किया, कुछ महीनों बाद सिकोइया कैपिटल से अतिरिक्त फंडिंग मिली। दिसंबर 2018 तक, ग्राफकोर ने $1.7 बिलियन के मूल्यांकन पर $200 मिलियन का सीरीज D राउंड बंद किया, जिससे यह एक "यूनिकॉर्न" (एक निजी कंपनी जिसका मूल्य $1 बिलियन से अधिक है) बन गई। इस राउंड के निवेशकों में माइक्रोसॉफ्ट, सैमसंग और डेल टेक्नोलॉजीज शामिल थे।
नवंबर 2019 में, ग्राफकोर ने घोषणा की कि इसके C2 IPU कार्ड माइक्रोसॉफ्ट एज़्योर पर पूर्वावलोकन के लिए उपलब्ध हैं, जो एक महत्वपूर्ण क्लाउड तैनाती को चिह्नित करता है। कंपनी ने अपनी उत्पाद लाइन और साझेदारियों का विस्तार जारी रखा, लेकिन NVIDIA द्वारा प्रभुत्व वाले प्रतिस्पर्धी बाजार में चुनौतियों का भी सामना किया।
2023 की शुरुआत में, मेटा प्लेटफॉर्म्स ने ग्राफकोर से AI नेटवर्किंग प्रौद्योगिकी टीम का अधिग्रहण किया, जिसे एक रणनीतिक विनिवेश के रूप में देखा गया। वित्तीय शर्तों का खुलासा नहीं किया गया था, लेकिन इसने ग्राफकोर को अपने मुख्य प्रोसेसर व्यवसाय पर ध्यान केंद्रित करने की अनुमति दी।
जुलाई 2024 में, सॉफ्टबैंक ग्रुप ने लगभग $500 मिलियन में ग्राफकोर का अधिग्रहण करने पर सहमति व्यक्त की। यह सौदा ब्रिटेन के व्यापार विभाग की निवेश सुरक्षा इकाई द्वारा समीक्षा के अधीन था, जो सेमीकंडक्टर क्षेत्र में राष्ट्रीय सुरक्षा चिंताओं को दर्शाता है। अधिग्रहण से ग्राफकोर को अपने विकास प्रयासों को जारी रखने के लिए अतिरिक्त संसाधन उपलब्ध होने की उम्मीद थी।
उत्पाद और प्रौद्योगिकी
ग्राफकोर की प्राथमिक उत्पाद लाइन इंटेलिजेंस प्रोसेसिंग यूनिट (IPU) पर आधारित है, जो AI कार्यभार के लिए जमीन से डिजाइन किया गया प्रोसेसर है। IPU वास्तुकला GPU से काफी भिन्न है: यह कोर की एक बड़े पैमाने पर समानांतर श्रृंखला का उपयोग करता है, प्रत्येक की अपनी स्थानीय मेमोरी होती है, और पूरा मशीन लर्निंग मॉडल चिप पर संग्रहीत होता है। यह डिज़ाइन मेमोरी और प्रोसेसर के बीच डेटा आंदोलन की आवश्यकता को कम करता है, जो पारंपरिक वास्तुकला में एक प्रमुख बाधा है।
पहली IPU चिप, जिसे कोलोसस GC2 कहा जाता है, जुलाई 2017 में घोषित की गई थी। यह एक 16 एनएम बड़े पैमाने पर समानांतर, मिश्रित-परिशुद्धता फ्लोटिंग पॉइंट प्रोसेसर था जो 2018 में उपलब्ध हुआ। GC2 को एक एकल PCI एक्सप्रेस कार्ड पर दो चिप्स के साथ पैक किया गया था, जिसे ग्राफकोर C2 IPU के रूप में जाना जाता है। यह कार्ड TensorFlow जैसे मानक मशीन लर्निंग फ्रेमवर्क के साथ संयोजन में GPU के समान भूमिका निभाने के लिए डिज़ाइन किया गया था। डिवाइस पारंपरिक कैश पदानुक्रम के बजाय अपने प्रदर्शन के लिए स्क्रैचपैड मेमोरी पर निर्भर था।
जुलाई 2020 में, ग्राफकोर ने अपनी दूसरी पीढ़ी का प्रोसेसर, GC200 पेश किया, जो TSMC की 7nm FinFET निर्माण प्रक्रिया का उपयोग करके बनाया गया था। GC200 एक 59 बिलियन ट्रांजिस्टर, 823 वर्ग-मिलीमीटर एकीकृत सर्किट है जिसमें 1,472 कम्प्यूटेशनल कोर और 900 Mbyte स्थानीय मेमोरी है। 2022 में, ग्राफकोर और TSMC ने बो IPU प्रस्तुत किया, एक 3D पैकेज जो GC200 डाई को पावर-डिलीवरी डाई के साथ आमने-सामने जोड़ता है, जिससे कम कोर वोल्टेज पर उच्च क्लॉक दर की अनुमति मिलती है।
GC2 और GC200 दोनों चिप्स प्रति टाइल 6 थ्रेड का उपयोग करते हैं, क्रमशः कुल 7,296 और 8,832 थ्रेड के लिए। वे MIMD (मल्टीपल इंस्ट्रक्शन, मल्टीपल डेटा) समानांतरता का उपयोग करते हैं और डिवाइस पर अपनी एकमात्र मेमोरी के रूप में वितरित, स्थानीय मेमोरी रखते हैं, रजिस्टरों को छोड़कर। पुरानी GC2 चिप में प्रति टाइल 256 KiB है, जबकि नई GC200 में प्रति टाइल लगभग 630 KiB है, जो 4 टाइलों के द्वीपों में व्यवस्थित है, जो फिर कॉलम में व्यवस्थित हैं। विलंबता एक टाइल के भीतर सबसे अच्छी है।
IPU स्टोकेस्टिक राउंडिंग के साथ IEEE FP16 का समर्थन करता है, साथ ही कम प्रदर्शन पर सिंगल-परिशुद्धता FP32 का भी। स्थानीय रूप से निष्पादित कोड और डेटा एक टाइल में फिट होना चाहिए, लेकिन संदेश-पासिंग के साथ, सभी ऑन-चिप या ऑफ-चिप मेमोरी का उपयोग किया जा सकता है। AI के लिए सॉफ्टवेयर इसे पारदर्शी रूप से संभव बनाता है, उदाहरण के लिए, PyTorch समर्थन के माध्यम से।
सॉफ्टवेयर स्टैक
2016 में, ग्राफकोर ने मशीन इंटेलिजेंस के लिए डिज़ाइन की गई दुनिया की पहली ग्राफ टूल श्रृंखला की घोषणा की, जिसे पॉपलर सॉफ्टवेयर स्टैक कहा जाता है। पॉपलर एक पूर्ण सॉफ्टवेयर डेवलपमेंट किट है जिसमें एक ग्राफ कंपाइलर, एक रनटाइम और AI मॉडल बनाने और तैनात करने के लिए लाइब्रेरी शामिल हैं। यह IPU हार्डवेयर की जटिलताओं को सार करता है, जिससे डेवलपर्स TensorFlow और PyTorch जैसे फ्रेमवर्क में उच्च-स्तरीय कोड लिख सकते हैं।
पॉपलर का ग्राफ-आधारित दृष्टिकोण IPU की वास्तुकला के लिए अच्छी तरह से अनुकूल है, जो स्वयं प्रोसेसिंग टाइलों का एक ग्राफ है। कंपाइलर एक तंत्रिका नेटवर्क के कम्प्यूटेशनल ग्राफ को IPU के टाइलों पर मैप करता है, मेमोरी उपयोग और संचार के लिए अनुकूलन करता है। रनटाइम हार्डवेयर पर ग्राफ के निष्पादन का प्रबंधन करता है, जिसमें शेड्यूलिंग और डेटा आंदोलन शामिल है।
सॉफ्टवेयर स्टैक में अनुमान के लिए एक लाइब्रेरी पॉपआर्ट और तंत्रिका नेटवर्क बनाने के लिए एक लाइब्रेरी पॉपएनएन भी शामिल है। ये उपकरण मौजूदा AI फ्रेमवर्क के साथ अंतर-संचालनीय होने के लिए डिज़ाइन किए गए हैं, जिससे डेवलपर्स के लिए IPU तकनीक को अपनाना आसान हो जाता है।
बाजार स्थिति और प्रतिस्पर्धा
ग्राफकोर AI एक्सेलेरेटर के अत्यधिक प्रतिस्पर्धी क्षेत्र में काम करता है, जहां NVIDIA ने ऐतिहासिक रूप से अपने GPU के साथ प्रभुत्व किया है। अन्य प्रतिस्पर्धियों में एएमडी अपनी इंस्टिंक्ट लाइन के साथ, इंटेल अपने गौडी प्रोसेसर के साथ, और ग्रॉक और सांबा नोवा जैसे स्टार्टअप शामिल हैं। ग्राफकोर का IPU इन-मेमोरी कंप्यूटिंग और एक बड़े पैमाने पर समानांतर वास्तुकला पर ध्यान केंद्रित करके खुद को अलग करता है, जो कुछ प्रकार के मॉडलों के लिए फायदे प्रदान कर सकता है, विशेष रूप से बड़े मेमोरी पदचिह्न वाले।
कंपनी ने क्लाउड और एज दोनों बाजारों को लक्षित किया है। इसके प्रोसेसर माइक्रोसॉफ्ट एज़्योर और ओरेकल क्लाउड जैसे क्लाउड प्रदाताओं के साथ साझेदारी के माध्यम से डेटा केंद्रों में तैनात किए गए हैं। ग्राफकोर ने प्राकृतिक भाषा प्रसंस्करण, कंप्यूटर विजन और वैज्ञानिक कंप्यूटिंग जैसे क्षेत्रों में AI कार्यभार को तेज करने के लिए अनुसंधान संस्थानों और उद्यमों के साथ भी काम किया है।
अपने तकनीकी नवाचारों के बावजूद, ग्राफकोर को अपने व्यवसाय को स्केल करने में चुनौतियों का सामना करना पड़ा है। AI एक्सेलेरेटर बाजार पूंजी-गहन है, और कंपनी ने NVIDIA के पारिस्थितिकी तंत्र और सॉफ्टवेयर परिपक्वता के साथ प्रतिस्पर्धा करने के लिए संघर्ष किया है। सॉफ्टबैंक द्वारा अधिग्रहण को वित्तीय स्थिरता और व्यापक संसाधनों तक पहुंच प्रदान करने के तरीके के रूप में देखा जाता है।
भविष्य की दिशाएं
ग्राफकोर ने आई.जे. गुड के नाम पर एक "गुड मशीन" बनाने की अपनी महत्वाकांक्षा व्यक्त की है, जो एलन ट्यूरिंग के साथ काम करने वाले ब्रिटिश गणितज्ञ थे। लक्ष्य मानव मस्तिष्क में सिनेप्स की तुलना में अधिक पैरामीटर वाले AI मॉडल को सक्षम करना है, जिसके लिए हार्डवेयर और सॉफ्टवेयर दोनों में महत्वपूर्ण प्रगति की आवश्यकता होगी। कंपनी अपनी IPU वास्तुकला को विकसित करना जारी रखती है, भविष्य की पीढ़ियों की योजनाओं के साथ जो और भी उच्च प्रदर्शन और दक्षता प्रदान कर सकती हैं।
सॉफ्टबैंक द्वारा अधिग्रहण से इन प्रयासों में तेजी आने की उम्मीद है। सॉफ्टबैंक का AI और सेमीकंडक्टर कंपनियों में निवेश का इतिहास रहा है, जिसमें आर्म होल्डिंग्स शामिल है, और यह ग्राफकोर को अपने विनिर्माण और वैश्विक पहुंच का विस्तार करने के लिए आवश्यक पूंजी प्रदान कर सकता है। सौदे की नियामक मंजूरी अभी भी लंबित है, लेकिन अगर यह पूरा हो जाता है, तो यह ब्रिटिश चिप डिजाइनर के लिए एक नया अध्याय चिह्नित कर सकता है।