ग्राफिक्स प्रोसेसिंग यूनिट (GPU) एक विशेष प्रोसेसर है जिसे मूल रूप से कई सरल गणनाओं को समानांतर रूप से करके छवियों और वीडियो को रेंडर करने के लिए डिज़ाइन किया गया था। यही वास्तुकला, जिसमें हजारों छोटे कोर एक साथ डेटा के विभिन्न टुकड़ों पर एक ही ऑपरेशन निष्पादित करते हैं, तंत्रिका नेटवर्क के अंतर्निहित मैट्रिक्स और वेक्टर गणित के लिए अत्यंत उपयुक्त साबित हुई, और GPU गहन शिक्षण मॉडल को प्रशिक्षित करने और चलाने के लिए प्रमुख हार्डवेयर बन गए।
GPU AI के लिए क्यों उपयुक्त हैं
तंत्रिका नेटवर्क को प्रशिक्षित करने में बड़े मैट्रिक्स का बार-बार गुणा और जोड़ शामिल होता है, ऐसे ऑपरेशन जिन्हें कई स्वतंत्र भागों में विभाजित किया जा सकता है और एक साथ निष्पादित किया जा सकता है। एक सेंट्रल प्रोसेसिंग यूनिट में कुछ शक्तिशाली कोर होते हैं जो अनुक्रमिक, सामान्य-उद्देश्यीय कार्यों के लिए अनुकूलित होते हैं; एक GPU में हजारों सरल कोर होते हैं जो ठीक इसी प्रकार के समानांतर, दोहराव वाले अंकगणित के लिए अनुकूलित होते हैं। यह अंतर, जिसने GPU को मूल रूप से स्क्रीन पर पिक्सेल रंगों की गणना करने के समानांतर कार्य के लिए बनाया था, ने उन्हें प्रशिक्षण में उपयोग किए जाने वाले ग्रेडिएंट डिसेंट की गणनाओं और अनुमान में उपयोग किए जाने वाले मैट्रिक्स गुणन में CPU की तुलना में कहीं अधिक तेज़ बना दिया।
इतिहास
1993 में स्थापित Nvidia ने अपने उपभोक्ता ग्राफिक्स कार्ड के साथ आधुनिक GPU श्रेणी की स्थापना की, फिर 2006 में CUDA के साथ GPU को सामान्य-उद्देश्यीय कंप्यूटिंग के लिए खोल दिया, जो एक प्रोग्रामिंग प्लेटफ़ॉर्म है जो डेवलपर्स को GPU के समानांतर कोर के लिए गैर-ग्राफिक्स कोड लिखने की अनुमति देता है। AI के लिए निर्णायक मोड़ 2012 में आया, जब AlexNet, जिसे दो Nvidia GTX 580 GPU पर प्रशिक्षित किया गया था, ने ImageNet प्रतियोगिता को बड़े अंतर से जीता, यह प्रदर्शित करते हुए कि GPU-त्वरित गहन शिक्षण पिछले कंप्यूटर विज़न तरीकों से काफी बेहतर प्रदर्शन कर सकता है और पूरे क्षेत्र में GPU प्रशिक्षण की ओर बदलाव को ट्रिगर किया। Nvidia ने बाद में विशेष रूप से AI के लिए डेटा-सेंटर GPU की एक श्रृंखला बनाई, जिसमें V100 (2017), A100 (2020), H100 (2022), और ब्लैकवेल-पीढ़ी के चिप्स (2024) शामिल हैं, जिनमें से प्रत्येक गहन शिक्षण में उपयोग किए जाने वाले कम-परिशुद्धता मैट्रिक्स गणित में पिछले की तुलना में काफी तेज़ है।
बाजार और प्रभाव
2020 के दशक के प्रारंभ से मध्य तक AI उछाल तक, बड़े भाषा मॉडल और अन्य फाउंडेशन मॉडल को प्रशिक्षित करने की कंप्यूट आवश्यकताओं से प्रेरित Nvidia के डेटा-सेंटर GPU की मांग ने Nvidia को संक्षेप में दुनिया की सबसे मूल्यवान सार्वजनिक कंपनी बना दिया, जिसमें H100 जैसे चिप्स लगातार कम आपूर्ति में थे। इसने AI प्रशिक्षण हार्डवेयर के प्रमुख आपूर्तिकर्ता के रूप में Nvidia की स्थिति को केंद्रित किया, जो CUDA की वास्तविक सॉफ्टवेयर मानक के रूप में स्थिति से प्रबलित है, जिसके लिए PyTorch और TensorFlow सहित अधिकांश AI फ्रेमवर्क अनुकूलित हैं। AMD, Intel, और Google के TPU जैसे कस्टम एक्सेलेरेटर सहित प्रतिस्पर्धियों ने Nvidia के प्रभुत्व को चुनौती दी है, और प्रमुख AI प्रयोगशालाओं ने तेजी से अपने स्वयं के चिप्स डिजाइन किए हैं, लेकिन 2025 तक GPU, और विशेष रूप से Nvidia के, बड़े पैमाने पर AI प्रशिक्षण के प्राथमिक इंजन और उद्योग के लिए लगातार बाधा और लागत चालक बने रहे, जिससे संयुक्त राज्य सरकार द्वारा चीन को अपने सबसे उन्नत चिप्स की बिक्री को प्रतिबंधित करने वाले निर्यात नियंत्रण को बढ़ावा मिला।