कंप्यूटिंग

कृत्रिम बुद्धिमत्ता के संदर्भ में, कंप्यूट मशीन लर्निंग मॉडल को प्रशिक्षित करने, फाइन-ट्यून करने और तैनात करने के लिए उपयोग की जाने वाली कुल प्रोसेसिंग क्षमता, मेमोरी बैंडविड्थ और हार्डवेयर अवसंरचना को दर्शाता है। यह शब्द गहन शिक्षण के उदय के साथ प्रमुखता में आया, जहां गणना का पैमाना अक्सर मॉडल की क्षमता निर्धारित करता है। कंप्यूट में न केवल कच्ची प्रोसेसर गति शामिल है, बल्कि डेटा संचलन की दक्षता, समानांतरीकरण और निरंतर संचालन के लिए आवश्यक ऊर्जा भी शामिल है।

2010 के दशक की शुरुआत से कंप्यूट की मांग तेजी से बढ़ी है, जो तंत्रिका नेटवर्क के बढ़ते आकार और प्रशिक्षण डेटा की मात्रा से प्रेरित है। इस वृद्धि ने हार्डवेयर डिजाइन, क्लाउड सेवा प्रस्तावों और प्रमुख प्रौद्योगिकी कंपनियों की रणनीतिक प्राथमिकताओं को प्रभावित किया है। परिणामस्वरूप, कंप्यूट एआई प्रगति, लागत और पर्यावरणीय प्रभाव की चर्चाओं में एक केंद्रीय मीट्रिक बन गया है।

ऐतिहासिक संदर्भ

एआई में कंप्यूट की अवधारणा आधुनिक गहन शिक्षण से पहले की है। प्रारंभिक शतरंज कंप्यूटर और विशेषज्ञ प्रणालियाँ समकालीन मानकों की तुलना में मामूली प्रोसेसिंग शक्ति पर निर्भर थीं। 1950 और 1960 के दशक का Perceptron युग सरल अंकगणितीय संचालन का उपयोग करता था, लेकिन हार्डवेयर में सीमाओं ने प्रगति को रोक दिया। 1980 के दशक में तंत्रिका नेटवर्क का पुनरुत्थान, जिसका नेतृत्व जेफ्री हिंटन और यान लेकुन जैसे शोधकर्ताओं ने किया, के लिए अधिक पर्याप्त कम्प्यूटेशनल संसाधनों की आवश्यकता थी, हालांकि यह आज के स्तर से काफी नीचे था।

महत्वपूर्ण बदलाव लगभग 2012 में हुआ, जब NVIDIA GPU पर प्रशिक्षित एक गहरे संवॉल्यूशनल नेटवर्क ने छवि पहचान में एक सफलता हासिल की। इसने प्रदर्शित किया कि समानांतर प्रोसेसिंग प्रशिक्षण को परिमाण के क्रम से तेज कर सकती है। इसके बाद, GPU का उपयोग मानक बन गया, और 'कंप्यूट' शब्द का उपयोग एआई कार्यों के लिए आवंटित कुल हार्डवेयर क्षमता के संक्षिप्त रूप के रूप में होने लगा।

हार्डवेयर और अवसंरचना

कंप्यूट कई हार्डवेयर वर्गों के माध्यम से वितरित किया जाता है। सेंट्रल प्रोसेसिंग यूनिट (CPU) सामान्य-उद्देश्यीय कार्यों को संभालते हैं, लेकिन गहन शिक्षण के लिए केंद्रीय मैट्रिक्स संचालन में अक्षम होते हैं। GPU, मूल रूप से ग्राफिक्स के लिए डिज़ाइन किए गए, समानांतर कार्यभार में उत्कृष्ट होते हैं और प्रशिक्षण के लिए प्रमुख विकल्प बन गए। AMD और Intel जैसी कंपनियों ने प्रतिस्पर्धी एक्सेलेरेटर विकसित किए हैं, जबकि Arm-आधारित डिज़ाइन एज डिवाइसों में दिखाई देते हैं।

विशेष एआई चिप्स विशिष्ट कार्यभार को अनुकूलित करने के लिए उभरे हैं। Google DeepMind और Google Cloud टेंसर प्रोसेसिंग यूनिट (TPU) का उपयोग करते हैं, जो तंत्रिका नेटवर्क अनुमान और प्रशिक्षण के लिए डिज़ाइन किए गए कस्टम ASIC हैं। AWS Trainium Amazon Web Services में समान भूमिका निभाता है। Groq और SambaNova जैसे स्टार्टअप वैकल्पिक आर्किटेक्चर प्रदान करते हैं, जबकि Graphcore ने 2024 में SoftBank द्वारा अधिग्रहण से पहले इंटेलिजेंस प्रोसेसिंग यूनिट (IPU) विकसित की।

अवसंरचना में मेमोरी, स्टोरेज और नेटवर्किंग भी शामिल है। उच्च-बैंडविड्थ मेमोरी (HBM) प्रोसेसर को डेटा खिलाने के लिए महत्वपूर्ण है, और NVLink और InfiniBand जैसे तेज़ इंटरकनेक्ट मल्टी-चिप स्केलिंग को सक्षम करते हैं। Microsoft Azure, Oracle Cloud और Alibaba Cloud सहित क्लाउड प्रदाता, ऑन-डिमांड कंप्यूट इंस्टेंस प्रदान करते हैं, जिससे शोधकर्ता हार्डवेयर के स्वामित्व के बिना बड़े क्लस्टर तक पहुंच सकते हैं।

स्केलिंग और प्रशिक्षण

कंप्यूट और मॉडल प्रदर्शन के बीच संबंध को अक्सर स्केलिंग कानूनों द्वारा वर्णित किया जाता है। OpenAI के 2020 के शोध ने दिखाया कि कंप्यूट, डेटासेट आकार और मॉडल मापदंडों में वृद्धि के साथ हानि पूर्वानुमानित रूप से घटती है। इस अनुभवजन्य निष्कर्ष ने और बड़े मॉडलों के निर्माण को प्रोत्साहित किया, जैसे कि सैकड़ों अरबों मापदंडों वाले बड़े भाषा मॉडल। ऐसे मॉडलों को प्रशिक्षित करने के लिए हजारों एक्सेलेरेटर की आवश्यकता होती है जो हफ्तों या महीनों तक चलते हैं।

उदाहरण के लिए, GPT-4, जिसे OpenAI ने मार्च 2023 में जारी किया, का अनुमान है कि इसमें हजारों GPU का उपयोग किया गया, हालांकि सटीक आंकड़े अज्ञात हैं। Anthropic के Claude मॉडल और Google के Gemini समान रूप से विशाल कंप्यूट बजट पर निर्भर हैं। 2017 में पेश किया गया ट्रांसफॉर्मर आर्किटेक्चर, अत्यधिक समानांतरीकरण योग्य साबित हुआ, जिससे यह कई उपकरणों में वितरित प्रशिक्षण के लिए उपयुक्त बन गया।

कंप्यूट अनुमान को भी प्रभावित करता है, जो प्रशिक्षित मॉडल से आउटपुट उत्पन्न करने की प्रक्रिया है। जबकि प्रशिक्षण एक बार की लागत है, अनुमान निरंतर है और अक्सर कम विलंबता की आवश्यकता होती है। मॉडल प्रूनिंग, क्वांटाइज़ेशन और डिस्टिलेशन जैसी तकनीकें तैनाती के लिए कंप्यूट आवश्यकताओं को कम करती हैं, जिससे Apple और Samsung Electronics जैसी कंपनियों के स्मार्टफोन और एम्बेडेड डिवाइसों पर एआई सक्षम होता है।

आर्थिक और रणनीतिक निहितार्थ

कंप्यूट की लागत एआई अनुसंधान में प्रवेश के लिए एक बाधा बन गई है। एक अत्याधुनिक मॉडल को प्रशिक्षित करने में करोड़ों डॉलर खर्च हो सकते हैं, जिससे भागीदारी बड़े निगमों और अच्छी तरह से वित्त पोषित प्रयोगशालाओं तक सीमित हो जाती है। इससे शक्ति के संकेंद्रण के बारे में चिंताएं पैदा हुई हैं, क्योंकि केवल कुछ संगठन ही आवश्यक अवसंरचना वहन कर सकते हैं। सरकारों ने भी ध्यान दिया है, उन्नत चिप्स पर निर्यात नियंत्रण वैश्विक आपूर्ति श्रृंखलाओं को प्रभावित कर रहे हैं।

प्रतिक्रिया में, कंप्यूट को लोकतांत्रिक बनाने के प्रयासों में ओपन-सोर्स मॉडल, फेडरेटेड लर्निंग और दक्षता अनुसंधान शामिल हैं। माइकल जॉर्डन और अन्य ने अधिक सुलभ एआई की वकालत की है, जबकि ओपन पैनल जैसी पहल साझा संसाधन प्रदान करने का लक्ष्य रखती हैं। आर्थिक प्रभाव अर्धचालक निर्माताओं तक फैला है; TSMC और Broadcom बढ़ती मांग से लाभान्वित होते हैं, और NVIDIA 2024 में संक्षिप्त रूप से दुनिया की सबसे मूल्यवान कंपनी बन गई।

भविष्य की दिशाएँ

कंप्यूट वृद्धि भौतिक सीमाओं का सामना करती है, जिसमें ऊर्जा खपत और गर्मी अपव्यय शामिल हैं। डेटा सेंटर पहले से ही वैश्विक बिजली उपयोग का एक महत्वपूर्ण हिस्सा हैं, जो अधिक कुशल एल्गोरिदम और हार्डवेयर में अनुसंधान को प्रेरित करता है। D-Wave और अन्य द्वारा क्वांटम कंप्यूटिंग प्रयोगात्मक बनी हुई है, लेकिन अंततः विशिष्ट समस्याओं के लिए लाभ प्रदान कर सकती है।

जैविक मस्तिष्क से प्रेरित न्यूरोमॉर्फिक कंप्यूटिंग जैसे वैकल्पिक प्रतिमान, ऊर्जा आवश्यकताओं को कम करने का लक्ष्य रखते हैं। MIT CSAIL और Stanford AI Lab के शोधकर्ता इन रास्तों की खोज कर रहे हैं। इस बीच, बड़े मॉडलों की प्रवृत्ति जारी है, कुछ भविष्यवाणी करते हैं कि जनरेटिव एआई और मल्टीमॉडल सिस्टम में प्रगति के कारण आने वाले वर्षों में कंप्यूट आवश्यकताएं 10 से 100 गुना बढ़ जाएंगी।

कंप्यूट एआई के लिए एक मौलिक संसाधन बना हुआ है, जो तकनीकी रूप से संभव और आर्थिक रूप से व्यवहार्य को आकार देता है। इसका विकास संभवतः कंप्यूटिंग के व्यापक प्रक्षेपवक्र को प्रतिबिंबित करेगा, जो प्रदर्शन, लागत और स्थिरता को संतुलित करेगा।