OctoML AI, जिसे बाद में OctoAI के नाम से जाना गया, एक मशीन लर्निंग परिनियोजन मंच है जिसे विभिन्न हार्डवेयर पर कृत्रिम बुद्धिमत्ता मॉडलों को अनुकूलित और चलाने के लिए डिज़ाइन किया गया है। 2019 में कंप्यूटर वैज्ञानिक लुइस सेज़ द्वारा स्थापित, इस कंपनी का उद्देश्य उत्पादन वातावरण में मशीन लर्निंग मॉडलों को परिनियोजित करने की प्रक्रिया को सरल बनाना था, जो हार्डवेयर-विशिष्ट अनुकूलन की जटिलता को संबोधित करती थी। यह मंच ओपन-सोर्स Apache TVM कंपाइलर फ्रेमवर्क का उपयोग करता था, जिसे सेज़ ने सह-निर्मित किया था, ताकि CPUs, GPUs और विशेष एक्सेलेरेटरों पर प्रदर्शन के लिए मॉडलों को स्वचालित रूप से ट्यून किया जा सके। 2024 में, OctoAI को Nvidia द्वारा अधिग्रहित किया गया, जिससे इसकी तकनीक Nvidia के AI सॉफ्टवेयर स्टैक में एकीकृत हो गई।
कंपनी की उत्पत्ति वाशिंगटन विश्वविद्यालय में शोध से हुई, जहाँ सेज़ एक प्रोफेसर हैं। इसकी मुख्य तकनीक उच्च अनुमान प्रदर्शन प्राप्त करने के लिए आवश्यक इंजीनियरिंग प्रयास को कम करने पर केंद्रित थी, जिससे यह गहन हार्डवेयर विशेषज्ञता के बिना संगठनों के लिए सुलभ हो गई। OctoML के उपकरणों का उपयोग हजारों डेवलपर्स और उद्यमों द्वारा प्राकृतिक भाषा प्रसंस्करण, कंप्यूटर विज़न और जनरेटिव AI जैसे कार्यों के लिए मॉडल परिनियोजित करने के लिए किया गया।
स्थापना और प्रारंभिक विकास
लुइस सेज़, एक ब्राज़ीलियाई-जन्मे अमेरिकी कंप्यूटर वैज्ञानिक, ने 2019 में OctoML की स्थापना की। सेज़ ने पहले Corensic की सह-स्थापना की थी, जो 2008 में वाशिंगटन विश्वविद्यालय से निकला एक स्टार्टअप था, जिसे 2012 में F5 Networks द्वारा अधिग्रहित किया गया। उनकी शैक्षणिक पृष्ठभूमि में इलिनोइस विश्वविद्यालय अर्बाना-शैंपेन से पीएच.डी. और पॉल जी. एलन स्कूल ऑफ कंप्यूटर साइंस एंड इंजीनियरिंग में प्रोफेसरशिप शामिल थी। OctoML का प्रारंभिक ध्यान Apache TVM का व्यावसायीकरण करना था, जो एक ओपन-सोर्स डीप लर्निंग कंपाइलर है जिसे सेज़ ने विकसित करने में मदद की थी। कंपनी ने उद्यम पूंजी फर्मों का ध्यान आकर्षित किया, जिसमें Madrona Venture Group भी शामिल था, जहाँ सेज़ 2018 से एक वेंचर पार्टनर के रूप में कार्यरत थे।
यह मंच एक क्लाउड-आधारित सेवा प्रदान करता था जो विशिष्ट हार्डवेयर लक्ष्यों के लिए मशीन लर्निंग मॉडलों के अनुकूलन को स्वचालित करता था। उपयोगकर्ता TensorFlow या PyTorch जैसे फ्रेमवर्क में प्रशिक्षित मॉडल अपलोड कर सकते थे, और OctoML अनुकूलित संस्करण उत्पन्न करता था जो तेज़ और अधिक कुशलता से चलते थे। इसने AI उद्योग में एक महत्वपूर्ण बाधा को संबोधित किया, जहाँ मॉडल परिनियोजन के लिए अक्सर प्रत्येक हार्डवेयर प्लेटफ़ॉर्म के लिए मैन्युअल ट्यूनिंग की आवश्यकता होती थी।
उत्पाद विकास और OctoAI
जून 2023 में, OctoML ने OctoAI लॉन्च किया, जो एक जनरेटिव AI उत्पाद है जिसे बड़े भाषा मॉडलों और अन्य जनरेटिव मॉडलों के लिए स्केलेबल अनुमान प्रदान करने के लिए डिज़ाइन किया गया था। इसने उत्पादन में AI अनुप्रयोगों की बढ़ती मांग को पूरा करने की दिशा में एक बदलाव को चिह्नित किया। जनवरी 2024 तक, कंपनी ने अपने उत्पाद के साथ संरेखित करने के लिए अपना नाम बदलकर OctoAI कर लिया, सेज़ ने इस बदलाव को "हमारे उत्पाद और कॉर्पोरेट नाम के बीच संभावित भ्रम को समाप्त करने" के रूप में समझाया। उस समय, OctoAI ने हजारों उपयोगकर्ताओं की सूचना दी।
जून 2024 में, OctoAI ने OctoStack पेश किया, जो एक उत्पाद है जिसका उद्देश्य ग्राहकों को उनकी विशिष्ट आवश्यकताओं के लिए AI मॉडल अनुकूलित करने में मदद करना है। OctoStack ने उपयोगकर्ताओं को अधिक नियंत्रण के साथ मॉडलों को फाइन-ट्यून और परिनियोजित करने की अनुमति दी, जो अनुकूलित AI समाधानों की आवश्यकता वाले उद्यमों को लक्षित करता था। यह मंच Nvidia और AMD से GPUs के साथ-साथ Amazon Web Services, Microsoft Azure और Google Cloud से क्लाउड सेवाओं सहित कई प्रकार के हार्डवेयर का समर्थन करता था।
Nvidia द्वारा अधिग्रहण
सितंबर 2024 में, The Information ने बताया कि Nvidia ने OctoAI को $165 मिलियन में अधिग्रहित करने पर विचार किया था। अधिग्रहण 25 सितंबर, 2024 को पूरा हुआ, जिसमें Nvidia ने OctoAI की तकनीक और टीम को अपने AI सॉफ्टवेयर डिवीजन में एकीकृत किया। अधिग्रहण के बाद, सेज़ Nvidia में AI सिस्टम सॉफ्टवेयर के उपाध्यक्ष बन गए, जबकि वाशिंगटन विश्वविद्यालय में अपनी शैक्षणिक स्थिति बनाए रखी। यह सौदा AI परिनियोजन के लिए अपने सॉफ्टवेयर पारिस्थितिकी तंत्र को मजबूत करने की Nvidia की रणनीति को रेखांकित करता है, जो इसके हार्डवेयर प्रस्तावों को पूरक बनाता है।
यह अधिग्रहण AI बुनियादी ढांचे के क्षेत्र में समेकन की व्यापक प्रवृत्ति का हिस्सा था, क्योंकि प्रमुख चिप निर्माताओं ने Machine learning कार्यभार के लिए एंड-टू-एंड समाधान प्रदान करने की मांग की थी। मॉडल अनुकूलन में OctoAI की विशेषज्ञता को अनुमान कार्यों में अपने GPUs की दक्षता में सुधार करने के Nvidia के प्रयासों के लिए मूल्यवान माना गया।
प्रौद्योगिकी और प्रभाव
OctoML की मुख्य तकनीक Apache TVM पर आधारित थी, एक कंपाइलर जो लक्ष्य हार्डवेयर के लिए मॉडलों को स्वचालित रूप से अनुकूलित करने के लिए Machine learning तकनीकों का उपयोग करता है। इस दृष्टिकोण ने मैन्युअल कर्नेल ट्यूनिंग की आवश्यकता को कम किया, जो पारंपरिक रूप से एक समय लेने वाली प्रक्रिया थी। यह मंच Intel CPUs, AMD GPUs और Arm Holdings-आधारित प्रोसेसरों के साथ-साथ AWS Trainium और Google Cloud TPUs जैसे विशेष एक्सेलेरेटरों सहित कई प्रकार के हार्डवेयर का समर्थन करता था।
कंपनी के उपकरण विशेष रूप से Large language model परिनियोजन के लिए प्रासंगिक थे, जहाँ अनुमान विलंबता और लागत महत्वपूर्ण हैं। विशिष्ट हार्डवेयर के लिए मॉडलों को अनुकूलित करके, OctoAI ने संगठनों को परिचालन व्यय कम करने और उपयोगकर्ता अनुभव में सुधार करने में मदद की। यह मंच लोकप्रिय Deep learning फ्रेमवर्क के साथ भी एकीकृत था, जिससे यह डेटा वैज्ञानिकों और इंजीनियरों के लिए सुलभ हो गया।
मान्यता और विरासत
लुइस सेज़ को कंप्यूटर विज्ञान में उनके योगदान के लिए कई पुरस्कार मिले, जिनमें NSF Career Award (2009), स्लोअन रिसर्च फेलोशिप (2010), IEEE TCCA यंग कंप्यूटर आर्किटेक्ट अवार्ड (2013), मौरिस विल्क्स अवार्ड (2020) और ACM फेलो के रूप में चुनाव (2022) शामिल हैं। ये सम्मान कंप्यूटर आर्किटेक्चर और मशीन लर्निंग सिस्टम पर उनके काम को दर्शाते हैं। OctoML की विरासत Nvidia के माध्यम से जारी है, जो अब इसकी तकनीक को Nvidia Triton Inference Server और TensorRT जैसे उत्पादों में शामिल करता है। एक विश्वविद्यालय स्पिन-ऑफ से एक प्रमुख अधिग्रहण तक की कंपनी की यात्रा Artificial intelligence पारिस्थितिकी तंत्र में सॉफ्टवेयर अनुकूलन के बढ़ते महत्व को उजागर करती है।