OctoML एक सॉफ्टवेयर प्लेटफ़ॉर्म है जो मशीन-लर्निंग मॉडलों को अनुकूलित और तैनात करने के लिए है, जिसकी स्थापना 2019 में कंप्यूटर वैज्ञानिक लुइस सेज़े ने की थी। कंपनी का लक्ष्य प्रशिक्षित मॉडलों को लेने और उन्हें विभिन्न हार्डवेयर, जैसे क्लाउड इंस्टेंस और एज डिवाइस, पर कुशलतापूर्वक चलाने की प्रक्रिया को सरल बनाना था। 2024 में, OctoML को Nvidia द्वारा अधिग्रहित किया गया, और इसकी तकनीक को Nvidia के AI सॉफ्टवेयर स्टैक में एकीकृत किया गया।
यह प्लेटफ़ॉर्म Apache TVM पर आधारित था, जो मशीन लर्निंग के लिए एक ओपन-सोर्स कंपाइलर फ्रेमवर्क है, जिसे सेज़े ने सह-निर्मित किया था। OctoML की मुख्य पेशकश ने मॉडल आकार और विलंबता को कम करने के लिए मॉडल-प्रूनिंग और क्वांटाइज़ेशन जैसी स्वचालित अनुकूलन तकनीकों का उपयोग किया, जिससे संगठनों के लिए कृत्रिम-बुद्धिमत्ता अनुप्रयोगों को उत्पादन में तैनात करना आसान हो गया।
फाउंडिंग और प्रारंभिक विकास
OctoML की स्थापना 2019 में सिएटल, वाशिंगटन में लुइस सेज़े द्वारा की गई थी, जिन्होंने CEO के रूप में कार्य किया। सेज़े पॉल जी. एलन स्कूल ऑफ कंप्यूटर साइंस एंड इंजीनियरिंग में प्रोफेसर थे और पहले Corensic की सह-स्थापना कर चुके थे, जो 2012 में F5 Networks द्वारा अधिग्रहित एक स्टार्टअप था। प्रारंभिक टीम में Apache TVM समुदाय के शोधकर्ता और इंजीनियर शामिल थे।
कंपनी ने महत्वपूर्ण वेंचर कैपिटल फंडिंग जुटाई, जिसमें 2019 में $15 मिलियन की सीरीज़ A राउंड और 2021 में $85 मिलियन की सीरीज़ C राउंड शामिल थी, जिसका नेतृत्व Amplify Partners, Madrona Venture Group, और Tiger Global जैसे निवेशकों ने किया। 2022 तक, OctoML ने कुल $130 मिलियन से अधिक की फंडिंग जुटाई थी।
उत्पाद विकास और OctoAI
जून 2023 में, OctoML ने OctoAI लॉन्च किया, जो एक जनरेटिव AI उत्पाद है जिसे डेवलपर्स को बड़े-भाषा-मॉडल अनुप्रयोगों को तैनात और स्केल करने में मदद करने के लिए डिज़ाइन किया गया था। उत्पाद ने लोकप्रिय ओपन-सोर्स मॉडलों के लिए प्रबंधित एंडपॉइंट और GPU इंस्टेंस के लिए स्वचालित अनुकूलन की पेशकश की। जनवरी 2024 में, कंपनी ने अपने उत्पाद फोकस के साथ संरेखित करने के लिए अपना नाम बदलकर OctoAI कर लिया, जैसा कि CEO लुइस सेज़े ने समझाया कि यह बदलाव "हमारे उत्पाद और कॉर्पोरेट नाम के बीच संभावित भ्रम को समाप्त करने" के लिए था।
जून 2024 में, OctoAI ने OctoStack पेश किया, जो विशिष्ट उद्यम उपयोग मामलों के लिए AI मॉडलों को अनुकूलित और फाइन-ट्यून करने का एक प्लेटफ़ॉर्म है। उत्पाद ने ग्राहकों को अपना डेटा लाने और अपने पसंदीदा क्लाउड इंफ्रास्ट्रक्चर, जिसमें Amazon Web Services, Azure, और Google Cloud शामिल हैं, पर अनुकूलित मॉडल तैनात करने की अनुमति दी।
Nvidia द्वारा अधिग्रहण
सितंबर 2024 में, The Information ने रिपोर्ट किया कि Nvidia लगभग $165 मिलियन में OctoAI का अधिग्रहण करने पर विचार कर रहा था। 25 सितंबर, 2024 को, Nvidia ने अधिग्रहण पूरा किया। सौदे के बाद, लुइस सेज़े Nvidia में AI सिस्टम सॉफ्टवेयर के उपाध्यक्ष बन गए, जबकि वाशिंगटन विश्वविद्यालय में अपनी शैक्षणिक स्थिति बनाए रखी। OctoAI टीम और तकनीक को Nvidia के AI सॉफ्टवेयर डिवीजन में एकीकृत किया गया, जो Nvidia के हार्डवेयर प्लेटफार्मों के लिए डीप-लर्निंग मॉडलों को अनुकूलित करने पर केंद्रित था।
यह अधिग्रहण Nvidia की अपने प्रमुख GPU हार्डवेयर के आसपास अपने सॉफ्टवेयर पारिस्थितिकी तंत्र को मजबूत करने की व्यापक रणनीति का हिस्सा था, विशेष रूप से जनरेटिव-एआई कार्यभार के लिए। OctoAI के अनुकूलन उपकरणों ने TensorRT और Triton Inference Server जैसी Nvidia की मौजूदा पेशकशों को पूरक बनाया।
प्रौद्योगिकी और प्रभाव
OctoML की तकनीक ने विशिष्ट हार्डवेयर लक्ष्यों के लिए मॉडलों को स्वचालित रूप से ट्यून करने के लिए Apache TVM का लाभ उठाया, जिसमें बैच-नॉर्मलाइज़ेशन और लेयर-नॉर्मलाइज़ेशन जैसी तकनीकों का उपयोग करके अनुमान प्रदर्शन में सुधार किया गया। प्लेटफ़ॉर्म ने मॉडलों की एक विस्तृत श्रृंखला का समर्थन किया, जिसमें ट्रांसफॉर्मर-आधारित आर्किटेक्चर, रिज़िड्यूअल-नेटवर्क CNN, और छवि विभाजन के लिए यू-नेट मॉडल शामिल थे।
कंपनी के उपकरणों का उपयोग हजारों डेवलपर्स और उद्यमों द्वारा अनुमान लागत और विलंबता को कम करने के लिए किया गया। OctoML ने ओपन-सोर्स समुदाय में भी योगदान दिया, OctoAI के मॉडल सर्विंग लाइब्रेरी जैसे उपकरण जारी किए और शैक्षणिक संस्थानों के साथ सहयोग किया।
संदर्भ
[1] विकिपीडिया: लुइस सेज़े
[2] OctoML प्रेस विज्ञप्तियां और फंडिंग घोषणाएं
[3] The Information, सितंबर 2024