Ollama एक ओपन-सोर्स सॉफ्टवेयर प्लेटफ़ॉर्म है जिसे 2023 में जेफ्री मॉर्गन और माइकल चियांग द्वारा स्थानीय कंप्यूटरों और होस्टेड क्लाउड मॉडलों पर बड़े भाषा मॉडल चलाने और प्रबंधित करने के लिए विकसित किया गया था। यह एक कमांड-लाइन इंटरफ़ेस, एक नेटिव GUI, एक स्थानीय REST API, मॉडल-प्रबंधन उपकरण, और कोडिंग सहायकों तथा अन्य अनुप्रयोगों के साथ ओपन-वेट मॉडल का उपयोग करने के लिए एकीकरण प्रदान करता है। यह प्लेटफ़ॉर्म Llama, Gemma, Mistral, Qwen, और DeepSeek जैसे मॉडलों को व्यक्तिगत हार्डवेयर पर डाउनलोड करने, चलाने और प्रबंधित करने की प्रक्रिया को सरल बनाने के लिए डिज़ाइन किया गया है, जिससे जनरेटिव AI व्यक्तिगत उपयोगकर्ताओं और डेवलपर्स के लिए अधिक सुलभ हो जाता है।
Ollama कच्चे मॉडल वेट और अंतिम उपयोगकर्ता के बीच एक सेतु के रूप में कार्य करता है, मॉडल सर्विंग और इन्फ़रेंस की जटिलताओं को दूर करता है। डिफ़ॉल्ट रूप से, यह स्थानीय रूप से चलता है, जो क्लाउड-आधारित AI सेवाओं के साथ उत्पन्न होने वाली गोपनीयता और डेटा-नियंत्रण संबंधी चिंताओं को संबोधित करता है। यह परियोजना ओपन-सोर्स समुदाय के भीतर व्यापक बुनियादी ढांचे या क्लाउड सदस्यता की आवश्यकता के बिना ओपन-वेट मॉडल के प्रयोग, विकास और परिनियोजन के लिए एक उपकरण के रूप में लोकप्रियता प्राप्त कर चुकी है।
इतिहास
Ollama पहली बार 8 जुलाई 2023 को जारी किया गया था। यह परियोजना स्थानीय बड़े भाषा मॉडल सॉफ्टवेयर के विकास से जुड़ी, जिससे उपयोगकर्ता Llama, Gemma, Mistral, Qwen, gpt-oss, GLM, और DeepSeek जैसे मॉडलों को स्थानीय मशीन पर डाउनलोड और चला सकते हैं। यह रिलीज़ स्थानीय इन्फ़रेंस की ओर एक व्यापक प्रवृत्ति के साथ मेल खाती है, जो मॉडल क्वांटाइज़ेशन और उपभोक्ता हार्डवेयर क्षमताओं में सुधार से प्रेरित थी।
2025 और 2026 में, Ollama ने अतिरिक्त अनुप्रयोग और क्लाउड सुविधाएँ जोड़ीं, जिनमें होस्टेड क्लाउड मॉडल, वेब खोज समर्थन, टूल और कोडिंग-एजेंट एकीकरण, और Claude Code, Codex, OpenCode, Copilot CLI, और OpenClaw जैसे अनुप्रयोगों के साथ Ollama का उपयोग करने के लिए समर्थन शामिल है। मार्च 2026 में, Ollama ने एप्पल सिलिकॉन के लिए पूर्वावलोकन समर्थन की घोषणा की, जिससे Mac हार्डवेयर के साथ इसकी संगतता का विस्तार हुआ। जुलाई 2026 में, कंपनी ने $65 मिलियन का फंडिंग जुटाया, जो प्लेटफ़ॉर्म के विकास और बाजार स्थिति में निवेशकों के विश्वास का संकेत देता है।
विशेषताएँ
Ollama में बड़े भाषा मॉडलों को डाउनलोड करने, चलाने, आयात करने और प्रबंधित करने के लिए उपकरण शामिल हैं। उपयोगकर्ता कमांड लाइन से मॉडल चला सकते हैं, स्थानीय HTTP API के माध्यम से उनके साथ बातचीत कर सकते हैं, या Python और JavaScript जैसी प्रोग्रामिंग भाषाओं के लिए क्लाइंट लाइब्रेरी का उपयोग कर सकते हैं। यह परियोजना चैट और मॉडल-प्रबंधन कार्यों के लिए एक REST API प्रदान करती है, जिसमें डिफ़ॉल्ट स्थानीय सेवा आमतौर पर पोर्ट 11434 पर उजागर होती है। Ollama एक आधिकारिक Docker इमेज भी वितरित करता है और समर्थित मॉडलों को चलाने के लिए मॉडल लाइब्रेरी और दस्तावेज़ प्रदान करता है।
यह प्लेटफ़ॉर्म स्थानीय मॉडल इन्फ़रेंस के लिए llama.cpp बैकएंड का उपयोग करता है, जो कम मेमोरी का उपयोग करने वाले क्वांटाइज़्ड मॉडलों को चलाने का समर्थन करता है। यह गणनाओं को तेज करने के लिए ग्राफिक्स कार्ड (GPU) का उपयोग कर सकता है, जो NVIDIA, AMD, और Intel जैसे विक्रेताओं के हार्डवेयर का लाभ उठाता है। Ollama एक मॉडल-लाइब्रेरी प्रारूप का समर्थन करता है जो उपयोगकर्ताओं को नाम से मॉडल वेरिएंट को खींचने, चलाने और प्रबंधित करने की अनुमति देता है, जिससे विभिन्न मॉडलों या कॉन्फ़िगरेशन के बीच स्विच करने का कार्य सरल हो जाता है।
इस बीच, परियोजना का डाउनलोड करने योग्य सॉफ्टवेयर LLM के लो-कोड/नो-कोड सेल्फ-होस्टिंग के लिए एक बैक-एंड प्लेटफ़ॉर्म के रूप में खोजा जा रहा है, जो संभावित रूप से प्राकृतिक भाषा प्रसंस्करण उपयोग के मामलों को गैर-तकनीकी अंतिम उपयोगकर्ताओं के लिए अधिक सुलभ बना सकता है। Ollama में macOS पर Flux जैसे मॉडलों का उपयोग करके छवि निर्माण के लिए प्रयोगात्मक समर्थन भी है, जिसमें भविष्य में Windows और Linux समर्थन की उम्मीद है।
सुरक्षा
चूंकि Ollama आमतौर पर स्थानीय या सेल्फ-होस्टेड AI मॉडल चलाने के लिए उपयोग किया जाता है, सुरक्षा शोधकर्ताओं ने गलत कॉन्फ़िगर किए गए सार्वजनिक परिनियोजनों से जोखिमों की जांच की है। जनवरी 2026 में, The Hacker News ने SentinelOne और Censys के शोध पर रिपोर्ट दी जिसमें पाया गया कि कई Ollama सर्वर सार्वजनिक इंटरनेट पर उजागर थे, मुख्य रूप से INADDR_ANY इंटरफ़ेस (0.0.0.0) से बंधे होने के कारण, जो अपर्याप्त रूप से सुरक्षित सिस्टम पर अन्य स्थानीय या दूरस्थ उपकरणों से पहुंच की अनुमति देगा, इस तथ्य के बावजूद कि Ollama डिफ़ॉल्ट रूप से स्थानीय रूप से चलने के लिए है। यह साझा या क्लाउड वातावरण में Ollama तैनात करने वाले उपयोगकर्ताओं के लिए उचित नेटवर्क कॉन्फ़िगरेशन और फ़ायरवॉल नियमों के महत्व को उजागर करता है।
पारिस्थितिकी तंत्र और एकीकरण
Ollama का स्थानीय इन्फ़रेंस सर्वर के रूप में डिज़ाइन इसे विभिन्न अनुप्रयोगों के लिए एक लोकप्रिय बैकएंड बनाता है। यह Copilot जैसे कोडिंग सहायकों और अन्य डेवलपर टूल्स के साथ एकीकृत होता है, जिससे उपयोगकर्ता कोड पूर्णता और निर्माण के लिए कोड को बाहरी सर्वर पर भेजे बिना ओपन-वेट मॉडल चला सकते हैं। यह प्लेटफ़ॉर्म वेब खोज सुविधाओं का भी समर्थन करता है, जिससे मॉडल बातचीत के दौरान अद्यतित जानकारी प्राप्त कर सकते हैं, और टूल एकीकरण जो मॉडलों को बाहरी फ़ंक्शन या API को कॉल करने में सक्षम बनाता है।
Ollama द्वारा बनाए रखी गई मॉडल लाइब्रेरी में Meta (Llama), Google (Gemma), Mistral AI (Mistral), और Alibaba Cloud (Qwen) जैसे संगठनों के ओपन-वेट मॉडलों की एक विस्तृत श्रृंखला शामिल है। यह विविधता उपयोगकर्ताओं को प्रदर्शन, आकार या लाइसेंसिंग आवश्यकताओं के आधार पर मॉडल चुनने की अनुमति देती है। Ollama का कमांड-लाइन इंटरफ़ेस और REST API इसे स्क्रिप्टिंग और स्वचालन के लिए उपयुक्त बनाता है, और इसकी Docker इमेज कंटेनरीकृत वातावरण में परिनियोजन की सुविधा प्रदान करती है।