हर्मीस एजेंट लोकल सेटअप टिप्स

अपने स्थानीय मॉडल पर Hermes Agent चलाते समय, यहाँ पाँच सुझाव हैं: (1) स्थानीय छोटे मॉडल पर उत्तर कमज़ोर क्यों लगते हैं? सबसे पहले कॉन्टेक्स्ट विंडो जांचें। Hermes Agent को टूल्स के साथ काम करने के लिए कम से कम 64,000 टोकन कॉन्टेक्स्ट चाहिए, और जब बातचीत सर्वर की विंडो से बाहर बढ़ती है, अधिकांश सर्वर पुराने संदेशों को बिना चेतावनी हटा देते हैं। (2) मुझे अपनी मशीन पर कौन सा मॉडल चलाना चाहिए? Hermes Index मॉडल्स को Hermes Agent के अंदर चलाए गए कार्यों पर स्कोर करता है, कार्य पूर्णता और प्रति कार्य लागत के साथ। "Open weights only" टिक करें ताकि आप उन्हें देख सकें जिन्हें आप खुद चला सकते हैं। (3) क्या मुझे इसे सुरक्षित चलाने के लिए Docker की ज़रूरत है? Docker वैकल्पिक है। डिफ़ॉल्ट रूप से Hermes हर कमांड को चलाने से पहले खतरनाक पैटर्न की सूची के खिलाफ जांचता है, और जोखिम भरे कमांड अनुमोदन चरण से गुजरते हैं। एक अनुमोदन प्रॉम्प्ट जो 300 सेकंड तक अनुत्तरित रहता है अस्वीकार कर दिया जाता है, और फ़ाइल-संपादन टूल्स ~/.ssh और .env फ़ाइलों से ब्लॉक हैं। हर कमांड को कंटेनर के अंदर चलाने के लिए, config.yaml में यह जोड़ें: ``` terminal: backend: docker ``` (4) टूल्स क्लाउड मॉडल पर चलते हैं, मैं उन्हें स्थानीय रूप से कैसे चलाऊं? टूल कॉल्स को मॉडल और सर्वर दोनों से समर्थन चाहिए। Ollama में टूल कॉलिंग डिफ़ॉल्ट रूप से चालू है, इसलिए जांचें कि आपका मॉडल `ollama show <model>` के साथ इसे सपोर्ट करता है। llama.cpp को अपने स्टार्टअप कमांड पर `--jinja` चाहिए, और LM Studio को संस्करण 0.3.6 या नया चाहिए जिसमें मॉडल में नेटिव टूल सपोर्ट हो। (5) क्या मैं इसे मुफ्त में चला सकता हूँ? हाँ। एक स्थानीय मॉडल को कोई API कुंजी या सदस्यता नहीं चाहिए। वेब खोज एक नई स्थापना पर बिना किसी सेटअप के भी काम करती है: बिना कुंजी सेट किए, Hermes कई खोज विक्रेताओं के मुफ्त स्तरों के बीच घूमता है। एक मुफ्त बैकएंड पिन करने के लिए, config.yaml में `web.backend` को `ddgs` (DuckDuckGo) या `searxng` (सेल्फ-होस्टेड) पर सेट करें।