Tipps zur lokalen Einrichtung von Hermes Agent

Running Hermes Agent auf einem lokalen Modell, hier sind fünf Tipps: (1) Warum fühlen sich Antworten auf einem kleinen lokalen Modell schwach an? Überprüfe zuerst das Kontextfenster. Hermes Agent benötigt mindestens 64.000 Token Kontext für Agentenarbeit mit Werkzeugen, und wenn ein Gespräch das Fenster des Servers überschreitet, lassen die meisten Server ältere Nachrichten ohne Warnung weg. (2) Welches Modell sollte ich auf meinem Rechner ausführen? Der Hermes Index bewertet Modelle anhand von Aufgaben, die innerhalb von Hermes Agent ausgeführt werden, mit Aufgabenabschluss und Kosten pro Aufgabe. Aktiviere "Open weights only", um diejenigen zu sehen, die du selbst ausführen kannst. (3) Brauche ich Docker, um es sicher auszuführen? Docker ist optional. Standardmäßig überprüft Hermes jeden Befehl gegen eine Liste gefährlicher Muster, bevor er ausgeführt wird, und riskante Befehle durchlaufen einen Genehmigungsschritt. Eine Genehmigungsaufforderung, die für 300 Sekunden unbeantwortet bleibt, wird abgelehnt, und die Dateibearbeitungswerkzeuge sind von ~/.ssh und .env-Dateien blockiert. Um jeden Befehl innerhalb eines Containers auszuführen, füge dies zu config.yaml hinzu: ``` terminal: backend: docker ``` (4) Werkzeuge laufen auf einem Cloud-Modell, wie bekomme ich sie lokal zum Laufen? Werkzeugaufrufe benötigen Unterstützung vom Modell und vom Server. Ollama hat Werkzeugaufrufe standardmäßig aktiviert, also überprüfe, ob dein Modell dies unterstützt, mit `ollama show <model>`. llama.cpp benötigt `--jinja` in seinem Startbefehl, und LM Studio benötigt Version 0.3.6 oder neuer, mit einem Modell, das native Werkzeugunterstützung hat. (5) Kann ich es kostenlos ausführen? Ja. Ein lokales Modell benötigt keinen API-Schlüssel und kein Abonnement. Websuche funktioniert bei einer frischen Installation auch ohne Einrichtung: ohne gesetzten Schlüssel rotiert Hermes durch die kostenlosen Stufen mehrerer Suchanbieter. Um ein kostenloses Backend festzulegen, setze `web.backend` auf `ddgs` (DuckDuckGo) oder `searxng` (selbst gehostet) in config.yaml.