Hermes Agent ローカルセットアップのヒント

ローカルモデルでHermes Agentを実行する際の5つのヒント： (1) 小さなローカルモデルで応答が弱く感じるのはなぜか？ まずコンテキストウィンドウを確認してください。Hermes Agentはツールを使ったエージェント作業に少なくとも64,000トークンのコンテキストを必要とします。会話がサーバーのウィンドウを超えると、ほとんどのサーバーは警告なしに古いメッセージを削除します。 (2) 自分のマシンではどのモデルを実行すべきか？ Hermes IndexはHermes Agent内で実行されるタスクに基づいてモデルを評価し、タスク完了率とタスクあたりのコストを表示します。「Open weights only」にチェックを入れると、自分で実行できるモデルだけが表示されます。 (3) 安全に実行するためにDockerは必要か？ Dockerは任意です。デフォルトでは、Hermesは実行前にすべてのコマンドを危険なパターンのリストと照合し、リスクのあるものは承認ステップを経ます。300秒間未回答の承認プロンプトは拒否され、ファイル編集ツールは~/.sshと.envファイルへのアクセスがブロックされます。 すべてのコマンドをコンテナ内で実行するには、config.yamlに以下を追加します： ``` terminal: backend: docker ``` (4) ツールはクラウドモデルで実行されますが、ローカルで実行するにはどうすればよいですか？ ツール呼び出しにはモデルとサーバーの両方のサポートが必要です。Ollamaはツール呼び出しがデフォルトで有効なので、`ollama show <model>`でモデルがサポートしているか確認してください。llama.cppは起動コマンドに`--jinja`が必要で、LM Studioはバージョン0.3.6以降でネイティブツールサポートのあるモデルが必要です。 (5) 無料で実行できますか？ はい。ローカルモデルはAPIキーもサブスクリプションも不要です。ウェブ検索も新規インストールでゼロ設定で動作します。キーが設定されていない場合、Hermesは複数の検索ベンダーの無料ティアをローテーションします。無料バックエンドを固定するには、config.yamlで`web.backend`を`ddgs`（DuckDuckGo）または`searxng`（自己ホスト）に設定してください。