Conseils de configuration locale pour Hermes Agent

在本地模型上运行Hermes Agent，这里有五个提示： (1) 为什么在小型本地模型上回复感觉较弱？ 首先检查上下文窗口。Hermes Agent进行工具代理工作需要至少64,000个令牌的上下文，当对话超出服务器的窗口时，大多数服务器会无警告地丢弃较旧的消息。 (2) 我应该在我的机器上运行哪个模型？ Hermes Index根据在Hermes Agent内运行的任务对模型进行评分，包括任务完成情况和每个任务的成本。勾选“仅开放权重”以查看您可以自行运行的模型。 (3) 我需要Docker来安全运行它吗？ Docker是可选的。默认情况下，Hermes在运行每个命令之前会对照危险模式列表进行检查，风险较高的命令会经过审批步骤。未在300秒内回答的审批提示将被拒绝，并且文件编辑工具被阻止访问~/.ssh和.env文件。 要在容器内运行每个命令，请将以下内容添加到config.yaml： ``` terminal: backend: docker ``` (4) 工具在云模型上运行，如何让它们在本地运行？ 工具调用需要模型和服务器的支持。Ollama默认启用工具调用，因此请使用`ollama show <model>`检查您的模型是否支持。llama.cpp需要在其启动命令中添加`--jinja`，而LM Studio需要0.3.6或更新版本，并带有原生工具支持的模型。 (5) 我可以免费运行它吗？ 可以。本地模型不需要API密钥，也不需要订阅。全新安装的Web搜索也可以零设置运行：未设置密钥时，Hermes会在多个搜索供应商的免费层级之间轮换。要固定免费后端，请在config.yaml中将`web.backend`设置为`ddgs`（DuckDuckGo）或`searxng`（自托管）。