Consejos de Configuración Local para Hermes Agent

Ejecutando Hermes Agent en un modelo local, aquí tienes cinco consejos: (1) ¿Por qué las respuestas se sienten débiles en un modelo local pequeño? Revisa primero la ventana de contexto. Hermes Agent necesita al menos 64,000 tokens de contexto para el trabajo de agente con herramientas, y cuando una conversación supera la ventana del servidor, la mayoría de los servidores eliminan mensajes más antiguos sin advertencia. (2) ¿Qué modelo debería ejecutar en mi máquina? El Hermes Index puntúa modelos según tareas ejecutadas dentro de Hermes Agent, con finalización de tareas y costo por tarea. Marca "Solo pesos abiertos" para ver los que puedes ejecutar tú mismo. (3) ¿Necesito Docker para ejecutarlo de forma segura? Docker es opcional. Por defecto, Hermes verifica cada comando contra una lista de patrones peligrosos antes de ejecutarlo, y los riesgosos pasan por un paso de aprobación. Una solicitud de aprobación sin respuesta durante 300 segundos se deniega, y las herramientas de edición de archivos están bloqueadas para ~/.ssh y archivos .env. Para ejecutar cada comando dentro de un contenedor, añade esto a config.yaml: ``` terminal: backend: docker ``` (4) Las herramientas se ejecutan en un modelo en la nube, ¿cómo las hago funcionar localmente? Las llamadas a herramientas necesitan soporte del modelo y del servidor. Ollama tiene llamadas a herramientas activadas por defecto, así que verifica que tu modelo lo soporte con `ollama show <model>`. llama.cpp necesita `--jinja` en su comando de inicio, y LM Studio necesita la versión 0.3.6 o más reciente con un modelo que tenga soporte nativo de herramientas. (5) ¿Puedo ejecutarlo gratis? Sí. Un modelo local no necesita clave API ni suscripción. La búsqueda web funciona en una instalación nueva sin configuración también: sin clave establecida, Hermes rota entre los niveles gratuitos de varios proveedores de búsqueda. Para fijar un backend gratuito, establece `web.backend` a `ddgs` (DuckDuckGo) o `searxng` (autoalojado) en config.yaml.