헤르메스 에이전트 로컬 설정 팁

로컬 모델에서 Hermes Agent를 실행할 때, 다음 다섯 가지 팁이 있습니다: (1) 작은 로컬 모델에서 답변이 약하게 느껴지는 이유는 무엇인가요? 먼저 컨텍스트 창을 확인하세요. Hermes Agent는 도구를 사용하는 에이전트 작업에 최소 64,000 토큰의 컨텍스트가 필요하며, 대화가 서버의 창을 초과하면 대부분의 서버는 경고 없이 오래된 메시지를 삭제합니다. (2) 내 머신에서 어떤 모델을 실행해야 하나요? Hermes Index는 Hermes Agent 내에서 실행되는 작업에 대해 모델을 점수화하며, 작업 완료율과 작업당 비용을 기준으로 합니다. "Open weights only"를 선택하면 직접 실행할 수 있는 모델을 볼 수 있습니다. (3) 안전하게 실행하려면 Docker가 필요한가요? Docker는 선택 사항입니다. 기본적으로 Hermes는 실행 전에 모든 명령을 위험한 패턴 목록과 대조하여 확인하며, 위험한 명령은 승인 단계를 거칩니다. 300초 동안 응답하지 않은 승인 프롬프트는 거부되며, 파일 편집 도구는 ~/.ssh 및 .env 파일에 대해 차단됩니다. 모든 명령을 컨테이너 내에서 실행하려면 config.yaml에 다음을 추가하세요: ``` terminal: backend: docker ``` (4) 도구가 클라우드 모델에서 실행되는데, 로컬에서 실행하려면 어떻게 해야 하나요? 도구 호출은 모델과 서버의 지원이 필요합니다. Ollama는 도구 호출이 기본적으로 활성화되어 있으므로, `ollama show <model>`로 모델이 지원하는지 확인하세요. llama.cpp는 시작 명령에 `--jinja`가 필요하며, LM Studio는 네이티브 도구 지원이 있는 모델과 함께 버전 0.3.6 이상이 필요합니다. (5) 무료로 실행할 수 있나요? 네. 로컬 모델은 API 키나 구독이 필요 없습니다. 웹 검색도 설치 직후 설정 없이 작동합니다. 키가 설정되지 않은 경우 Hermes는 여러 검색 공급업체의 무료 티어를 순환합니다. 무료 백엔드를 고정하려면 config.yaml에서 `web.backend`를 `ddgs`(DuckDuckGo) 또는 `searxng`(자체 호스팅)으로 설정하세요.