Dicas de Configuração Local do Hermes Agent
De Wikiprompt, a enciclopédia livre de prompts
Dicas de Configuração Local do Hermes Agent Um guia prático com cinco dicas para rodar o Hermes Agent em modelos locais, cobrindo janelas de contexto, seleção de modelos, segurança com Docker, configuração de chamada de ferramentas e backends de busca gratuitos.
Conteúdo do PromptSalvar
🌐
Executando o Hermes Agent em um modelo local, aqui estão cinco dicas:
(1) por que as respostas parecem fracas em um modelo local pequeno?
verifique a janela de contexto primeiro. O Hermes Agent precisa de pelo menos 64.000 tokens de contexto para trabalho de agente com ferramentas, e quando uma conversa excede a janela do servidor, a maioria dos servidores descarta mensagens mais antigas sem aviso.
(2) qual modelo devo executar na minha máquina?
o Índice Hermes pontua modelos em tarefas executadas dentro do Hermes Agent, com conclusão de tarefas e custo por tarefa. Marque "Somente pesos abertos" para ver os que você pode executar sozinho.
(3) preciso do Docker para executá-lo com segurança?
O Docker é opcional. por padrão, o Hermes verifica cada comando contra uma lista de padrões perigosos antes de executá-lo, e os arriscados passam por uma etapa de aprovação. um prompt de aprovação sem resposta por 300 segundos é negado, e as ferramentas de edição de arquivos são bloqueadas de ~/.ssh e arquivos .env.
para executar todos os comandos dentro de um contêiner, adicione isto ao config.yaml:
```
terminal:
backend: docker
```
(4) as ferramentas rodam em um modelo em nuvem, como faço para executá-las localmente?
chamadas de ferramentas precisam de suporte do modelo e do servidor. O Ollama tem chamada de ferramentas ativada por padrão, então verifique se o seu modelo suporta isso com `ollama show <model>`. O llama.cpp precisa de `--jinja` no seu comando de inicialização, e o LM Studio precisa da versão 0.3.6 ou mais recente com um modelo que tenha suporte nativo a ferramentas.
(5) posso executá-lo gratuitamente?
sim. um modelo local não precisa de chave de API nem assinatura. a pesquisa na web funciona em uma instalação nova sem configuração também: sem chave definida, o Hermes alterna entre os níveis gratuitos de vários fornecedores de busca. para fixar um backend gratuito, defina `web.backend` para `ddgs` (DuckDuckGo) ou `searxng` (auto-hospedado) no config.yaml.
Entre para ver o prompt completo
Continuar com:
Ao entrar, você concorda com nossos Termos de uso e Política de privacidade
Uso
Este prompt foi projetado para uso com coding. Copie o conteúdo acima e cole na sua ferramenta de IA preferida.
Para melhores resultados, personalize os marcadores (indicados por colchetes ou maiúsculas) com seus requisitos específicos.
Referências
- Categoria: Prompts de coding
- Fonte: https://x.com/witcheer/status/2108218359292785079
Discussão
0 comentários