Loop do Gerente: Impulsione tarefas de longo horizonte da IA

Muita gente está me perguntando como eu consegui fazer essas construções de horizonte super longo com a Astra. A Astra é extremamente poderosa, mas por padrão ela teve dificuldade com uma tarefa tão difícil assim. Eu testei várias abordagens para superar isso, e a que eu escolhi é algo que estou chamando de Manager Loop. É basicamente um par de truques que costumávamos usar com modelos muito menos capazes há alguns anos, com algumas ideias novas por cima. Acontece que quando você junta tudo isso e aplica à Astra, a capacidade dela de fazer tarefas extremamente difíceis de horizonte longo aumenta drasticamente. Aqui está como funciona: 1. Lance um agente (estou chamando este de "manager"). Converse com ele sobre o que você quer fazer, e peça para ele criar uma lista de tarefas enorme, e depois dividir essa lista em fases. 2. O manager então cria um segundo agente Codex em uma thread separada (o "implementer"). Os dois agentes podem se comunicar entre si. 3. Coloque o manager no modo /goal, e diga para ele executar cada fase no implementer no modo /goal. 4. O manager envia uma mensagem para o implementer: "/goal Complete a fase um completamente, extremamente bem." O implementer não para até que essa fase esteja concluída, e então envia uma mensagem de volta para o manager. O manager diz para ele começar a fase dois. Eles repetem até que todas as fases estejam concluídas, completamente de forma autônoma. Por que eu acho que isso funciona: em uma tarefa de horizonte longo, a Astra tende a assintotar. Ela vai muito mais longe do que os modelos anteriores, mas em certo ponto ela simplesmente para de melhorar em relação ao objetivo tão rápido quanto antes. Ela fica presa nos detalhes, focando demais em pequenas minúcias, e o progresso geral estagna. O Manager Loop força ela a trabalhar em partes, uma fase de cada vez. É essencialmente como um humano guiaria um modelo, exceto que o modelo está fazendo a orientação por mim. Foi assim que isso começou. Eu estava fazendo o modelo escrever a lista de tarefas e dividir em fases, e depois eu fazia o trabalho do manager manualmente. Em algum momento eu pensei: "Espera, por que eu não posso simplesmente ter uma IA separada para fazer isso?" Foi isso que desbloqueou a autonomia total, o que é super útil. Um detalhe de redação que pareceu importar: eu peço para cada fase ser concluída "extremamente bem", não "perfeitamente". Talvez eu esteja lendo demais nisso, mas pedir por "perfeito" mandava o modelo de volta para as minúcias. "Extremamente bem" implica que ele pode seguir em frente quando já está bom o suficiente, e isso funcionou melhor nos meus testes. Mais um truque que eu acho que ajuda (este é mais um palpite, mas foi útil para mim): faça o implementer criar uma página HTML simples com a lista de tarefas completa nela. O implementer marca as caixas conforme avança e atualiza um contador, e a página tem um gráfico do número de caixas marcadas ao longo do tempo. Obviamente as caixas não são todas iguais, mas isso força o modelo a notar coisas como "não fiz progresso há um tempo, hora de seguir em frente". Você pode até colocar isso diretamente no prompt, tipo: "se você não marcou uma caixa em X tempo, siga em frente". Isso ajuda muito. Eu também executei 96 sub-agentes ao mesmo tempo. Você pode mudar isso na sua configuração do Codex (ou simplesmente pedir para o Codex mudar). Isso me deu um desempenho de horizonte longo muito melhor do que qualquer outra coisa que eu tentei. Vou compartilhar mais nos próximos dias!