Bucle de gestión: Mejora las tareas de largo horizonte con IA

Mucha gente me pregunta cómo logré estas construcciones de horizonte tan largo con Astra. Astra es extremadamente poderosa, pero por defecto le costaba una tarea tan difícil. Probé un montón de enfoques para superar esto, y el que finalmente adopté es algo que llamo el Bucle del Gerente. Básicamente son un par de trucos que solíamos usar con modelos mucho menos capaces hace un par de años, con algunas ideas nuevas añadidas encima. Resulta que cuando los combinas y los aplicas a Astra, su capacidad para tareas extremadamente difíciles de horizonte largo aumenta drásticamente. Así es como funciona: 1. Lanza un agente (a este lo llamo el "gerente"). Conversa con él sobre lo que quieres lograr, haz que construya una lista masiva de tareas pendientes y luego divide esa lista en fases. 2. El gerente luego genera un segundo agente Codex en un hilo separado (el "implementador"). Los dos agentes pueden enviarse mensajes entre sí. 3. Pon al gerente en modo /goal y dile que ejecute cada fase en el implementador en modo /goal. 4. El gerente envía un mensaje al implementador: "/goal Completa la fase uno por completo, extremadamente bien." El implementador no se detiene hasta que esa fase esté terminada, luego le responde al gerente. El gerente le dice que comience la fase dos. Repiten hasta que cada fase esté terminada, completamente de forma autónoma. Por qué creo que esto funciona: en una tarea de horizonte largo, Astra tiende a estabilizarse. Llega mucho más lejos que modelos anteriores, pero en cierto punto simplemente deja de mejorar hacia el objetivo tan rápido como antes. Se queda atascada en los detalles menores, enfocándose demasiado en pequeños detalles, y el progreso general se estanca. El Bucle del Gerente la obliga a trabajar por partes, una fase a la vez. Es esencialmente cómo un humano dirigiría un modelo, excepto que el modelo está haciendo la dirección por mí. Así es como empezó esto. Estaba haciendo que el modelo escribiera la lista de verificación y la dividiera en fases, y luego yo hacía el trabajo del gerente a mano. En algún momento pensé: "Espera, ¿por qué no puedo simplemente conseguir una IA separada para hacer esto?" Eso fue lo que desbloqueó la autonomía total, que es súper útil. Un detalle de redacción que parecía importar: pido que cada fase se haga "extremadamente bien", no "perfectamente". Quizás estoy leyendo demasiado en ello, pero pedir "perfecto" enviaba al modelo de vuelta a los detalles menores. "Extremadamente bien" implica que se le permite avanzar una vez que es lo suficientemente bueno, y eso funcionó mejor en mis pruebas. Un truco más que creo que ayuda (este es más una corazonada, pero fue útil para mí): haz que el implementador construya una página HTML simple con la lista de verificación completa. El implementador marca las casillas a medida que avanza y actualiza un contador, y la página tiene un gráfico del número de casillas marcadas a lo largo del tiempo. Obviamente las casillas no son todas iguales, pero obliga al modelo a notar cosas como "no he progresado en un tiempo, es hora de avanzar". Incluso puedes poner esto directamente en el prompt, como: "si no has marcado una casilla en X cantidad de tiempo, avanza". Eso ayuda mucho. También ejecuté 96 sub-agentes a la vez. Puedes cambiar esto en tu configuración de Codex (o simplemente pedirle a Codex que lo cambie). Esto me dio un rendimiento de horizonte largo mucho mejor que cualquier otra cosa que probé. ¡Compartiré más en los próximos días!