Boucle de gestion : Boostez les tâches à long horizon de l'IA

Beaucoup de gens me demandent comment j'ai réussi ces constructions à très long horizon avec Astra. Astra est extrêmement puissant, mais par défaut, il avait du mal avec une tâche aussi difficile. J'ai testé plusieurs approches pour surmonter cela, et celle sur laquelle je me suis arrêté est ce que j'appelle la Boucle du Manager. C'est essentiellement quelques astuces que nous utilisions avec des modèles beaucoup moins capables il y a quelques années, avec quelques nouvelles idées ajoutées par-dessus. Il s'avère que lorsque vous les combinez et les appliquez à Astra, sa capacité à accomplir des tâches extrêmement difficiles à long horizon augmente considérablement. Voici comment cela fonctionne : 1. Lancez un agent (je l'appelle le "manager"). Discutez avec lui de ce que vous voulez accomplir, et faites-lui créer une énorme liste de tâches, puis divisez cette liste en phases. 2. Le manager crée ensuite un deuxième agent Codex dans un fil séparé (l'"implémenteur"). Les deux agents peuvent se messager. 3. Mettez le manager en mode /goal, et dites-lui d'exécuter chaque phase sur l'implémenteur en mode /goal. 4. Le manager envoie un message à l'implémenteur : "/goal Terminez la phase un complètement, extrêmement bien." L'implémenteur ne s'arrête pas tant que cette phase n'est pas terminée, puis répond au manager. Le manager lui dit de commencer la phase deux. Ils répètent jusqu'à ce que chaque phase soit terminée, de manière entièrement autonome. Pourquoi je pense que cela fonctionne : sur une tâche à long horizon, Astra tend à asymptoter. Il va beaucoup plus loin que les modèles précédents, mais à un certain point, il cesse simplement de s'améliorer par rapport à l'objectif aussi rapidement qu'avant. Il se perd dans les détails, se concentrant trop sur de petits détails, et la progression globale stagne. La Boucle du Manager le force à travailler par morceaux, une phase à la fois. C'est essentiellement comme un humain qui dirigerait un modèle, sauf que le modèle fait la direction à ma place. C'est en fait comme cela que cela a commencé. Je faisais écrire la liste de tâches et la diviser en phases par le modèle, puis je faisais le travail du manager à la main. À un moment, j'ai pensé : "Attends, pourquoi ne puis-je pas simplement obtenir une IA séparée pour faire cela ?" C'est ce qui a débloqué l'autonomie complète, ce qui est super utile. Un détail de formulation qui semblait important : je demande que chaque phase soit faite "extrêmement bien", pas "parfaitement". Peut-être que je lis trop dans les détails, mais demander "parfait" renvoyait le modèle directement dans les détails. "Extrêmement bien" implique qu'il est autorisé à passer à autre chose une fois que c'est assez bon, et cela a mieux fonctionné dans mes tests. Une autre astuce qui, je pense, aide (celle-ci est plus une intuition, mais elle m'a été utile) : faites construire par l'implémenteur une simple page HTML avec la liste complète des tâches. L'implémenteur coche les cases au fur et à mesure et met à jour un compteur, et la page contient un graphique du nombre de cases cochées au fil du temps. Évidemment, les cases ne sont pas toutes égales, mais cela force le modèle à remarquer des choses comme "je n'ai pas progressé depuis un moment, il est temps de passer à autre chose." Vous pouvez même mettre cela directement dans l'invite, comme : "si vous n'avez pas coché une case depuis X temps, passez à autre chose". Cela aide beaucoup. J'ai également exécuté 96 sous-agents à la fois. Vous pouvez modifier cela dans votre configuration Codex (ou simplement demander à Codex de le changer). Cela m'a donné une bien meilleure performance à long horizon que tout ce que j'ai essayé d'autre. Je partagerai plus de détails dans les prochains jours !