매니저 루프: AI 장기 과업 향상

많은 사람들이 제가 Astra로 이렇게 긴 호라이즌 빌드를 어떻게 해냈는지 묻고 있습니다. Astra는 매우 강력하지만, 기본 설정으로는 이렇게 어려운 작업에 어려움을 겪었습니다. 이를 극복하기 위해 여러 접근 방식을 테스트했고, 제가 선택한 방법은 '매니저 루프'라고 부르는 것입니다. 기본적으로 몇 년 전 훨씬 덜 강력한 모델에 사용하던 몇 가지 트릭에 몇 가지 새로운 아이디어를 얹은 것입니다. 이들을 결합해 Astra에 적용하면, 극도로 어려운 장기 작업을 수행하는 능력이 극적으로 향상됩니다. 작동 방식은 다음과 같습니다: 1. 에이전트를 실행합니다(이를 '매니저'라고 부릅니다). 달성하려는 목표에 대해 대화하고, 방대한 할 일 체크리스트를 만들게 한 다음, 그 체크리스트를 단계로 나누게 합니다. 2. 매니저는 별도의 스레드에서 두 번째 Codex 에이전트('구현자')를 생성합니다. 두 에이전트는 서로 메시지를 주고받을 수 있습니다. 3. 매니저를 /goal 모드로 전환하고, 각 단계를 /goal 모드의 구현자에게 실행하라고 지시합니다. 4. 매니저가 구현자에게 메시지를 보냅니다: "/goal 1단계를 완전히, 아주 잘 완료하세요." 구현자는 해당 단계가 끝날 때까지 멈추지 않고, 완료 후 매니저에게 메시지를 보냅니다. 매니저는 2단계를 시작하라고 지시합니다. 모든 단계가 완전히 자율적으로 끝날 때까지 반복합니다. 제가 이 방법이 효과적이라고 생각하는 이유: 장기 작업에서 Astra는 점근선에 도달하는 경향이 있습니다. 이전 모델보다 훨씬 더 나아가지만, 어느 시점에서는 목표에 대한 개선 속도가 이전만큼 빠르지 않게 됩니다. 세부 사항에 너무 집중해 작은 디테일에 과도하게 몰두하고, 전반적인 진행이 정체됩니다. 매니저 루프는 한 번에 한 단계씩, 조각 단위로 작업하도록 강제합니다. 이는 본질적으로 인간이 모델을 이끄는 방식이지만, 이 경우 모델이 저를 대신해 이끌고 있습니다. 실제로 이렇게 시작되었습니다. 모델에게 체크리스트를 작성하고 단계를 나누게 한 다음, 제가 직접 매니저 역할을 했습니다. 어느 순간 "잠깐, 왜 별도의 AI로 이걸 못 하지?"라고 생각했습니다. 그것이 완전한 자율성을 열었고, 이는 매우 유용합니다. 효과가 있었던 표현 디테일: 각 단계를 '완벽하게'가 아닌 '아주 잘' 완료하라고 요청했습니다. 과하게 해석하는 것일 수도 있지만, '완벽'을 요구하면 모델이 다시 세부 사항에 빠져들었습니다. '아주 잘'은 충분히 좋아지면 넘어가도 된다는 뜻을 내포하며, 제 테스트에서 더 잘 작동했습니다. 도움이 될 또 다른 트릭(이건 직감에 가깝지만, 저에게는 유용했습니다): 구현자가 전체 체크리스트가 포함된 간단한 HTML 페이지를 만들게 하세요. 구현자는 진행하면서 항목을 체크하고 카운터를 업데이트하며, 페이지에는 시간에 따른 체크된 항목 수 차트가 있습니다. 물론 모든 항목이 동일하지는 않지만, 이는 모델이 '한동안 진행이 없으니 넘어갈 때' 같은 것을 인지하도록 강제합니다. 이 지침을 프롬프트에 직접 넣을 수도 있습니다: "X 시간 동안 항목을 체크하지 않았다면, 넘어가세요." 이는 많은 도움이 됩니다. 또한 한 번에 96개의 하위 에이전트를 실행했습니다. Codex 구성에서 변경할 수 있습니다(또는 Codex에 변경을 요청하면 됩니다). 이 방법은 제가 시도한 다른 어떤 방법보다 훨씬 더 나은 장기 성능을 제공했습니다. 앞으로 더 많은 내용을 공유하겠습니다!