मैनेजर लूप: AI लंबी-अवधि के कार्यों को बढ़ावा दें

बहुत से लोग पूछ रहे हैं कि मैंने Astra के साथ इन सुपर लंबे-क्षितिज वाले कार्यों को कैसे पूरा किया। Astra बेहद शक्तिशाली है, लेकिन डिफ़ॉल्ट रूप से इसे इतने कठिन कार्य से जूझने में परेशानी हुई। मैंने इससे पार पाने के लिए कई तरीकों का परीक्षण किया, और जो तरीका मैंने अपनाया, उसे मैं Manager Loop कह रहा हूँ। यह मूल रूप से कुछ तरकीबें हैं जो हम कुछ साल पहले कम सक्षम मॉडलों के साथ इस्तेमाल करते थे, जिनमें कुछ नए विचार जोड़े गए हैं। पता चला कि जब आप इन्हें एक साथ रखकर Astra पर लागू करते हैं, तो अत्यंत कठिन लंबे-क्षितिज वाले कार्यों को करने की इसकी क्षमता नाटकीय रूप से बढ़ जाती है। यहाँ बताया गया है कि यह कैसे काम करता है: 1. एक एजेंट लॉन्च करें (मैं इसे "manager" कह रहा हूँ)। इससे चैट करें कि आप क्या पूरा करना चाहते हैं, और इसे कार्यों की एक विशाल चेकलिस्ट बनाने के लिए कहें, फिर उस चेकलिस्ट को चरणों में विभाजित करें। 2. manager फिर एक अलग थ्रेड में दूसरा Codex एजेंट (जिसे "implementer" कहा जाता है) स्पॉन करता है। दोनों एजेंट एक-दूसरे को संदेश भेज सकते हैं। 3. manager को /goal मोड में डालें, और इसे बताएं कि implementer पर प्रत्येक चरण को /goal मोड में चलाए। 4. manager implementer को संदेश भेजता है: "/goal पहला चरण पूरी तरह से, बेहद अच्छे से पूरा करें।" implementer तब तक नहीं रुकता जब तक वह चरण पूरा नहीं हो जाता, फिर manager को वापस संदेश भेजता है। manager इसे दूसरा चरण शुरू करने के लिए कहता है। वे तब तक दोहराते हैं जब तक हर चरण पूरी तरह से, पूरी तरह से स्वायत्त रूप से समाप्त नहीं हो जाता। मुझे लगता है कि यह काम क्यों करता है: एक लंबे-क्षितिज वाले कार्य पर, Astra asymptote की ओर बढ़ता है। यह पिछले मॉडलों की तुलना में बहुत आगे जाता है, लेकिन एक निश्चित बिंदु पर यह लक्ष्य के प्रति उतनी तेजी से सुधार करना बंद कर देता है जितना पहले करता था। यह छोटी-छोटी बातों में फंस जाता है, छोटे विवरणों पर बहुत अधिक ध्यान केंद्रित करता है, और समग्र प्रगति रुक जाती है। Manager Loop इसे टुकड़ों में, एक समय में एक चरण, काम करने के लिए मजबूर करता है। यह अनिवार्य रूप से वैसा ही है जैसे एक इंसान मॉडल को चलाता है, सिवाय इसके कि मॉडल मेरे लिए चलाने का काम कर रहा है। वास्तव में यह इसी तरह शुरू हुआ। मैं मॉडल से चेकलिस्ट लिखवा रहा था और उसे चरणों में विभाजित करवा रहा था, और फिर मैं manager का काम हाथ से कर रहा था। कुछ बिंदु पर मैंने सोचा, "रुको, मैं इसे करने के लिए एक अलग AI क्यों नहीं ले सकता?" इसी ने पूर्ण स्वायत्तता को खोल दिया, जो बेहद उपयोगी है। एक शब्दांकन विवरण जो महत्वपूर्ण लगा: मैं प्रत्येक चरण को "बेहद अच्छे से" पूरा करने के लिए कहता हूँ, "पूरी तरह से" नहीं। शायद मैं इसमें बहुत अधिक पढ़ रहा हूँ, लेकिन "पूरी तरह से" पूछने से मॉडल वापस छोटी-छोटी बातों में चला गया। "बेहद अच्छे से" का अर्थ है कि इसे आगे बढ़ने की अनुमति है जब यह पर्याप्त अच्छा हो, और यह मेरे परीक्षण में बेहतर काम किया। एक और तरकीब जो मुझे लगता है कि मदद करती है (यह एक अंतर्ज्ञान से अधिक है, लेकिन यह मेरे लिए उपयोगी थी): implementer को पूरी चेकलिस्ट के साथ एक सरल HTML पेज बनाने के लिए कहें। implementer आगे बढ़ते हुए बॉक्स चेक करता है और एक काउंटर अपडेट करता है, और पेज पर समय के साथ चेक किए गए बॉक्स की संख्या का एक चार्ट होता है। जाहिर है कि सभी बॉक्स समान नहीं हैं, लेकिन यह मॉडल को ऐसी चीजें नोटिस करने के लिए मजबूर करता है जैसे "मैंने कुछ समय से प्रगति नहीं की है, आगे बढ़ने का समय है।" आप इसे सीधे प्रॉम्प्ट में भी डाल सकते हैं, जैसे: "यदि आपने X समय में एक बॉक्स चेक नहीं किया है, तो आगे बढ़ें"। यह बहुत मदद करता है। मैंने एक समय में 96 उप-एजेंट भी चलाए। आप इसे अपने Codex कॉन्फ़िग में बदल सकते हैं (या बस Codex से इसे बदलने के लिए कह सकते हैं)। इससे मुझे किसी भी अन्य तरीके की तुलना में बहुत बेहतर लंबे-क्षितिज वाला प्रदर्शन मिला। मैं आने वाले दिनों में और साझा करूँगा!