FunSearch (फ़ंक्शन स्पेस में खोज का संक्षिप्त रूप) गणितीय और एल्गोरिदमिक समस्याओं को हल करने वाले कंप्यूटर प्रोग्राम खोजने के लिए Google DeepMind द्वारा विकसित एक कृत्रिम बुद्धिमत्ता विधि है। यह एक बड़े भाषा मॉडल को एक स्वचालित मूल्यांकनकर्ता और एक विकासवादी खोज प्रक्रिया के साथ जोड़ता है, उम्मीदवार प्रोग्राम उत्पन्न करता है, उन्हें स्कोर करता है, और नए उम्मीदवार बनाने के लिए उच्च-प्रदर्शन वाले प्रोग्राम का उपयोग करता है। यह प्रणाली 2023 में घोषित की गई थी, जिसमें नेचर जर्नल में एक पेपर प्रकाशित हुआ था, और इसे चरम संयोजकता और ऑनलाइन बिन पैकिंग की समस्याओं पर लागू किया गया है।
FunSearch इस बात में बदलाव का प्रतिनिधित्व करता है कि बड़े भाषा मॉडल का उपयोग खोज के लिए कैसे किया जाता है। सीधे उत्तर उत्पन्न करने के बजाय, यह एक समस्या को कंप्यूटर प्रोग्रामों पर खोज के रूप में तैयार करता है, जिससे मॉडल को कोड प्रस्तावित करने की अनुमति मिलती है जिसे फिर कठोरता से परीक्षण किया जाता है। यह दृष्टिकोण Generative AI में उपयोग किए जाने वाले मॉडलों की उत्पादक क्षमताओं का लाभ उठाता है, जबकि यह सुनिश्चित करता है कि आउटपुट सत्यापन योग्य और अक्सर शोधकर्ताओं द्वारा व्याख्या योग्य हों।
विधि
FunSearch उम्मीदवार प्रोग्रामों को पुनरावृत्त रूप से उत्पन्न और मूल्यांकन करके काम करता है। उपयोगकर्ता एक समस्या विनिर्देश, एक मूल्यांकन फ़ंक्शन और एक प्रारंभिक प्रोग्राम कंकाल प्रदान करता है। प्रत्येक चरण में, प्रणाली डेटाबेस से मौजूदा प्रोग्रामों का नमूना लेती है, उच्च स्कोर वाले को प्राथमिकता देती है, और एक पूर्व-प्रशिक्षित बड़े भाषा मॉडल के लिए एक प्रॉम्प्ट बनाती है। मॉडल एक संशोधित प्रोग्राम उत्पन्न करता है, जिसे फिर निष्पादित किया जाता है और मूल्यांकनकर्ता द्वारा स्कोर किया जाता है। मान्य प्रोग्राम डेटाबेस में वापस जोड़ दिए जाते हैं, जिससे खोज पिछली सफलताओं पर निर्माण कर सके।
खोज उम्मीदवार प्रोग्रामों के बीच विविधता बनाए रखने के लिए एक द्वीप-आधारित विकासवादी विधि का उपयोग करती है, जिससे स्थानीय ऑप्टिमा में परिवर्तित होने का जोखिम कम होता है। मूल पेपर में उल्लेख किए गए एक प्रमुख लाभ यह है कि FunSearch ऐसे प्रोग्राम आउटपुट करता है जिन्हें शोधकर्ताओं द्वारा निरीक्षण, सरलीकरण और व्याख्या किया जा सकता है, न कि केवल एक अंतिम संख्यात्मक उत्तर या वस्तुओं की एक बड़ी सूची प्रदान करता है।
एल्गोरिदमिक सूत्रीकरण
FunSearch को प्रोग्राम खंडों के स्थान पर खोज के रूप में वर्णित किया जा सकता है, आमतौर पर एक निश्चित कंकाल में एम्बेडेड फ़ंक्शन। मान लीजिए \(\mathcal{F}\) उम्मीदवार फ़ंक्शनों का स्थान है और \(S: \mathcal{F} \to \mathbb{R}\) एक मूल्यांकनकर्ता स्कोर है जो एक निश्चित सॉल्वर को चलाकर प्राप्त किया जाता है जो उम्मीदवार फ़ंक्शन को कॉल करता है। एक प्रारंभिक फ़ंक्शन \(f_0\) दिए जाने पर, FunSearch मूल्यांकित, मान्य फ़ंक्शनों का एक डेटाबेस \(D\) बनाए रखता है। यह बार-बार \(D\) से उच्च-स्कोरिंग फ़ंक्शनों का नमूना लेता है, उन्हें एक बड़े भाषा मॉडल के लिए प्रॉम्प्ट बनाने के लिए उपयोग करता है, और मॉडल से एक नया उम्मीदवार फ़ंक्शन \(f'\) उत्पन्न करने के लिए कहता है। नया फ़ंक्शन समस्या-विशिष्ट कंकाल के भीतर निष्पादित और स्कोर किया जाता है। यदि मान्य है, तो इसे \(D\) में जोड़ा जाता है, जिससे बाद के प्रॉम्प्ट मजबूत उम्मीदवारों पर निर्माण कर सकें।
आदर्श उद्देश्य उच्च मूल्यांकनकर्ता स्कोर वाला एक उम्मीदवार फ़ंक्शन खोजना है, \(f^* \in \arg\max_{f \in \mathcal{F}} S(f)\), हालांकि व्यवहार में FunSearch खोज के दौरान खोजा गया सर्वश्रेष्ठ मान्य फ़ंक्शन लौटाता है। मूल कार्यान्वयन उच्च-स्कोरिंग प्रोग्रामों को प्राथमिकता देते हुए विविधता बनाए रखने के लिए एक द्वीप-आधारित विकासवादी प्रक्रिया का उपयोग करता है।
अनुप्रयोग
कैप सेट समस्या
FunSearch को पहली बार कैप सेट समस्या पर प्रदर्शित किया गया था, जो योगात्मक संयोजकता में एक समस्या है जो \(\mathbb{Z}_3^n\) के सबसे बड़े संभव उपसमुच्चय से संबंधित है जिसमें एक रेखा में तीन बिंदु नहीं हैं। आयाम 8 में, FunSearch ने आकार 512 का एक कैप सेट पाया, जो पहले से ज्ञात निर्माणों में सुधार करता है। पेपर ने स्वीकार्य सेटों से संबंधित निर्माणों की खोज करके कैप सेट क्षमता के लिए बेहतर निचली सीमाओं की भी सूचना दी। Google DeepMind ने परिणाम को गणित में सत्यापन योग्य नया ज्ञान उत्पन्न करने के लिए बड़े भाषा मॉडल का उपयोग करने के उदाहरण के रूप में वर्णित किया। एक नेचर समाचार लेख ने बताया कि प्रणाली ने कार्ड गेम सेट से संबंधित एक संयोजकता समस्या के लिए मानव प्रयासों में सुधार किया।
ऑनलाइन बिन पैकिंग
FunSearch को ऑनलाइन बिन पैकिंग समस्या पर भी लागू किया गया था, जहां आइटम आने पर उन्हें बिन में निर्दिष्ट किया जाना चाहिए। इस सेटिंग में, FunSearch ने प्रोग्रामेटिक ह्यूरिस्टिक्स विकसित किए जो तय करते हैं कि किस बिन को एक नया आइटम प्राप्त करना चाहिए। मूल पेपर ने बताया कि खोजे गए ह्यूरिस्टिक्स ने सिम्युलेटेड डेटा और OR-Library बेंचमार्क उदाहरणों पर सामान्य फर्स्ट-फिट और बेस्ट-फिट बेसलाइन से बेहतर प्रदर्शन किया।
सॉफ्टवेयर
Google DeepMind ने FunSearch सॉफ्टवेयर को एक सार्वजनिक GitHub रिपॉजिटरी में जारी किया, जिससे शोधकर्ताओं को परिणामों को पुन: उत्पन्न करने और विधि को अन्य समस्याओं पर लागू करने की अनुमति मिली। रिलीज़ में विकासवादी खोज के लिए कोड, मूल्यांकनकर्ता इंटरफ़ेस और कैप सेट और बिन पैकिंग समस्याओं के उदाहरण शामिल हैं। यह खुली उपलब्धता Machine learning और Artificial intelligence के क्षेत्र में आगे के प्रयोग का समर्थन करती है।
महत्व
FunSearch बड़े भाषा मॉडल के विकासवादी गणना के साथ एकीकरण के लिए उल्लेखनीय है, एक दिशा जिसने Deep learning के व्यापक क्षेत्र में ध्यान आकर्षित किया है। व्याख्या योग्य प्रोग्राम उत्पन्न करके, यह AI प्रणालियों की ओर एक मार्ग प्रदान करता है जो न केवल समस्याओं को हल करते हैं बल्कि अंतर्दृष्टि भी प्रदान करते हैं जिन्हें मनुष्य समझ सकते हैं और उन पर निर्माण कर सकते हैं। विधि को Google DeepMind के वैज्ञानिक खोज के लिए AI लागू करने के व्यापक प्रयासों के संदर्भ में चर्चा की गई है, साथ ही Generative AI में अन्य पहलों के साथ।
जबकि FunSearch ने विशिष्ट गणितीय और एल्गोरिदमिक कार्यों पर आशाजनक प्रदर्शन दिखाया है, इसकी सामान्य प्रयोज्यता सक्रिय शोध का एक क्षेत्र बनी हुई है। एक पूर्व-प्रशिक्षित भाषा मॉडल पर निर्भरता और एक अच्छी तरह से परिभाषित मूल्यांकनकर्ता की आवश्यकता ऐसी बाधाएं हैं जो अन्य डोमेन में इसके उपयोग को सीमित कर सकती हैं। फिर भी, दृष्टिकोण ने प्रोग्राम संश्लेषण और अनुकूलन के लिए भाषा मॉडल का उपयोग करने पर आगे के काम को प्रेरित किया है, जो AI अनुसंधान के विकसित परिदृश्य में योगदान देता है।