गोरिल्ला एक बड़ा-भाषा-मॉडल है जिसे कैलिफोर्निया विश्वविद्यालय, बर्कले की बर्कले-एआई-अनुसंधान प्रयोगशाला द्वारा विकसित किया गया है। इसे विशेष रूप से सटीक एपीआई कॉल उत्पन्न करने के लिए डिज़ाइन किया गया है, जो प्राकृतिक भाषा निर्देशों को निष्पादन योग्य फ़ंक्शन कॉल में अनुवादित करता है। यह मॉडल 2023 के एक शोध पत्र में पेश किया गया था और इसे बाहरी सॉफ्टवेयर सेवाओं के साथ बातचीत करने वाली एआई प्रणालियों की विश्वसनीयता में सुधार के लिए एक उपकरण के रूप में स्थापित किया गया है।
गोरिल्ला का मुख्य नवाचार इसकी प्रशिक्षण पद्धति और एपीआई उपयोग के क्षेत्र पर इसका ध्यान केंद्रित करना है। सामान्य-उद्देश्य वाले भाषा मॉडल के विपरीत, जो भ्रम पैदा कर सकते हैं या वाक्य-रचना की दृष्टि से गलत कोड उत्पन्न कर सकते हैं, गोरिल्ला को एपीआई दस्तावेज़ीकरण और संबंधित कॉल उदाहरणों के एक बड़े कोष पर सूक्ष्म-ट्यून किया गया है। यह इसे क्लाउड सेवाओं से लेकर मशीन लर्निंग लाइब्रेरी तक, हजारों विभिन्न एपीआई की संरचना और मापदंडों को समझने की अनुमति देता है।
प्रशिक्षण और वास्तुकला
गोरिल्ला एक अंतर्निहित ट्रांसफॉर्मर वास्तुकला पर आधारित है, जो अन्य समकालीन बड़े भाषा मॉडल के समान है। प्रारंभिक संस्करण को मेटा द्वारा जारी एक मूलभूत मॉडल, LLaMA-7B मॉडल से सूक्ष्म-ट्यून किया गया था। प्रशिक्षण प्रक्रिया में रिट्रीवल-ऑगमेंटेड फाइन-ट्यूनिंग (RAFT) नामक तकनीक शामिल थी, जो मानक सूक्ष्म-ट्यूनिंग को एक पुनर्प्राप्ति तंत्र के साथ जोड़ती है। प्रशिक्षण के दौरान, मॉडल को उपयोगकर्ता प्रश्नों और सही एपीआई कॉल के साथ एपीआई दस्तावेज़ीकरण स्निपेट प्रस्तुत किए जाते हैं। यह दृष्टिकोण मॉडल को प्रदान किए गए दस्तावेज़ीकरण पर आधारित कॉल उत्पन्न करना सिखाता है, जिससे गैर-मौजूद फ़ंक्शन या मापदंडों का आविष्कार करने की संभावना कम हो जाती है।
प्रशिक्षण डेटा को विभिन्न स्रोतों से संकलित किया गया था, जिसमें अमेज़न-वेब-सेवाएं, एज़्योर, और गूगल-क्लाउड सेवाओं के साथ-साथ लोकप्रिय मशीन लर्निंग फ्रेमवर्क के दस्तावेज़ीकरण शामिल हैं। यह व्यापक कवरेज गोरिल्ला को सरल डेटा स्टोरेज संचालन से लेकर जटिल मॉडल परिनियोजन वर्कफ़्लो तक, कई प्रकार के कार्यों को संभालने में सक्षम बनाता है।
क्षमताएं और बेंचमार्क
गोरिल्ला का मूल्यांकन APIBench बेंचमार्क पर किया जाता है, जो शोधकर्ताओं द्वारा एपीआई कॉल निर्माण की सटीकता को मापने के लिए बनाया गया एक डेटासेट है। इन मूल्यांकनों में, गोरिल्ला ने उत्पन्न कॉल की शुद्धता और भ्रम त्रुटियों में कमी दोनों के संदर्भ में, ओपनएआई के GPT-4 सहित मौजूदा मॉडलों पर महत्वपूर्ण सुधार प्रदर्शित किया। यह मॉडल उम्मीदवारों के बड़े सेट से सही एपीआई का चयन करने, आवश्यक तर्कों को समझने और पायथन जैसी भाषाओं में वाक्य-रचना की दृष्टि से मान्य कोड उत्पन्न करने में सक्षम है।
गोरिल्ला की प्रमुख विशेषताओं में से एक एपीआई दस्तावेज़ीकरण में अद्यतनों के अनुकूल होने की इसकी क्षमता है। अनुमान के समय पुनर्प्राप्ति का उपयोग करके, मॉडल अपने उत्तरों में नवीनतम दस्तावेज़ीकरण को शामिल कर सकता है, जिससे यह अंतर्निहित सेवाओं में परिवर्तनों के प्रति अधिक मजबूत हो जाता है। यह क्लाउड कंप्यूटिंग और मशीन-लर्निंग उपकरणों के तेजी से विकसित होते परिदृश्य में विशेष रूप से महत्वपूर्ण है।
अनुप्रयोग और प्रभाव
गोरिल्ला का प्राथमिक अनुप्रयोग जनरेटिव-एआई एजेंटों के क्षेत्र में है, जिन्हें बाहरी उपकरणों और सेवाओं के साथ बातचीत करने की आवश्यकता होती है। यह आभासी सहायकों, स्वचालित वर्कफ़्लो सिस्टम और कोड निर्माण उपकरणों के लिए बैकएंड के रूप में काम कर सकता है। प्राकृतिक भाषा और प्रोग्रामेटिक एपीआई के बीच एक विश्वसनीय इंटरफ़ेस प्रदान करके, गोरिल्ला मानव इरादे और मशीन निष्पादन के बीच की खाई को पाटने में मदद करता है।
गोरिल्ला की रिलीज़ ने एपीआई-जागरूक भाषा मॉडल के क्षेत्र में बाद के शोध को प्रभावित किया है। पुनर्प्राप्ति को सूक्ष्म-ट्यूनिंग के साथ संयोजित करने का इसका दृष्टिकोण अन्य शोध समूहों द्वारा अपनाया और विस्तारित किया गया है। यह मॉडल अपनी ओपन-सोर्स प्रकृति के लिए भी उल्लेखनीय है, कोड और मॉडल वेट सार्वजनिक रूप से उपलब्ध कराए गए हैं, जिससे अन्य शोधकर्ता इस कार्य पर आगे निर्माण कर सकते हैं।
सीमाएं और भविष्य की दिशाएं
अपनी ताकत के बावजूद, गोरिल्ला की सीमाएं हैं। इसका प्रदर्शन प्रशिक्षण के दौरान उपयोग किए गए एपीआई दस्तावेज़ीकरण की गुणवत्ता और कवरेज पर निर्भर है। विशिष्ट या खराब दस्तावेज़ीकृत एपीआई के लिए, मॉडल अभी भी गलत कॉल उत्पन्न कर सकता है। इसके अतिरिक्त, सभी बड़े भाषा मॉडल की तरह, गोरिल्ला इनपुट प्रॉम्प्ट की शब्दावली के प्रति संवेदनशील हो सकता है, और इष्टतम परिणाम प्राप्त करने के लिए सावधानीपूर्वक प्रॉम्प्ट इंजीनियरिंग की आवश्यकता हो सकती है।
भविष्य की शोध दिशाओं में अधिक प्रोग्रामिंग भाषाओं और एपीआई डोमेन का समर्थन करने के लिए मॉडल का विस्तार करना, बहु-चरणीय एपीआई इंटरैक्शन को संभालने की इसकी क्षमता में सुधार करना, और इसके आउटपुट को और परिष्कृत करने के लिए मानव प्रतिक्रिया से सुदृढीकरण सीखने (आरएलएआईएफ) के साथ इसे और गहराई से एकीकृत करना शामिल है। बर्कले टीम मॉडल पर पुनरावृत्ति जारी रखती है, बाद के संस्करणों का लक्ष्य इसकी सटीकता और दक्षता को बढ़ाना है।