LLM आउटपुट प्रारूप को नियंत्रित करना और परिणामों का विश्लेषण करना

विधि 1: फंक्शन कॉलिंग का उपयोग करना फंक्शन कॉलिंग OpenAI के GPT API की एक विशेषता है जो LLM को अंतिम परिणाम आउटपुट करने से पहले एक विशिष्ट फंक्शन को कॉल करने का निर्णय लेने देती है। उदाहरण के लिए, यदि कोई उपयोगकर्ता आज के मौसम के बारे में पूछता है, तो LLM पहले एक मध्यवर्ती परिणाम आउटपुट करेगा जो आपको पैरामीटर 'today' के साथ मौसम से संबंधित फंक्शन को कॉल करने के लिए कहेगा। फिर आप मौसम फंक्शन को कॉल कर सकते हैं, परिणाम प्राप्त कर सकते हैं, और LLM को उपयोगकर्ता को अंतिम परिणाम आउटपुट करने के लिए कह सकते हैं। यह विशेषता मूल रूप से आउटपुट प्रारूप को नियंत्रित करने के लिए नहीं थी, लेकिन यह हमें GPT-3.5 के साथ भी, यह बताते समय एक मानक JSON प्रारूप देती है कि किस फंक्शन को कॉल करना है, जो काफी स्थिर JSON आउटपुट प्रदान करती है। हम इसका उपयोग LLM आउटपुट प्रारूप को नियंत्रित करने के लिए कर सकते हैं। हम ChatGPT से आउटपुट करने के लिए चाहने वाली सामग्री को एक फंक्शन के रूप में परिभाषित कर सकते हैं, लेकिन हमें वास्तव में फंक्शन को निष्पादित करने की आवश्यकता नहीं है, बस LLM से आउटपुट परिणाम प्राप्त करना है। उदाहरण के लिए, यदि मैं ChatGPT से एक Object आउटपुट कराना चाहता हूँ: { "name": "John", "age": 30, "city": "New York" } GPT को कॉल करते समय, वांछित JSON प्रारूप से मेल खाने वाले पैरामीटर के साथ एक फंक्शन परिभाषित करें: { "name": "getUserInfo", "description": "उपयोगकर्ता जानकारी प्राप्त करें", "parameters": { "type": "object", "properties": { "name": { "type": "string", "description": "उपयोगकर्ता का पूरा नाम" }, "age": { "type": "number", "description": "उपयोगकर्ता की आयु" }, "city": { "type": "string", "description": "उपयोगकर्ता का शहर" } }, "required": ["name", "age", "city"] } } फिर GPT को कॉल करते समय, आप एक स्थिर JSON आउटपुट प्राप्त कर सकते हैं। सीमा यह है कि API को फंक्शन कॉलिंग का समर्थन करना चाहिए। विधि 2: आउटपुट प्रारूप उदाहरणों के साथ few-shot का उपयोग करना यदि API फंक्शन कॉलिंग का समर्थन नहीं करता है, तो हम LLM को पालन करने के लिए एक या अधिक आउटपुट प्रारूप उदाहरण प्रदान करके few-shot का उपयोग कर सकते हैं। उदाहरण के लिए, अनुवाद करते समय, मैं LLM से दो बार अनुवाद करवा सकता हूँ - एक बार शाब्दिक और एक बार स्वतंत्र - फिर स्वतंत्र अनुवाद का उपयोग कर सकता हूँ। इस मामले में, मुझे JSON प्रारूप की आवश्यकता नहीं है; मैं दो परिणामों को अलग करने के लिए विशेष वर्णों का उपयोग कर सकता हूँ और स्वतंत्र अनुवाद प्राप्त करने के लिए उन वर्णों द्वारा विभाजित कर सकता हूँ। JSON प्रारूप के लिए, few-shot का भी उपयोग किया जा सकता है, लेकिन GPT-3.5 के साथ, स्थिरता अच्छी नहीं है और कभी-कभी प्रारूप का पालन नहीं किया जाता है। सुनिश्चित करें कि आपका उत्तर Python json द्वारा पार्स किया जा सकता है, निम्नलिखित प्रारूप का उदाहरण के रूप में उपयोग करें: { "name": "John", "age": 30, "city": "New York" }