GPT-4 एक बड़ा भाषा मॉडल है जिसे OpenAI द्वारा विकसित किया गया है, जो इसकी GPT फाउंडेशन मॉडल श्रृंखला में चौथा है। 14 मार्च 2023 को जारी, इसने GPT-3.5 का स्थान लिया और बाद में GPT-5 द्वारा अनुसरण किया गया। अपने पूर्ववर्तियों के विपरीत, GPT-4 मल्टीमॉडल है, जिसका अर्थ है कि यह इनपुट के रूप में पाठ और छवियों दोनों को संसाधित कर सकता है। OpenAI ने मॉडल के आकार, वास्तुकला, या प्रशिक्षण हार्डवेयर जैसे तकनीकी विवरणों का खुलासा नहीं किया है, प्रतिस्पर्धात्मक और सुरक्षा चिंताओं का हवाला देते हुए। एक प्रारंभिक संस्करण फरवरी 2023 में Microsoft के Bing Chat में एकीकृत किया गया था, और GPT-4 मार्च 2023 से 2025 में इसके हटाए जाने तक ChatGPT में उपलब्ध था; यह OpenAI के API के माध्यम से सुलभ बना हुआ है।
पृष्ठभूमि
OpenAI ने 2018 में पहला GPT मॉडल पेश किया, जो Transformer (architecture) वास्तुकला पर आधारित था और पुस्तकों के एक बड़े संग्रह पर प्रशिक्षित था। GPT-2 2019 में आया, जिसने बड़े पैमाने पर सुसंगत पाठ उत्पन्न किया। 2020 में, GPT-3 को GPT-2 से 100 गुना अधिक मापदंडों के साथ जारी किया गया, और इसके परिशोधन से GPT-3.5 बना, जिसने ChatGPT चैटबॉट को शक्ति प्रदान की। GPT-4 ने इस वंशावली पर निर्माण किया, मल्टीमॉडल क्षमताओं और कई बेंचमार्कों पर बेहतर प्रदर्शन जोड़ा।
क्षमताएँ
डिफ़ॉल्ट GPT-4 संस्करण में 8K संदर्भ विंडो थी, जिसमें 32K टोकन तक समर्थन करने वाला एक विशेष API संस्करण था। एक मल्टीमॉडल मॉडल के रूप में, यह छवि इनपुट स्वीकार कर सकता है, जिससे उपयोगकर्ता विश्लेषण या सुझावों के लिए फ़ोटो अपलोड कर सकते हैं। GPT-4 बाहरी इंटरफेस के साथ भी बातचीत कर सकता है, जैसे कि विशिष्ट टैग में क्वेरी संलग्न करके वेब खोज करना, जिससे यह वेबपेजों तक पहुँच और सारांशित कर सकता है, API का उपयोग कर सकता है, और छवियाँ उत्पन्न कर सकता है। Nature में 2023 के एक लेख ने नोट किया कि प्रोग्रामरों ने GPT-4 को कोडिंग सहायता के लिए उपयोगी पाया, जैसे त्रुटियों की पहचान करना और अनुकूलन सुझाना, गलतियाँ करने की प्रवृत्ति के बावजूद। सुरक्षा परीक्षणों में, GPT-4 ने 5% परिदृश्यों में SQL इंजेक्शन के लिए कमजोर कोड उत्पन्न किया, जबकि 2021 में GitHub Copilot के लिए यह 40% था। नवंबर 2023 में, OpenAI ने GPT-4 Turbo की घोषणा की जिसमें 128K संदर्भ विंडो और कम मूल्य निर्धारण था।
मानकीकृत परीक्षणों पर योग्यता
अध्ययनों ने मानकीकृत परीक्षणों के माध्यम से चैटबॉट चलाने की विश्वसनीयता पर सवाल उठाए हैं। टॉरेंस टेस्ट ऑफ़ क्रिएटिव थिंकिंग में, GPT-4 ने मौलिकता और प्रवाह के लिए शीर्ष 1% में स्कोर किया, जिसमें लचीलेपन के स्कोर 93वें से 99वें प्रतिशतक तक थे।
चिकित्सा अनुप्रयोग
Microsoft शोधकर्ताओं ने पाया कि GPT-4 ने विशेष प्रॉम्प्टिंग के बिना USMLE पर पासिंग स्कोर से 20 अंकों से अधिक अधिक स्कोर किया, GPT-3.5 और Med-PaLM जैसे चिकित्सा-विशिष्ट मॉडलों से बेहतर प्रदर्शन किया। हालाँकि, उन्होंने गलत सिफारिशों और मतिभ्रम सहित महत्वपूर्ण जोखिमों की चेतावनी दी। अप्रैल 2023 में, Microsoft और Epic Systems ने रोगी प्रश्नों और चिकित्सा रिकॉर्ड विश्लेषण के लिए स्वास्थ्य सेवा प्रदाताओं को GPT-4-संचालित सिस्टम प्रदान करने की योजना की घोषणा की।
GPT-4o
13 मई 2024 को, OpenAI ने GPT-4o ("o" "omni" के लिए) पेश किया, एक उत्तराधिकारी जो वास्तविक समय में पाठ, ऑडियो और छवि मोडैलिटी को संसाधित और उत्पन्न करता है। यह मानव संवाद के तुलनीय प्रतिक्रिया समय, बेहतर गैर-अंग्रेजी भाषा प्रदर्शन, और उन्नत दृष्टि और ऑडियो समझ प्रदान करता है। GPT-4o मुफ्त-स्तरीय उपयोगकर्ताओं के लिए भी उपलब्ध था, GPT-4 के विपरीत।
सीमाएँ
GPT-4, अपने पूर्ववर्तियों की तरह, मतिभ्रम कर सकता है, ऐसे आउटपुट उत्पन्न कर सकता है जो प्रशिक्षण डेटा या उपयोगकर्ता प्रॉम्प्ट के विपरीत हों। इसमें निर्णय लेने में पारदर्शिता की भी कमी है; स्पष्टीकरण पूर्व-पश्चात बनते हैं और पिछले बयानों के विपरीत हो सकते हैं। 2023 में, ConceptARC बेंचमार्क का उपयोग करने वाले परीक्षणों ने दिखाया कि GPT-4 ने अमूर्त तर्क कार्यों पर 33% से नीचे स्कोर किया, जबकि विशेष मॉडलों ने लगभग 60% और मनुष्यों ने कम से कम 91% स्कोर किया। शोधकर्ताओं ने नोट किया कि यह अमूर्त तर्क की कमी का संकेत नहीं दे सकता है, क्योंकि परीक्षण दृश्य है और GPT-4 एक भाषा मॉडल है।
पूर्वाग्रह
GPT-4 को दो चरणों में प्रशिक्षित किया गया था: पहले, अगले टोकन की भविष्यवाणी करने के लिए बड़े इंटरनेट पाठ डेटासेट पर; दूसरे, सुरक्षा दिशानिर्देशों के साथ संरेखित करने के लिए मानव प्रतिक्रिया से सुदृढीकरण सीखना का उपयोग करके। Microsoft शोधकर्ताओं ने सुझाव दिया कि GPT-4 पुष्टिकरण पूर्वाग्रह, एंकरिंग, और आधार-दर उपेक्षा जैसे संज्ञानात्मक पूर्वाग्रह प्रदर्शित कर सकता है।
प्रशिक्षण
OpenAI ने GPT-4 के प्रशिक्षण के तकनीकी विवरण जारी नहीं किए, जिसमें मॉडल आकार, वास्तुकला, हार्डवेयर, या हाइपरपैरामीटर शामिल हैं। तकनीकी रिपोर्ट ने मानव और AI प्रतिक्रिया के साथ पर्यवेक्षित सीखने और सुदृढीकरण सीखने के संयोजन का वर्णन किया, लेकिन विवरण छोड़ दिए। सैम ऑल्टमैन ने कहा कि प्रशिक्षण लागत $100 मिलियन से अधिक थी। रिपोर्ट ने जानकारी रोकने के कारणों के रूप में प्रतिस्पर्धात्मक परिदृश्य और सुरक्षा निहितार्थों का हवाला दिया।