GPT-4 (जनरेटिव प्री-ट्रेंड ट्रांसफॉर्मर 4) एक बड़ा भाषा मॉडल है जिसे OpenAI द्वारा विकसित किया गया था, और इसे 14 मार्च 2023 को जारी किया गया। यह OpenAI की GPT फाउंडेशन मॉडल श्रृंखला में चौथा मॉडल है, जो GPT-3.5 के बाद और GPT-5 से पहले आता है। अपने पूर्ववर्तियों के विपरीत, GPT-4 मल्टीमॉडल है, जो पाठ और छवि दोनों इनपुट को संसाधित करने में सक्षम है। OpenAI ने मॉडल आकार, वास्तुकला, या प्रशिक्षण हार्डवेयर जैसे तकनीकी विवरणों का खुलासा नहीं किया है, प्रतिस्पर्धा और सुरक्षा संबंधी चिंताओं का हवाला देते हुए। यह मॉडल फरवरी 2023 में Microsoft के Bing Chat में एकीकृत किया गया था और मार्च 2023 में ChatGPT में उपलब्ध हुआ, जिसे 2025 में ChatGPT से हटा दिया गया। GPT-4 अभी भी OpenAI के API के माध्यम से सुलभ है।
पृष्ठभूमि
OpenAI ने 2018 में पहला GPT मॉडल पेश किया, जो Transformer (architecture) वास्तुकला पर आधारित था, और पुस्तकों के एक बड़े कोष पर प्रशिक्षित किया गया था। GPT-2 2019 में आया, जिसने बड़े पैमाने पर सुसंगत पाठ उत्पन्न किया। 2020 में, GPT-3 ने GPT-2 की तुलना में पैरामीटर 100 गुना से अधिक बढ़ाए, और आगे के शोधन से GPT-3.5 बना, जिसने ChatGPT चैटबॉट को शक्ति प्रदान की। GPT-4 ने इस वंशावली पर बेहतर क्षमताओं और मल्टीमॉडल इनपुट के साथ निर्माण किया।
क्षमताएँ
डिफ़ॉल्ट GPT-4 संस्करण में 8K संदर्भ विंडो थी, जिसमें API संस्करण 32K टोकन तक का समर्थन करता था। इसकी मल्टीमॉडल प्रकृति छवि और पाठ इनपुट की अनुमति देती है, जिससे फोटो अपलोड और वॉयस इंटरैक्शन पर प्रतिक्रियाएँ संभव होती हैं। GPT-4 को बाहरी इंटरफेस के साथ बातचीत करने के लिए प्रॉम्प्ट किया जा सकता है, जैसे वेब क्वेरी करने के लिए खोज टैग का उपयोग करना, प्रतिक्रियाओं में परिणामों को एकीकृत करना, और API कॉल, छवि निर्माण, और वेबपेज सारांश जैसे कार्यों को निष्पादित करना।
2023 के एक Nature लेख ने कोडिंग में GPT-4 की उपयोगिता पर प्रकाश डाला, त्रुटि की प्रवृत्ति के बावजूद। एक बायोफिजिसिस्ट ने MATLAB-से-Python पोर्ट को दिनों से घटाकर लगभग एक घंटे में करने की सूचना दी। 89 परिदृश्यों में सुरक्षा परीक्षण में, GPT-4 ने 5% समय SQL-इंजेक्शन-कमजोर कोड उत्पन्न किया, जबकि 2021 में GitHub Copilot के लिए यह 40% था। नवंबर 2023 में, OpenAI ने GPT-4 Turbo की घोषणा की, जिसमें 128K संदर्भ विंडो और कम मूल्य निर्धारण था।
मानकीकृत परीक्षणों पर योग्यता
अध्ययनों ने चैटबॉट परीक्षण प्रदर्शन की विश्वसनीयता पर सवाल उठाए हैं। टॉरेंस टेस्ट ऑफ क्रिएटिव थिंकिंग में, GPT-4 ने मौलिकता और प्रवाह के लिए शीर्ष 1% में स्कोर किया, जिसमें लचीलेपन के स्कोर 93वें से 99वें प्रतिशतक तक थे।
चिकित्सा अनुप्रयोग
Microsoft शोधकर्ताओं ने पाया कि GPT-4 ने USMLE पासिंग स्कोर को 20 अंकों से अधिक पार कर लिया, GPT-3.5 और Med-PaLM जैसे चिकित्सा-फाइन-ट्यून मॉडल से बेहतर प्रदर्शन किया, बिना विशेष प्रॉम्प्ट तैयारी के। हालाँकि, उन्होंने गंभीर जोखिमों की चेतावनी दी, जिसमें गलत सिफारिशें और भ्रमित तथ्य शामिल हैं। अप्रैल 2023 में, Microsoft और Epic Systems ने रोगी प्रश्नों और चिकित्सा रिकॉर्ड विश्लेषण के लिए GPT-4-संचालित सिस्टम की घोषणा की।
GPT-4o
13 मई 2024 को, OpenAI ने GPT-4o ("o" "ओमनी" के लिए) पेश किया, जो पाठ, ऑडियो, और छवि मोडैलिटी को वास्तविक समय में संसाधित करता है। इसने तेज़ प्रतिक्रिया समय, बेहतर गैर-अंग्रेज़ी भाषा प्रदर्शन की पेशकश की, और GPT-4 के विपरीत, मुफ्त-स्तरीय उपयोगकर्ताओं के लिए उपलब्ध था।
सीमाएँ
GPT-4 भ्रमित कर सकता है, ऐसे आउटपुट उत्पन्न कर सकता है जो प्रशिक्षण डेटा में नहीं हैं या प्रॉम्प्ट के विपरीत हैं। इसकी निर्णय लेने की प्रक्रिया में पारदर्शिता का अभाव है; स्पष्टीकरण पूर्व-पश्चात हैं और अक्सर सत्यापन योग्य नहीं होते, कभी-कभी पिछले बयानों का खंडन करते हैं। 2023 में, अमूर्त तर्क के लिए ConceptARC बेंचमार्क पर परीक्षणों में, GPT-4 ने श्रेणियों में 33% से नीचे स्कोर किया, जबकि विशेष मॉडल ने 60% और मनुष्यों ने कम से कम 91% स्कोर किया। सैम बोमन ने नोट किया कि परीक्षण की दृश्य प्रकृति भाषा मॉडल तर्क को प्रतिबिंबित नहीं कर सकती है।
पूर्वाग्रह
GPT-4 प्रशिक्षण में दो चरण शामिल थे: इंटरनेट पाठ पर अनुपयोगी प्रीट्रेनिंग, उसके बाद हानिकारक प्रॉम्प्ट को अस्वीकार करने के लिए मानव प्रतिक्रिया से सुदृढीकरण सीखना (RLHF)। Microsoft शोधकर्ताओं ने सुझाव दिया कि GPT-4 संज्ञानात्मक पूर्वाग्रह जैसे पुष्टिकरण पूर्वाग्रह, एंकरिंग, और आधार-दर उपेक्षा प्रदर्शित कर सकता है।
प्रशिक्षण
OpenAI की तकनीकी रिपोर्ट में मॉडल आकार, वास्तुकला, हार्डवेयर, डेटासेट निर्माण, कंप्यूट, और हाइपरपैरामीटर शामिल नहीं थे। प्रशिक्षण में मानव और AI प्रतिक्रिया के साथ पर्यवेक्षित सीखना और सुदृढीकरण सीखना शामिल था। सैम ऑल्टमैन ने कहा कि प्रशिक्षण लागत $100 मिलियन से अधिक थी, हालाँकि सटीक आंकड़े अज्ञात हैं।
स्वागत और प्रभाव
GPT-4 ने AI में नए बेंचमार्क स्थापित किए, जिसने Anthropic और Google DeepMind जैसे प्रतिस्पर्धियों के बाद के मॉडलों को प्रभावित किया। इसकी मल्टीमॉडल क्षमताओं ने जनरेटिव AI में अनुप्रयोगों का विस्तार किया, रचनात्मक उपकरणों से लेकर चिकित्सा निदान तक। मॉडल की सीमाएँ, जिनमें भ्रम और पूर्वाग्रह शामिल हैं, ने AI सुरक्षा और पारदर्शिता पर बहस छेड़ दी, जिससे संरेखण और मूल्यांकन विधियों पर शोध को बढ़ावा मिला।
विरासत
GPT-4 की रिलीज़ ने बड़े भाषा मॉडल में एक मील का पत्थर चिह्नित किया, जिसने विभिन्न डोमेन में व्यावहारिक उपयोगिता का प्रदर्शन किया। इसका उत्तराधिकारी, GPT-5, श्रृंखला को जारी रखा, जबकि GPT-4 मल्टीमॉडल AI के लिए एक संदर्भ बिंदु बना हुआ है। मॉडल का प्रभाव कृत्रिम बुद्धिमत्ता और मशीन लर्निंग में चल रहे विकास में बना हुआ है।