मशीन-लर्निंग में, ज्ञान-कटऑफ (या डेटा कटऑफ) वह समय बिंदु है जिसके बाद एक बड़े-भाषा-मॉडल को नए डेटा पर प्रशिक्षित नहीं किया गया है। चूंकि बड़े भाषा मॉडल इंटरनेट, पुस्तकों, और अन्य स्रोतों से एकत्रित डेटा के स्थिर स्नैपशॉट पर पूर्व-प्रशिक्षित होते हैं, किसी भी मॉडल का ज्ञान उस पर स्थिर होता है जो उसे तैनाती से पहले प्रशिक्षित किया गया था। इस तिथि के बाद की घटनाओं के बारे में जानकारी मॉडल के प्रशिक्षण डेटा में अनुपस्थित होती है, और मॉडल वास्तविक-समय डेटा एक्सेस की प्रणाली जैसे कि पुनर्प्राप्ति-संवर्धित-जनन, जो बाहरी डेटाबेस से नई जानकारी प्राप्त करता है, के बिना उसे एक्सेस नहीं कर सकता
ज्ञान कटऑफ सीमाएं पेश कर सकते हैं जैसे कि मतिभ्रम, जहां मॉडल आत्मविश्वासी लेकिन झूठे कथन उत्पन्न करता है, सूचना अंतराल, और विकसित ज्ञान पर कम सटीकता। शोध ने दिखाया है कि ज्ञान कटऑफ के स्वास्थ्य-सुरक्षा-महत्वपूर्ण निहितार्थ हैं जैसे कि स्वास्थ्य सेवा, जहां पुराना ज्ञान हानिकारक सिफारिशों को जन्म दे सकता है। नैदानिक क्षेत्र में, बाद के ज्ञान कटऑफ वाले मॉडल ने नए दिशानिर्देशों को प्रतिबिंबित करने वाले प्रश्नों पर अधिक सटीकता दिखाई
विवरण
एक बड़ा भाषा मॉडल तैनाती से पहले एक विशिष्ट ज्ञान-कटऑफ तिथि तक एकत्रित डेटा के स्थिर स्नैपशॉट पर प्रशिक्षित होता है। प्रशिक्षण के दौरान, एक LLM भाषाई पैटर्न, शब्दार्थ, और प्रासंगिक अर्थ सीख सकता है। मॉडल को फिर प्रत्येक उम्मीदवार शब्द की संभावना का अनुमान लगाने के लिए प्रशिक्षित किया जाता है जो किसी दिए गए वाक्य का अनुसरण कर सकता है, और यह इन संभावनाओं का उपयोग पाठ उत्पन्न करने के लिए करता है। क्योंकि इसका ज्ञान प्रशिक्षण के बिंदु पर स्थिर है, एक निश्चित ज्ञान कटऑफ वाला मॉडल अकेले अपने पूर्व-प्रशिक्षित ज्ञान से बाद में उभरे तथ्यों या विकासों के बारे में जानकारी प्रदान नहीं कर सकता। कुछ मॉडल खोज उपकरणों के माध्यम से नई जानकारी प्राप्त कर सकते हैं, लेकिन उनका निर्णय उस डेटा द्वारा आकारित रहता है जिस पर उन्हें प्रशिक्षित किया गया था। कटऑफ के बाद के विकासों के बारे में प्रॉम्प्ट इसलिए अधूरे, पुराने, या गलत उत्तर प्राप्त कर सकते हैं
सबसे उन्नत AI प्रणालियों को प्रशिक्षित करना तेजी से महंगा हो गया है; स्टैनफोर्ड विश्वविद्यालय और Epoch AI के शोधकर्ताओं द्वारा 2024 के अध्ययन ने अनुमान लगाया कि सबसे बड़े AI प्रणालियों को प्रशिक्षित करने की लागत 2027 तक अरबों तक पहुंच जाएगी। GPT-4 मॉडल का ज्ञान कटऑफ सितंबर 2021 है, GPT-4 Turbo मॉडल का ज्ञान कटऑफ दिसंबर 2023 है, और GPT-5 मॉडल का ज्ञान कटऑफ सितंबर 2024 है। GPT-OSS-120B का ज्ञान कटऑफ मई 2024 है, और Llama 4 Maverick का ज्ञान कटऑफ अगस्त 2024 है
सूचना अंतराल
ज्ञान कटऑफ सूचना अंतराल पैदा करते हैं। LLM में उन घटनाओं या खोजों के ज्ञान की कमी होती है जो उनके प्रशिक्षण डेटा में शामिल नहीं हैं। क्योंकि ये मॉडल अपने प्रशिक्षण पैटर्न के आधार पर शब्दों के सबसे संभावित अनुक्रम उत्पन्न करने के लिए प्रशिक्षित होते हैं, वे उस जानकारी से परे पूछे जाने पर आत्मविश्वासी लेकिन गलत आउटपुट उत्पन्न कर सकते हैं। Cacioli एट अल. द्वारा एक अध्ययन ने अमेरिका के संक्रामक रोग सोसायटी के COVID-19 उपचार दिशानिर्देशों के दो संस्करणों पर आधारित एक 363-प्रश्न बेंचमार्क बनाया। जिन मॉडलों के ज्ञान कटऑफ नए दिशानिर्देश से पहले थे, जैसे कि GPT-3.5-Turbo और Llama-2, ने इन प्रश्नों पर बदतर प्रदर्शन किया (76.03 प्रतिशत और 35.26 प्रतिशत, क्रमशः), जबकि बाद के कटऑफ वाले मॉडल, जैसे कि GPT-4o और Llama 3.3, की 90-प्रतिशत से अधिक सटीकता थी। अध्ययन ने निष्कर्ष निकाला कि सूचना की नवीनता को संरेखण या व्याख्यात्मकता के बराबर एक सुरक्षा-महत्वपूर्ण विशेषता के रूप में माना जाना चाहिए, नैदानिक निर्णय-निर्माण में ज्ञान कटऑफ के सुरक्षा चिंताओं को उजागर करते हुए
प्रभावी बनाम रिपोर्टेड तिथियां
Łódź विश्वविद्यालय में Pęzik एट अल. द्वारा एक अध्ययन ने संकेत दिया कि मॉडल का ज्ञान आवश्यक रूप से उसकी कटऑफ तिथि से मेल नहीं खाता। प्रभावी कटऑफ, वह तिथि जिस तक यह विश्वसनीय रूप से जानकारी जान सकता है, अक्सर विषय द्वारा भिन्न होती है और प्रशिक्षण डेटा के भीतर सूचना के वितरण से प्रभावित होती है; कुछ विषय दूसरों की तुलना में बाद के ज्ञान को प्रतिबिंबित कर सकते हैं, और कटऑफ से पहले का ज्ञान अनुपस्थित हो सकता है। प्रशिक्षण डेटा में विषयों पर असमान सूचना होती है। बड़े भाषा मॉडल को फिर से प्रशिक्षित करने की उच्च लागत के कारण, मॉडल को उनके ज्ञान कटऑफ का विस्तार करने के लिए शायद ही फिर से प्रशिक्षित किया जाता है। कुछ मॉडल अधिक हालिया जानकारी एक्सेस करने के लिए एकीकृत खोज उपकरणों का उपयोग कर सकते हैं, जिससे यह अस्पष्ट हो जाता है कि उत्तर मॉडल के मूल प्रशिक्षण से आता है या लाइव खोज से; GPT-4 अपने खोज उपकरण को एक्सेस कर सकता है और वास्तविक-समय जानकारी प्रदान कर सकता है
पुनर्प्राप्ति-संवर्धित-जनन
पुनर्प्राप्ति-संवर्धित-जनन बाहरी स्रोतों से अद्यतन डेटा के साथ एक बड़े भाषा मॉडल को संवर्धित करता है, जिससे यह बेहतर-सूचित प्रतिक्रियाएं उत्पन्न कर सकता है। RAG में, भाषा मॉडल लाइव डेटा प्राप्त करने के लिए एक बाहरी ज्ञान आधार या खोज इंजन से जुड़ा होता है। यह मॉडल को किसी क्वेरी से संबंधित वर्तमान जानकारी खोजने और उसे अपनी प्रतिक्रिया में शामिल करने की अनुमति देता है, उद्धरणों के साथ। किसी मॉडल को बाहरी डेटा में आधारित करना जो मॉडल के उत्तरों को उसके प्राप्त स्रोतों से जोड़ता है मतिभ्रम की आवृत्ति को कम करने में मदद करता है और आउटपुट सटीकता में सुधार करता है। बाहरी ज्ञान आधार पुराना हो सकता है या पूर्वाग्रह रख सकता है, हालांकि, जो गलत जानकारी (या मतिभ्रम) को जन्म दे सकता है। Google के AI Overviews ने झूठे दावे किए हैं और अविश्वसनीय परिणाम प्रदान किए हैं, क्योंकि मॉडल अपने प्राप्त स्रोतों की गलत व्याख्या कर सकता है या उच्च-गुणवत्ता वाले स्रोतों को प्राप्त करने में विफल हो सकता है। पुनर्प्राप्ति अकेले एक पुराने ज्ञान कटऑफ के लिए पूरी तरह से क्षतिपूर्ति नहीं कर सकती; मॉडल की मौलिक समझ उसके प्रशिक्षण डेटा में निहित है। इसे मानव प्रतिक्रिया से सुदृढीकरण लर्निंग जैसी तकनीकों से कम किया जा सकता है, जो एक AI मॉडल को मानव प्राथमिकताओं के साथ संरेखित करता है; यह तकनीक बड़े भाषा मॉडल की प्रतिक्रियाओं की गुणवत्ता और विश्वसनीयता को बढ़ा सकती है
वृद्धिशील लर्निंग
एक और दृष्टिकोण वृद्धिशील लर्निंग(या निरंतर लर्निंग) है, मशीन लर्निंग की एक विधि जिसमें मौजूदा मॉडल के ज्ञान का विस्तार करने के लिए नए डेटा का निरंतर उपयोग किया जाता है। इसका उद्देश्य विनाशकारी विस्मृति को रोकना है, जहां AI अचानक भूल जाता है जो उसने सीखा है। व्यवहार में, हालांकि, यह अक्सर विनाशकारी विस्मृति को पूरी तरह से रोकने में विफल रहता है। यह तकनीक पूर्ण पुनः-प्रशिक्षण चक्र की लागत के बिना मॉडल में कुशल, वृद्धिशील अद्यतन की अनुमति देती है। एक निरंतर-लर्निंग तकनीक फाइन-ट्यूनिंग है, जो AI प्रयोगशालाओं को मॉडल के व्यवहार को सटीक रूप से समायोजित करने की अनुमति देती है। फाइन-ट्यूनिंग की एक अधिक कुशल विधि में निम्न-रैंक अनुकूलन जैसी विधियां शामिल हैं। यह वास्तविक-समय जागरूकता प्रदान नहीं करता, हालांकि, क्योंकि प्रणाली में मॉड्यूल जोड़ने से विनाशकारी विस्मृति हो सकती है क्योंकि मॉडल में वेट नए डेटा सेट के पक्ष में पूर्वाग्रहित हो जाते हैं