एलएलएम इंजीनियरिंग मास्टरी चेकलिस्ट

एक AI इंजीनियर के रूप में। कृपया सीखें >इंजीनियरिंग को बढ़ावा दें, सिर्फ प्रॉम्प्ट इंजीनियरिंग नहीं >संदर्भ इंजीनियरिंग, सिर्फ लंबे प्रॉम्प्ट नहीं >प्रॉम्प्ट कैशिंग बनाम सिमेंटिक कैशिंग ट्रेडऑफ्स >KV कैश प्रबंधन, निष्कासन, पुन: उपयोग, और बड़े पैमाने पर मेमोरी दबाव >प्रीफिल बनाम डिकोड विलंबता और वे अलग-अलग क्यों अनुकूलित होते हैं >निरंतर बैचिंग, पेजेड अटेंशन, और थ्रूपुट अनुकूलन >स्पेक्युलेटिव डिकोडिंग बनाम क्वांटाइजेशन बनाम डिस्टिलेशन ट्रेडऑफ्स >INT8, INT4, FP8, AWQ, GPTQ, और कब क्वांटाइजेशन गुणवत्ता को नुकसान पहुंचाता है >संरचित आउटपुट विफलताएं, स्कीमा सत्यापन, मरम्मत लूप, और फॉलबैक श्रृंखलाएं >फंक्शन कॉलिंग विश्वसनीयता, टूल अनुबंध, तर्क सत्यापन, और आइडेम्पोटेंसी >एजेंट गार्डरेल, लूप बजट, टूल बजट, और समाप्ति शर्तें >मॉडल रूटिंग, सुंदर फॉलबैक लॉजिक, और डिग्रेडेड-मोड UX >RAG आर्किटेक्चर: चंकिंग, एम्बेडिंग्स, हाइब्रिड खोज, रीरैंकिंग, और ताजगी >रिट्रीवल इवैल्स: रिकॉल, प्रेसिजन, ग्राउंडिंग, एट्रिब्यूशन, और साइटेशन गुणवत्ता >इवैल्स: गोल्डन सेट, रिग्रेशन टेस्ट, एडवरसैरियल टेस्ट, LLM-एज़-जज, और ह्यूमन इवैल्स >LLM ऑब्ज़र्वबिलिटी एक प्रथम-श्रेणी अनुशासन के रूप में: ट्रेसेस, स्पैन्स, टोकन्स, विलंबता, त्रुटियां, और ड्रिफ्ट >प्रति सुविधा, वर्कफ़्लो, टेनेंट, और उपयोगकर्ता यात्रा के अनुसार लागत आरोपण - सिर्फ प्रति मॉडल नहीं >सुरक्षा इंजीनियरिंग: प्रॉम्प्ट इंजेक्शन रक्षा, डेटा लीकेज रोकथाम, और अनुमति सीमाएं >मल्टी-टेनेंट आइसोलेशन, कैश सुरक्षा, और क्रॉस-यूज़र संदर्भ संदूषण रोकथाम >फाइन-ट्यूनिंग बनाम इन-कॉन्टेक्स्ट लर्निंग बनाम RAG बनाम डिस्टिलेशन और कब प्रत्येक गलत उपकरण है >पूर्ण इन्फ्रेंस स्टैक में विलंबता, गुणवत्ता, लागत, और विश्वसनीयता ट्रेडऑफ्स >उत्पादन विफलता मोड: भ्रामक टूल कॉल, विकृत JSON, पुराना रिट्रीवल, अनियंत्रित एजेंट, और मूक इवैल रिग्रेशन