सिस्टम प्रॉम्प्ट एक निर्देशों का समूह है जो उपयोगकर्ता के स्वयं के इनपुट से पहले एक संवादात्मक AI मॉडल को दिया जाता है, जो बातचीत के शेष भाग के लिए मॉडल की व्यक्तित्व, व्यवहारिक नियम और कार्य-निर्धारण स्थापित करता है। एक सामान्य उपयोगकर्ता संदेश के विपरीत, सिस्टम प्रॉम्प्ट आमतौर पर अंतिम उपयोगकर्ता के बजाय एप्लिकेशन डेवलपर द्वारा निर्धारित किया जाता है और आमतौर पर दृश्यमान वार्तालाप में नहीं दिखाया जाता है।
कार्य
सिस्टम प्रॉम्प्ट का उपयोग यह कॉन्फ़िगर करने के लिए किया जाता है कि एक सहायक को पूरे सत्र में कैसा व्यवहार करना चाहिए: क्या स्वर अपनाना है, किन विषयों से बचना है, किस आउटपुट प्रारूप का पालन करना है, और यदि कोई हो तो कौन सी व्यक्तित्व प्रस्तुत करनी है। Large language model पर निर्मित उत्पाद, जिनमें ChatGPT और Claude (AI model family) शामिल हैं, इस तंत्र के रूपों को अंतिम उपयोगकर्ताओं के लिए भी उजागर करते हैं, जिससे "कस्टम निर्देश" की अनुमति मिलती है जो वार्तालापों में बने रहते हैं और हर बार फिर से टाइप करने की आवश्यकता नहीं होती। AI agent या चैटबॉट API के शीर्ष पर एप्लिकेशन बनाने वाले डेवलपर्स अपने उत्पाद के व्यवहार को अंतर्निहित मॉडल के डिफ़ॉल्ट व्यवहार से अलग करने के लिए सिस्टम प्रॉम्प्ट पर बहुत अधिक निर्भर करते हैं, भले ही कई उत्पाद एक ही आधार मॉडल पर बनाए गए हों।
सुरक्षा प्रशिक्षण से संबंध
सिस्टम प्रॉम्प्ट मॉडल के प्रशिक्षण प्रक्रिया के दौरान स्थापित सुरक्षा व्यवहार के साथ-साथ मौजूद होते हैं, लेकिन उससे अलग होते हैं, जैसे कि RLHF या Constitutional AI के माध्यम से। एक अच्छी तरह से डिज़ाइन किया गया सिस्टम प्रॉम्प्ट मॉडल के प्रशिक्षित डिफ़ॉल्ट के शीर्ष पर अतिरिक्त बाधाएं जोड़ सकता है, लेकिन यह उस व्यवहार को पूरी तरह से ओवरराइड नहीं कर सकता जिसे अस्वीकार करने के लिए मॉडल को प्रशिक्षित किया गया था, और विपरीत भी हमेशा सत्य नहीं होता: एक खराब डिज़ाइन किया गया सिस्टम प्रॉम्प्ट अनजाने में मॉडल के प्रशिक्षित सुरक्षा व्यवहार के पालन को कमजोर कर सकता है। इस अंतःक्रिया के कारण, प्रदाता सिस्टम प्रॉम्प्ट लिखने के तरीके पर मार्गदर्शन प्रकाशित करते हैं जो मॉडल के प्रशिक्षण को सुदृढ़ करता है, न कि उससे टकराता है।
सुरक्षा निहितार्थ
क्योंकि सिस्टम प्रॉम्प्ट अक्सर किसी उत्पाद के मालिकाना निर्देशों को एन्कोड करते हैं, उन्हें निकालना या ओवरराइड करना विरोधी उपयोगकर्ताओं का एक सामान्य लक्ष्य बन गया है। एक Jailbreak (AI) मॉडल को अपने सिस्टम प्रॉम्प्ट को पूरी तरह से अनदेखा करने के लिए मनाने का प्रयास कर सकता है, जबकि Prompt injection हमले मॉडल द्वारा संसाधित बाहरी सामग्री में निर्देश एम्बेड करते हैं, जिसका उद्देश्य सिस्टम प्रॉम्प्ट के अधिकार को उस सामग्री से ओवरराइड करना है जिसे कभी भी कोई निर्देश ले जाने का इरादा नहीं था। स्तरित मॉडरेशन जांच अक्सर सिस्टम प्रॉम्प्ट के साथ विशेष रूप से उन मामलों को पकड़ने के लिए तैनात की जाती हैं जहां प्रॉम्प्ट-आधारित निर्देश धारण करने में विफल रहते हैं।
एजेंटिक प्रणालियों में उपयोग
जैसे-जैसे भाषा मॉडल उपकरणों का उपयोग करने और बहु-चरणीय कार्रवाई करने में सक्षम एजेंट प्रणालियों में एम्बेड किए गए हैं, सिस्टम प्रॉम्प्ट लंबे और अधिक संरचित हो गए हैं, जो अक्सर सरल व्यवहारिक दिशानिर्देशों के बजाय उपलब्ध उपकरणों, आउटपुट स्कीमा और स्पष्ट निर्णय प्रक्रियाओं को निर्दिष्ट करते हैं। इस बदलाव ने सिस्टम प्रॉम्प्ट डिज़ाइन को विश्वसनीय उत्पादन AI प्रणालियों के निर्माण का एक महत्वपूर्ण हिस्सा बना दिया है, जो अंतिम उपयोगकर्ता के Prompt engineering के अधिक खोजपूर्ण अभ्यास से अलग है।