राष्ट्रीय मानक और प्रौद्योगिकी संस्थान (NIST) एक अमेरिकी संघीय एजेंसी है जिसने कृत्रिम बुद्धिमत्ता सुरक्षा और विश्वसनीयता के लिए एक व्यापक कार्यक्रम विकसित किया है। NIST AI में स्वैच्छिक ढाँचे, मानकों और परीक्षण संसाधनों का एक समूह शामिल है जो संगठनों को AI प्रणालियों से जुड़े जोखिमों का प्रबंधन करने में मदद करने के लिए डिज़ाइन किया गया है। इस क्षेत्र में एजेंसी के कार्य को 2023 के कृत्रिम बुद्धिमत्ता के सुरक्षित, संरक्षित और विश्वसनीय विकास और उपयोग पर कार्यकारी आदेश के बाद महत्वपूर्ण गति मिली, जिसने NIST को AI सुरक्षा में संघीय प्रयासों का नेतृत्व करने का निर्देश दिया।
NIST का प्राथमिक योगदान AI जोखिम प्रबंधन ढाँचा (AI RMF) है, जो पहली बार जनवरी 2023 में प्रकाशित हुआ था। यह ढाँचा संगठनों को AI जीवनचक्र के दौरान जोखिमों की पहचान, आकलन और शमन के लिए एक संरचित दृष्टिकोण प्रदान करता है। यह चार मुख्य कार्यों - शासन, मानचित्रण, माप और प्रबंधन - के आसपास आयोजित किया गया है और इसे स्वैच्छिक और विभिन्न क्षेत्रों में अनुकूलनीय बनाने के लिए डिज़ाइन किया गया है। ढाँचा वैधता, विश्वसनीयता, सुरक्षा, संरक्षा, लचीलापन, जवाबदेही, पारदर्शिता और निष्पक्षता जैसे सिद्धांतों पर जोर देता है।
AI RMF और संबंधित प्रकाशन
AI RMF 1.0 26 जनवरी 2023 को जारी किया गया था, जिसमें सार्वजनिक टिप्पणियों और कार्यशालाओं सहित एक बहु-हितधारक प्रक्रिया शामिल थी। NIST ने बाद में जुलाई 2024 में AI RMF जनरेटिव AI प्रोफ़ाइल प्रकाशित की, जो Generative AI प्रणालियों, जिसमें Large language model शामिल हैं, द्वारा उत्पन्न अद्वितीय जोखिमों को संबोधित करती है। यह प्रोफ़ाइल भ्रम, हानिकारक पूर्वाग्रह और दुरुपयोग की संभावना जैसे मुद्दों को कवर करती है। NIST ने AI के लिए सुरक्षित सॉफ़्टवेयर विकास और AI घटनाओं के वर्गीकरण पर सहयोगी दस्तावेज़ भी जारी किए।
RMF के अतिरिक्त, NIST ने कई अन्य AI-संबंधित प्रकाशन जारी किए हैं। AI RMF प्लेबुक ढाँचे को लागू करने के लिए व्यावहारिक मार्गदर्शन प्रदान करती है। NIST ने प्रतिकूल मशीन लर्निंग (AML) वर्गीकरण भी विकसित किया है, जो मार्च 2024 में प्रकाशित हुआ, जो Machine learning प्रणालियों पर हमलों को वर्गीकृत करता है और शमन रणनीतियाँ प्रदान करता है। ये संसाधन उद्योग, शिक्षा और सरकार में AI डेवलपर्स, तैनातीकर्ताओं और मूल्यांकनकर्ताओं द्वारा उपयोग के लिए हैं।
परीक्षण और मूल्यांकन कार्यक्रम
NIST AI परीक्षण, मूल्यांकन, सत्यापन और सत्यापन (TEVV) कार्यक्रम संचालित करता है, जिसका उद्देश्य AI प्रणाली प्रदर्शन और सुरक्षा का आकलन करने के लिए मीट्रिक और विधियाँ विकसित करना है। इसमें AI क्षमताओं के मूल्यांकन के लिए परीक्षण बेड और बेंचमार्क डेटासेट का निर्माण शामिल है। 2024 में, NIST ने वाणिज्य विभाग के तहत स्थापित अमेरिकी AI सुरक्षा संस्थान (AISI) लॉन्च किया, जिसमें NIST तकनीकी नेतृत्व प्रदान करता है। AISI AI सुरक्षा पर शोध करता है, परीक्षण प्रोटोकॉल विकसित करता है और अंतर्राष्ट्रीय भागीदारों के साथ सहयोग करता है।
एक उल्लेखनीय पहल GenAI कार्यक्रम है, जो जनरेटिव AI प्रौद्योगिकियों के मूल्यांकन पर केंद्रित है। यह कार्यक्रम AI-जनित सामग्री की गुणवत्ता, सुरक्षा और विश्वसनीयता का आकलन करने के लिए माप उपकरण विकसित करता है। NIST अंतर्राष्ट्रीय AI सुरक्षा रिपोर्ट में भी भाग लेता है, जो AI जोखिमों पर वैज्ञानिक ज्ञान को संश्लेषित करने का एक वैश्विक प्रयास है।
मानक और अंतर्राष्ट्रीय सहयोग
NIST अंतर्राष्ट्रीय मानकीकरण संगठन (ISO) और अंतर्राष्ट्रीय इलेक्ट्रोटेक्निकल आयोग (IEC) जैसे संगठनों के साथ अपने जुड़ाव के माध्यम से अंतर्राष्ट्रीय AI मानकों को विकसित करने में महत्वपूर्ण भूमिका निभाता है। NIST AI प्रबंधन प्रणालियों के लिए ISO/IEC 42001 मानक और AI जोखिम प्रबंधन पर ISO/IEC 23894 मानक में योगदान देता है। एजेंसी AI सुरक्षा को व्यापक साइबर सुरक्षा प्रथाओं में एकीकृत करने के लिए राष्ट्रीय साइबर सुरक्षा उत्कृष्टता केंद्र (NCOE) के साथ भी काम करती है।
NIST का AI कार्य Artificial intelligence और Deep learning में इसके व्यापक शोध से प्रेरित है। एजेंसी की सूचना प्रौद्योगिकी प्रयोगशाला कंप्यूटर दृष्टि, प्राकृतिक भाषा प्रसंस्करण और Neural network मजबूती जैसे क्षेत्रों में मौलिक शोध करती है। यह शोध व्यावहारिक दिशानिर्देशों और परीक्षण विधियों के विकास में योगदान देता है।
चुनौतियाँ और भविष्य की दिशाएँ
NIST AI को तीव्र तकनीकी प्रगति के साथ गति बनाए रखने में निरंतर चुनौतियों का सामना करना पड़ता है। AI RMF की स्वैच्छिक प्रकृति का अर्थ है कि अपनाना अनिवार्य नहीं है, हालाँकि संघीय एजेंसियों को तेजी से इसके साथ संरेखित करने की आवश्यकता होती है। NIST AI-सक्षम साइबर हमलों, गोपनीयता जोखिमों और AI प्रशिक्षण के पर्यावरणीय प्रभाव जैसे उभरते मुद्दों को संबोधित करने के लिए अपने मार्गदर्शन को अद्यतन करना जारी रखता है। 2025 तक, NIST स्वास्थ्य सेवा और वित्त सहित विशिष्ट क्षेत्रों के लिए अतिरिक्त प्रोफ़ाइल विकसित कर रहा है और सीमांत AI मॉडल के लिए अपनी परीक्षण क्षमताओं का विस्तार कर रहा है।
एजेंसी का कार्य MIT CSAIL और Stanford AI Lab जैसे शैक्षणिक संस्थानों के साथ-साथ उद्योग भागीदारों के सहयोग से पूरक है। NIST वैश्विक स्तर पर AI सुरक्षा मानकों को सामंजस्य बनाने के लिए अंतर्राष्ट्रीय निकायों के साथ भी जुड़ता है, यह मानते हुए कि AI प्रणालियाँ अक्सर सीमाओं के पार संचालित होती हैं।
AI पारिस्थितिकी तंत्र पर प्रभाव
NIST AI ढाँचों ने संगठनों के AI शासन के दृष्टिकोण को प्रभावित किया है। OpenAI, Anthropic और Google DeepMind सहित प्रमुख प्रौद्योगिकी कंपनियों ने अपनी सुरक्षा प्रथाओं में AI RMF का संदर्भ दिया है। ढाँचे को सरकारी एजेंसियों और अंतर्राष्ट्रीय भागीदारों द्वारा भी अपनाया गया है, जैसे कि यूरोपीय संघ का AI अधिनियम, जो समान जोखिम-आधारित सिद्धांतों पर आधारित है। मापने योग्य, परीक्षण योग्य मानदंडों पर NIST का जोर AI उद्योग को अधिक कठोर मूल्यांकन प्रथाओं की ओर स्थानांतरित करने में मदद करने में सहायक रहा है।
अपनी स्वैच्छिक प्रकृति के बावजूद, NIST AI संयुक्त राज्य अमेरिका और उससे परे AI सुरक्षा चर्चाओं के लिए एक वास्तविक संदर्भ बिंदु बन गया है। इसके प्रकाशन शैक्षणिक साहित्य और उद्योग रिपोर्टों में व्यापक रूप से उद्धृत हैं, और इसके परीक्षण कार्यक्रम AI प्रणालियों के मूल्यांकन के लिए एक तटस्थ आधार प्रदान करते हैं। जैसे-जैसे AI क्षमताएँ विकसित होती रहती हैं, सुरक्षा मानकों को परिभाषित करने में NIST की भूमिका के विस्तार की संभावना है, विशेष रूप से स्वायत्त प्रणालियों और AI-संचालित निर्णय लेने जैसे क्षेत्रों में।