अमेरिकी AI सुरक्षा संस्थान (AISI) राष्ट्रीय मानक और प्रौद्योगिकी संस्थान (NIST) के भीतर एक राज्य-समर्थित संगठन है जो उन्नत कृत्रिम बुद्धिमत्ता (AI) मॉडलों की सुरक्षा का मूल्यांकन और प्रचार करता है, जिन्हें अक्सर सीमांत AI कहा जाता है। इसे नवंबर 2023 में यूनाइटेड किंगडम में AI सुरक्षा शिखर सम्मेलन के दौरान, यूके के AI सुरक्षा संस्थान के साथ, AI से संभावित अस्तित्वगत जोखिमों के बारे में बढ़ती चिंताओं के जवाब में बनाया गया था। 2025 में, संस्थान का नाम बदलकर AI मानक और नवाचार केंद्र (CAISI) कर दिया गया, जो मानकों और नवाचार पर व्यापक ध्यान को दर्शाता है।
संस्थान NIST के हिस्से के रूप में कार्य करता है, जो अमेरिकी वाणिज्य विभाग की एक गैर-नियामक एजेंसी है। इसका प्राथमिक मिशन AI सुरक्षा के लिए माप विज्ञान, मानक और मूल्यांकन विधियों को विकसित करना है, जिसमें पूर्वाग्रह, दुरुपयोग और साइबर सुरक्षा कमजोरियों जैसे जोखिमों के लिए सीमांत मॉडलों का परीक्षण शामिल है। यह AI सुरक्षा अनुसंधान और अभ्यास को आगे बढ़ाने के लिए अन्य सरकारी एजेंसियों, शैक्षणिक संस्थानों और निजी कंपनियों के साथ सहयोग करता है।
स्थापना और प्रारंभिक गतिविधियाँ
अमेरिकी AISI की घोषणा 1 नवंबर 2023 को ब्लेचले पार्क में AI सुरक्षा शिखर सम्मेलन में की गई थी, जहाँ यूके और अमेरिका दोनों ने राष्ट्रीय AI सुरक्षा संस्थान बनाने की प्रतिबद्धता जताई थी। अमेरिकी संस्थान NIST के तहत शुरू किया गया था, जिसमें प्रारंभिक धन और कर्मचारी मौजूदा NIST AI कार्यक्रमों से लिए गए थे। अप्रैल 2024 में, अमेरिकी और यूके AISI ने कम से कम एक संयुक्त सुरक्षा परीक्षण पर सहयोग करने पर सहमति व्यक्त की, जिसका उद्देश्य मूल्यांकन प्रक्रियाओं को सामंजस्यपूर्ण बनाना था। यह साझेदारी AI सुरक्षा के लिए अंतरराष्ट्रीय मानक स्थापित करने के व्यापक प्रयास का हिस्सा थी, क्योंकि कई AI कंपनियों ने मूल्यांकन के लिए अपने सबसे उन्नत मॉडलों तक पूर्व-तैनाती पहुँच साझा नहीं की थी।
अंतरराष्ट्रीय नेटवर्क और सहयोग
मई 2024 में AI सियोल शिखर सम्मेलन में, अंतरराष्ट्रीय नेताओं ने AI सुरक्षा संस्थानों का एक नेटवर्क बनाने पर सहमति व्यक्त की, जिसमें अमेरिका, यूके, जापान, फ्रांस, जर्मनी, इटली, सिंगापुर, दक्षिण कोरिया, ऑस्ट्रेलिया, कनाडा और यूरोपीय संघ शामिल थे। अमेरिकी AISI इस नेटवर्क में भाग लेता है, जो संयुक्त अभ्यास आयोजित करता है और सर्वोत्तम प्रथाओं को साझा करता है। जुलाई 2025 में, नेटवर्क ने AI एजेंटों के मूल्यांकन में मुद्दों का पता लगाने के लिए एक अभ्यास आयोजित किया, विशेष रूप से संवेदनशील जानकारी के रिसाव और साइबर सुरक्षा के संबंध में। सदस्य सैन डिएगो में NeurIPS 2025 में AI सुरक्षा मूल्यांकन विधियों पर चर्चा करने के लिए भी मिले।
अमेरिकी AISI द्विपक्षीय रूप से अंतरराष्ट्रीय भागीदारों के साथ भी जुड़ता है। उदाहरण के लिए, इसने मूल्यांकन मानकों को संरेखित करने के लिए यूके AISI के साथ काम किया है, और सीमांत AI परीक्षण के लिए सामान्य ढाँचे विकसित करने के लिए EU AI कार्यालय और अन्य राष्ट्रीय संस्थानों के साथ चर्चा में भाग लिया है।
फोकस क्षेत्र और प्रमुख उत्पाद
संस्थान कई प्रमुख क्षेत्रों पर ध्यान केंद्रित करता है: बड़े भाषा मॉडल और अन्य जनरेटिव AI प्रणालियों के लिए मूल्यांकन बेंचमार्क विकसित करना, AI जोखिम प्रबंधन के लिए मार्गदर्शन बनाना, और MIT CSAIL और स्टैनफोर्ड AI लैब जैसी शैक्षणिक प्रयोगशालाओं के साथ सहयोग में AI सुरक्षा पर अनुसंधान करना। यह AI पारदर्शिता, जवाबदेही और मजबूती के लिए मानकों पर भी काम करता है, अक्सर NIST की व्यापक AI पहलों के समन्वय में।
प्रमुख उत्पादों में AI मॉडल मूल्यांकन पर तकनीकी रिपोर्ट, सुरक्षा परीक्षण के लिए सार्वजनिक डेटासेट और AI जोखिमों का आकलन करने के लिए ढाँचे शामिल हैं। संस्थान अंतरराष्ट्रीय मानक प्रयासों में भी योगदान देता है, जैसे कि अंतरराष्ट्रीय मानकीकरण संगठन (ISO) के नेतृत्व वाले, यह सुनिश्चित करने के लिए कि AI सुरक्षा प्रथाएँ वैश्विक रूप से सुसंगत हैं।
उद्योग और शिक्षा जगत के साथ संबंध
अमेरिकी AISI प्रमुख AI कंपनियों, जिनमें OpenAI, Anthropic और Google DeepMind शामिल हैं, के साथ सहयोग करता है ताकि पूर्व-तैनाती परीक्षण के लिए सीमांत मॉडलों तक पहुँच प्राप्त की जा सके। यह AI सुरक्षा पर अनुसंधान को आगे बढ़ाने के लिए शैक्षणिक संस्थानों के साथ भी साझेदारी करता है, जैसे बर्कले AI अनुसंधान और कार्नेगी मेलन विश्वविद्यालय। इन साझेदारियों का उद्देश्य सैद्धांतिक अनुसंधान और व्यावहारिक सुरक्षा मूल्यांकन के बीच की खाई को पाटना है।
2024 में, संस्थान को कुछ उन्नत मॉडलों तक पूर्व-तैनाती पहुँच प्राप्त करने में चुनौतियों का सामना करना पड़ा, जैसा कि पोलिटिको ने रिपोर्ट किया। हालाँकि, इसने स्वैच्छिक मूल्यांकन कार्यक्रम विकसित करना जारी रखा, कंपनियों को परीक्षण के लिए मॉडल जमा करने के लिए प्रोत्साहित किया। संस्थान का काम अन्य सरकारी प्रयासों द्वारा पूरक है, जैसे कि व्हाइट हाउस का AI अधिकार विधेयक और AI सुरक्षा पर कार्यकारी आदेश।
CAISI में विकास
2025 में, अमेरिकी AISI का नाम बदलकर AI मानक और नवाचार केंद्र (CAISI) कर दिया गया, जो सुरक्षा के साथ-साथ नवाचार को बढ़ावा देने वाले व्यापक जनादेश की ओर बदलाव का संकेत देता है। यह परिवर्तन AI मूल्यांकन के लिए मानक स्थापित करने और अंतरराष्ट्रीय नेटवर्क में भागीदारी में संस्थान की बढ़ती भूमिका के साथ संरेखित है। नामकरण सरकारों द्वारा AI शासन के दृष्टिकोण में चल रहे विकास को दर्शाता है, जो सुरक्षा को आर्थिक प्रतिस्पर्धात्मकता के साथ संतुलित करता है।
2025 तक, CAISI NIST के तहत काम करना जारी रखता है, जिसमें यह सुनिश्चित करने के लिए मानक, उपकरण और मूल्यांकन विकसित करने पर ध्यान केंद्रित किया गया है कि AI प्रौद्योगिकियाँ सुरक्षित, संरक्षित और भरोसेमंद हैं। इसका काम महत्वपूर्ण बना हुआ है क्योंकि AI प्रणालियाँ अधिक सक्षम और समाज में एकीकृत होती जा रही हैं।