अमेरिकी AI सुरक्षा संस्थान (AISI) राष्ट्रीय मानक और प्रौद्योगिकी संस्थान (NIST) के भीतर एक राज्य-समर्थित संगठन है, जिसे उन्नत कृत्रिम बुद्धिमत्ता (AI) मॉडल, जिन्हें फ्रंटियर AI भी कहा जाता है, की सुरक्षा का मूल्यांकन और सुनिश्चित करने का कार्य सौंपा गया है। इसकी स्थापना नवंबर 2023 में यूनाइटेड किंगडम में AI सुरक्षा शिखर सम्मेलन के दौरान, यूके के AI सुरक्षा संस्थान के साथ की गई थी। संस्थान AI सुरक्षा के लिए मापन विज्ञान, मानक और दिशानिर्देश विकसित करने पर केंद्रित है, जिसमें फ्रंटियर मॉडल का पूर्व-तैनाती परीक्षण शामिल है। 2025 में, अमेरिकी AISI का नाम बदलकर सेंटर फॉर AI स्टैंडर्ड्स एंड इनोवेशन (CAISI) कर दिया गया, जो मानक-निर्धारण और नवाचार में इसकी विस्तारित भूमिका को दर्शाता है।
स्थापना और प्रारंभिक गतिविधियाँ
अमेरिकी AISI को NIST के हिस्से के रूप में बनाया गया था, जो अमेरिकी वाणिज्य विभाग की एक एजेंसी है। इसकी स्थापना AI सुरक्षा के बारे में बढ़ती चिंताओं के बाद हुई, विशेष रूप से 2023 में उन्नत AI से संभावित अस्तित्वगत जोखिमों के बारे में सार्वजनिक घोषणाओं के बाद। नवंबर 2023 में AI सुरक्षा शिखर सम्मेलन के दौरान, अमेरिका और यूके दोनों ने अपने-अपने संस्थानों के निर्माण की घोषणा की। अमेरिकी AISI के प्रारंभिक मिशन में फ्रंटियर AI मॉडल के लिए मूल्यांकन विधियों का विकास शामिल था, जो अक्सर OpenAI, Anthropic और Google DeepMind जैसी कंपनियों द्वारा विकसित किए जाते हैं। अप्रैल 2024 में, अमेरिकी और यूके AISI ने कम से कम एक संयुक्त सुरक्षा परीक्षण पर सहयोग करने पर सहमति व्यक्त की, जिसका उद्देश्य मूल्यांकन प्रक्रियाओं को सामंजस्यपूर्ण बनाना था। हालांकि, अप्रैल 2024 में पोलिटिको द्वारा रिपोर्ट किए गए अनुसार, कई AI कंपनियों ने अभी तक मूल्यांकन के लिए अपने सबसे उन्नत मॉडल तक पूर्व-तैनाती पहुंच साझा नहीं की थी, कुछ संस्थानों के सामान्य नियमों पर सहमत होने की प्रतीक्षा कर रही थीं।
अंतर्राष्ट्रीय नेटवर्क और सहयोग
मई 2024 में, AI सियोल शिखर सम्मेलन में, अंतर्राष्ट्रीय नेताओं ने AI सुरक्षा संस्थानों का एक नेटवर्क बनाने पर सहमति व्यक्त की, जिसमें यूके, अमेरिका, जापान, फ्रांस, जर्मनी, इटली, सिंगापुर, दक्षिण कोरिया, ऑस्ट्रेलिया, कनाडा और यूरोपीय संघ के संस्थान शामिल थे। अमेरिकी AISI इस नेटवर्क में भाग लेता है, जिसका उद्देश्य सुरक्षा मूल्यांकनों का समन्वय करना और सर्वोत्तम प्रथाओं को साझा करना है। जुलाई 2025 में, नेटवर्क ने AI एजेंटों के मूल्यांकन में समस्याओं का पता लगाने के लिए एक अभ्यास आयोजित किया, विशेष रूप से संवेदनशील जानकारी लीक करने या साइबर सुरक्षा के संबंध में। नेटवर्क के सदस्य सैन डिएगो में NeurIPS 2025 में भी मिले। अमेरिकी AISI अन्य राष्ट्रीय संस्थानों के साथ भी सहयोग करता है, जैसे यूके का AI सुरक्षा संस्थान (बाद में AI सुरक्षा संस्थान का नाम बदलकर AI सुरक्षा संस्थान कर दिया गया) और जापान का AISI, वैश्विक AI सुरक्षा मानकों को आगे बढ़ाने के लिए।
भूमिका और कार्य
अमेरिकी AISI NIST के अधीन काम करता है, जो अपने मापन विज्ञान और मानक विकास के लिए जाना जाता है। संस्थान के प्रमुख कार्यों में फ्रंटियर AI मॉडल का मूल्यांकन करना, परीक्षण पद्धतियों का विकास करना और AI सुरक्षा और विश्वसनीयता के लिए दिशानिर्देश बनाना शामिल है। यह सरकार और निजी क्षेत्र के हितधारकों, जिनमें AI डेवलपर्स और शोधकर्ता शामिल हैं, दोनों के साथ काम करता है। संस्थान अंतर्राष्ट्रीय मानक प्रयासों में भी योगदान देता है, जो NIST के व्यापक मिशन के अनुरूप है। 2025 तक, संस्थान का नाम बदलकर CAISI कर दिया गया है, लेकिन AI मानकों और नवाचार पर इसका मुख्य ध्यान बना हुआ है। संस्थान मशीन लर्निंग और जनरेटिव AI जैसे क्षेत्रों में नवाचार को बढ़ावा देते हुए AI जोखिमों का प्रबंधन करने की व्यापक अमेरिकी सरकारी रणनीति का हिस्सा है।
अन्य AI सुरक्षा प्रयासों के साथ संबंध
अमेरिकी AISI अन्य राष्ट्रीय AI सुरक्षा निकायों से अलग है, जैसे यूके का AI सुरक्षा संस्थान, जो लंदन में स्थापित किया गया था और बाद में मई 2024 में सैन फ्रांसिस्को में एक कार्यालय खोला। अमेरिकी संस्थान मई 2024 में स्थापित EU AI कार्यालय और अंतर्राष्ट्रीय नेटवर्क के अन्य सदस्यों के साथ भी समन्वय करता है। जबकि अमेरिकी AISI घरेलू मानकों और मूल्यांकनों पर केंद्रित है, यह AI सुरक्षा पर वैश्विक चर्चाओं में भाग लेता है, जिसमें AI सियोल शिखर सम्मेलन और बाद की बैठकें शामिल हैं। संस्थान का कार्य अन्य संगठनों, जैसे बर्कले AI रिसर्च प्रयोगशाला और MIT CSAIL के कार्यों का पूरक है, जो AI सुरक्षा पर शैक्षणिक शोध करते हैं। हालांकि, अमेरिकी AISI की प्राथमिक भूमिका नियामक और मानक-आधारित है, न कि विशुद्ध रूप से शोध-उन्मुख।
भविष्य की दिशाएँ
2025 तक, अमेरिकी AISI (अब CAISI) से AI मानकों और मूल्यांकन पर अपना काम जारी रखने की उम्मीद है, विशेष रूप से जैसे-जैसे फ्रंटियर AI मॉडल अधिक सक्षम होते जा रहे हैं। संस्थान अमेरिकी AI नीति को आकार देने में महत्वपूर्ण भूमिका निभाएगा, विशेष रूप से बड़े भाषा मॉडल और डीप लर्निंग जैसे क्षेत्रों में। CAISI में नाम बदलना एक व्यापक जनादेश का सुझाव देता है जिसमें केवल सुरक्षा नहीं, बल्कि नवाचार को बढ़ावा देना भी शामिल है। संस्थान अंतर्राष्ट्रीय नेटवर्क में भाग लेना जारी रखेगा, जो अधिक देशों को शामिल करने के लिए विस्तारित हो सकता है। जैसे-जैसे AI तकनीक विकसित होती है, अमेरिकी AISI को AI एजेंटों और स्वायत्त प्रणालियों से उत्पन्न नए जोखिमों को संबोधित करने के लिए अपनी मूल्यांकन विधियों को अनुकूलित करने की आवश्यकता होगी। संस्थान की सफलता उद्योग, शिक्षा और अंतर्राष्ट्रीय भागीदारों के साथ सहयोग करने की इसकी क्षमता पर निर्भर करेगी।