यूके एआई सुरक्षा संस्थान (AISI) एक राज्य-समर्थित संगठन है जिसे नवंबर 2023 में उन्नत कृत्रिम बुद्धिमत्ता (AI) मॉडलों, जिन्हें अक्सर सीमांत AI मॉडल कहा जाता है, की सुरक्षा का मूल्यांकन और सुनिश्चित करने के लिए स्थापित किया गया था। इसकी उत्पत्ति फ्रंटियर एआई टास्कफोर्स से हुई और इसे आधिकारिक तौर पर यूनाइटेड किंगडम द्वारा आयोजित एआई सुरक्षा शिखर सम्मेलन के दौरान लॉन्च किया गया। संस्थान का प्राथमिक मिशन अत्याधुनिक एआई प्रणालियों का स्वतंत्र सुरक्षा मूल्यांकन करना है, जो इस चिंता को संबोधित करता है कि एआई कंपनियां जोखिमों का आकलन करने में विश्वसनीय रूप से "अपना होमवर्क खुद चिह्नित" नहीं कर सकती हैं। 2025 में, संस्थान का नाम बदलकर एआई सुरक्षा संस्थान कर दिया गया, जो एआई सुरक्षा के सुरक्षा-संबंधी पहलुओं पर व्यापक ध्यान को दर्शाता है।
यूके AISI का निर्माण 2023 में गति प्राप्त करने वाले एक वैश्विक आंदोलन का हिस्सा था, जो एआई से संभावित अस्तित्वगत जोखिमों के बारे में सार्वजनिक घोषणाओं से प्रेरित था। संस्थान अपने मुख्यालय लंदन से संचालित होता है और मई 2024 में प्रमुख एआई डेवलपर्स के करीब रहने के लिए सैन फ्रांसिस्को में एक कार्यालय खोला। यह एआई सुरक्षा संस्थानों के नेटवर्क के माध्यम से अंतरराष्ट्रीय समकक्षों के साथ सहयोग करता है, जिसका उद्देश्य एआई सुरक्षा मूल्यांकन के लिए नए, अंतरराष्ट्रीय मानक स्थापित करना है।
स्थापना और प्रारंभिक विकास
यूके AISI को औपचारिक रूप से नवंबर 2023 में एआई सुरक्षा शिखर सम्मेलन के दौरान स्थापित किया गया था, जो तत्कालीन प्रधान मंत्री ऋषि सुनक द्वारा आयोजित एक कार्यक्रम था। सुनक ने "यूके को वैश्विक एआई सुरक्षा विनियमन का न केवल बौद्धिक घर बल्कि भौगोलिक घर बनाने" का अपना इरादा व्यक्त किया था, जिसमें स्वतंत्र निरीक्षण की आवश्यकता पर जोर दिया गया था। संस्थान फ्रंटियर एआई टास्कफोर्स से विकसित हुआ, जो 2023 की शुरुआत में उन्नत एआई से जुड़े जोखिमों का आकलन करने के लिए बनाया गया एक सरकारी निकाय था। इसका प्रारंभिक ध्यान बड़े भाषा मॉडल और अन्य जनरेटिव एआई प्रणालियों का पूर्वाग्रह, गलत सूचना और दुरुपयोग सहित संभावित नुकसान के लिए मूल्यांकन करने पर था।
अप्रैल 2024 में, यूके AISI ने कम से कम एक संयुक्त सुरक्षा परीक्षण पर सहयोग करने के लिए अमेरिकी एआई सुरक्षा संस्थान के साथ एक समझौता किया। इस साझेदारी का उद्देश्य मूल्यांकन प्रक्रियाओं को सामंजस्य बनाना और प्रयासों की नकल को कम करना था। पोलिटिको ने अप्रैल 2024 में रिपोर्ट किया कि कई एआई कंपनियों ने मूल्यांकन के लिए अपने सबसे उन्नत मॉडलों तक पूर्व-तैनाती पहुंच साझा नहीं की थी, आंशिक रूप से क्योंकि वे यूके और अमेरिकी संस्थानों से सामान्य नियमों पर सहमत होने की प्रतीक्षा कर रही थीं। मेटा में वैश्विक मामलों के अध्यक्ष निक क्लेग ने कहा कि कंपनियों ने पहुंच देने से पहले मूल्यांकन मानकों पर स्पष्टता मांगी।
संस्थान ने मई 2024 में घोषणा की कि वह सैन फ्रांसिस्को में एक कार्यालय खोलेगा, जहां OpenAI और Anthropic जैसी कई प्रमुख एआई कंपनियां स्थित हैं। यूके प्रौद्योगिकी मंत्री मिशेल डोनेलन के अनुसार, यह कदम "एआई सुरक्षा पर नए, अंतरराष्ट्रीय मानक स्थापित करने" की योजना का हिस्सा था। सैन फ्रांसिस्को कार्यालय का उद्देश्य डेवलपर्स के साथ सीधे जुड़ाव की सुविधा प्रदान करना और सीमांत मॉडलों के पूर्व-तैनाती परीक्षण को सक्षम करना था।
मिशन और उद्देश्य
यूके AISI का मुख्य मिशन सीमांत एआई मॉडलों का मूल्यांकन करना है ताकि उन्हें तैनात करने से पहले संभावित सुरक्षा जोखिमों की पहचान की जा सके। इसमें साइबर सुरक्षा, जैव सुरक्षा और स्वायत्त निर्णय लेने जैसे क्षेत्रों में क्षमताओं का आकलन शामिल है। संस्थान का उद्देश्य नीति निर्माताओं और डेवलपर्स को साक्ष्य-आधारित मार्गदर्शन प्रदान करना है, जिससे उन्नत एआई से जुड़े जोखिमों को कम करने में मदद मिल सके। इसका काम स्वतंत्र मूल्यांकन के सिद्धांत पर आधारित है, यह सुनिश्चित करते हुए कि सुरक्षा आकलन वाणिज्यिक हितों से प्रभावित न हों।
संस्थान एआई सुरक्षा के लिए अंतरराष्ट्रीय मानकों के विकास में भी योगदान देता है। अन्य राष्ट्रीय संस्थानों के साथ सहयोग करके, यह एआई प्रणालियों के मूल्यांकन के लिए एक सामान्य ढांचा बनाने का प्रयास करता है, जिसे वैश्विक स्तर पर अपनाया जा सके। इसमें पद्धतियों को साझा करना, संयुक्त परीक्षण करना और सार्वजनिक चर्चा को सूचित करने के लिए निष्कर्ष प्रकाशित करना शामिल है। संस्थान के शोध में अक्सर Google DeepMind और अन्य प्रमुख प्रयोगशालाओं सहित प्रमुख डेवलपर्स के मॉडलों का तनाव-परीक्षण शामिल होता है।
2025 में, संस्थान का नाम बदलकर एआई सुरक्षा संस्थान कर दिया गया, जो साइबर हमलों में एआई के उपयोग या हानिकारक सामग्री के प्रसार जैसे सुरक्षा-संबंधी खतरों पर विस्तारित ध्यान का संकेत देता है। यह परिवर्तन एआई शासन में विकसित प्राथमिकताओं को दर्शाता है, क्योंकि चिंताएं सामान्य सुरक्षा से विशिष्ट सुरक्षा निहितार्थों की ओर स्थानांतरित हो गईं।
अंतरराष्ट्रीय नेटवर्क
मई 2024 में एआई सियोल शिखर सम्मेलन में, अंतरराष्ट्रीय नेताओं ने एआई सुरक्षा संस्थानों का एक नेटवर्क बनाने पर सहमति व्यक्त की, जिसमें यूके, अमेरिका, जापान, फ्रांस, जर्मनी, इटली, सिंगापुर, दक्षिण कोरिया, ऑस्ट्रेलिया, कनाडा और यूरोपीय संघ के निकाय शामिल थे। यूके AISI इस नेटवर्क में एक केंद्रीय भूमिका निभाता है, जिसका उद्देश्य मूल्यांकन प्रयासों का समन्वय करना और सर्वोत्तम प्रथाओं को साझा करना है। नेटवर्क ने जुलाई 2025 में एआई एजेंटों के मूल्यांकन में मुद्दों का पता लगाने के लिए एक अभ्यास आयोजित किया, विशेष रूप से संवेदनशील जानकारी के रिसाव और साइबर सुरक्षा के संबंध में। सदस्य नवंबर 2025 में सैन डिएगो में NeurIPS 2025 में भी मिले, जहां एआई सुरक्षा अनुसंधान में हालिया प्रगति पर चर्चा की गई।
नेटवर्क का गठन एआई शासन पर वैश्विक सहयोग की दिशा में एक महत्वपूर्ण कदम था। प्रत्येक सदस्य संस्थान अपने राष्ट्रीय संदर्भ में काम करता है लेकिन सीमांत एआई के सुरक्षित विकास को सुनिश्चित करने के सामूहिक प्रयास में योगदान देता है। यूके AISI का अमेरिकी संस्थान के साथ सहयोग, विशेष रूप से, दो अग्रणी एआई राष्ट्रों में मूल्यांकन मानकों को संरेखित करने में सहायक रहा है।
विशिष्ट संस्थान
ऑस्ट्रेलिया
ऑस्ट्रेलियाई एआई सुरक्षा संस्थान की घोषणा 25 नवंबर 2025 को अल्बानीज़ सरकार द्वारा की गई थी। यह उद्योग, विज्ञान और संसाधन विभाग के भीतर स्थित है और चार वर्षों में A$29,900,000 के बजट द्वारा समर्थित है। इसके सामान्य प्रबंधक केट कॉनरॉय हैं, जो रॉयल ऑस्ट्रेलियाई वायु सेना में जिम्मेदार एआई पहलों का भी नेतृत्व करती हैं। संस्थान रक्षा और सार्वजनिक सेवाओं सहित घरेलू अनुप्रयोगों के लिए एआई प्रणालियों के मूल्यांकन पर केंद्रित है।
कनाडा
कनाडा ने अप्रैल 2024 में एक एआई सुरक्षा संस्थान बनाने की योजना की घोषणा की, और संस्थान की आधिकारिक स्थापना नवंबर 2024 में हुई। यह इनोवेशन, साइंस एंड इकोनॉमिक डेवलपमेंट कनाडा के तहत, कनाडाई उन्नत अनुसंधान संस्थान (CIFAR) के साथ साझेदारी में संचालित होता है। संस्थान पांच वर्षों में CA$50,000,000 के बजट द्वारा समर्थित है, जो विभिन्न क्षेत्रों में अनुसंधान और मूल्यांकन गतिविधियों को वित्तपोषित करता है।
यूरोपीय संघ
मई 2024 में स्थापित EU AI कार्यालय, एआई सुरक्षा संस्थानों के अंतरराष्ट्रीय नेटवर्क का सदस्य है। यह सदस्य राज्यों में एआई सुरक्षा प्रयासों का समन्वय करता है, नियामक अनुपालन और जोखिम आकलन पर ध्यान केंद्रित करता है। कार्यालय यूरोपीय संघ के भीतर एआई शासन के लिए एक सुसंगत दृष्टिकोण सुनिश्चित करने के लिए राष्ट्रीय संस्थानों के साथ मिलकर काम करता है।
फ्रांस
फ्रांस ने 31 जनवरी 2025 को इंस्टिट्यूट नेशनल पोर ल'एवैलुएशन एट ला सेक्यूरिटे डे ल'इंटेलिजेंस आर्टिफिशियल (INESIA) बनाया। यह राष्ट्रीय एआई मूल्यांकन और सुरक्षा संस्थान फ्रांसीसी उद्योगों और सार्वजनिक सेवाओं में उपयोग की जाने वाली एआई प्रणालियों की सुरक्षा का आकलन करने के लिए जिम्मेदार है। यह मूल्यांकन पद्धतियों को सामंजस्य बनाने के लिए अन्य यूरोपीय संस्थानों के साथ सहयोग करता है।
भारत
इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने 7 अक्टूबर 2024 को मेटा प्लेटफॉर्म्स, गूगल, माइक्रोसॉफ्ट, आईबीएम, OpenAI, NASSCOM और भारतीय प्रौद्योगिकी संस्थानों (IITs) सहित विभिन्न हितधारकों के साथ एक एआई सुरक्षा संस्थान की स्थापना के संबंध में परामर्श आयोजित किए। विनियमन से मानक-निर्धारण, जोखिम पहचान और क्षति का पता लगाने पर ध्यान स्थानांतरित करने का निर्णय लिया गया। संस्थान अपने प्रारंभिक बजट के लिए IndiaAI मिशन के सुरक्षित और विश्वसनीय स्तंभ को आवंटित ₹20 करोड़ का उपयोग कर सकता है। मंत्री अश्विनी वैष्णव ने 30 जनवरी 2025 को भारत की सामाजिक, आर्थिक, सांस्कृतिक और भाषाई विविधता पर आधारित घरेलू अनुसंधान और विकास को बढ़ावा देने के लिए IndiaAI सुरक्षा संस्थान के निर्माण की घोषणा की। यह शैक्षणिक संस्थानों, प्रौद्योगिकी फर्मों और यूनेस्को जैसे अंतरराष्ट्रीय संगठनों के सहयोग से "हब-एंड-स्पोक" मॉडल के तहत संचालित होता है।
जापान
जापान AISI (J-AISI) की स्थापना फरवरी 2024 में सूचना प्रौद्योगिकी संवर्धन एजेंसी के हिस्से के रूप में की गई थी। इसमें लगभग 23 लोग कार्यरत हैं और इसमें AISI परिषद, AISI स्टीयरिंग समिति और छह टीमों के साथ एक सचिवालय शामिल है। आईबीएम जापान और सोम्पो जापान की पूर्व अकीको मुराकामी कार्यकारी निदेशक के रूप में कार्य करती हैं, जिनके साथ केन्जी हिरामोटो और सुगुरु निशिमुरा उप कार्यकारी निदेशक हैं। संस्थान जापानी बाजार की जरूरतों के लिए एआई प्रणालियों के मूल्यांकन पर केंद्रित है।
केन्या
केन्या एआई सुरक्षा संस्थानों के अंतरराष्ट्रीय नेटवर्क में शामिल होने पर सहमत हुआ है, लेकिन विशिष्ट विवरण की घोषणा नहीं की है। यह नेटवर्क में एकमात्र अफ्रीकी राज्य है, जो एआई सुरक्षा प्रयासों की बढ़ती वैश्विक पहुंच को उजागर करता है।
सिंगापुर
डिजिटल ट्रस्ट सेंटर, जिसकी स्थापना शुरुआत में जून 2022 में हुई थी, का नाम बदलकर मई 2024 में सिंगापुर AISI कर दिया गया। नानयांग प्रौद्योगिकी विश्वविद्यालय का हिस्सा, संस्थान इन्फोकॉम मीडिया विकास प्राधिकरण के साथ साझेदारी करता है और प्रति वर्ष S$10,000,000 के निवेश द्वारा समर्थित है। यह दक्षिण पूर्व एशिया में विश्वास और सुरक्षा के लिए एआई प्रणालियों के मूल्यांकन पर केंद्रित है।
दक्षिण कोरिया
दक्षिण कोरिया ने मई 2024 में घोषणा की कि वह इलेक्ट्रॉनिक्स और दूरसंचार अनुसंधान संस्थान के तहत एक एआई सुरक्षा संस्थान बनाएगा। यह प्रति वर्ष 10 से 20 मिलियन दक्षिण कोरियाई वोन के अनंतिम निवेश द्वारा समर्थित है और कम से कम 30 लोगों को रोजगार देता है। संस्थान की स्थापना नवंबर 2024 में हुई थी और यह बुंडांग जिले में स्थित है।
प्रभाव और भविष्य की दिशाएं
यूके AISI ने वैश्विक एआई सुरक्षा प्रवचन को महत्वपूर्ण रूप से प्रभावित किया है, स्वतंत्र मूल्यांकन के लिए मिसालें स्थापित की हैं। इसका काम यूके और विदेशों में नीतिगत निर्णयों को सूचित करता रहा है, नियामक ढांचे के विकास में योगदान देता है। संस्थान का अंतरराष्ट्रीय भागीदारों के साथ सहयोग मूल्यांकन तकनीकों और जोखिम आकलन उपकरणों को साझा करने की सुविधा प्रदान करता है।
आगे देखते हुए, संस्थान को जनरेटिव एआई और स्वायत्त प्रणालियों जैसे क्षेत्रों में एआई की तीव्र प्रगति के साथ तालमेल बनाए रखने में चुनौतियों का सामना करना पड़ता है। सुरक्षा पर इसका नाम बदला गया ध्यान एआई-सक्षम साइबर हमलों जैसे तत्काल खतरों को संबोधित करने की ओर एक बदलाव का सुझाव देता है। अंतरराष्ट्रीय नेटवर्क में संस्थान की भूमिका संभवतः विस्तारित होगी क्योंकि अधिक देश अपने स्वयं के सुरक्षा निकाय स्थापित करते हैं।
यूके AISI का मिशन यह सुनिश्चित करने में केंद्रीय बना हुआ है कि सीमांत एआई मॉडल जिम्मेदारी से विकसित और तैनात किए जाएं। कठोर, स्वतंत्र मूल्यांकन प्रदान करके, यह नवाचार को बढ़ावा देते हुए जोखिमों को कम करने का लक्ष्य रखता है। जैसे-जैसे एआई प्रौद्योगिकियां विकसित होती हैं, संस्थान के तरीकों और प्राथमिकताओं को अनुकूलित करने की आवश्यकता होगी, लेकिन सार्वजनिक हितों की रक्षा का इसका मूल उद्देश्य कायम रहता है।