यूके एआई सुरक्षा संस्थान (UK AISI) एक राज्य-समर्थित संगठन था जिसे नवंबर 2023 में उन्नत कृत्रिम बुद्धिमत्ता (AI) मॉडलों, विशेष रूप से सीमांत AI प्रणालियों, का मूल्यांकन और सुरक्षा सुनिश्चित करने के लिए स्थापित किया गया था। इसकी स्थापना ने 2023 में AI से संभावित अस्तित्वगत जोखिमों के बारे में सार्वजनिक घोषणाओं के बाद, औपचारिक AI सुरक्षा विनियमन की दिशा में वैश्विक आंदोलन में एक महत्वपूर्ण कदम उठाया। यह संस्थान फ्रंटियर एआई टास्कफोर्स से विकसित हुआ और इसकी घोषणा प्रधानमंत्री ऋषि सुनक ने की, जिन्होंने स्वतंत्र सुरक्षा मूल्यांकन की आवश्यकता पर जोर दिया, यह कहते हुए कि AI कंपनियां "अपना होमवर्क खुद चिह्नित" नहीं कर सकतीं। शुरू में लंदन में स्थित, UK AISI ने बाद में प्रमुख AI डेवलपर्स के करीब होने के लिए मई 2024 में सैन फ्रांसिस्को तक विस्तार किया। 2025 में, सुरक्षा चिंताओं पर व्यापक ध्यान को दर्शाते हुए, इसका नाम बदलकर AI सुरक्षा संस्थान कर दिया गया।
पृष्ठभूमि और प्रेरणा
कृत्रिम बुद्धिमत्ता सुरक्षा संस्थान की अवधारणा एक प्रकार के राज्य-समर्थित संगठन के रूप में उभरी, जिसका उद्देश्य उन्नत AI मॉडलों की सुरक्षा का मूल्यांकन और सुनिश्चित करना था। 2023 में, AI सुरक्षा ने प्रमुखता प्राप्त की, जिसमें शोधकर्ताओं और उद्योग जगत के नेताओं से AI द्वारा उत्पन्न संभावित अस्तित्वगत जोखिमों के बारे में उल्लेखनीय सार्वजनिक बयान दिए गए। प्रधानमंत्री ऋषि सुनक के नेतृत्व में यूके सरकार ने देश को AI सुरक्षा विनियमन में अग्रणी के रूप में स्थापित करने की मांग की। सुनक ने "यूके को केवल बौद्धिक घर ही नहीं, बल्कि वैश्विक AI सुरक्षा विनियमन का भौगोलिक घर बनाने" का अपना इरादा व्यक्त किया और एक AI सुरक्षा शिखर सम्मेलन की योजना का अनावरण किया। यह शिखर सम्मेलन नवंबर 2023 में ब्लेचले पार्क में आयोजित किया गया था, जो द्वितीय विश्व युद्ध के कोडब्रेकिंग में अपनी भूमिका के लिए जाना जाने वाला ऐतिहासिक स्थल है, जो तकनीकी सुरक्षा के प्रति यूके की प्रतिबद्धता का प्रतीक है।
स्थापना और विकास
UK AISI को औपचारिक रूप से नवंबर 2023 में AI सुरक्षा शिखर सम्मेलन के दौरान स्थापित किया गया था, जो उस वर्ष की शुरुआत में बनाए गए फ्रंटियर एआई टास्कफोर्स से विकसित हुआ। संस्थान का प्राथमिक मिशन सीमांत AI मॉडलों की तैनाती से पहले उनके सुरक्षा मूल्यांकन करना था, जिसमें Large language model तर्क, Generative AI सामग्री निर्माण, और संभावित दुरुपयोग जैसी क्षमताओं पर ध्यान केंद्रित किया गया। संस्थान का उद्देश्य स्वतंत्र मूल्यांकन प्रदान करना था, जिससे AI कंपनियों के स्व-मूल्यांकन पर निर्भरता कम हो। अप्रैल 2024 में, यूके और यूएस ने कम से कम एक संयुक्त सुरक्षा परीक्षण पर सहयोग करने के लिए एक समझौता किया, जो अंतर्राष्ट्रीय सहयोग में एक मील का पत्थर साबित हुआ। UK AISI ने मई 2024 में घोषणा की कि वह सैन फ्रांसिस्को में एक कार्यालय खोलेगा, जहां OpenAI, Anthropic, और Google DeepMind सहित कई प्रमुख AI कंपनियां मुख्यालय हैं। यह कदम यूके प्रौद्योगिकी मंत्री मिशेल डोनेलन के अनुसार, "AI सुरक्षा पर नए, अंतर्राष्ट्रीय मानक स्थापित करने" की योजना का हिस्सा था।
अंतर्राष्ट्रीय नेटवर्क
UK AISI के निर्माण ने AI सुरक्षा संस्थानों के एक वैश्विक नेटवर्क के गठन को उत्प्रेरित किया। मई 2024 में AI सियोल शिखर सम्मेलन में, अंतर्राष्ट्रीय नेताओं ने यूके, यूएस, जापान, फ्रांस, जर्मनी, इटली, सिंगापुर, दक्षिण कोरिया, ऑस्ट्रेलिया, कनाडा और यूरोपीय संघ के संस्थानों से मिलकर एक नेटवर्क बनाने पर सहमति व्यक्त की। इस नेटवर्क का उद्देश्य मूल्यांकन प्रक्रियाओं को सुसंगत बनाना और सर्वोत्तम प्रथाओं को साझा करना था। जुलाई 2025 में, नेटवर्क ने AI एजेंटों के मूल्यांकन में समस्याओं का पता लगाने के लिए एक अभ्यास आयोजित किया, विशेष रूप से संवेदनशील जानकारी या साइबर सुरक्षा के रिसाव से संबंधित। सदस्य Machine learning अनुसंधान के लिए एक प्रमुख सम्मेलन, सैन डिएगो में NeurIPS 2025 में भी मिले, ताकि प्रगति और भविष्य की दिशाओं पर चर्चा की जा सके।
विशिष्ट संस्थान
ऑस्ट्रेलिया
अल्बानी सरकार ने 25 नवंबर 2025 को ऑस्ट्रेलियाई AI सुरक्षा संस्थान के निर्माण की घोषणा की। यह संस्थान उद्योग, विज्ञान और संसाधन विभाग के भीतर स्थित है और चार वर्षों में A$29,900,000 के बजट द्वारा समर्थित है। इसके महाप्रबंधक केट कॉनरॉय हैं, जो रॉयल ऑस्ट्रेलियाई वायु सेना में जिम्मेदार AI पहलों का भी नेतृत्व करती हैं।
कनाडा
कनाडा ने अप्रैल 2024 में घोषणा की कि वह एक AI सुरक्षा संस्थान बनाएगा, जिसे आधिकारिक तौर पर नवंबर 2024 में स्थापित किया गया। यह संस्थान इनोवेशन, साइंस एंड इकोनॉमिक डेवलपमेंट कनाडा के तहत संचालित होता है, जो कनाडाई इंस्टीट्यूट फॉर एडवांस्ड रिसर्च (CIFAR) के साथ साझेदारी करता है। यह पांच वर्षों में CA$50,000,000 के बजट द्वारा समर्थित है।
यूरोपीय संघ
मई 2024 में स्थापित EU AI कार्यालय, AI सुरक्षा संस्थानों के अंतर्राष्ट्रीय नेटवर्क का सदस्य है। यह विनियमन और मानकों पर ध्यान केंद्रित करते हुए, सदस्य राज्यों में AI सुरक्षा प्रयासों का समन्वय करता है।
फ्रांस
31 जनवरी 2025 को, फ्रांसीसी सरकार ने इंस्टीट्यूट नेशनल पोर ल'एवैलुएशन एट ला सेक्यूरिटे डे ल'इंटेलिजेंस आर्टिफिशिएल (INESIA), या AI मूल्यांकन और सुरक्षा के लिए राष्ट्रीय संस्थान, बनाया। यह संस्थान AI प्रणालियों का मूल्यांकन करने और यूरोपीय और अंतर्राष्ट्रीय सुरक्षा मानकों में योगदान करने का लक्ष्य रखता है।
भारत
इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय ने 7 अक्टूबर 2024 को एक AI सुरक्षा संस्थान की स्थापना के संबंध में मेटा-प्लेटफॉर्म्स (मेटा), गूगल, माइक्रोसॉफ्ट, आईबीएम, OpenAI, नैसकॉम और भारतीय प्रौद्योगिकी संस्थानों (IITs) सहित विभिन्न हितधारकों के साथ परामर्श किया। विनियमन से मानक-निर्धारण, जोखिम पहचान और क्षति का पता लगाने पर ध्यान केंद्रित करने का निर्णय लिया गया। मंत्री अश्विनी वैष्णव ने 30 जनवरी 2025 को नैतिक और सुरक्षित AI अनुप्रयोगों को सुनिश्चित करने के लिए एक IndiaAI सुरक्षा संस्थान के निर्माण की घोषणा की। यह संस्थान भारतीय डेटासेट का उपयोग करके, भारत की सामाजिक, आर्थिक, सांस्कृतिक और भाषाई विविधता पर आधारित घरेलू अनुसंधान और विकास को बढ़ावा देगा। यह IITs और यूनेस्को जैसे अंतर्राष्ट्रीय संगठनों सहित शैक्षणिक और निजी क्षेत्र के भागीदारों के साथ "हब-एंड-स्पोक" मॉडल के तहत संचालित होता है।
जापान
जापान AISI (J-AISI) फरवरी 2024 में सूचना प्रौद्योगिकी संवर्धन एजेंसी के हिस्से के रूप में स्थापित किया गया था। इसमें लगभग 23 लोग कार्यरत हैं और इसमें AISI परिषद, AISI स्टीयरिंग समिति और छह टीमों वाला एक सचिवालय शामिल है। अकिको मुराकामी, जो पहले आईबीएम जापान और सोम्पो जापान में थीं, कार्यकारी निदेशक के रूप में कार्य करती हैं, जबकि केनजी हिरामोटो और सुगुरु निशिमुरा उप कार्यकारी निदेशक हैं।
केन्या
केन्या अंतर्राष्ट्रीय AI सुरक्षा संस्थानों के नेटवर्क में शामिल होने पर सहमत हुआ, जो नेटवर्क में एकमात्र अफ्रीकी राज्य बन गया, हालांकि अभी तक कोई विशिष्ट विवरण घोषित नहीं किया गया है।
सिंगापुर
डिजिटल ट्रस्ट सेंटर, जो शुरू में जून 2022 में स्थापित किया गया था, का नाम मई 2024 में बदलकर सिंगापुर AISI कर दिया गया। यह नानयांग टेक्नोलॉजिकल यूनिवर्सिटी का हिस्सा है और इंफोकॉम मीडिया डेवलपमेंट अथॉरिटी के साथ साझेदारी करता है, जो प्रति वर्ष S$10,000,000 के निवेश द्वारा समर्थित है।
दक्षिण कोरिया
दक्षिण कोरिया ने मई 2024 में घोषणा की कि वह इलेक्ट्रॉनिक्स और दूरसंचार अनुसंधान संस्थान के तहत एक AI सुरक्षा संस्थान बनाएगा। यह संस्थान नवंबर 2024 में बुंडांग जिले में स्थापित किया गया था, जिसमें प्रति वर्ष 10 से 20 मिलियन दक्षिण कोरियाई वोन का अनंतिम निवेश और कम से कम 30 कर्मचारी थे।
प्रभाव और विरासत
यूके AI सुरक्षा संस्थान की स्थापना ने राज्य-समर्थित AI सुरक्षा मूल्यांकन के लिए एक मिसाल कायम की, जिसने दुनिया भर में समान निकायों के निर्माण को प्रभावित किया। 2025 में AI सुरक्षा संस्थान में इसका विकास सुरक्षा से परे सुरक्षा चिंताओं को शामिल करने के लिए एक व्यापक दायरे को दर्शाता है। संस्थान के काम ने अंतर्राष्ट्रीय मानकों के विकास में योगदान दिया है, हालांकि चुनौतियां बनी हुई हैं, जैसा कि अप्रैल 2024 में पोलिटिको ने नोट किया था, जब कई AI कंपनियों ने मूल्यांकन के लिए अपने सबसे उन्नत मॉडलों तक पूर्व-तैनाती पहुंच साझा नहीं की थी। मेटा के वैश्विक मामलों के अध्यक्ष निक क्लेग ने कहा कि कंपनियां सामान्य मूल्यांकन नियमों और प्रक्रियाओं की प्रतीक्षा कर रही थीं, जिन्हें यूके और यूएस संस्थानों ने स्थापित करने के लिए काम किया। अंतर्राष्ट्रीय नेटवर्क Artificial intelligence शासन में उभरती चुनौतियों का समाधान करने के लिए नियमित अभ्यास और बैठकों के साथ, AI सुरक्षा प्रयासों के समन्वय में एक महत्वपूर्ण भूमिका निभाता रहा है।