एआई सुरक्षा संस्थान

एक आर्टिफिशियल इंटेलिजेंस सुरक्षा संस्थान एक प्रकार का राज्य-समर्थित संगठन है जिसका उद्देश्य उन्नत आर्टिफिशियल इंटेलिजेंस (AI) मॉडलों, जिन्हें सीमांत AI मॉडल भी कहा जाता है, की सुरक्षा का मूल्यांकन और सुनिश्चित करना है। ये संस्थान आम तौर पर तैनाती-पूर्व परीक्षण करते हैं, मूल्यांकन मानक विकसित करते हैं, और सबसे सक्षम AI प्रणालियों से जुड़े जोखिमों को संबोधित करने के लिए अंतरराष्ट्रीय स्तर पर सहयोग करते हैं। इनका निर्माण सरकारों द्वारा AI से संभावित नुकसान, जिसमें अस्तित्वगत जोखिम भी शामिल हैं, के बारे में बढ़ती चिंता को दर्शाता है।

AI सुरक्षा ने 2023 में प्रमुखता प्राप्त की, विशेष रूप से AI से संभावित अस्तित्वगत जोखिमों के बारे में सार्वजनिक घोषणाओं के साथ। नवंबर 2023 के AI सुरक्षा शिखर सम्मेलन के दौरान, यूनाइटेड किंगडम और संयुक्त राज्य अमेरिका दोनों ने अपने स्वयं के AISI बनाए। मई 2024 के AI सियोल शिखर सम्मेलन के दौरान, अंतरराष्ट्रीय नेताओं ने AI सुरक्षा संस्थानों के एक नेटवर्क का गठन करने पर सहमति व्यक्त की, जिसमें यूके, यूएस, जापान, फ्रांस, जर्मनी, इटली, सिंगापुर, दक्षिण कोरिया, ऑस्ट्रेलिया, कनाडा और यूरोपीय संघ के संस्थान शामिल थे। 2025 में, यूके के AI सुरक्षा संस्थान का नाम बदलकर "AI सुरक्षा संस्थान" कर दिया गया, और इसका अमेरिकी समकक्ष AI मानक और नवाचार केंद्र (CAISI) बन गया।

समयरेखा

2023 में, यूनाइटेड किंगडम के प्रधान मंत्री ऋषि सुनक ने "यूके को वैश्विक AI सुरक्षा विनियमन का न केवल बौद्धिक घर बल्कि भौगोलिक घर बनाने" का अपना इरादा व्यक्त किया और एक AI सुरक्षा शिखर सम्मेलन की योजनाओं का अनावरण किया। उन्होंने स्वतंत्र सुरक्षा मूल्यांकन की आवश्यकता पर जोर दिया, यह कहते हुए कि AI कंपनियां अपने स्वयं के गृहकार्य को चिह्नित नहीं कर सकतीं। नवंबर 2023 के शिखर सम्मेलन के दौरान, यूके AISI को आधिकारिक रूप से फ्रंटियर AI टास्कफोर्स के विकास के रूप में स्थापित किया गया था, और यूएस AISI को राष्ट्रीय मानक और प्रौद्योगिकी संस्थान के हिस्से के रूप में स्थापित किया गया था। जापान ने फरवरी 2024 में एक AI सुरक्षा संस्थान शुरू करके इसका अनुसरण किया।

पोलिटिको ने अप्रैल 2024 में बताया कि कई AI कंपनियों ने मूल्यांकन के लिए अपने सबसे उन्नत AI मॉडलों तक तैनाती-पूर्व पहुंच साझा नहीं की थी। मेटा के वैश्विक मामलों के अध्यक्ष निक क्लेग ने कहा कि कई AI कंपनियां यूके और यूएस AI सुरक्षा संस्थानों के सामान्य मूल्यांकन नियमों और प्रक्रियाओं पर काम करने की प्रतीक्षा कर रही थीं। अप्रैल 2024 में यूके और यूएस के बीच कम से कम एक संयुक्त सुरक्षा परीक्षण पर सहयोग करने के लिए एक समझौता वास्तव में संपन्न हुआ था। शुरू में लंदन में स्थापित, यूके AI सुरक्षा संस्थान ने मई 2024 में घोषणा की कि वह सैन फ्रांसिस्को में एक कार्यालय खोलेगा, जहां कई AI कंपनियां स्थित हैं। यूके के प्रौद्योगिकी मंत्री मिशेल डोनेलन के अनुसार, यह "AI सुरक्षा पर नए, अंतरराष्ट्रीय मानक स्थापित करने" की योजना का हिस्सा है।

अंतरराष्ट्रीय नेटवर्क

मई 2024 के AI सियोल शिखर सम्मेलन में, यूरोपीय संघ और अन्य देशों ने अपने स्वयं के AI सुरक्षा संस्थान बनाने पर सहमति व्यक्त की, जिससे एक अंतरराष्ट्रीय नेटवर्क का गठन हुआ। यह नेटवर्क साझा अनुसंधान, संयुक्त परीक्षण अभ्यास, और विभिन्न न्यायक्षेत्रों में सुरक्षा मानकों के सामंजस्य की सुविधा प्रदान करता है। जुलाई 2025 में, अंतरराष्ट्रीय नेटवर्क ने AI एजेंटों के मूल्यांकन से जुड़े मुद्दों का पता लगाने के लिए एक अभ्यास आयोजित किया, विशेष रूप से जब संवेदनशील जानकारी के रिसाव या साइबर सुरक्षा की बात आती है। नेटवर्क सदस्य सैन डिएगो शहर में न्यूरिप्स 2025 में भी मिले।

विशिष्ट संस्थान

ऑस्ट्रेलिया

अल्बानी सरकार ने 25 नवंबर 2025 को ऑस्ट्रेलियाई AI सुरक्षा संस्थान के निर्माण की घोषणा की। यह संस्थान उद्योग, विज्ञान और संसाधन विभाग के भीतर स्थित है और चार वर्षों में A$29,900,000 के बजट द्वारा समर्थित है। इसके सामान्य प्रबंधक केट कोनरॉय हैं, जो रॉयल ऑस्ट्रेलियाई वायु सेना में जिम्मेदार AI की प्रमुख भी हैं।

कनाडा

कनाडा ने अप्रैल 2024 में घोषणा की कि वह एक AI सुरक्षा संस्थान बनाएगा, और ऐसा संस्थान आधिकारिक तौर पर नवंबर 2024 में स्थापित किया गया था। यह संस्थान इनोवेशन, साइंस एंड इकोनॉमिक डेवलपमेंट कनाडा के अधीन स्थित है, हालांकि यह कनेडियन इंस्टीट्यूट फॉर एडवांस्ड रिसर्च (CIFAR) के साथ भी साझेदारी करता है। यह पांच वर्षों की अवधि के लिए CA$50,000,000 के बजट द्वारा समर्थित है।

यूरोपीय संघ

ईयू AI कार्यालय, जो मई 2024 में स्थापित किया गया था, AI सुरक्षा संस्थानों के अंतरराष्ट्रीय नेटवर्क का सदस्य है।

फ्रांस

31 जनवरी 2025 को, फ्रांस सरकार ने इंस्टीट्यूट नेशनल पोर ल'एवैलुएशन एट ला सेक्यूरिटे डे ल'इंटेलिजेंस आर्टिफिशिएल (INESIA), या AI मूल्यांकन और सुरक्षा के लिए राष्ट्रीय संस्थान का निर्माण किया।

भारत

इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय ने 7 अक्टूबर 2024 को AI सुरक्षा संस्थान की स्थापना के संबंध में मेटा प्लेटफ़ॉर्म्स, गूगल, माइक्रोसॉफ्ट, आईबीएम, ओपनएआई, नैसकॉम, ब्रॉडबैंड इंडिया फोरम, सॉफ्टवेयर एलायंस, भारतीय प्रौद्योगिकी संस्थान (IIT), द क्वांटम हब, डिजिटल एम्पावरमेंट फाउंडेशन, और एक्सेस नाउ के साथ परामर्श आयोजित किए। विनियमन से मानक-निर्धारण, जोखिम पहचान, और क्षति-पता लगाने पर ध्यान केंद्रित करने का निर्णय लिया गया - इन सभी के लिए अंतर-संचालनीय प्रौद्योगिकियों की आवश्यकता होती है। AISI शुरुआती बजट के लिए भारतAI मिशन के सुरक्षित और विश्वसनीय स्तंभ को आवंटित ₹20 करोड़ खर्च कर सकता है। भविष्य का वित्तपोषण भारतAI मिशन के अन्य घटकों से आ सकता है।

यूनेस्को और मेइटी ने 2024 से आर्टिफिशियल इंटेलिजेंस में सुरक्षा और नैतिकता के तहत AI तत्परता मूल्यांकन पद्धति पर परामर्श शुरू किया। इसका उद्देश्य उद्योगों में AI के नैतिक और जिम्मेदार उपयोग को प्रोत्साहित करना है। यह अध्ययन उन क्षेत्रों को खोजेगा जहां सरकार शामिल हो सकती है, विशेष रूप से संस्थागत और नियामक क्षमताओं को मजबूत करने के प्रयासों में। इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्री अश्विनी वैष्णव ने 30 जनवरी 2025 को भारतAI सुरक्षा संस्थान के निर्माण की घोषणा की, ताकि AI मॉडलों के नैतिक और सुरक्षित अनुप्रयोग को सुनिश्चित किया जा सके। यह संस्थान घरेलू अनुसंधान और विकास को बढ़ावा देगा जो भारत की सामाजिक, आर्थिक, सांस्कृतिक, और भाषाई विविधता में निहित है और भारतीय डेटासेट पर आधारित है। शैक्षणिक और अनुसंधान संस्थानों के साथ-साथ निजी क्षेत्र के भागीदारों की मदद से, यह संस्थान भारतAI मिशन के सुरक्षित और विश्वसनीय स्तंभ के भीतर परियोजनाओं को पूरा करने के लिए हब-एंड-स्पोक दृष्टिकोण का पालन करेगा।

जापान

जापान AISI (या J-AISI) फरवरी 2024 में स्थापित किया गया था। सूचना प्रौद्योगिकी संवर्धन एजेंसी का हिस्सा, इसमें लगभग 23 लोग कार्यरत हैं। यह संस्थान AISI परिषद, AISI संचालन समिति, और छह टीमों वाले एक सचिवालय से बना है। अकीको मुराकामी (पूर्व में आईबीएम जापान और सोम्पो जापान की) संस्थान की कार्यकारी निदेशक के रूप में कार्य करती हैं, और केनजी हिरामोटो और सुगुरु निशिमुरा संस्थान के दो उप कार्यकारी निदेशक के रूप में कार्य करते हैं।

केन्या

केन्या AI सुरक्षा संस्थानों के अंतरराष्ट्रीय नेटवर्क में शामिल होने के लिए सहमत हुआ, लेकिन देश ने अभी तक कोई विवरण घोषित नहीं किया है। यह नेटवर्क में एकमात्र अफ्रीकी राज्य है।

सिंगापुर

डिजिटल ट्रस्ट सेंटर शुरू में जून 2022 में स्थापित किया गया था। मई 2024 में, इसका नाम बदलकर सिंगापुर AISI कर दिया गया। नानयांग प्रौद्योगिकी विश्वविद्यालय का हिस्सा, यह संस्थान इन्फोकॉम मीडिया डेवलपमेंट अथॉरिटी के साथ साझेदारी करता है और प्रति वर्ष S$10,000,000 के निवेश द्वारा समर्थित है।

दक्षिण कोरिया

दक्षिण कोरिया ने मई 2024 में घोषणा की कि वह इलेक्ट्रॉनिक्स और दूरसंचार अनुसंधान संस्थान की छतरी के नीचे एक AI सुरक्षा संस्थान बनाएगा। इसे प्रति वर्ष 10 से 20 मिलियन दक्षिण कोरियाई वॉन के बीच एक अनंतिम निवेश द्वारा समर्थित किया जाएगा, और कम से कम 30 लोगों को रोजगार देगा। यह संस्थान नवंबर 2024 में स्थापित किया गया था और सियोंगनाम शहर के बुंदांग जिले में स्थित है।

मूल्यांकन और मानक

AI सुरक्षा संस्थानों का एक मुख्य कार्य सीमांत मॉडलों के लिए मूल्यांकन पद्धतियों का विकास है। ये मूल्यांकन अक्सर बड़े भाषा मॉडल जैसे क्षेत्रों में क्षमताओं पर ध्यान केंद्रित करते हैं, जिसमें मशीन लर्निंग बेंचमार्क, साइबर सुरक्षा जोखिम, और दुरुपयोग की संभावना से संबंधित कार्य शामिल हैं। ये संस्थान पारदर्शिता और रिपोर्टिंग के लिए सामान्य मानक स्थापित करने पर भी काम करते हैं, जिसका उद्देश्य एक आधार रेखा बनाना है जिसे उन्नत प्रणालियों को जारी करने से पहले AI डेवलपर्स को पूरा करना होगा। यह सहयोगात्मक दृष्टिकोण प्रयास के दोहराव से बचने में मदद करता है और सुनिश्चित करता है कि सुरक्षा मूल्यांकन विभिन्न राष्ट्रीय संदर्भों में सुसंगत हों।