AI सुरक्षा संस्थान एक राज्य-समर्थित संगठन है जिसे उन्नत कृत्रिम बुद्धिमत्ता (AI) मॉडलों, जिन्हें अक्सर सीमांत AI मॉडल कहा जाता है, की सुरक्षा का मूल्यांकन और सुनिश्चित करने के लिए स्थापित किया गया था। इसे नवंबर 2023 में यूनाइटेड किंगडम सरकार द्वारा बनाया गया था, जो फ्रंटियर AI टास्कफोर्स से विकसित हुआ, जो यूके में आयोजित AI सुरक्षा शिखर सम्मेलन के बाद हुआ। संस्थान का प्राथमिक मिशन अत्याधुनिक AI प्रणालियों का स्वतंत्र सुरक्षा मूल्यांकन करना है, जिसका उद्देश्य AI सुरक्षा और शासन के लिए अंतर्राष्ट्रीय मानक स्थापित करना है।
संस्थान ने AI जोखिमों के बारे में बढ़ती चिंता की अवधि के दौरान प्रमुखता प्राप्त की, विशेष रूप से 2023 में उन्नत AI से संभावित अस्तित्वगत खतरों के बारे में सार्वजनिक घोषणाओं के बाद। प्रधानमंत्री ऋषि सुनक के अधीन यूके सरकार ने स्वतंत्र निगरानी की आवश्यकता पर जोर दिया, सुनक ने कहा कि AI कंपनियां 'अपना होमवर्क खुद नहीं जांच सकतीं'। इससे संस्थान को तैनाती-पूर्व परीक्षण और सुरक्षा अनुसंधान के लिए एक समर्पित निकाय के रूप में स्थापित किया गया।
स्थापना और प्रारंभिक गतिविधियाँ
AI सुरक्षा संस्थान को आधिकारिक तौर पर नवंबर 2023 में AI सुरक्षा शिखर सम्मेलन के दौरान लॉन्च किया गया था, जो फ्रंटियर AI टास्कफोर्स का उत्तराधिकारी था। शुरुआत में लंदन में स्थित, इसने मई 2024 में सैन फ्रांसिस्को में एक कार्यालय खोलने की योजना की घोषणा की, जहां कई प्रमुख AI कंपनियों का मुख्यालय है। यह कदम यूके प्रौद्योगिकी मंत्री मिशेल डोनेलन के अनुसार, 'AI सुरक्षा पर नए, अंतर्राष्ट्रीय मानक स्थापित करने' की व्यापक रणनीति का हिस्सा था।
अप्रैल 2024 में, संस्थान ने संयुक्त सुरक्षा परीक्षणों पर सहयोग करने के लिए अपने अमेरिकी समकक्ष के साथ एक समझौता किया। इस सहयोग का उद्देश्य मूल्यांकन प्रक्रियाओं को सामंजस्यपूर्ण बनाना था, क्योंकि कई AI कंपनियां सामान्य नियम स्थापित होने की प्रतीक्षा करते हुए अपने सबसे उन्नत मॉडलों तक तैनाती-पूर्व पहुंच साझा करने में अनिच्छुक थीं। संस्थान का काम प्रमुख डेवलपर्स के मॉडलों का मूल्यांकन करने पर केंद्रित है, जिनमें OpenAI, Anthropic, और Google DeepMind शामिल हैं।
अंतर्राष्ट्रीय नेटवर्क
AI सुरक्षा संस्थान मई 2024 में AI सियोल शिखर सम्मेलन के बाद समान निकायों के व्यापक अंतर्राष्ट्रीय नेटवर्क का हिस्सा बन गया। अंतर्राष्ट्रीय नेताओं ने यूके, अमेरिका, जापान, फ्रांस, जर्मनी, इटली, सिंगापुर, दक्षिण कोरिया, ऑस्ट्रेलिया, कनाडा और यूरोपीय संघ के संस्थानों से युक्त एक नेटवर्क बनाने पर सहमति व्यक्त की। इस नेटवर्क का उद्देश्य सुरक्षा मूल्यांकनों का समन्वय करना और विभिन्न क्षेत्राधिकारों में सर्वोत्तम प्रथाओं को साझा करना है।
जुलाई 2025 में, नेटवर्क ने AI एजेंटों के मूल्यांकन में समस्याओं का पता लगाने के लिए एक अभ्यास किया, विशेष रूप से संवेदनशील जानकारी के रिसाव और साइबर सुरक्षा के संबंध में। नेटवर्क के सदस्य सहयोगी प्रयासों को आगे बढ़ाने के लिए सैन डिएगो में NeurIPS 2025 में भी मिले। नेटवर्क का गठन बढ़ती मान्यता को दर्शाता है कि AI सुरक्षा के लिए अंतर्राष्ट्रीय सहयोग की आवश्यकता है, क्योंकि AI विकास और तैनाती की वैश्विक प्रकृति है।
मूल्यांकन और अनुसंधान फोकस
संस्थान का मुख्य कार्य सार्वजनिक रिलीज़ से पहले सीमांत AI मॉडलों का स्वतंत्र मूल्यांकन करना है। इसमें Large language model प्रदर्शन, दुरुपयोग की संभावना, और मानव मूल्यों के साथ संरेखण जैसे क्षेत्रों का आकलन शामिल है। संस्थान तकनीकी विशेषज्ञों को नियुक्त करता है जो कठोर परीक्षण डिजाइन और संचालित करते हैं, अक्सर Machine learning अनुसंधान से पद्धतियों का उपयोग करते हैं।
एक प्रमुख फोकस उन्नत AI प्रणालियों से जुड़े जोखिमों की पहचान और शमन पर है, जिसमें Generative AI और Deep learning प्रौद्योगिकियों से संबंधित शामिल हैं। संस्थान Reinforcement Learning from AI Feedback (RLAIF) और Model Pruning जैसे सुरक्षा तंत्रों पर भी शोध करता है ताकि यह समझा जा सके कि ये तकनीकें मॉडल व्यवहार को कैसे प्रभावित करती हैं। इसके निष्कर्ष सरकारी नीति को सूचित करते हैं और सुरक्षा मानकों के विकास में योगदान करते हैं जिन्हें अंतर्राष्ट्रीय स्तर पर अपनाया जा सकता है।
नामकरण और विकास
2025 में, यूके के AI सुरक्षा संस्थान का नाम बदलकर 'AI सुरक्षा संस्थान' कर दिया गया, जो सुरक्षा के साथ-साथ सुरक्षा चिंताओं को शामिल करने के लिए इसके जनादेश के विस्तार को दर्शाता है। यह परिवर्तन अमेरिका में समान विकास को प्रतिबिंबित करता है, जहां समकक्ष केंद्र AI मानक और नवाचार केंद्र (CAISI) बन गया। नामकरण ने आकस्मिक नुकसान के साथ-साथ AI प्रणालियों के जानबूझकर दुरुपयोग को संबोधित करने की दिशा में बदलाव का संकेत दिया।
नाम परिवर्तन के बावजूद, संस्थान सीमांत AI मॉडलों के मूल्यांकन और सुरक्षित विकास प्रथाओं को बढ़ावा देने के अपने मूल मिशन को जारी रखता है। यह AI सुरक्षा अनुसंधान में अग्रणी बने रहने के लिए शैक्षणिक संस्थानों और उद्योग भागीदारों, जिनमें MIT CSAIL और Stanford AI Lab शामिल हैं, के साथ घनिष्ठ संबंध बनाए रखता है। संस्थान का काम महत्वपूर्ण बना हुआ है क्योंकि AI क्षमताएं तेजी से आगे बढ़ रही हैं।
प्रभाव और विरासत
AI सुरक्षा संस्थान ने वैश्विक AI शासन को आकार देने में महत्वपूर्ण भूमिका निभाई है। इसकी स्थापना ने AI निगरानी में सरकारी भागीदारी में एक मील का पत्थर चिह्नित किया, जो स्वैच्छिक उद्योग आत्म-नियमन से आगे बढ़ गया। संस्थान के स्वतंत्र मूल्यांकन के मॉडल को अन्य देशों द्वारा अपनाया गया है, जो दुनिया भर में समान निकायों के निर्माण में योगदान देता है।
संस्थान का तैनाती-पूर्व परीक्षण पर जोर ने AI डेवलपर्स के सुरक्षा के दृष्टिकोण को प्रभावित किया है, जो अधिक कठोर आंतरिक मूल्यांकन प्रक्रियाओं को प्रोत्साहित करता है। अंतर्राष्ट्रीय भागीदारों के साथ इसके सहयोगी प्रयासों ने AI जोखिमों के लिए अधिक समन्वित वैश्विक प्रतिक्रिया बनाने में मदद की है। 2025 तक, संस्थान AI सुरक्षा और सुरक्षा के विकसित परिदृश्य में एक प्रमुख खिलाड़ी के रूप में काम करना जारी रखता है।