यूके एआई सुरक्षा संस्थान एक सरकारी समर्थित संगठन है जिसकी स्थापना 2023 में एआई सुरक्षा के विज्ञान को आगे बढ़ाने और उन्नत कृत्रिम बुद्धिमत्ता प्रणालियों द्वारा उत्पन्न जोखिमों का मूल्यांकन करने के लिए की गई थी। यह यूके के विज्ञान, नवाचार और प्रौद्योगिकी विभाग के अधीन कार्य करता है, जिसका अधिदेश सीमांत एआई मॉडलों का पूर्व-तैनाती परीक्षण करना और अंतर्राष्ट्रीय नीति विकास का समर्थन करना है। इस संस्थान की घोषणा नवंबर 2023 में ब्लेचली पार्क में आयोजित एआई सुरक्षा शिखर सम्मेलन में की गई थी, जिसने यूके को वैश्विक एआई शासन प्रयासों में एक केंद्रीय अभिनेता के रूप में स्थापित किया।
संस्थान का प्राथमिक मिशन सबसे सक्षम एआई प्रणालियों से जुड़े जोखिमों को कम करना है, जिनमें बड़े भाषा मॉडल और जनरेटिव एआई प्रौद्योगिकियों पर आधारित प्रणालियाँ शामिल हैं। यह कठोर मूल्यांकन विधियों को विकसित करके, निष्कर्षों को नीति निर्माताओं के साथ साझा करके, और अन्य राष्ट्रीय तथा अंतर्राष्ट्रीय निकायों के साथ सहयोग करके कायर करता है। इसकी सथापना उननत एआई की बड़े पैमाने पर नुकसान पहुंचाने की क्षमता के बारे में बढ़ते चिंताओं के बाद हुई, चाहे वह दुरुपयोग, दुरघटनाओं, या नियंत्रण खोने के माध्यम से हो।
स्थापना और संरचना
संस्थान को औपचारिक रूप से नवंबर 2023 में लांच किया गया, जिसके पहले अधयकष के रूप में इयन होगारथ को नियुकत किया गया, जो एक तकनीकी निवेशक और एआई शोधक हैं। इसकी पारंभिक टीम ने अकादमिक जगत, उदयोग, और नागरिक सेवा से लेकर विेषज्ञों को शामिल किया, जिनमें मशीन लर्निंग, न्यूरल नेटवर् क सुरक्षा, और सार्वजनिक नीति के विेषज्ञ शामिल थे। संस्थान का मुख्यालय लंदन में है, और 2024 में सैन फ्रांसिस्को में एक दूसरा कार्यालय खोला गया ताकि ओपनएआई, एंथ्रोपिक, और गूगल डीपमाइंड जैसे अग्रणी एआई डेवलपर्स के साथ घनिष्ठ सहयोग की सुविधा मिल सके।
संस्थान के लिए धनराशि यूके सरकार से आती है, जिसकी पारंभिक राशि £100 मिलियन थी जिसकी घोषणा 2023 के शरद कालीन वितत योजन मे ं की गई थी। बजट अनुसंधान कार्यक्रमों, तकनीकी सटाफ के वेतन, और कंप्यूटिंग अवसंरचना का सर्मथन करता है, जिसमें मॉडल मूल्यांकन के लिए उच्च-परदरशन पदधतिों तक पहुंच शामिल है। 2025 तक, संस्थान 100 से अधिक शोधकर्ताओं और इंजीनियर्ओं कों रोजगार करता है, जिससें यह वैश्विक सार्वजनिक क्षेत्र क सबसे बड़े एआई सुरक्षा निकायों मे से एक बन जाता है।
मुख्य गतिविधियाँ
संस्थान तीन मुख्य क्षेत्रों पर केंद्रित है: पूर्व-तैनाती मूल्यांकन, सुरक्षा अनुसंधान, और अंतरराष्ट्रीय समन्वय। पूर्व-तैनाती मूल्यांकन मे सीमांत मॉडलों का परुजन से पहले परीक्षण शामिल है, जिसमें विभिन्न बेंचमार्क का उपयोग किया जाता है जो साइबर-अपराध, जैव सुरक्षा, और स्वायत्त निर्णय लेने जैसे क्षेत्रों मे क्षमताओं का आकलन करते हैं। ये मूल्यांकन खतरनाक क्षमताओं की पहचान करने के लिए डिज़ाइन किए गए हैं जिनका दुरुपयोग दुर्भावन अभिनेताओं द्वारा किया जा सकता है।
संस्थान मे सुरक्षा अनुसंधान मे मॉडल प्रूनिंग, आरएलएआईएफ, और ट्रांसफॉर्मर आर्किटेक्चर की व्याख्या-योग्यता जैसे विषय शामिल हैं। शोधकर्ता असफलता के मोड का भी अधययन करते हैं जैसे भ्रम (हालांकि यह एक सूचीबद्ध स्लग नहीं है, यह एक जाना-माना मुद्दा है) और मॉडलों की धोखा देने या उपयोगकर्ताओं कों हेरफेर करने की क्षमता। संस्थान तकनीकी रिपोर्ट और अकादमिक पेपर पर्कशि करता है, जो एआई अलाइनमेंट और मजबूती के वयापक क्षेत्र मे योगदान करता है।
अंतरराष्ट्रीय समन्वय एक मुख्य प्राथमिकता है। संस्थान ने नवंबर 2024 मे शुरू किए गए अंतरराष्ट्रीय नेटवर् क ऑफ एआई सुरक्षा संस्थानों की स्थापना मे मद्द करी, जिसमे संयुक्ा रा्ष्ा, जापान, सिंगापुर, और यूरोपीय संघं के समक्ा्षी शामिल हैं। यह नेटवर्क मूल्यांकन पद्धतियों और जोखिम आकलनों पर सूचना साझा करने की सुविधा प्रदान करता है, जिसका उद्देश्य सीमांत एआई निरीक्षण के लिए सामान्य मानक बनाना है।
उल्लेखनीय मूल्यांकन और रिपोर्ट
2024 में, संस्थान ने ओपनएआई, एंथ्रोपिक, और गूगल डीपमाइंड सहित कई सीमांत मॉडलों का अपना पहला बड़ा सार्वजनिक मूल्यांकन किया। "उन्नत एआई मूल्यांकन" शीर्षक रिपोर्ट में प्रकाशित परिणामों ने वर्तमान सुरक्षा उपायों में कमियों को उजागर किया, वीशेष रूप से लंबी-क्षितिज नियोजन और सव-परतिरूपण क्षमताओं के आसपास मे। रिपोर्ट ने सिफारिश की कि डेवलपर्स उच्च-जोखिम वीशेषताओं वाल मॉडलों कों तैनात करने से पहले मजबूत सुरक्षा उपाय लागू करं।
एक और महत्वपूर्ण उपलब्धि "एआई सुरक्षा इन प्रैक्टिस" श्रृंखला थी, जो 2025 की शुरुआत में जारी की गई, जिसमें वास्तविक दुनिया की तैनाती में जोखिमों को कम करने के तरीके पर केस स्टडीज प्रदान की गईं। इन दस्तावेजों का उपयोग कई देशों के नियामकों द्वारा एआई कानूनों का मसौदा तैयार करने के लिए संदर्भ सामग्री के रूप में किया गया है। संस्थान ने यूके की एआई विनियमन श्वेत पत्र में भी योगदान दिया, जिसमें एक नए नियामक के बजाय एआई निरीक्षण के लिए सिद्धांत-आधारित दृष्टिकोण का प्रस्ताव किया गया था।
उद्योग और शिक्षा के साथ संबंध
संस्थान प्रमुख एआई प्रयोगशालाओं के साथ औपचारिक साझेदारी बनाए रखता है। समझौता ज्ञापनों के माध्यम से, इसे परीक्षण के लिए मॉडलों तक जल्दी पहुंच मिलती है, अक्सर सार्वजनिक रिलीज से हफ्तों पहले। बदले में, यह डेवलपर्स को पहचानी गई कमजोरियों पर विस्तृत प्रतिक्रिया प्रदान करता है, जिससे उन्हें लॉन्च से पहले सुरक्षा में सुधार करने में मदद मिलती है। इस मॉडल को इसके सहयोगात्मक दृष्टिकोण के लिए सराहा गया है, हालांकि कुछ आलोचकों का तर्क है कि यह हितों का टकराव पैदा करता है, क्योंकि संस्थान पहुंच के लिए उन्हीं कंपनियों पर निर्भर करता है जिन्हें यह विनियमित करता है।
शैक्षिक रूप से, संस्थान ऑक्सफोर्ड विश्वविद्यालय और एमआईटी सीएसएआईएल जैसे विश्वविद्यालयों में शोध को वित्त पोषित करता है, जिसमें मल्टी-हेड अटेंशन व्याख्या-योग्यता और लॉस फंक्शन डिजाइन जैसे विषयों पर ध्यान केंद्रित किया जाता है। यह बर्कले एआई रिसर्च और स्टैनफोर्ड एआई लैब जैसे संस्थानों से विजिटिंग फेलो की मेजबानी भी करता है, जिससे सार्वजनिक और निजी क्षेत्रों के बीच परागण को बढ़ावा मिलता है। संस्थान की सलाहकार बोर्ड में जोशुआ टेनेनबाम और मेलानी मिशेल जैसी प्रमुख हस्तियां शामिल हैं, जो शोध प्राथमिकताओं पर मार्गदर्शन प्रदान करती हैं।
चुनौतियाँ और आलोचनाएँ
संस्थान को अपनी प्रभावशीलता पर सवालों का सामना करना पड़ा है। कुछ शोधकर्ताओं का तर्क है कि इसके मूल्यांकन बहुत संकीर्ण हैं, जो आसानी से मापने योग्य क्षमताओं पर ध्यान केंद्रित करते हैं जबकि आर्थिक व्यवधान या सामाजिक ध्रुवीकरण जैसे प्रणालीगत जोखिमों को अनदेखा करते हैं। अन्य लोग गहन शिक्षा मे तेजी सें हो रही परवरतियों कि गति बनाए रखने मे कठिनाई कि ओर इशारा करते हैं, क्योंकि मॉडल मूल्यांकन विधियों कि अपडेट होने कि तुलना मे तेजी सें बेहतर होते जाते हैं।
संस्थान की स्वतंत्रता को लेकर भी चिंताएं हैं। यूके सरकार से इसकी फंडिंग और उद्योग के साथ घनिष्ठ संबंधों ने सवाल उठाए हैं कि क्या यह एक सच्चे प्रहरी के रूप में कार्य कर सकता है। 2025 में, एक संसदीय समिति ने इसकी निर्णय लेने की प्रक्रियाओं में अधिक पारदर्शिता का आह्वान किया, जिसमें कच्चे मूल्यांकन डेटा का प्रकाशन भी शामिल है। संस्थान ने वार्षिक सार्वजनिक ऑडिट और अपने मूल्यांकन टूलकिट के ओपन-सोर्स रिलीज के लिए प्रतिबद्ध होकर जवाब दिया है।
इन चुनौतियों के बावजूद, यूके एआई सुरक्षा संस्थान राज्य-नेतृत्व वाले एआई जोखिम प्रबंधन में एक अग्रणी प्रयास बना हुआ है। इसके काम ने अन्य देशों में समान पहलों को प्रभावित किया है, और इसका सहयोगात्मक मॉडल तेजी से विकसित हो रहे तकनीकी परिदृश्य में नवाचार और सुरक्षा को संतुलित करने के लिए एक टेम्पलेट के रूप में देखा जाता है।