AI Safety Institutes Network एक अंतरराष्ट्रीय गठबंधन है जो 2024 में स्थापित राष्ट्रीय AI सुरक्षा संस्थानों का समूह है। यह नेटवर्क सरकार-समर्थित अनुसंधान निकायों को एक साथ लाता है जो उन्नत कृत्रिम बुद्धिमत्ता प्रणालियों, विशेष रूप से बड़े भाषा मॉडल और जनरेटिव AI प्रौद्योगिकियों से जुड़े जोखिमों के मूल्यांकन और शमन पर केंद्रित हैं।
सदस्य संस्थान साझा अनुसंधान एजेंडा, बेंचमार्क विकास और सूचना आदान-प्रदान पर सहयोग करते हैं। यह नेटवर्क AI सुरक्षा पर अंतरराष्ट्रीय शिखर सम्मेलनों की एक श्रृंखला से उभरा, जो सीमांत AI विकास को विनियमित करने में सरकारों की बढ़ती रुचि को दर्शाता है।
गठन और सदस्य
यह नेटवर्क नवंबर 2023 में ब्लेचले पार्क में आयोजित AI सुरक्षा शिखर सम्मेलन के बाद शुरू किया गया था। प्रारंभिक संस्थापक सदस्यों में यूनाइटेड किंगडम का AI Safety Institute और राष्ट्रीय मानक और प्रौद्योगिकी संस्थान के तहत स्थापित अमेरिकी AI Safety Institute शामिल थे। 2024 के अंत तक, नेटवर्क का विस्तार यूरोपीय संघ, जापान, कनाडा, सिंगापुर और कई अन्य देशों के संस्थानों को शामिल करने के लिए हुआ। प्रत्येक सदस्य संस्थान अपने राष्ट्रीय जनादेश के तहत स्वतंत्र रूप से कार्य करता है लेकिन संयुक्त तकनीकी कार्यशालाओं और साझा मूल्यांकन अभ्यासों में भाग लेता है।
मुख्य गतिविधियाँ
नेटवर्क के प्राथमिक कार्यों में सीमांत AI मॉडल के लिए सामान्य मूल्यांकन मानक विकसित करना, सुरक्षा अनुसंधान निष्कर्षों को साझा करना और नीति सिफारिशों का समन्वय करना शामिल है। सदस्य संस्थान OpenAI, Anthropic और Google DeepMind जैसे संगठनों के मॉडलों के रेड-टीम परीक्षण पर सहयोग करते हैं। संयुक्त परियोजनाओं ने साइबर क्षमता, जैविक दुरुपयोग और स्वायत्त निर्णय लेने जैसे क्षेत्रों में जोखिमों का आकलन करने के लिए सार्वजनिक बेंचमार्क तैयार किए हैं। नेटवर्क तैनात AI प्रणालियों से जुड़ी घटना रिपोर्टों और सुरक्षा घटनाओं का एक साझा भंडार भी बनाए रखता है।
शासन और संरचना
गठबंधन शुरू में स्थायी सचिवालय के बिना संचालित होता है, इसके बजाय सदस्य संस्थानों के बीच समन्वय कर्तव्यों को घुमाता है। नेटवर्क अर्ध-वार्षिक पूर्ण बैठकें आयोजित करता है और मॉडल मूल्यांकन, संरेखण अनुसंधान और OECD और Global Partnership on AI जैसे निकायों के साथ अंतरराष्ट्रीय मानक संरेखण जैसे विशिष्ट विषयों पर केंद्रित कार्य समूह बनाए रखता है। सदस्य संस्थान स्वैच्छिक आधार पर संयुक्त परियोजनाओं में कर्मचारियों और संसाधनों का योगदान करते हैं।
नीति प्रभाव
AI Safety Institutes Network ने राष्ट्रीय विनियमों और उद्योग प्रथाओं को प्रभावित किया है। इसके मूल्यांकन ढांचे को यूरोपीय संघ के AI अधिनियम कार्यान्वयन दिशानिर्देशों और सुरक्षित, संरक्षित और भरोसेमंद AI विकास पर व्हाइट हाउस कार्यकारी आदेश में संदर्भित किया गया है। कुछ सदस्य सरकारों ने मॉडल जारी करने से पहले AI डेवलपर्स से सुरक्षा आकलन की आवश्यकता के लिए नेटवर्क के निष्कर्षों का हवाला दिया है। नेटवर्क की सार्वजनिक रिपोर्टों ने प्रमुख AI प्रयोगशालाओं और एज़्योर और गूगल क्लाउड जैसे क्लाउड प्रदाताओं में कॉर्पोरेट जोखिम प्रबंधन दृष्टिकोणों को सूचित किया है।
चुनौतियाँ और भविष्य की दिशाएँ
2025 तक, नेटवर्क को विभिन्न राष्ट्रीय प्राथमिकताओं, मालिकाना मॉडल मूल्यांकन से संबंधित बौद्धिक संपदा चिंताओं और मूल्यांकन क्षमताओं से आगे निकलने वाली AI प्रगति की गति से संबंधित चुनौतियों का सामना करना पड़ रहा है। प्रस्तावित अगले कदमों में अतिरिक्त देशों में सदस्यता का विस्तार, मानकीकृत घटना रिपोर्टिंग प्रोटोकॉल विकसित करना और एक स्थायी वित्तपोषण तंत्र स्थापित करना शामिल है। नेटवर्क वैश्विक AI जोखिमों के प्रबंधन के लिए अंतरराष्ट्रीय सहयोग को आवश्यक बताता रहता है, जबकि सुरक्षा प्रवर्तन और तकनीकी प्रतिस्पर्धा के बीच तनाव को स्वीकार करता है।
स्वागत और आलोचना
उद्योग पर्यवेक्षकों ने आम तौर पर नेटवर्क को एक समन्वय तंत्र के रूप में स्वागत किया है, हालांकि कुछ शोधकर्ताओं का तर्क है कि मूल्यांकन मानक सामाजिक प्रभावों के बजाय तकनीकी विफलताओं पर बहुत संकीर्ण रूप से केंद्रित हैं। नागरिक समाज समूहों ने नेटवर्क गतिविधियों में अधिक पारदर्शिता और नागरिक समाज की भागीदारी का आह्वान किया है। सीमांत AI कंपनियों के साथ गठबंधन का संबंध प्रतिकूल आकलन से सहयोगात्मक मूल्यांकन में विकसित हुआ है, जो व्यक्तिगत राष्ट्रीय संस्थानों में समान गतिशीलता द्वारा प्रतिबिंबित होता है।
यह भी देखें
- मशीन लर्निंग
- तंत्रिका नेटवर्क
- AI सुरक्षा
- international-ai-governance
संदर्भ
स्रोत: ब्लेचले घोषणा 2023; सदस्य संस्थान वेबसाइटों से आधिकारिक घोषणाएँ; 2025 तक प्रमुख प्रौद्योगिकी और नीति पत्रिकाओं में कवरेज।