सेंटर फॉर एआई सेफ्टी (CAIS) एक अमेरिकी गैर-लाभकारी संगठन है जो सैन फ्रांसिस्को में स्थित है और कृत्रिम बुद्धिमत्ता के सुरक्षित विकास और तैनाती को बढ़ावा देता है। CAIS का कार्य तकनीकी एआई सुरक्षा और एआई नैतिकता में अनुसंधान, वकालत, और एआई सुरक्षा अनुसंधान क्षेत्र को विकसित करने के लिए समर्थन शामिल करता है। इसकी स्थापना 2022 में डैन हेंड्रिक्स और ओलिवर झांग द्वारा की गई थी।
मई 2023 में, CAIS ने एआई विलुप्ति जोखिम पर वक्तव्य प्रकाशित किया, जिस पर एआई के सैकड़ों प्रोफेसरों, प्रमुख एआई कंपनियों के नेताओं, और अन्य सार्वजनिक हस्तियों ने हस्ताक्षर किए। यह संगठन शोधकर्ताओं, नीति निर्माताओं, और उद्योग भागीदारों के लिए एक केंद्र के रूप में कार्य करता है, जो उन्नत Artificial intelligence प्रणालियों से संभावित नुकसान को कम करने पर केंद्रित है।
अनुसंधान
CAIS शोधकर्ताओं ने "कैटास्ट्रोफिक एआई जोखिमों का अवलोकन" प्रकाशित किया, जो जोखिम परिदृश्यों और जोखिम शमन रणनीतियों का विवरण देता है। वर्णित जोखिमों में स्वायत्त युद्ध में एआई का उपयोग या महामारी इंजीनियरिंग के लिए, साथ ही धोखे और हैकिंग के लिए एआई क्षमताएं शामिल हैं। एक अन्य कार्य, जो कार्नेगी मेलन विश्वविद्यालय के शोधकर्ताओं के सहयोग से किया गया, ने बड़े भाषा मॉडल के प्रतिकूल हमलों की खोज करने का एक स्वचालित तरीका वर्णित किया, जो सुरक्षा उपायों को बायपास करते हैं, वर्तमान सुरक्षा प्रणालियों की अपर्याप्तता को उजागर करता है।
संगठन का तकनीकी अनुसंधान मशीन लर्निंग मजबूती, तंत्रिका नेटवर्क व्याख्यात्मकता, और गहन शिक्षण प्रणालियों के संरेखण जैसे क्षेत्रों में फैला हुआ है। CAIS शोधकर्ताओं ने जनरेटिव एआई में विफलता मोड की भी जांच की है और तैनाती से पहले खतरनाक क्षमताओं के मूल्यांकन के लिए रूपरेखा प्रस्तावित की है।
गतिविधियाँ
2023 में, CAIS के एआई विलुप्ति जोखिम पर वक्तव्य को एंथ्रोपिक के डारियो अमोदेई, ओपनएआई के सैम ऑल्टमैन, और अन्य एआई उद्योग नेताओं का समर्थन मिला। उसी वर्ष, क्रिप्टोकरेंसी एक्सचेंज FTX (जो नवंबर 2022 में दिवालिया हो गया) ने उस $6.5 मिलियन को वसूलने का प्रयास किया जो उसने उस वर्ष की शुरुआत में CAIS को दान किया था।
अन्य पहलों में एआई सुरक्षा अनुसंधान का समर्थन करने के लिए एक कंप्यूट क्लस्टर, "इंट्रो टू एमएल सेफ्टी" शीर्षक वाला एक ऑनलाइन पाठ्यक्रम, और अवधारणात्मक समस्याओं को संबोधित करने के लिए दर्शनशास्त्र प्रोफेसरों के लिए एक फेलोशिप शामिल है। सेंटर फॉर एआई सेफ्टी एक्शन फंड कैलिफोर्निया विधेयक SB 1047, सुरक्षित और सुरक्षित नवाचार फ्रंटियर आर्टिफिशियल इंटेलिजेंस मॉडल अधिनियम का प्रायोजक है।
वकालत और नीति
CAIS फ्रंटियर एआई प्रणालियों के लिए नियामक ढांचे को बढ़ावा देने के लिए राज्य और संघीय स्तर पर नीति निर्माताओं के साथ जुड़ता है। संगठन ने मॉडल सुरक्षा मूल्यांकन, मानव प्रतिक्रिया से सुदृढीकरण सीखना, और ट्रांसफॉर्मर-आधारित वास्तुकला के जोखिमों सहित विषयों पर ब्रीफिंग प्रकाशित की है। इसकी वकालत के प्रयास पूर्व-तैनाती परीक्षण और पारदर्शिता मानकों की आवश्यकता पर जोर देते हैं।
समुदाय निर्माण
केंद्र अनुदान, कार्यशालाओं, और बर्कले एआई अनुसंधान और ऑक्सफोर्ड विश्वविद्यालय जैसे शैक्षणिक संस्थानों के साथ सहयोग के माध्यम से व्यापक एआई सुरक्षा पारिस्थितिकी तंत्र का समर्थन करता है। यह सुरक्षा शोधकर्ताओं की एक निर्देशिका भी बनाए रखता है और नियमित संगोष्ठियों का आयोजन करता है जो गूगल डीपमाइंड, एंथ्रोपिक, और अन्य प्रमुख प्रयोगशालाओं के विशेषज्ञों को एक साथ लाते हैं।
यह भी देखें
संदर्भ
विकिपीडिया से स्रोत तथ्य (CC BY-SA)।
बाहरी लिंक
आधिकारिक वेबसाइट