कृत्रिम बुद्धिमत्ता (एआई), विशेष रूप से मशीन लर्निंग में, एब्लेशन एक एआई प्रणाली के एक घटक को हटाना है। एक एब्लेशन अध्ययन का उद्देश्य किसी घटक का एआई प्रणाली में योगदान निर्धारित करना होता है, जिसमें घटक को हटाकर प्रणाली के परिणामी प्रदर्शन का विश्लेषण किया जाता है। यह शब्द जीव विज्ञान से सादृश्य है, विशेष रूप से किसी जीव के घटकों को हटाने से, और यह विशेष रूप से कृत्रिम तंत्रिका नेटवर्क के विश्लेषण में एब्लेटिव ब्रेन सर्जरी के सादृश्य द्वारा उपयोग किया जाता है। अन्य सादृश्यों में ड्रोसोफिला और कशेरुकी मस्तिष्क जैसी तंत्रिका संबंधी प्रणालियाँ शामिल हैं।
एब्लेशन अध्ययनों के लिए आवश्यक है कि एक प्रणाली सुंदर अवनति प्रदर्शित करे: प्रणाली को कुछ घटकों के अनुपस्थित या क्षीण होने पर भी कार्य करना जारी रखना चाहिए। कुछ शोधकर्ताओं के अनुसार, एब्लेशन अध्ययनों को कृत्रिम बुद्धिमत्ता और संरचनात्मक क्षति के प्रति इसकी स्थायित्व की जांच में एक सुविधाजनक तकनीक माना गया है। इसका उपयोग, उदाहरण के लिए, यह अध्ययन करने के लिए भी किया गया है कि न्यूएल के सोअर में संज्ञान का एक मॉडल कैसे और कौन से ज्ञान संरचनाएँ संज्ञान में योगदान करती हैं।
एब्लेशन अध्ययन नियंत्रित सेटिंग में कुछ घटकों को क्षति पहुँचाते हैं या हटाते हैं ताकि प्रणाली विफलता के सभी संभावित परिणामों की जांच की जा सके; यह चिह्नित करता है कि प्रत्येक क्रिया समग्र प्रणाली प्रदर्शन और क्षमता को कैसे प्रभावित करती है। एब्लेशन प्रक्रिया का उपयोग उन प्रणालियों का परीक्षण करने के लिए किया जा सकता है जो भाषण पहचान, वस्तु पहचान और रोबोट नियंत्रण जैसे कार्य करती हैं।
इतिहास
यह शब्द एलन न्यूएल को श्रेय दिया जाता है, जो कृत्रिम बुद्धिमत्ता के संस्थापकों में से एक हैं, जिन्होंने इसे 1974 में भाषण पहचान पर अपने ट्यूटोरियल में उपयोग किया, जो न्यूएल (1975) में प्रकाशित हुआ था। यह शब्द जीव विज्ञान में एब्लेशन के सादृश्य से है। प्रेरणा यह थी कि, जबकि व्यक्तिगत घटक इंजीनियर किए जाते हैं, समग्र प्रणाली प्रदर्शन में एक व्यक्तिगत घटक का योगदान स्पष्ट नहीं होता है; घटकों को हटाने से यह विश्लेषण संभव होता है। न्यूएल ने मानव मस्तिष्क की तुलना कृत्रिम कंप्यूटरों से की। इस विचार के साथ, न्यूएल ने दोनों को ज्ञान प्रणालियों के रूप में देखा, जबकि एब्लेशन जैसी प्रक्रियाएँ दोनों पर कुछ परिकल्पनाओं का परीक्षण करने के लिए की जा सकती हैं।
पद्धति
एब्लेशन अध्ययनों में आम तौर पर एक मॉडल के विशिष्ट भागों, जैसे परतें, न्यूरॉन्स, या ध्यान हेड्स को व्यवस्थित रूप से हटाना या अक्षम करना शामिल होता है, और फिर एक बेंचमार्क कार्य पर प्रदर्शन में परिवर्तन को मापना होता है। यह प्रक्रिया अक्सर प्रत्येक घटक के लिए दोहराई जाती है ताकि यह मानचित्र बनाया जा सके कि कौन से भाग आवश्यक हैं और कौन से अनावश्यक हैं। गहन शिक्षण में, एब्लेशन को अवशिष्ट कनेक्शन, बैच सामान्यीकरण, या ड्रॉपआउट परतों जैसे घटकों पर लागू किया जा सकता है। उदाहरण के लिए, एक एब्लेशन अध्ययन मल्टी-हेड अटेंशन तंत्र को ट्रांसफॉर्मर मॉडल से हटा सकता है ताकि यह देखा जा सके कि भाषा कार्य पर इसका प्रदर्शन कितना घटता है, जिससे उस तंत्र का महत्व प्रकट होता है।
अनुप्रयोग
एब्लेशन का व्यापक रूप से मशीन लर्निंग अनुसंधान में नई वास्तुकला के डिजाइन को मान्य करने के लिए उपयोग किया जाता है। जब एक शोध दल एक नया घटक पेश करता है, जैसे एक नया हानि फलन या स्थितीय एन्कोडिंग, तो वे अक्सर यह प्रदर्शित करने के लिए एब्लेशन अध्ययन करते हैं कि घटक देखे गए सुधारों के लिए जिम्मेदार है। यह प्रमुख सम्मेलनों में प्रस्तुत पत्रों में मानक अभ्यास है। वस्तु पहचान और भाषण पहचान में, एब्लेशन यह पहचानने में मदद करता है कि मॉडल की कौन सी विशेषताएँ सटीकता के लिए महत्वपूर्ण हैं। तंत्रिका नेटवर्क में, एब्लेशन का उपयोग व्यक्तिगत परतों या फिल्टर की भूमिका को समझने के लिए भी किया जा सकता है, जैसे तंत्रिका वैज्ञानिक उनके कार्य का अध्ययन करने के लिए मस्तिष्क क्षेत्रों को घायल करते हैं।
एलएलएम को सेंसरशिप मुक्त करने के लिए उपयोग
एब्लिटरेशन शब्द बड़े भाषा मॉडल को सेंसरशिप मुक्त करने के लिए एब्लेशन का उपयोग करने की प्रक्रिया के लिए गढ़ा गया है, जिसमें आंतरिक कार्यों को संशोधित करके इनकार व्यवहार को पूरी तरह से समाप्त किया जाता है जबकि मॉडल के शेष कार्यों को संरक्षित किया जाता है। यह शब्द एक पोर्टमैंटू है जो एब्लेशन और ओब्लिटरेशन शब्दों को जोड़ता है। यह तकनीक बड़े भाषा मॉडल के संदर्भ में ध्यान आकर्षित कर रही है जो OpenAI, Anthropic, और Google DeepMind जैसे संगठनों द्वारा विकसित किए गए हैं। इनकार को ट्रिगर करने वाले विशिष्ट घटकों की पहचान और हटाने से, शोधकर्ता ऐसे मॉडल बना सकते हैं जो प्रॉम्प्ट की एक व्यापक श्रेणी का जवाब देते हैं, हालांकि यह नैतिक और सुरक्षा चिंताओं को उठाता है।
अन्य अवधारणाओं से संबंध
एब्लेशन अन्य मॉडल विश्लेषण तकनीकों से संबंधित है लेकिन अलग है। फीचर एब्लेशन विशेष रूप से आंतरिक घटकों के बजाय इनपुट सुविधाओं को हटाने को संदर्भित करता है। एब्लेशन संवेदनशीलता विश्लेषण के समान भी है, लेकिन यह पैरामीटर गड़बड़ी के बजाय संरचनात्मक हटाने पर केंद्रित है। संज्ञान और कृत्रिम बुद्धिमत्ता के संदर्भ में, एब्लेशन अध्ययनों का उपयोग ज्ञान के संगठन के सिद्धांतों का परीक्षण करने के लिए किया गया है, जैसा कि सोअर पर काम में देखा गया है। सुंदर अवनति की अवधारणा केंद्रीय है, जिसका अर्थ है कि एक अच्छी तरह से डिज़ाइन की गई प्रणाली को एक भाग हटाए जाने पर विनाशकारी रूप से विफल नहीं होना चाहिए, जो मजबूत एआई के लिए एक वांछनीय गुण है।
सीमाएँ
एब्लेशन अध्ययनों की सीमाएँ हैं। एक घटक को हटाने से अन्य घटक क्षतिपूर्ति कर सकते हैं, जिससे सही योगदान को अलग करना मुश्किल हो जाता है। परिणाम विशिष्ट कार्य और उपयोग किए गए डेटासेट पर भी निर्भर होते हैं। ट्रांसफॉर्मर जैसे जटिल मॉडलों में, घटकों के बीच बातचीत अरेखीय हो सकती है, इसलिए एक भाग को हटाने का प्रभाव योगात्मक नहीं हो सकता है। इन चुनौतियों के बावजूद, एब्लेशन एआई अनुसंधान में एक व्यावहारिक और व्यापक रूप से उपयोग किया जाने वाला उपकरण बना हुआ है।
यह भी देखें
- एलन न्यूएल
- मशीन लर्निंग
- तंत्रिका नेटवर्क
- गहन शिक्षण
- ट्रांसफॉर्मर
- बड़ा भाषा मॉडल
- भाषण पहचान
- वस्तु पहचान
- संज्ञान
- फीचर एब्लेशन
- ड्रॉपआउट
- बैच सामान्यीकरण
- अवशिष्ट नेटवर्क
- मल्टी-हेड अटेंशन
- स्थितीय एन्कोडिंग
- हानि फलन