एक उभरता हुआ एल्गोरिदम एक कम्प्यूटेशनल प्रक्रिया है जिसका समग्र व्यवहार उसके व्यक्तिगत घटकों की परस्पर क्रियाओं से उत्पन्न होता है, न कि स्पष्ट प्रोग्रामिंग या केंद्रीय नियंत्रण से। कृत्रिम बुद्धिमत्ता के संदर्भ में, यह शब्द उन स्थितियों का वर्णन करता है जहाँ एक तंत्रिका नेटवर्क या बड़ा भाषा मॉडल ऐसी क्षमताएँ या रणनीतियाँ विकसित करता है जिन्हें उसके निर्माताओं द्वारा सीधे डिज़ाइन या अनुमानित नहीं किया गया था। ये व्यवहार विशाल डेटासेट पर प्रशिक्षण के दौरान सीखे गए सांख्यिकीय पैटर्न से उभरते हैं, अक्सर बड़े पैमाने पर, और इस क्षेत्र में सक्रिय शोध और बहस का विषय हैं।
यह अवधारणा जटिल प्रणालियों में उद्भव के व्यापक सिद्धांतों से ली गई है, जहाँ स्थानीय स्तर पर सरल नियम जटिल, वैश्विक घटनाएँ उत्पन्न करते हैं। कंप्यूटिंग में, प्रारंभिक उदाहरणों में सेलुलर ऑटोमेटा और झुंड बुद्धिमत्ता शामिल हैं, लेकिन AI में आधुनिक उपयोग गहन शिक्षण मॉडल के स्केलिंग से निकटता से जुड़ा हुआ है। जैसे-जैसे मॉडल आकार में बढ़ते हैं और अधिक डेटा पर प्रशिक्षित होते हैं, वे कभी-कभी तर्क, अनुवाद या समस्या-समाधान में कौशल प्रदर्शित करते हैं जो उनकी वास्तुकला या हानि कार्यों में स्पष्ट रूप से एन्कोडेड नहीं होते हैं, जिससे शोधकर्ता इन्हें उभरता हुआ बताते हैं।
ऐतिहासिक पृष्ठभूमि
कंप्यूटिंग में उद्भव का विचार आधुनिक AI से पहले का है। 1980 और 1990 के दशक में, ज़ेरॉक्स PARC और MIT CSAIL जैसे संस्थानों के शोधकर्ताओं ने स्व-संगठित प्रणालियों और कृत्रिम जीवन की खोज की, जहाँ सरल एजेंट या नियम जटिल व्यवहार उत्पन्न करते थे। हालाँकि, "उभरता हुआ एल्गोरिदम" शब्द ने 2010 और 2020 के दशक में ट्रांसफॉर्मर-आधारित मॉडलों के उदय के साथ प्रमुखता प्राप्त की। एक ऐतिहासिक अवलोकन OpenAI की GPT श्रृंखला और Google DeepMind के मॉडलों पर अध्ययनों से आया, जहाँ पैरामीटर बढ़ाने से अंकगणित या बहु-चरणीय तर्क जैसे कार्यों पर प्रदर्शन में क्रमिक सुधार के बजाय अचानक छलांग लगी।
तंत्र और उदाहरण
AI में उभरते एल्गोरिदम अक्सर विशिष्ट प्रशिक्षण तकनीकों और वास्तुकला सुविधाओं से जुड़े होते हैं। उदाहरण के लिए, मल्टी-हेड अटेंशन मॉडल को विविध संबंधपरक पैटर्न सीखने की अनुमति देता है, जो अप्रत्याशित तरीकों से संयोजित हो सकते हैं। पाठ्यक्रम शिक्षण और RLHF (मानव प्रतिक्रिया से सुदृढीकरण शिक्षण) भी मॉडल को ऐसे व्यवहारों की ओर ले जा सकते हैं, जो स्पष्ट रूप से कोडित नहीं होने पर भी, प्रशिक्षण उद्देश्यों के इष्टतम समाधान के रूप में उभरते हैं।
एक अक्सर उद्धृत उदाहरण बड़े भाषा मॉडलों की चेन-ऑफ-थॉट तर्क करने की क्षमता है। जब "चरण दर चरण सोचें" के लिए प्रेरित किया जाता है, तो GPT-3 या बाद के संस्करण जैसे मॉडल मध्यवर्ती चरण उत्पन्न करते हैं जो सही उत्तरों की ओर ले जाते हैं, एक क्षमता जो स्पष्ट रूप से प्रोग्राम नहीं की गई थी बल्कि कोड, गणित और पाठ पर प्रशिक्षण से उभरी। एक और उदाहरण आंतरिक प्रतिनिधित्व का सहज गठन है, जैसे कि लिंग या काल जैसी अवधारणाओं के लिए रैखिक बीजगणितीय संरचनाएँ, जिन्हें टोरंटो विश्वविद्यालय और स्टैनफोर्ड AI लैब के शोधकर्ताओं द्वारा जांच अध्ययनों के माध्यम से खोजा गया।
शोध और बहस
उभरते एल्गोरिदम का अध्ययन विवादास्पद है। मेलानी मिशेल और ब्रेंडन लेक सहित कुछ शोधकर्ता तर्क देते हैं कि कई दावा की गई उभरती क्षमताएँ मूल्यांकन मेट्रिक्स या मॉडल स्केल की कलाकृतियाँ हैं, न कि मौलिक रूप से नए एल्गोरिदम। उनका सुझाव है कि जो उद्भव प्रतीत होता है वह छोटे मॉडलों के प्रदर्शन वक्रों से अनुमानित हो सकता है। इसके विपरीत, जैकब उज़्कोरेत और लियोन जोन्स जैसे शोधकर्ता, जिन्होंने ट्रांसफॉर्मर का सह-आविष्कार किया, ने नोट किया है कि स्केलिंग अक्सर ऐसी क्षमताओं को प्रकट करती है जिनका पहले सिद्धांतों से अनुमान लगाना कठिन होता है।
एक प्रमुख चुनौती यह परिभाषित करना है कि तंत्रिका नेटवर्क में "एल्गोरिदम" क्या मायने रखता है। स्पष्ट चरणों वाले पारंपरिक एल्गोरिदम के विपरीत, उभरते एल्गोरिदम लाखों वज़न में वितरित होते हैं, जिससे उन्हें निकालना या सत्यापित करना कठिन हो जाता है। इसने Anthropic और Google DeepMind जैसे संगठनों में व्याख्यात्मकता के प्रयासों को जन्म दिया है, ताकि आंतरिक सर्किटों का मानचित्रण किया जा सके और विशिष्ट उप-कार्य करने वाले कार्यात्मक मॉड्यूल की पहचान की जा सके।
AI विकास के लिए निहितार्थ
उभरते एल्गोरिदम का अस्तित्व व्यावहारिक निहितार्थ रखता है। यह सुझाव देता है कि Amazon Web Services जैसी कंपनियों द्वारा AWS Trainium चिप्स या Google Cloud के TPU के साथ किए गए मॉडलों को केवल बड़ा करना, वास्तुकला को फिर से डिज़ाइन किए बिना नई क्षमताओं को अनलॉक कर सकता है। इसने बड़े मॉडलों की ओर दौड़ को बढ़ावा दिया है, जिसमें NVIDIA (हालाँकि दी गई सूची में नहीं, ध्यान दें कि AMD और Intel प्रतिस्पर्धी हैं) और TSMC तेजी से शक्तिशाली हार्डवेयर का निर्माण कर रहे हैं।
हालाँकि, यह सुरक्षा चिंताएँ भी उठाता है। यदि व्यवहार अप्रत्याशित रूप से उभरते हैं, तो यह गारंटी देना कठिन हो जाता है कि मॉडल अनपेक्षित रणनीतियाँ, जैसे धोखे या रिवॉर्ड हैकिंग, विकसित नहीं करेंगे। बर्कले AI रिसर्च और कार्नेगी मेलन विश्वविद्यालय के शोधकर्ताओं ने तैनाती से पहले उभरते जोखिमों का पता लगाने के लिए मजबूत मूल्यांकन ढाँचे की मांग की है।
भविष्य की दिशाएँ
उभरते एल्गोरिदम पर भविष्य का काम दो मोर्चों पर केंद्रित है। पहला, उद्भव कब होगा इसकी भविष्यवाणी करने के लिए सैद्धांतिक ढाँचे विकसित करना, जो सांख्यिकीय भौतिकी और जटिलता सिद्धांत से लिया गया है। दूसरा, अवांछित उभरते व्यवहारों को नियंत्रित या दबाने के लिए उपकरण बनाना, संभवतः मॉडल प्रूनिंग या डेटा ऑग्मेंटेशन जैसी तकनीकों के माध्यम से जो सीखने के परिदृश्य को आकार देते हैं। जैसे-जैसे मॉडल बढ़ते रहेंगे, उद्भव को समझना संभवतः AI को आगे बढ़ाने और समाज में इसके सुरक्षित एकीकरण को सुनिश्चित करने दोनों के लिए केंद्रीय बन जाएगा।