एलीज़र युडकोस्की (जन्म 11 सितंबर, 1979) एक अमेरिकी स्व-शिक्षित शोधकर्ता और लेखक हैं, जिन्हें मुख्य रूप से AI संरेखण पर उनके काम और इस तर्क को लोकप्रिय बनाने के लिए जाना जाता है कि कृत्रिम सामान्य बुद्धिमत्ता का अनियंत्रित विकास मानव विलुप्ति का कारण बन सकता है। उनके पास कोई औपचारिक शैक्षणिक डिग्री नहीं है, क्योंकि उन्होंने इसे पूरा करने से पहले स्कूल छोड़ दिया था, और उन्होंने अपना करियर मुख्य रूप से ऑनलाइन निबंधों, ब्लॉग पोस्टों और तर्कवादी वेबसाइट LessWrong के आसपास स्थापित समुदाय के माध्यम से बनाया।
2000 में युडकोस्की ने सिंगुलैरिटी इंस्टीट्यूट फॉर आर्टिफिशियल इंटेलिजेंस की सह-स्थापना की, जिसे बाद में मशीन इंटेलिजेंस रिसर्च इंस्टीट्यूट (MIRI) का नाम दिया गया, जहाँ उन्होंने अपने करियर का अधिकांश समय संरेखण की तकनीकी समस्या पर काम किया है: यह सुनिश्चित करना कि एक पर्याप्त सक्षम AI प्रणाली मानव अस्तित्व और मूल्यों के अनुकूल लक्ष्यों का पालन करे। कई AI सुरक्षा शोधकर्ताओं के विपरीत, जो इस समस्या को क्रमिक, सुधार योग्य विफलताओं के संदर्भ में तैयार करते हैं, युडकोस्की ने 2000 के दशक के मध्य से तर्क दिया है कि एक पर्याप्त सक्षम अति-बुद्धिमत्ता अपने उद्देश्यों को मानव हितों के साथ विनाशकारी रूप से असंगत तरीकों से आगे बढ़ा सकती है, और ऐसी प्रणाली मानवता को गलती सुधारने का दूसरा मौका नहीं दे सकती है।
सार्वजनिक वकालत
युडकोस्की का प्रभाव MIRI के तकनीकी आउटपुट से कहीं आगे तक फैला हुआ है। LessWrong पर उनके निबंध, जिन्हें बाद में "Rationality: From AI to Zombies" में संग्रहित किया गया, ने व्यापक तर्कवादी और प्रभावी परोपकारिता समुदायों को बीजारोपण करने में मदद की, दोनों ने आकार दिया है कि AI शोधकर्ताओं और फंडर्स की एक पीढ़ी AI से अस्तित्वगत जोखिम के बारे में कैसे सोचती है। उन्होंने व्यापक रूप से पढ़ी जाने वाली फैन-फिक्शन कृति "हैरी पॉटर एंड द मेथड्स ऑफ रेशनैलिटी" भी लिखी, जिसने उनके AI जोखिम तर्कों के मुख्यधारा में पहुँचने से बहुत पहले तर्कवादी विचारों को एक बड़े सामान्य दर्शकों तक पहुँचाया।
चैटजीपीटी और जीपीटी-4 की रिलीज़ के बाद बड़े भाषा मॉडल तेजी से आगे बढ़े, युडकोस्की की चेतावनियाँ एक विशिष्ट उपसंस्कृति से मुख्यधारा के मीडिया में चली गईं। मार्च 2023 में उनकी चर्चा फ्यूचर ऑफ लाइफ इंस्टीट्यूट के विराम पत्र के साथ व्यापक रूप से हुई, हालाँकि उन्होंने सार्वजनिक रूप से तर्क दिया कि एक अस्थायी विराम अपर्याप्त था। मार्च 2023 के टाइम पत्रिका के एक ऑप-एड में, उन्होंने बड़े बड़े भाषा मॉडल प्रशिक्षण रनों पर एक अनिश्चितकालीन, अंतरराष्ट्रीय स्तर पर लागू रोक लगाने का आह्वान किया, जिसमें दुष्ट डेटा केंद्रों के खिलाफ कार्रवाई की धमकी भी शामिल थी, जो विराम पत्र के अधिकांश हस्ताक्षरकर्ताओं, जैसे मैक्स टेगमार्क, की स्थिति से काफी अधिक चरम था।
स्वागत और आलोचना
युडकोस्की की लगभग निश्चित तबाही की भविष्यवाणियों ने गंभीर जुड़ाव और तीखी आलोचना दोनों को आकर्षित किया है। समर्थक उन्हें संरेखण को एक शोध प्राथमिकता के रूप में उठाने का श्रेय देते हैं, जब यह फैशनेबल नहीं था, और उन शोधकर्ताओं को प्रभावित करने का श्रेय देते हैं जो बाद में ओपनएआई और एंथ्रोपिक जैसी प्रयोगशालाओं में शामिल हुए। आलोचक, जिनमें कुछ AI शोधकर्ता और प्रौद्योगिकीविद् शामिल हैं, तर्क देते हैं कि विनाश के उनके संभाव्यता अनुमान अप्रमाणित हैं, कि मशीन लर्निंग में उनके औपचारिक शोध अनुभव की कमी उनके विशिष्ट दावों की तकनीकी विश्वसनीयता को सीमित करती है, और उनकी बयानबाजी किसी एक विफलता परिदृश्य की निश्चितता को बढ़ा-चढ़ाकर पेश कर सकती है। उनके तर्क सार्वजनिक बहस में "AI डूमर" स्थिति से निकटता से जुड़े हुए हैं, जो डैन हेंड्रिक्स और निक बोस्ट्रोम जैसे अन्य सार्वजनिक हस्तियों द्वारा प्रस्तुत अधिक संतुलित जोखिम-शमन ढाँचों के विपरीत है।