मैक्स टेगमार्क (जन्म 1967, स्टॉकहोम, स्वीडन) एक भौतिक विज्ञानी, ब्रह्मांड विज्ञानी और मैसाचुसेट्स इंस्टीट्यूट ऑफ टेक्नोलॉजी में प्रोफेसर हैं, जो मल्टीवर्स और भौतिक वास्तविकता के अंतर्गत गणितीय संरचनाओं पर शोध के लिए जाने जाते हैं। 2010 के दशक के मध्य से वे Artificial general intelligence के विकास में सावधानी के लिए अभियान चलाने वाले सबसे प्रमुख सार्वजनिक व्यक्तियों में से एक बन गए हैं, मुख्य रूप से उस गैर-लाभकारी संस्था के माध्यम से जिसकी उन्होंने सह-स्थापना की और अब नेतृत्व करते हैं, फ्यूचर ऑफ लाइफ इंस्टीट्यूट (FLI)।
टेगमार्क ने 2014 में कई सहयोगियों के साथ FLI की सह-स्थापना की, जिनमें स्काइप के सह-संस्थापक जान तालिन भी शामिल थे, ताकि परिवर्तनकारी प्रौद्योगिकियों से जोखिम कम करने पर काम को वित्तपोषित और समन्वित किया जा सके, जिसमें शुरुआती ध्यान Existential risk from AI पर केंद्रित था। 2017 में संस्थान ने असिलोमर कॉन्फ्रेंस ऑन बेनिफिशियल एआई का आयोजन किया, जिसने जिम्मेदार एआई विकास के लिए सिद्धांतों का एक व्यापक रूप से उद्धृत सेट तैयार किया, जिस पर सैकड़ों शोधकर्ताओं ने हस्ताक्षर किए। तब से FLI विशेष रूप से एआई सुरक्षा और शासन पर केंद्रित सबसे अच्छी तरह से वित्तपोषित वकालत संगठनों में से एक बन गया है।
लाइफ 3.0 और सार्वजनिक वकालत
2017 में टेगमार्क ने "लाइफ 3.0: बीइंग ह्यूमन इन द एज ऑफ आर्टिफिशियल इंटेलिजेंस" प्रकाशित की, एक पुस्तक जो परिवर्तनकारी एआई के सामने आने वाले परिदृश्यों की एक श्रृंखला प्रस्तुत करती है, लाभकारी परिणामों से लेकर विनाशकारी तक, और "लाइफ 1.0, 2.0, और 3.0" का वर्णन करने वाले एक ढांचे को लोकप्रिय बनाया, जो बुद्धिमत्ता के जैविक, सांस्कृतिक और तकनीकी विकास के चरणों को दर्शाता है। यह पुस्तक Superintelligence की सार्वजनिक चर्चा में व्यापक रूप से उद्धृत संदर्भ बिंदु बन गई और AI safety शोध की अवधारणाओं को व्यापक सामान्य पाठक वर्ग तक पहुँचाने में मदद की।
टेगमार्क का सबसे उच्च-स्तरीय वकालत क्षण मार्च 2023 में आया, जब FLI ने खुला पत्र "पॉज़ जाइंट एआई एक्सपेरिमेंट्स" प्रकाशित किया, जिसे Pause Giant AI Experiments letter के रूप में जाना जाता है, जिसमें एआई प्रयोगशालाओं से GPT-4 से अधिक शक्तिशाली मॉडलों के प्रशिक्षण को कम से कम छह महीने के लिए रोकने का आह्वान किया गया। यह पत्र, जिसे टेगमार्क ने आयोजित और प्रचारित करने में मदद की, पर हजारों शोधकर्ताओं और प्रौद्योगिकीविदों ने हस्ताक्षर किए, जिनमें Elon Musk और अन्य प्रमुख व्यक्ति शामिल थे, और एआई जोखिम का महत्वपूर्ण मुख्यधारा मीडिया कवरेज उत्पन्न किया, हालांकि जिस ठहराव की मांग की गई थी वह कभी नहीं हुआ। तब से उन्होंने बाध्यकारी अंतरराष्ट्रीय शासन के लिए जोर देना जारी रखा है, EU AI Act और AI Safety Summit at Bletchley Park प्रक्रिया जैसी पहलों के साथ जुड़ते हुए।
स्थितियाँ और स्वागत
टेगमार्क आम तौर पर एआई जोखिम को ठोस, अल्पकालिक शासन विफलताओं के साथ-साथ दीर्घकालिक विनाशकारी परिदृश्यों के संदर्भ में तैयार करते हैं, खुद को Eliezer Yudkowsky जैसे शोधकर्ताओं की अधिक स्पष्ट भविष्यवाणियों और हल्के-स्पर्श विनियमन का समर्थन करने वाली मुख्यधारा उद्योग आवाजों के बीच रखते हैं। आलोचकों ने तर्क दिया है कि FLI के अभियान कभी-कभी सट्टा दीर्घकालिक जोखिमों को पूर्वाग्रह और गलत सूचना जैसे अधिक तात्कालिक नुकसानों के साथ मिला देते हैं, जिससे किसी पर भी ध्यान कमजोर हो जाता है। समर्थक टेगमार्क को तकनीकी संरेखण चिंताओं को ऐसी भाषा में अनुवाद करने का श्रेय देते हैं जो नीति निर्माताओं और आम जनता तक अधिकांश शैक्षणिक एआई सुरक्षा कार्यों की तुलना में पहले और अधिक प्रभावी ढंग से पहुँची।