डैन हेंड्रिक्स एक अमेरिकी कंप्यूटर वैज्ञानिक और सेंटर फॉर एआई सेफ्टी (CAIS) के कार्यकारी और अनुसंधान निदेशक हैं, जो कृत्रिम बुद्धिमत्ता से बड़े पैमाने पर जोखिमों को कम करने पर केंद्रित एक गैर-लाभकारी संगठन है। उन्होंने कैलिफोर्निया विश्वविद्यालय, बर्कले से कंप्यूटर विज्ञान में पीएचडी प्राप्त की, जहाँ मजबूती और मशीन लर्निंग मूल्यांकन पर उनके शोध ने क्षेत्र में सबसे व्यापक रूप से उपयोग किए जाने वाले बेंचमार्क में से कुछ का निर्माण किया।
बेंचमार्क
स्नातक छात्र के रूप में, हेंड्रिक्स ने मैसिव मल्टीटास्क लैंग्वेज अंडरस्टैंडिंग बेंचमार्क, जिसे MMLU के रूप में जाना जाता है, के निर्माण का नेतृत्व किया, जिसे पहली बार 2020 में जारी किया गया था। MMLU 57 शैक्षणिक और पेशेवर विषयों में मॉडलों का परीक्षण करता है और LLM evaluation के लिए मानक पैमानों में से एक बन गया, जिसे GPT-3 के बाद से लगभग हर प्रमुख Large language model रिलीज़ में उद्धृत किया गया है। उन्होंने अन्य व्यापक रूप से उपयोग किए जाने वाले मूल्यांकन डेटासेट, जिसमें MATH, प्रतियोगिता गणित समस्याओं का एक बेंचमार्क शामिल है, में भी योगदान दिया, और व्यापक रूप से Machine learning प्रणालियों में Hallucination (AI) और मजबूती को मापने के लिए पद्धति को लोकप्रिय बनाने में मदद की।
सेंटर फॉर एआई सेफ्टी और विलुप्ति वक्तव्य
हेंड्रिक्स ने तकनीकी सुरक्षा अनुसंधान को वित्त पोषित करने और विनाशकारी एआई जोखिम को मुख्यधारा की नीति चिंता के रूप में उठाने के लिए CAIS की स्थापना की, जिसमें Reward hacking, मॉडल मजबूती, और AI alignment सहित विषयों पर शैक्षणिक और नीति कार्य प्रकाशित किया गया। मई 2023 में, CAIS ने "एआई जोखिम पर वक्तव्य" प्रकाशित किया, एक एकल वाक्य जिसमें कहा गया कि एआई से विलुप्ति के जोखिम को कम करना महामारी और परमाणु युद्ध जैसे अन्य सामाजिक-स्तरीय जोखिमों के साथ वैश्विक प्राथमिकता होनी चाहिए। इस वक्तव्य पर सैकड़ों शोधकर्ताओं और कार्यकारियों ने हस्ताक्षर किए, जिनमें OpenAI, Anthropic, और Google DeepMind के नेता शामिल थे, और इसे व्यापक रूप से एक संकेत के रूप में कवर किया गया कि Existential risk from AI के बारे में चिंता एक किनारे की स्थिति से मुख्यधारा के एआई अनुसंधान समुदाय में स्थानांतरित हो गई है।
हेंड्रिक्स बाद में एलन मस्क की एआई कंपनी xAI के सुरक्षा सलाहकार बन गए, जिससे कुछ टिप्पणीकारों की आलोचना हुई जिन्होंने उनकी सार्वजनिक जोखिम वकालत के साथ उस भूमिका की संगतता पर सवाल उठाया। उन्होंने "इंट्रोडक्शन टू एआई सेफ्टी, एथिक्स, एंड सोसाइटी" नामक एक खुली पाठ्यपुस्तक का सह-लेखन भी किया, जिसका उद्देश्य एआई सुरक्षा को एक शैक्षणिक विषय के रूप में औपचारिक रूप देना है जिसे पारंपरिक मशीन लर्निंग पाठ्यक्रम के साथ पढ़ाया जाता है।
स्वागत
हेंड्रिक्स को आम तौर पर क्षेत्र के भीतर Eliezer Yudkowsky जैसे शोधकर्ताओं की अधिक स्पष्ट भविष्यवाणियों और निकट-अवधि के विनाशकारी जोखिम के प्रति संदेहपूर्ण उद्योग के आंकड़ों के बीच एक मध्य स्थान पर कब्जा करने वाले के रूप में देखा जाता है। उनके अनुभवजन्य योगदान, विशेष रूप से MMLU, उनकी वकालत के काम से स्वतंत्र रूप से उद्धृत किए जाते हैं और एआई जोखिम पर विचारों के स्पेक्ट्रम के शोधकर्ताओं द्वारा उपयोग किए जाते हैं, जिसमें प्रयोगशालाएं शामिल हैं जो सार्वजनिक रूप से उनकी नीति स्थितियों के कुछ हिस्सों से असहमत हैं। आलोचकों ने सवाल उठाया है कि क्या MMLU जैसे बेंचमार्क संतृप्त या खेले जा रहे हैं क्योंकि मॉडल तेजी से मूल्यांकन सेट के साथ ओवरलैपिंग डेटा पर प्रशिक्षित हो रहे हैं, एक आलोचना जिसे हेंड्रिक्स ने स्वीकार किया है और बाद में कठिन बेंचमार्क के साथ संबोधित किया है।