डेविड क्रिस्टजानसन डुवेनॉड (जन्म 1983) टोरंटो विश्वविद्यालय में एक कनाडाई कंप्यूटर वैज्ञानिक हैं, जो संभाव्य मशीन लर्निंग, जनरेटिव एआई और एआई सुरक्षा में विशेषज्ञता रखते हैं। वे 2021 से सीआईएफएआर एआई चेयर और 2024 से श्वार्ट्ज रीसमैन चेयर इन टेक्नोलॉजी एंड सोसाइटी हैं। उनका शोध गहरे जनरेटिव मॉडल, तंत्रिका साधारण अवकल समीकरण, और हाल ही में उन्नत कृत्रिम बुद्धिमत्ता के सामाजिक निहितार्थों पर केंद्रित है।
शिक्षा
डुवेनॉड का जन्म विन्निपेग, मैनिटोबा के उपनगरीय क्षेत्र में हुआ था। उन्होंने 2006 में मैनिटोबा विश्वविद्यालय से कंप्यूटर विज्ञान में बी.एससी. और 2010 में ब्रिटिश कोलंबिया विश्वविद्यालय से कंप्यूटर विज्ञान में एम.एससी. प्राप्त किया, जिसका पर्यवेक्षण केविन पी. मर्फी ने किया। उन्होंने 2014 में कार्ल रासमुसेन और ज़ौबिन घहरामनी के पर्यवेक्षण में कैम्ब्रिज विश्वविद्यालय से पीएचडी अर्जित की। हार्वर्ड विश्वविद्यालय में रयान पी. एडम्स के समूह में पोस्टडॉक्टरल पद के बाद, वे 2016 में टोरंटो विश्वविद्यालय के संकाय में शामिल हुए।
करियर और अनुसंधान
डुवेनॉड टोरंटो विश्वविद्यालय में कंप्यूटर विज्ञान के एसोसिएट प्रोफेसर हैं और वेक्टर इंस्टीट्यूट, जो कृत्रिम बुद्धिमत्ता अनुसंधान के लिए एक प्रमुख कनाडाई संस्थान है, के संस्थापक संकाय सदस्य हैं। उनका प्रारंभिक शोध गहरे जनरेटिव मॉडल पर केंद्रित था, जिसमें अणुओं के जनरेटिव मॉडल और तंत्रिका साधारण अवकल समीकरण शामिल हैं। उनके समूह ने एक प्रकार का निरंतर-समय सामान्यीकरण प्रवाह पेश किया, जिसे 2018 में न्यूरिप्स सर्वश्रेष्ठ पेपर पुरस्कार मिला। इस कार्य ने तंत्रिका नेटवर्क के विकास में योगदान दिया जो निरंतर-समय गतिशीलता को मॉडल कर सकते हैं, जिसके अनुप्रयोग मशीन लर्निंग और डीप लर्निंग में हैं।
2023 में, बड़े भाषा मॉडल के तेजी से अपनाए जाने के जवाब में, डुवेनॉड ने अपना शोध ध्यान एआई सुरक्षा पर केंद्रित किया। उन्होंने एंथ्रोपिक में छुट्टी ली, जहाँ उन्होंने संरेखण मूल्यांकन टीम का नेतृत्व किया। वहाँ, उन्होंने जेलब्रेक की पहचान करने और मॉडलों की गुप्त रूप से तोड़फोड़ करने की क्षमता के लिए मूल्यांकन विकसित करने पर काम किया। उनका हालिया कार्य "क्रमिक अशक्तिकरण" की अवधारणा को संबोधित करता है: जैसे-जैसे एआई अधिक सक्षम होता जाता है, अर्थव्यवस्थाओं, संस्कृतियों और राज्यों जैसी बड़े पैमाने की सामाजिक प्रणालियाँ धीरे-धीरे मानव हितों की सेवा करना बंद कर सकती हैं। ऐसा इसलिए है क्योंकि मानव आवश्यकताओं के साथ इन प्रणालियों का संरेखण ऐतिहासिक रूप से मानव भागीदारी पर उनकी निर्भरता पर निर्भर रहा है, जिसे एआई तेजी से अनावश्यक बना रहा है।
एआई सुरक्षा में योगदान
एआई सुरक्षा की ओर डुवेनॉड का बदलाव जनरेटिव एआई समुदाय के भीतर उन्नत प्रणालियों के दीर्घकालिक जोखिमों के बारे में व्यापक चिंता को दर्शाता है। एंथ्रोपिक में उनके कार्य ने ट्रांसफॉर्मर-आधारित मॉडलों में अवांछनीय व्यवहारों का पता लगाने के लिए मूल्यांकन विधियों के विकास में योगदान दिया। उन्होंने एआई की मानव एजेंसी को धीरे-धीरे कम करने की क्षमता के बारे में भी लिखा है, एक विषय जो क्षेत्र में संरेखण और आरएलएचएफ के बारे में चल रही बहसों से जुड़ता है।
मान्यता और संबद्धताएँ
डुवेनॉड 2021 से सीआईएफएआर एआई चेयर और 2024 से श्वार्ट्ज रीसमैन चेयर इन टेक्नोलॉजी एंड सोसाइटी धारण करते हैं। वे टोरंटो विश्वविद्यालय और वेक्टर इंस्टीट्यूट से संबद्ध हैं। उनके शोध को 2018 के न्यूरिप्स सर्वश्रेष्ठ पेपर पुरस्कार से मान्यता मिली है। वे न्यूरिप्स, आईसीएमएल और आईसीएलआर जैसे सम्मेलनों में लगातार योगदानकर्ता हैं, और उनका काम मशीन लर्निंग समुदाय में व्यापक रूप से उद्धृत किया जाता है।
चयनित कार्य और प्रभाव
तंत्रिका साधारण अवकल समीकरणों पर डुवेनॉड का प्रारंभिक कार्य निरंतर-समय मॉडल और अवशिष्ट नेटवर्क में बाद के शोध को प्रभावित किया है। अणुओं के जनरेटिव मॉडल पर उनके पेपर दवा खोज और सामग्री विज्ञान में अनुप्रयोग रखते हैं। हाल ही में, उनका एआई सुरक्षा शोध इस बात पर चर्चाओं को सूचित करता है कि उन्नत एआई प्रणालियों से जोखिमों का मूल्यांकन और शमन कैसे किया जाए, जिसमें ओपनएआई और अन्य संगठनों में तैनात प्रणालियाँ शामिल हैं। 2025 तक, वे टोरंटो विश्वविद्यालय में पढ़ाना और छात्रों का पर्यवेक्षण करना जारी रखते हैं, जो संभाव्य मॉडलिंग और सामाजिक प्रभाव के अंतर्संबंध पर केंद्रित है।