एमी झांग कृत्रिम बुद्धिमत्ता की शोधकर्ता हैं, जो मानव-केंद्रित एआई, सुदृढीकरण सीखने और व्याख्यात्मकता पर ध्यान केंद्रित करती हैं। वह वाशिंगटन विश्वविद्यालय में सहायक प्रोफेसर और मेटा एआई (पूर्व में फेसबुक एआई रिसर्च) में शोध वैज्ञानिक हैं। उनका काम एआई प्रणालियों को अधिक पारदर्शी, इंटरैक्टिव और मानवीय मूल्यों के साथ संरेखित बनाने का लक्ष्य रखता है, जो अक्सर संज्ञानात्मक विज्ञान और मानव-कंप्यूटर इंटरैक्शन की अंतर्दृष्टि के साथ मशीन लर्निंग को जोड़ता है।
झांग ने कैलिफोर्निया विश्वविद्यालय, बर्कले से कंप्यूटर विज्ञान में पीएच.डी. प्राप्त की, जहां उनके सलाहकार पीटर एबील थे। उनके डॉक्टरेट शोध ने मानव प्रतिक्रिया से सीखने और सुदृढीकरण सीखने को अधिक नमूना-कुशल बनाने के तरीके विकसित किए। उन्होंने गूगल ब्रेन और मॉन्ट्रियल इंस्टीट्यूट फॉर लर्निंग एल्गोरिदम (MILA) में विज़िटिंग शोधकर्ता के रूप में भी समय बिताया। पीएच.डी. से पहले, उन्होंने वाटरलू विश्वविद्यालय से कंप्यूटर विज्ञान में स्नातक डिग्री प्राप्त की।
सुदृढीकरण सीखना और मानव प्रतिक्रिया
झांग का प्रारंभिक कार्य सुदृढीकरण सीखने पर केंद्रित था, विशेष रूप से इस पर कि एजेंट विरल पुरस्कारों और प्रदर्शनों से कैसे सीख सकते हैं। उन्होंने उन एल्गोरिदम के विकास में योगदान दिया जो अनुकरण सीखने को पुरस्कार आकार देने के साथ जोड़ते हैं, जिससे एजेंट मानव उदाहरणों की छोटी संख्या से जटिल व्यवहार सीख सकते हैं। एक उल्लेखनीय परियोजना, "लर्निंग बाय प्लेइंग" ने विरल-पुरस्कार कार्यों को हल करने के लिए एक विधि पेश की, जो अप्रशिक्षित अन्वेषण का उपयोग करके कौशल सीखती है जिन्हें बाद के कार्यों के लिए पुनः उपयोग किया जा सकता है।
उनके शोध का एक केंद्रीय विषय एआई प्रशिक्षण का मार्गदर्शन करने के लिए मानव प्रतिक्रिया का उपयोग है। उन्होंने प्राथमिकता-आधारित सुदृढीकरण सीखने की तकनीकों पर काम किया है, जहां एक मॉडल स्पष्ट पुरस्कारों के बजाय प्रक्षेपवक्रों की जोड़ीदार तुलना से सीखता है। यह दृष्टिकोण उन क्षेत्रों में विशेष रूप से उपयोगी है जहां पुरस्कार फ़ंक्शन डिजाइन करना कठिन है, जैसे रोबोटिक्स या संवाद प्रणाली। इस क्षेत्र में उनके काम को व्यापक रूप से उद्धृत किया गया है और आधुनिक बड़े भाषा मॉडल के प्रशिक्षण में एक प्रमुख घटक, आरएलएचएफ पर बाद के शोध को प्रभावित किया है।
व्याख्यात्मकता और पारदर्शिता
झांग ने मशीन लर्निंग में व्याख्यात्मकता में भी महत्वपूर्ण योगदान दिया है। उन्होंने यह देखने और समझने के तरीके विकसित किए कि तंत्रिका नेटवर्क ने क्या सीखा है, विशेष रूप से सुदृढीकरण सीखने वाले एजेंटों के संदर्भ में। "सैलिएंसी मैप्स" और "कॉन्सेप्ट एक्टिवेशन वेक्टर" पर उनका काम शोधकर्ताओं को यह पहचानने में मदद करता है कि किसी मॉडल के निर्णय में इनपुट की कौन सी विशेषताएं सबसे अधिक प्रभावशाली हैं। शोध की यह पंक्ति एआई प्रणालियों में विश्वास बनाने के लिए महत्वपूर्ण है, विशेष रूप से स्वास्थ्य सेवा या स्वायत्त ड्राइविंग जैसे उच्च-दांव वाले अनुप्रयोगों में।
एक व्यापक रूप से उद्धृत पेपर में, झांग और सहयोगियों ने "TCAV" (टेस्टिंग विद कॉन्सेप्ट एक्टिवेशन वेक्टर) पेश किया, एक तकनीक जो यह मापती है कि एक अवधारणा (जैसे "धारीदार" या "चित्तीदार") किसी मॉडल की भविष्यवाणी में कितना योगदान देती है। यह विधि उपयोगकर्ताओं को मानव-समझने योग्य शब्दों में मॉडल के तर्क की जांच करने की अनुमति देती है, सरल फीचर एट्रिब्यूशन से आगे बढ़ते हुए। इस काम को गूगल डीपमाइंड और ओपनएआई की उद्योग टीमों द्वारा मॉडल ऑडिटिंग के लिए अपनाया गया है।
मानव-केंद्रित एआई
झांग का शोध एजेंडा स्पष्ट रूप से मानव-केंद्रित है: वह एआई प्रणालियों को डिजाइन करती हैं जो लोगों के साथ स्वाभाविक रूप से बातचीत कर सकें और उनकी प्रतिक्रिया से सीख सकें। उन्होंने पता लगाया है कि एआई सहायकों को अधिक सहायक कैसे बनाया जाए, जिससे उपयोगकर्ता प्राकृतिक भाषा के माध्यम से या वांछित व्यवहार प्रदर्शित करके गलतियों को सुधार सकें। इसमें इंटरैक्टिव सीखने पर काम शामिल है, जहां एक मॉडल उपयोगकर्ता इनपुट के आधार पर समय के साथ सुधरता है, और एआई उद्देश्यों को मानवीय प्राथमिकताओं के साथ संरेखित करने पर।
उनकी एक परियोजना, "रिवार्ड लर्निंग फ्रॉम ह्यूमन प्रेफरेंसेस" ने प्रदर्शित किया कि एक रोबोट गैर-विशेषज्ञ उपयोगकर्ताओं से प्रतिक्रिया प्राप्त करके कार्य करना सीख सकता है। एक उपयोगकर्ता अध्ययन में, प्रतिभागियों ने सरल हां/नहीं प्रतिक्रिया प्रदान करके एक सिम्युलेटेड रोबोट को नेविगेट करना और वस्तुओं में हेरफेर करना सिखाया। परिणामों से पता चला कि रोबोट न्यूनतम मानव प्रयास के साथ प्रभावी ढंग से सीख सकता है, जो अनुकूलन योग्य एआई की ओर एक व्यावहारिक मार्ग सुझाता है।
शैक्षणिक करियर और शिक्षण
झांग 2021 में पॉल जी. एलन स्कूल ऑफ कंप्यूटर साइंस एंड इंजीनियरिंग में सहायक प्रोफेसर के रूप में वाशिंगटन विश्वविद्यालय में शामिल हुईं। वह ह्यूमन-सेंटर्ड एआई लैब का नेतृत्व करती हैं, जहां वह स्नातक छात्रों और पोस्टडॉक्स का मार्गदर्शन करती हैं। उनके शिक्षण में सुदृढीकरण सीखने और मशीन लर्निंग में निष्पक्षता, जवाबदेही और पारदर्शिता पर पाठ्यक्रम शामिल हैं। उन्हें कई शिक्षण पुरस्कार मिले हैं, जिनमें 2023 में यूडब्ल्यू कॉलेज ऑफ इंजीनियरिंग उत्कृष्ट शिक्षण पुरस्कार शामिल है।
एमआईटी सीएसएआईएल और स्टैनफोर्ड एआई लैब में, उन्होंने अपने शोध पर आमंत्रित व्याख्यान दिए हैं। वह यूडब्ल्यू सेंटर फॉर एन इन्फॉर्म्ड पब्लिक के साथ संबद्ध संकाय भी हैं, जहां वह एआई के सामाजिक प्रभावों, जिसमें गलत सूचना और एल्गोरिदमिक पूर्वाग्रह शामिल हैं, का अध्ययन करती हैं।
उद्योग अनुभव
अपनी शैक्षणिक नियुक्ति से पहले, झांग ने 2020 से 2021 तक मेटा एआई में शोध वैज्ञानिक के रूप में काम किया। मेटा में, उन्होंने अनुशंसा प्रणालियों को बेहतर बनाने और हानिकारक सामग्री का पता लगाने के लिए उपकरण विकसित करने के लिए सुदृढीकरण सीखने में अपनी विशेषज्ञता लागू की। उन्होंने एंथ्रोपिक की टीमों के साथ सुरक्षा शोध पर भी सहयोग किया, जो स्केलेबल ओवरसाइट पर प्रारंभिक कार्य में योगदान देता है।
झांग गूगल ब्रेन और बर्कले एआई रिसर्च (BAIR) में शोध इंटर्न भी रही हैं। इन अनुभवों ने उन्हें एक व्यापक दृष्टिकोण दिया कि एआई शोध उत्पादों और नीति में कैसे अनुवादित होता है।
पुरस्कार और मान्यता
झांग को उनके काम के लिए कई सम्मान मिले हैं। 2022 में, उन्हें AI2050 पहल द्वारा एआई में राइजिंग स्टार नामित किया गया। 2023 में, उन्हें "इंटरैक्टिव एंड इंटरप्रिटेबल रिइन्फोर्समेंट लर्निंग" परियोजना के लिए एनएसएफ करियर पुरस्कार मिला। उनके पेपरों ने प्रमुख सम्मेलनों में सर्वश्रेष्ठ पेपर पुरस्कार जीते हैं, जिनमें इंटरनेशनल कॉन्फ्रेंस ऑन मशीन लर्निंग (ICML) और कॉन्फ्रेंस ऑन न्यूरल इंफॉर्मेशन प्रोसेसिंग सिस्टम्स (NeurIPS) शामिल हैं। वह कंप्यूटर विज्ञान में स्लोअन रिसर्च फेलोशिप (2024) की प्राप्तकर्ता भी हैं।
चयनित प्रकाशन
झांग ने शीर्ष-स्तरीय स्थानों में 40 से अधिक पेपर प्रकाशित किए हैं। उनके कुछ सबसे अधिक उद्धृत कार्यों में शामिल हैं:
- "TCAV: रिलेटिव कॉन्सेप्ट इम्पोर्टेंस टेस्टिंग" (ICML 2018) - अवधारणा-आधारित व्याख्यात्मकता के लिए एक विधि पेश की।
- "लर्निंग बाय प्लेइंग: सॉल्विंग स्पार्स रिवार्ड टास्क्स फ्रॉम स्क्रैच" (ICML 2018) - अन्वेषण के लिए सेल्फ-प्ले का एक पाठ्यक्रम प्रस्तावित किया।
- "रिवार्ड लर्निंग फ्रॉम ह्यूमन प्रेफरेंसेस" (NeurIPS 2019) - व्यावहारिक प्राथमिकता-आधारित आरएल का प्रदर्शन किया।
- "इंटरैक्टिव लर्निंग फ्रॉम पॉलिसी-डिपेंडेंट ह्यूमन फीडबैक" (ICML 2020) - अध्ययन किया कि एजेंट के सुधरने पर प्रतिक्रिया कैसे बदलती है।
उनके शोध को नेशनल साइंस फाउंडेशन, नौसेना अनुसंधान कार्यालय और निजी फाउंडेशनों से अनुदान द्वारा समर्थित किया गया है।
भविष्य की दिशाएं
झांग का वर्तमान कार्य बड़े भाषा मॉडल को अधिक व्याख्यात्मक और नियंत्रणीय बनाने पर केंद्रित है। वह जांच कर रही हैं कि मॉडलों से ईमानदार अनिश्चितता कैसे प्राप्त की जाए और उपयोगकर्ताओं को पुनः प्रशिक्षण के बिना मॉडल व्यवहार को निर्देशित करने में सक्षम कैसे बनाया जाए। वह मल्टी-एजेंट सुदृढीकरण सीखने में भी रुचि रखती हैं, जहां कई एआई प्रणालियां बातचीत करती हैं, और यह सुनिश्चित करने में कि ऐसी प्रणालियां सुरक्षित और मानवीय लक्ष्यों के साथ संरेखित रहें।
2025 तक, झांग वाशिंगटन विश्वविद्यालय में पढ़ाना और शोध का नेतृत्व करना जारी रखती हैं। उनके योगदान ने मानव-केंद्रित एआई के उभरते क्षेत्र को आकार देने में मदद की है, जो तकनीकी मशीन लर्निंग और मानवीय आवश्यकताओं के बीच की खाई को पाटता है।