जैकब एंड्रियास MIT कंप्यूटर साइंस और आर्टिफिशियल इंटेलिजेंस लेबोरेटरी (MIT CSAIL) में एक सहायक प्रोफेसर हैं। उनका शोध भाषा ग्राउंडिंग और रचनात्मक शब्दार्थ पर केंद्रित है, जिसमें यह पता लगाया जाता है कि AI सिस्टम भाषाई संरचना को वास्तविक दुनिया के अर्थ और क्रिया से कैसे जोड़ सकते हैं। वे MIT के इलेक्ट्रिकल इंजीनियरिंग और कंप्यूटर साइंस विभाग से संबद्ध हैं।
एंड्रियास ने कैलिफोर्निया विश्वविद्यालय, बर्कले में अपनी पीएचडी पूरी की, जहाँ डैन क्लेन ने उनका मार्गदर्शन किया। उनके डॉक्टरेट कार्य ने जाँच की कि भाषा में रचनात्मक संरचनाओं को कैसे सीखा जा सकता है और दृश्य प्रश्न उत्तर और निर्देश अनुसरण जैसे कार्यों के लिए उपयोग किया जा सकता है। MIT में शामिल होने से पहले, उन्होंने Google DeepMind में एक पोस्टडॉक्टरल पद धारण किया।
शोध योगदान
एंड्रियास के प्रारंभिक शोध ने मॉड्यूलर तंत्रिका नेटवर्क सीखने के तरीके पेश किए जो उप-कार्यों को संरचित तरीके से संयोजित करते हैं। 2016 के एक पेपर में, उन्होंने और सहयोगियों ने एक मॉडल प्रस्तावित किया जो एक प्रश्न को छोटे उप-प्रश्नों में विघटित करना सीखता है, प्रत्येक का उत्तर एक विशेष मॉड्यूल द्वारा दिया जाता है, और फिर परिणामों को जोड़ता है। इस दृष्टिकोण ने एकल तंत्रिका नेटवर्क की तुलना में दृश्य प्रश्न उत्तर बेंचमार्क पर बेहतर प्रदर्शन दिखाया।
रचनात्मक शब्दार्थ पर उनके काम ने यह भी संबोधित किया है कि स्पष्ट एनोटेशन के बिना डेटा से अंतर्निहित भाषाई संरचनाओं को कैसे प्रेरित किया जाए। उन्होंने शब्दार्थ पार्सिंग और ग्राउंडिंग के लिए बड़े भाषा मॉडल के उपयोग का अध्ययन किया है, यह जाँचते हुए कि इन मॉडलों को व्याख्या योग्य और रचनात्मक प्रतिनिधित्व उत्पन्न करने के लिए कैसे निर्देशित किया जा सकता है।
भाषा ग्राउंडिंग और निर्देश अनुसरण
एंड्रियास के शोध में एक केंद्रीय विषय इंटरैक्टिव वातावरण में भाषा को ग्राउंड करना है। उन्होंने जाँच की है कि एजेंट सिम्युलेटेड दुनिया में प्राकृतिक भाषा निर्देशों का पालन कैसे सीख सकते हैं, नमूना दक्षता में सुधार के लिए सुदृढीकरण सीखने और पाठ्यक्रम सीखने का उपयोग करते हुए। उनके काम ने दिखाया है कि रचनात्मक कार्य विवरणों का उपयोग निर्देशों के अनदेखे संयोजनों को सामान्यीकृत करने के लिए किया जा सकता है।
एंड्रियास ने भाषा और औपचारिक तर्क के बीच संबंध का भी पता लगाया है, प्राकृतिक भाषा को निष्पादन योग्य प्रोग्रामों में अनुवाद करने के तरीके प्रस्तावित किए हैं। शोध की यह पंक्ति मशीन लर्निंग में संरचना के बारे में स्पष्ट रूप से तर्क करने वाली प्रणालियों के निर्माण के व्यापक प्रयासों से जुड़ती है।
चयनित प्रकाशन और मान्यता
एंड्रियास ने NeurIPS, ICLR, ACL और EMNLP सहित प्रमुख सम्मेलनों में प्रकाशित किया है। उनके पेपरों को कई सर्वश्रेष्ठ पेपर नामांकन और पुरस्कार मिले हैं। उन्हें 2021 में स्लोअन रिसर्च फेलो नामित किया गया था, जो कंप्यूटर विज्ञान में उनके प्रारंभिक करियर के योगदान को मान्यता देता है।
MIT में उनके शिक्षण में प्राकृतिक भाषा प्रसंस्करण और मशीन लर्निंग पर स्नातक पाठ्यक्रम शामिल हैं। उन्होंने शैक्षणिक संस्थानों और उद्योग अनुसंधान प्रयोगशालाओं में आमंत्रित व्याख्यान भी दिए हैं, जिनमें OpenAI और Anthropic शामिल हैं।
व्यापक प्रभाव और वर्तमान दिशाएँ
एंड्रियास के हालिया काम ने ट्रांसफॉर्मर मॉडल की व्याख्या क्षमता की जाँच की है, विशेष रूप से ध्यान तंत्र रचनात्मक जानकारी को कैसे एनकोड करते हैं। उन्होंने व्यवस्थित सामान्यीकरण का परीक्षण करने वाले बेंचमार्क डिजाइन करने के महत्व पर तर्क दिया है, एक चुनौती जिसे मेटा-लर्निंग समुदाय ने उजागर किया है।
वे भाषा और संभाव्य प्रोग्रामिंग के प्रतिच्छेदन में भी रुचि रखते हैं, जिसका उद्देश्य ऐसे मॉडल बनाना है जो रचनात्मक संरचना को बनाए रखते हुए अनिश्चितता के बारे में तर्क कर सकें। 2024 तक, MIT में उनका समूह इन विषयों की जाँच जारी रखे हुए है, जिसमें डीप लर्निंग प्रणालियों को अधिक पारदर्शी और विश्वसनीय बनाने पर ध्यान केंद्रित किया गया है।
यह भी देखें
- जोशुआ टेनेनबाम - संज्ञानात्मक वैज्ञानिक जो रचनात्मकता और सहज भौतिकी पर काम के लिए जाने जाते हैं
- ब्रेंडन लेक - मानव-समान मशीन लर्निंग और व्यवस्थित सामान्यीकरण में शोधकर्ता
- स्टैनफोर्ड AI लैब - भाषा और तर्क में संबंधित शोध वाली एक अन्य संस्था