पर्सी लियांग स्टैनफोर्ड विश्वविद्यालय में कंप्यूटर विज्ञान के प्रोफेसर हैं और स्टैनफोर्ड इंस्टीट्यूट फॉर ह्यूमन-सेंटर्ड आर्टिफिशियल इंटेलिजेंस (HAI) के भीतर सेंटर फॉर रिसर्च ऑन फाउंडेशन मॉडल्स (CRFM) के निदेशक हैं।
लियांग का प्रारंभिक शोध प्राकृतिक भाषा प्रसंस्करण के लिए सांख्यिकीय और तंत्रिका दृष्टिकोणों पर केंद्रित था, जिसमें सिमेंटिक पार्सिंग और प्रतिकूल इनपुट के प्रति NLP प्रणालियों की मजबूती का परीक्षण करने के तरीके शामिल थे। उन्होंने 2010 के दशक की शुरुआत में स्टैनफोर्ड संकाय में प्रवेश किया और एक शोध समूह बनाया जो NLP, मशीन लर्निंग सिद्धांत और, तेजी से, उन बड़े पैमाने के पूर्व-प्रशिक्षित मॉडलों पर काम करता था जो ट्रांसफॉर्मर वास्तुकला की शुरुआत के बाद के वर्षों में इस क्षेत्र पर हावी हो गए।
फाउंडेशन मॉडल
2021 में, लियांग स्टैनफोर्ड पेपर "ऑन द ऑपर्चुनिटीज़ एंड रिस्क्स ऑफ फाउंडेशन मॉडल्स" के प्रमुख आयोजक और सह-लेखक थे, जिसने फाउंडेशन मॉडल शब्द को पेश और लोकप्रिय बनाया, जो जीपीटी-3 और बर्ट जैसे बड़े मॉडलों का वर्णन करता है, जो व्यापक डेटा पर बड़े पैमाने पर प्रशिक्षित होते हैं और फाइन-ट्यूनिंग या इन-कॉन्टेक्स्ट लर्निंग के माध्यम से विभिन्न डाउनस्ट्रीम कार्यों के लिए अनुकूलनीय होते हैं। पेपर ने तर्क दिया कि फाउंडेशन मॉडल की ओर बदलाव एआई अनुसंधान में एक सार्थक प्रतिमान परिवर्तन का प्रतिनिधित्व करता है और समरूपीकरण के आसपास के जोखिमों को चिह्नित किया, क्योंकि कुछ व्यापक रूप से पुनः उपयोग किए जाने वाले फाउंडेशन मॉडलों में दोष या पूर्वाग्रह कई डाउनस्ट्रीम अनुप्रयोगों में फैल सकते हैं।
HELM और मूल्यांकन
लियांग भाषा मॉडलों के कठोर, पारदर्शी मूल्यांकन के प्रमुख समर्थक रहे हैं। उनके समूह ने HELM (होलिस्टिक इवैल्यूएशन ऑफ लैंग्वेज मॉडल्स) बनाया, जो एक बेंचमार्क सूट है जिसे कई परिदृश्यों और मेट्रिक्स में एक साथ मॉडलों का मूल्यांकन करने के लिए डिज़ाइन किया गया है, जिसमें सटीकता, अंशांकन, मजबूती, निष्पक्षता और दक्षता शामिल है, बजाय एकल लीडरबोर्ड संख्या को अनुकूलित करने के जैसा कि एमएमएलयू जैसे पहले के बेंचमार्क का उपयोग किया जाता था। HELM को आंशिक रूप से बेंचमार्क संतृप्ति और गेमिंग के बारे में चिंताओं की प्रतिक्रिया के रूप में डिज़ाइन किया गया था, जिसका उद्देश्य कई प्रदाताओं के मॉडलों के व्यवहार की एक व्यापक और अधिक प्रतिलिपि प्रस्तुत करने योग्य तस्वीर देना था।
प्रभाव
CRFM के माध्यम से, लियांग ने फाउंडेशन मॉडल पारिस्थितिकी तंत्र को ट्रैक करने वाले व्यापक रूप से उद्धृत कार्यों को प्रकाशित करना जारी रखा है, जिसमें पारदर्शिता सूचकांक शामिल हैं जो प्रमुख एआई प्रयोगशालाओं को स्कोर करते हैं कि वे अपने मॉडलों के प्रशिक्षण डेटा, कंप्यूट और तैनाती के बारे में कितना खुलासा करते हैं। उनका काम अनुभवजन्य एआई अनुसंधान और एआई नीति के प्रतिच्छेदन पर स्थित है, जिसका उद्देश्य एक ऐसे क्षेत्र में अधिक स्वतंत्र, शैक्षणिक जांच लाना है जो तेजी से मॉडल बनाने वाली प्रयोगशालाओं द्वारा उत्पादित परिणामों और मूल्यांकनों द्वारा हावी हो रहा है, जिनमें ओपनएआई, एंथ्रोपिक और गूगल डीपमाइंड शामिल हैं।