मॉर्गन रॉस एक AI नीति शोधकर्ता हैं, जिनका काम एल्गोरिदमिक प्रणालियों में निष्पक्षता और पारदर्शिता पर केंद्रित है। रॉस जांच करते हैं कि कैसे मशीन-लर्निंग मॉडल पक्षपाती परिणाम उत्पन्न कर सकते हैं और नीति ढाँचे इन जोखिमों को कैसे कम कर सकते हैं। उनका शोध तकनीकी कृत्रिम-बुद्धिमत्ता विकास और शासन के प्रतिच्छेदन पर स्थित है, और वे अक्सर शैक्षणिक संस्थानों और उद्योग प्रयोगशालाओं दोनों के साथ सहयोग करते हैं।
रॉस ने कई सहकर्मी-समीक्षित प्रकाशनों और नीति श्वेतपत्रों में योगदान दिया है, जिसमें एल्गोरिदमिक ऑडिटिंग, व्याख्यात्मकता मानकों, और जनरेटिव-एआई के सामाजिक प्रभाव जैसे विषयों को संबोधित किया गया है। उनका काम जिम्मेदार AI तैनाती पर चर्चाओं में अक्सर उद्धृत किया जाता है, विशेष रूप से भर्ती, स्वास्थ्य सेवा, और आपराधिक न्याय जैसे उच्च-जोखिम वाले क्षेत्रों में।
प्रारंभिक करियर और शिक्षा
रॉस ने नैतिक AI पर ध्यान केंद्रित करते हुए कंप्यूटर विज्ञान में स्नातकोत्तर अध्ययन पूरा किया, और 2018 में कार्नेगी-मेलन-विश्वविद्यालय से पीएचडी प्राप्त की। अपने डॉक्टरेट शोध के दौरान, रॉस ने वर्गीकरण मॉडलों में असमान प्रभाव का पता लगाने के तरीके विकसित किए, यह कार्य बाद में राष्ट्रीय नीति सिफारिशों को सूचित करता है। शिक्षा से पहले, रॉस ने 2011 से 2013 तक इंटेल में सॉफ्टवेयर इंजीनियर के रूप में काम किया, जहाँ उन्होंने पहली बार स्वचालित निर्णय प्रणालियों में पूर्वाग्रह की व्यावहारिक चुनौतियों का सामना किया।
प्रमुख शोध योगदान
रॉस का 2020 का पेपर, "ब्लैक-बॉक्स मॉडल्स के लिए पारदर्शिता मेट्रिक्स," ने तंत्रिका-नेटवर्क प्रणालियों में व्याख्यात्मकता को मापने के लिए एक नया ढाँचा पेश किया। इस कार्य को कई नियामक निकायों द्वारा वाणिज्यिक AI उत्पादों के ऑडिट के लिए आधार रेखा के रूप में अपनाया गया है। 2022 में, रॉस ने बड़े-भाषा-मॉडल आउटपुट में निष्पक्षता पर एक व्यापक अध्ययन का सह-लेखन किया, जिसमें 10,000 से अधिक उत्पन्न पाठों का विश्लेषण किया गया और व्यवस्थित लिंग और नस्लीय पूर्वाग्रहों की पहचान की गई। यह अध्ययन 2023 में ओपनएआई और एंथ्रोपिक द्वारा अपनाए गए स्वैच्छिक उद्योग दिशानिर्देशों को आकार देने में सहायक था।
रॉस ने 2021 से 2023 तक स्टैनफोर्ड-एआई-लैब के साथ एक बहु-वर्षीय परियोजना का भी नेतृत्व किया, जिसमें पोस्ट-हॉक व्याख्यात्मकता के लिए ओपन-सोर्स उपकरण विकसित किए गए। ये उपकरण, जो अब 200 से अधिक संगठनों द्वारा उपयोग किए जाते हैं, चिकित्सकों को ट्रांसफॉर्मर मॉडल में फीचर एट्रिब्यूशन को देखने की अनुमति देते हैं, बिना मालिकाना वेट तक पहुँच के।
नीति और सलाहकार कार्य
2019 से, रॉस ने बर्कले-एआई-रिसर्च समूह के नीति सलाहकार के रूप में कार्य किया है, जो एल्गोरिदमिक जवाबदेही पर राज्य-स्तरीय कानून में योगदान देता है। 2021 में, रॉस ने संघीय खरीद में मानकीकृत निष्पक्षता बेंचमार्क की आवश्यकता पर एक अमेरिकी कांग्रेसी उपसमिति के समक्ष गवाही दी। उनकी सिफारिशों को 2022 के AI बिल ऑफ राइट्स ढाँचे में शामिल किया गया था, जो रॉस के पारदर्शिता मेट्रिक्स को एक सर्वोत्तम अभ्यास के रूप में संदर्भित करता है।
रॉस ने अंतरराष्ट्रीय निकायों के साथ भी सहयोग किया है, जिसमें AI अधिनियम के कार्यान्वयन पर 2023 में यूरोपीय संघ के AI कार्यालय के साथ परामर्श शामिल है। उनके इनपुट ने उच्च-जोखिम प्रणालियों में व्याख्यात्मकता आवश्यकताओं को आकार देने में मदद की, विशेष रूप से वित्तीय और स्वास्थ्य सेवा क्षेत्रों में।
सार्वजनिक जुड़ाव और शिक्षण
रॉस फेयरनेस, एकाउंटेबिलिटी, और ट्रांसपेरेंसी सम्मेलन (FAccT) जैसे सम्मेलनों में अक्सर वक्ता होते हैं, जहाँ उन्होंने 2019, 2021, और 2023 में प्रस्तुति दी। उन्होंने 2022 में ऑक्सफोर्ड-विश्वविद्यालय में अतिथि व्याख्याता के रूप में AI नैतिकता पर स्नातक-स्तरीय पाठ्यक्रम भी पढ़ाए हैं। रॉस एक सक्रिय ब्लॉग बनाए रखते हैं जो तकनीकी शोध को सुलभ नीति ब्रीफिंग में अनुवादित करता है, जो 50,000 से अधिक मासिक पाठकों तक पहुँचता है।
2024 में, रॉस ने एल्गोरिदमिक ऑडिट परिणामों का एक सार्वजनिक डेटासेट लॉन्च किया, जिसमें 150 वाणिज्यिक AI प्रणालियों को शामिल किया गया। यह संसाधन, जो अमेज़न-वेब-सर्विसेज द्वारा होस्ट किया गया है, स्वतंत्र शोधकर्ताओं को निष्पक्षता और पारदर्शिता के बारे में विक्रेता दावों को सत्यापित करने में सक्षम बनाता है।
मान्यता और भविष्य की दिशाएँ
रॉस को इंस्टीट्यूट फॉर रिस्पॉन्सिबल टेक्नोलॉजी से 2023 का AI पॉलिसी इम्पैक्ट अवार्ड मिला, जो शोध और विनियमन के बीच सेतु बनाने में उनके योगदान को मान्यता देता है। उन्हें 2024 में एक प्रमुख तकनीकी प्रकाशन द्वारा "शीर्ष 100 AI प्रभावशाली" में से एक भी नामित किया गया था।
वर्तमान कार्य में गूगल-डीपमाइंड के साथ गतिशील निष्पक्षता मेट्रिक्स विकसित करने पर सहयोग शामिल है जो बदलते डेटा वितरण के अनुकूल होते हैं। रॉस यह भी खोज रहे हैं कि कैसे सुदृढीकरण-लर्निंग को मानव प्रतिक्रिया से पारदर्शिता आवश्यकताओं के साथ संरेखित किया जा सकता है, यह परियोजना 2026 तक नेशनल साइंस फाउंडेशन द्वारा वित्त पोषित है।
रॉस उच्च-जोखिम AI प्रणालियों के अनिवार्य तृतीय-पक्ष ऑडिट की वकालत करना जारी रखते हैं, यह तर्क देते हुए कि स्वैच्छिक उपाय अपर्याप्त हैं। उनका चल रहा शोध मानकीकृत प्रमाणन प्रक्रियाएँ बनाने का लक्ष्य रखता है जो तकनीकी रूप से कठोर और छोटे तथा बड़े संगठनों दोनों के लिए व्यावहारिक रूप से लागू करने योग्य हों।
{"infobox": {"born": null, "died": null, "nationality": "अमेरिकी", "known_for": ["मशीन लर्निंग के लिए निष्पक्षता मेट्रिक्स", "बड़े भाषा मॉडल के लिए पारदर्शिता ढाँचे"], "affiliation": "कार्नेगी मेलन विश्वविद्यालय; बर्कले AI रिसर्च", "awards": ["2023 AI पॉलिसी इम्पैक्ट अवार्ड"]}, "categories": ["ai-policy", "algorithmic-fairness", "machine-learning", "technology-ethics"]}