सोरेल फ्रीडलर एक कंप्यूटर वैज्ञानिक और हैवरफोर्ड कॉलेज में प्रोफेसर हैं, जहाँ वे मशीन लर्निंग में एल्गोरिदमिक निष्पक्षता और पारदर्शिता पर शोध का नेतृत्व करती हैं। उन्हें स्वचालित निर्णय-निर्माण प्रणालियों में निष्पक्षता को परिभाषित करने और लागू करने में उनके योगदान के लिए पहचाना जाता है, विशेष रूप से ACM FAT* (निष्पक्षता, जवाबदेही और पारदर्शिता) सम्मेलन की सह-अध्यक्ष के रूप में उनकी भूमिका के माध्यम से। उनका काम सैद्धांतिक कंप्यूटर विज्ञान और कृत्रिम बुद्धिमत्ता के सामाजिक निहितार्थों के बीच सेतु का कार्य करता है।
फ्रीडलर का शोध इस बात पर केंद्रित है कि डेटा और एल्गोरिदम में पूर्वाग्रह सामाजिक असमानताओं को कैसे बनाए रख सकते हैं या बढ़ा सकते हैं। उन्होंने निष्पक्षता के गणितीय आधारों पर प्रभावशाली पेपर प्रकाशित किए हैं, जिसमें कई निष्पक्षता मानदंडों को एक साथ संतुष्ट करने की असंभवता शामिल है। उनके विद्वत्तापूर्ण कार्य ने भर्ती, आपराधिक न्याय और ऋण देने में मशीन लर्निंग के उपयोग के आसपास नीति चर्चाओं को आकार दिया है।
शैक्षणिक करियर
फ्रीडलर ने मैरीलैंड विश्वविद्यालय से कंप्यूटर विज्ञान में पीएचडी प्राप्त की, जहाँ उन्होंने कम्प्यूटेशनल ज्यामिति और टोपोलॉजी का अध्ययन किया। वे 2012 में हैवरफोर्ड कॉलेज के संकाय में शामिल हुईं, और कंप्यूटर विज्ञान विभाग में स्थायी प्रोफेसर बनीं। हैवरफोर्ड में, उन्होंने डेटा साइंस कार्यक्रम की स्थापना की और कई स्नातक शोधकर्ताओं को मार्गदर्शन दिया, जिनमें से कई कंप्यूटिंग में स्नातकोत्तर अध्ययन के लिए आगे बढ़े हैं।
कम्प्यूटेशनल ज्यामिति में उनका प्रारंभिक कार्य बाद के एल्गोरिदमिक विश्लेषण के लिए आधार तैयार करता है। उन्होंने उच्च-आयामी डेटा संरचनाओं को समझने के लिए टोपोलॉजिकल डेटा विश्लेषण लागू किया, जिसने निष्पक्षता मेट्रिक्स पर उनके बाद के ध्यान को सूचित किया। फ्रीडलर ने कार्नेगी मेलन विश्वविद्यालय सहित संस्थानों में विजिटिंग पदों पर कार्य किया है और शिक्षा जगत और उद्योग के शोधकर्ताओं के साथ सहयोग किया है।
निष्पक्षता अनुसंधान
फ्रीडलर का 2016 का महत्वपूर्ण पेपर, "निष्पक्षता की (अ)संभावना पर," सह-लेखकों के साथ, यह प्रदर्शित किया कि कोई भी एकल एल्गोरिदम सभी सामान्य निष्पक्षता परिभाषाओं को एक साथ संतुष्ट नहीं कर सकता। यह परिणाम, जिसे असंभवता प्रमेय के रूप में जाना जाता है, एल्गोरिदमिक निष्पक्षता साहित्य का आधारशिला बन गया है। पेपर ने व्यक्तिगत निष्पक्षता (समान व्यक्तियों के साथ समान व्यवहार) और समूह निष्पक्षता (जनसांख्यिकीय समूहों में समान परिणाम) के बीच अंतर को औपचारिक रूप दिया।
उन्होंने "रचनात्मक निष्पक्षता" की अवधारणा विकसित की, जो डेटा में अप्राप्य वास्तविक विशेषताओं और अवलोकनीय प्रॉक्सी के बीच के अंतर को ध्यान में रखती है। यह ढांचा चिकित्सकों को यह पहचानने में मदद करता है कि निष्पक्षता हस्तक्षेप कब सार्थक हैं। फ्रीडलर के काम ने एल्गोरिदम के ऑडिट के लिए व्यावहारिक उपकरण भी पेश किए, जिसमें वर्गीकरण प्रणालियों में असमान प्रभाव का पता लगाने के तरीके शामिल हैं।
उनके शोध को राष्ट्रीय विज्ञान फाउंडेशन और मोज़िला फाउंडेशन से अनुदान द्वारा समर्थित किया गया है। उन्होंने स्वचालित निर्णय-निर्माण में पारदर्शिता की आवश्यकता पर सरकारी निकायों के समक्ष गवाही दी है और नागरिक समाज संगठनों को एल्गोरिदमिक जवाबदेही पर सलाह दी है।
FAT* सम्मेलन नेतृत्व
फ्रीडलर ने 2018 में क्षेत्र के अन्य प्रमुख शोधकर्ताओं के साथ ACM FAT* सम्मेलन (अब ACM FAccT) की सह-अध्यक्ष के रूप में कार्य किया। यह सम्मेलन, जो 2014 में एक कार्यशाला के रूप में शुरू हुआ, सामाजिक-तकनीकी प्रणालियों में निष्पक्षता, जवाबदेही और पारदर्शिता पर अंतःविषय अनुसंधान के लिए प्राथमिक स्थल बन गया है। उनके सह-अध्यक्षत्व के दौरान, इस आयोजन ने अधिक सामाजिक विज्ञान और कानूनी दृष्टिकोण शामिल करने के लिए अपना दायरा बढ़ाया।
उन्होंने सम्मेलन की सहकर्मी-समीक्षा प्रक्रिया स्थापित करने में मदद की जो अनुसंधान की पुनरुत्पादकता और नैतिक समीक्षा पर जोर देती है। फ्रीडलर प्रमुख तंत्रिका नेटवर्क और गहन शिक्षण सम्मेलनों में संबंधित कार्यशालाओं के आयोजन में भी शामिल रही हैं, जिससे मुख्यधारा के एआई अनुसंधान समुदायों में निष्पक्षता विचार लाए गए हैं।
शिक्षण और वकालत
हैवरफोर्ड में, फ्रीडलर ने डेटा नैतिकता और एल्गोरिदमिक न्याय पर पाठ्यक्रम विकसित किए, जिसमें कंप्यूटर विज्ञान पाठ्यक्रम में दार्शनिक और कानूनी पाठ शामिल किए गए। वे मानक मशीन लर्निंग शिक्षा में निष्पक्षता विश्लेषण शामिल करने की मुखर समर्थक रही हैं, यह तर्क देते हुए कि सामाजिक संदर्भ के बिना तकनीकी प्रशिक्षण अधूरा है।
उन्होंने प्रभावशाली लेख "मशीन लर्निंग में निष्पक्षता-वर्धक हस्तक्षेपों का तुलनात्मक अध्ययन" सह-लेखन किया, जिसने पूर्वाग्रह कम करने के तरीकों का अनुभवजन्य मूल्यांकन किया। इस कार्य ने चिकित्सकों के लिए व्यावहारिक मार्गदर्शन प्रदान किया और शैक्षणिक और उद्योग दोनों सेटिंग्स में व्यापक रूप से उद्धृत किया गया है। फ्रीडलर ने कई सम्मेलनों में मुख्य भाषण दिए हैं और एल्गोरिदमिक पूर्वाग्रह पर चर्चा करते हुए मीडिया आउटलेट्स में दिखाई दी हैं।
चयनित प्रकाशन
उनके उल्लेखनीय प्रकाशनों में "निष्पक्षता की (अ)संभावना पर" (2016), "निष्पक्षता-वर्धक हस्तक्षेपों का तुलनात्मक अध्ययन" (2019), और "रचनात्मक निष्पक्षता" (2017) शामिल हैं। उनके पेपर ACM सम्मेलन ऑन फेयरनेस, एकाउंटेबिलिटी, एंड ट्रांसपेरेंसी, इंटरनेशनल कॉन्फ्रेंस ऑन मशीन लर्निंग, और जर्नल ऑफ मशीन लर्निंग रिसर्च सहित शीर्ष स्थलों में प्रकाशित हुए हैं। उन्होंने जनरेटिव एआई और स्वचालित प्रणालियों के नैतिक निहितार्थों पर सार्वजनिक-मुखी आउटलेट्स के लिए भी लिखा है।
फ्रीडलर का चल रहा काम उभरती प्रौद्योगिकियों में निष्पक्षता की जांच करता है, जिसमें बड़े पैमाने पर ट्रांसफॉर्मर मॉडल और वास्तविक दुनिया के अनुप्रयोगों में उनकी तैनाती शामिल है। वे एल्गोरिदमिक ऑडिटिंग के लिए मानक विकसित करने के लिए नीति निर्माताओं और उद्योग समूहों के साथ सहयोग जारी रखती हैं।
मान्यता
फ्रीडलर को उनके शोध और शिक्षण के लिए कई पुरस्कार मिले हैं, जिसमें हैवरफोर्ड कॉलेज लिंडबैक फाउंडेशन पुरस्कार फॉर डिस्टिंग्विश्ड टीचिंग शामिल है। कंप्यूटिंग और समाज में उनके योगदान के लिए उन्हें एसोसिएशन फॉर कंप्यूटिंग मशीनरी का विशिष्ट सदस्य नामित किया गया है। उनके काम को राष्ट्रीय विज्ञान अकादमियों, इंजीनियरिंग और चिकित्सा की रिपोर्टों में एआई के जिम्मेदार विकास पर प्रदर्शित किया गया है।