Inioluwa Deborah Raji (जन्म 1995/1996) एक नाइजीरियाई-कनाडाई कंप्यूटर वैज्ञानिक और सामाजिक-तकनीकी शोधकर्ता हैं, जो एल्गोरिदमिक पूर्वाग्रह, एल्गोरिदमिक जवाबदेही और मशीन लर्निंग प्रणालियों के लिए ऑडिटिंग प्रथाओं में विशेषज्ञता रखती हैं। मोज़िला फेलो के रूप में, उन्हें MIT टेक्नोलॉजी रिव्यू और फोर्ब्स द्वारा दुनिया के अग्रणी युवा नवप्रवर्तकों में से एक के रूप में मान्यता दी गई है। उनके कार्य ने वाणिज्यिक चेहरे की पहचान में पूर्वाग्रह को उजागर करने और AI उद्योग के लिए दस्तावेज़ीकरण और मूल्यांकन मानकों को विकसित करने पर केंद्रित रहा है।
राजी ने पहली बार मशीन लर्निंग स्टार्टअप क्लेरिफ़ाई में इंटर्नशिप के दौरान प्रौद्योगिकी में नस्लीय पूर्वाग्रह का सामना किया, जहाँ उन्होंने देखा कि स्वचालित प्रणालियाँ गोरे लोगों की तुलना में रंगीन लोगों को अधिक बार नॉट-सेफ-फॉर-वर्क (NSFW) सामग्री के रूप में टैग करती थीं। इसने एक शोध पथ की शुरुआत की जिसके परिणामस्वरूप एल्गोरिदमिक जस्टिस लीग और Google की एथिकल AI टीम के साथ सहयोग हुआ, और चेहरे की पहचान क्षेत्र में नीति परिवर्तन और बाजार में बदलाव में योगदान दिया।
प्रारंभिक जीवन और शिक्षा
राजी का जन्म पोर्ट हार्कोर्ट, नाइजीरिया में हुआ था, और चार साल की उम्र में वह मिसिसॉगा, ओंटारियो, कनाडा चली गईं; उनका परिवार बाद में ओटावा में स्थानांतरित हो गया। उन्होंने कर्नल बाय सेकेंडरी स्कूल में अध्ययन किया, जहाँ उन्होंने इंटरनेशनल बैकलॉरिएट कार्यक्रम पूरा किया। उन्होंने टोरंटो विश्वविद्यालय में इंजीनियरिंग साइंस का अध्ययन किया, और 2019 में स्नातक की उपाधि प्राप्त की। अपने स्नातक वर्षों के दौरान, 2015 में, उन्होंने प्रोजेक्ट इनक्लूड की स्थापना की, जो ग्रेटर टोरंटो क्षेत्र में कम आय वाले और अप्रवासी समुदायों के लिए इंजीनियरिंग शिक्षा, मेंटरशिप और संसाधनों तक पहुँच में सुधार लाने के उद्देश्य से एक गैर-लाभकारी संगठन है। अगस्त 2021 में, उन्होंने कैलिफोर्निया विश्वविद्यालय, बर्कले में कंप्यूटर विज्ञान में डॉक्टर ऑफ फिलॉसफी शुरू की।
करियर और अनुसंधान
राजी के शुरुआती करियर में MIT मीडिया लैब और एल्गोरिदमिक जस्टिस लीग में जॉय बुओलामविनी के साथ काम करना शामिल था: उनके AI ऑडिटिंग अनुसंधान ने माइक्रोसॉफ्ट, अमेज़न, IBM, फेस++ और कैरोस के वाणिज्यिक चेहरे की पहचान प्रणालियों की जाँच की। उनके निष्कर्षों से पता चला कि ये प्रौद्योगिकियाँ गोरे पुरुषों की तुलना में गहरे रंग की महिलाओं के लिए काफी कम सटीक थीं: त्रुटियाँ अक्सर गहरे रंग की महिलाओं के लिए 35% की विफलता दर के करीब पहुँच जाती थीं, जबकि गोरे पुरुषों के लिए 1% से कम थीं। प्रमुख शोधकर्ताओं के समर्थन और सार्वजनिक अभियानों के साथ, इस कार्य ने IBM और अमेज़न को चेहरे की पहचान विनियमन का समर्थन करने और बाद में कम से कम एक वर्ष के लिए कानून प्रवर्तन को अपने सिस्टम की बिक्री रोकने के लिए मजबूर किया।
क्लेरिफ़ाई में, राजी ने एक मशीन लर्निंग मॉडल पर काम किया जिसे अनुचित छवियों को NSFW के रूप में चिह्नित करने के लिए डिज़ाइन किया गया था, जहाँ उन्होंने पहली बार नस्ल के आधार पर असमान प्रभाव की पहचान की। बाद में उन्होंने Google में एक शोध मेंटरशिप कार्यक्रम में भाग लिया, जहाँ उन्होंने अपनी एथिकल AI टीम के साथ मिलकर मॉडल कार्ड विकसित करने में सहयोग किया - तंत्रिका नेटवर्क मॉडल विशेषताओं की पारदर्शी रिपोर्टिंग के लिए एक मानकीकृत दस्तावेज़ीकरण ढाँचा। राजी ने Google में आंतरिक ऑडिटिंग प्रथाओं का सह-नेतृत्व किया, AAAI सम्मेलन और ACM सम्मेलन में निष्पक्षता, जवाबदेही और पारदर्शिता पर कार्य प्रस्तुत किया।
2019 में, वह पार्टनरशिप ऑन AI में एक ग्रीष्मकालीन शोध फेलो थीं, जो उद्योग-व्यापी मशीन लर्निंग पारदर्शिता मानकों और बेंचमार्किंग मानदंडों पर केंद्रित थीं। न्यूयॉर्क विश्वविद्यालय में AI नाउ संस्थान में एक टेक फेलो के रूप में, उन्होंने डीप लर्निंग इंजीनियरिंग अभ्यास में नैतिक विचारों को संचालित करने पर शोध में योगदान दिया। उनकी वर्तमान मोज़िला फेलोशिप एल्गोरिदमिक ऑडिटिंग और मूल्यांकन विधियों का पता लगाना जारी रखती है।
सार्वजनिक मान्यता और मीडिया
राजी के कार्य को 2020 की वृत्तचित्र कोडेड बायस के माध्यम से व्यापक ध्यान मिला, जिसका निर्देशन शालिनी कांतया ने किया था, जिसमें अन्य प्रमुख शोधकर्ताओं के साथ उनके योगदान को दिखाया गया था। उन्होंने 2026 की वृत्तचित्र द AI डॉक: ऑर हाउ आई बिकेम एन एपोकैलॉप्टिमिस्ट में भी भाग लिया, जिसका निर्देशन डैनियल रोहर ने किया था। उनके निष्कर्षों को चेहरे की पहचान प्रतिबंधों और AI शासन के आसपास नीति बहसों में उद्धृत किया गया है।AI प्रणालियाँ"जनरेटिव AI"[BUT]*पुरस्कारों की ओर मोड़
पुरस्कार
राजी को जिम्मेदार AI में उनके योगदान को स्वीकार करते हुए कई सम्मान प्राप्त हुए हैं। 2019 में, उन्होंने जॉय बुओलामविनी और टिमनिट गेब्रू के साथ AI फॉर गुड श्रेणी में वेंचर बीट AI इनोवेशन अवार्ड साझा किया। अगले वर्ष, उन्हें MIT टेक्नोलॉजी रिव्यू 35 अंडर 35 इनोवेटर के रूप में मान्यता दी गई और उन्हें EFF पायनियर अवार्ड मिला, फिर से बुओलामविनी और गेब्रू के साथ संयुक्त रूप से। 2021 में, उन्होंने एंटरप्राइज़ टेक्नोलॉजी में फोर्ब्स 30 अंडर 30 अवार्ड अर्जित किया और उन्हें 100 ब्रिलियंट वीमेन इन AI एथिक्स हॉल ऑफ फेम सम्मानित किया गया। 2023 में, टाइम पत्रिका ने उन्हें AI में 100 सबसे प्रभावशाली लोगों में सूचीबद्ध किया। ये प्रशंसाएँ मशीन लर्निंग प्रणालियों के लिए अधिक जवाबदेही की दिशा में उद्योग प्रथाओं को बदलने में उनके प्रभाव को दर्शाती हैं।