Timnit Gebru एक कंप्यूटर वैज्ञानिक और AI नैतिकता शोधकर्ता हैं, जो व्यापक रूप से उद्धृत पेपर "On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?" के सह-लेखन और दिसंबर 2020 में Google से अपने चर्चित प्रस्थान के लिए जानी जाती हैं।
Gebru ने फेई-फेई ली के अधीन स्टैनफोर्ड विश्वविद्यालय में कंप्यूटर विज़न में पीएचडी प्राप्त की, और उनके शुरुआती शोध में कंप्यूटर विज़न के भीतर वाणिज्यिक चेहरे की पहचान और विश्लेषण प्रणालियों में जनसांख्यिकीय पूर्वाग्रह के अध्ययन शामिल थे, जो कि अप्रतिनिधित्वपूर्ण डेटा पर प्रशिक्षित AI प्रणालियों में एल्गोरिदमिक पूर्वाग्रह पर शोध के व्यापक निकाय में योगदान देने वाला कार्य था। वह आगे चलकर Google की Ethical AI टीम की सह-नेतृत्वकर्ता बनीं, जो उस समय सबसे प्रमुख कॉर्पोरेट AI नैतिकता अनुसंधान समूहों में से एक थी।
Stochastic Parrots और Google से प्रस्थान
2021 में, Gebru, एमिली बेंडर, एंजेलिना मैकमिलन-मेजर और, Google की आपत्तियों के कारण छद्म नाम के तहत, मार्गरेट मिशेल ने "On the Dangers of Stochastic Parrots" प्रकाशित किया, एक पेपर जिसमें तर्क दिया गया कि भाषा मॉडल के रूप में बड़े होते जा रहे मॉडल, जो बिना क्यूरेट किए वेब टेक्स्ट पर प्रशिक्षित होते हैं, पर्यावरणीय लागत, एनकोडेड सामाजिक पूर्वाग्रह, प्रशिक्षण डेटा के बारे में अस्पष्टता, और यह जोखिम कि धाराप्रवाह आउटपुट को वास्तविक समझ के रूप में गलत समझा जाएगा, सहित जोखिम पैदा करते हैं - यह स्टोकेस्टिक तोता आलोचना है। Google में पेपर पर आंतरिक असहमति, जिसमें Gebru और उनके सह-लेखकों से इसे वापस लेने या अपने नाम हटाने का अनुरोध शामिल था, ने एक सार्वजनिक विवाद को जन्म दिया; Google ने कहा कि Gebru ने इस्तीफा दिया, जबकि Gebru और कई पर्यवेक्षकों ने उनके प्रस्थान को नौकरी से निकाले जाने के रूप में चित्रित किया। यह प्रकरण, उनकी Ethical AI सह-नेता मार्गरेट मिशेल के बाद के प्रस्थान के साथ, AI अनुसंधान समुदाय के अंदर और बाहर व्यापक ध्यान आकर्षित करता है और बड़ी प्रौद्योगिकी कंपनियों के भीतर AI नैतिकता अनुसंधान पर बहस में एक मील का पत्थर मामला बन गया।
DAIR
2021 में, Gebru ने Distributed AI Research Institute (DAIR) की स्थापना की, एक स्वतंत्र, गैर-कॉर्पोरेट अनुसंधान संस्थान जो AI के नुकसानों का अध्ययन करने पर केंद्रित है, विशेष रूप से हाशिए पर पड़े समुदायों पर, और जानबूझकर बड़ी तकनीकी कंपनियों के वित्तपोषण और प्रोत्साहन दबावों के बाहर संरचित है। DAIR के माध्यम से, Gebru ने AI नैतिकता, AI शासन और बड़े भाषा मॉडल और जनरेटिव AI प्रणालियों के विस्तार के जोखिमों पर प्रकाशन और भाषण जारी रखा है, बिना उनकी सामाजिक लागतों पर पर्याप्त ध्यान दिए।
प्रभाव
Gebru का मामला अक्सर इस चर्चा में उद्धृत किया जाता है कि क्या आंतरिक कॉर्पोरेट AI नैतिकता टीमें उन कंपनियों के उत्पादों को सार्थक रूप से सीमित कर सकती हैं जो उन्हें नियोजित करती हैं, और Stochastic Parrots पेपर जनरेटिव AI युग के सबसे अधिक उद्धृत आलोचनात्मक पेपरों में से एक बना हुआ है, जो AI विकास में प्राथमिक रणनीति के रूप में पैमाने की लागत और सीमाओं पर बहस को आकार देना जारी रखता है।