मार्गरेट मिशेल एक कंप्यूटर वैज्ञानिक और कृत्रिम बुद्धिमत्ता नैतिकता शोधकर्ता हैं, जिन्होंने हगिंग फेस में नैतिक एआई टीम की सह-स्थापना की, जो अपने ओपन-सोर्स मशीन लर्निंग प्लेटफार्मों के लिए जानी जाने वाली कंपनी है। उनका काम मशीन लर्निंग प्रणालियों में पूर्वाग्रह की पहचान करने और उसे कम करने, एआई मॉडल के लिए दस्तावेज़ीकरण प्रथाओं में सुधार करने, और एआई विकास के लिए अधिक समावेशी और जवाबदेह दृष्टिकोण की वकालत करने पर केंद्रित है। उन्होंने अनुसंधान, सार्वजनिक भाषण और एआई प्रणालियों के मूल्यांकन के लिए व्यापक रूप से उपयोग किए जाने वाले ढांचे के निर्माण के माध्यम से इस क्षेत्र में योगदान दिया है।
मिशेल का करियर यह सुनिश्चित करने की प्रतिबद्धता से आकार लिया गया है कि कृत्रिम बुद्धिमत्ता प्रौद्योगिकियों को उनके सामाजिक प्रभावों को ध्यान में रखते हुए विकसित किया जाए। वह एआई प्रणालियों द्वारा हानिकारक रूढ़ियों को कायम रखने के जोखिमों के बारे में विशेष रूप से मुखर रही हैं और मॉडलों के आंतरिक कामकाज को शोधकर्ताओं और जनता के लिए अधिक पारदर्शी बनाने के तरीकों पर काम किया है। उनके प्रयासों ने उन्हें एआई नैतिकता के उभरते अनुशासन में एक प्रमुख आवाज के रूप में स्थापित किया है, जो डीप लर्निंग और जनरेटिव एआई जैसी प्रौद्योगिकियों के नैतिक निहितार्थों की जांच करता है।
प्रारंभिक करियर और अनुसंधान
मिशेल ने अपनी पेशेवर यात्रा प्राकृतिक भाषा प्रसंस्करण में शुरू की, जो एआई का एक उपक्षेत्र है जो कंप्यूटर को मानव भाषा को समझने और उत्पन्न करने में सक्षम बनाने पर केंद्रित है। उन्होंने कंप्यूटर विज्ञान में पीएचडी अर्जित की, जहां उनके शुरुआती शोध ने पता लगाया कि भाषा मॉडल शब्दों और अवधारणाओं के बीच संबंध कैसे सीखते हैं। इस मूलभूत कार्य ने उन्हें यह जांचने के लिए प्रेरित किया कि ये मॉडल उस डेटा से सामाजिक पूर्वाग्रहों को अनजाने में कैसे शामिल कर सकते हैं, जिस पर उन्हें प्रशिक्षित किया जाता है, जैसे कि लिंग, नस्ल और जातीयता से संबंधित।
एक शोधकर्ता के रूप में अपने समय के दौरान, उन्होंने शब्द एम्बेडिंग में पूर्वाग्रह को मापने के तरीकों को विकसित करने के लिए अन्य वैज्ञानिकों के साथ सहयोग किया, जो कई तंत्रिका नेटवर्क मॉडल द्वारा उपयोग किए जाने वाले शब्दों के संख्यात्मक प्रतिनिधित्व हैं। उनके निष्कर्षों ने इस बात पर प्रकाश डाला कि बड़े पाठ कोषों पर प्रशिक्षित एआई प्रणालियाँ अक्सर उन पाठों में मौजूद पूर्वाग्रहों को प्रतिबिंबित करती हैं, एक समस्या जो बड़े भाषा मॉडल के पैमाने और प्रभाव में बढ़ने के साथ तेजी से महत्वपूर्ण हो गई है।
Google और Microsoft में योगदान
मिशेल ने Google में काम किया, जहाँ वह कंपनी के एआई नैतिकता प्रभाग में वरिष्ठ शोध वैज्ञानिक थीं। Google में, उन्होंने मॉडल कार्ड पर एक मौलिक पेपर का सह-लेखन किया, जो एक दस्तावेज़ीकरण ढांचा है जो एआई डेवलपर्स को एक मॉडल के इच्छित उपयोग, प्रदर्शन और सीमाओं के बारे में जानकारी प्रकट करने के लिए प्रोत्साहित करता है। मॉडल कार्ड दृष्टिकोण को तब से कई संगठनों द्वारा जिम्मेदार एआई तैनाती के लिए एक सर्वोत्तम अभ्यास के रूप में अपनाया गया है।
Google में उनके कार्यकाल में ट्रांसफार्मर आर्किटेक्चर की नैतिक चुनौतियों का अध्ययन भी शामिल था, जो आधुनिक भाषा मॉडल के निर्माण खंड हैं। उन्होंने जांच की कि ये मॉडल पक्षपाती आउटपुट कैसे उत्पन्न कर सकते हैं और नुकसान को कम करने के लिए रणनीतियों पर काम किया, जैसे प्रशिक्षण डेटा को फ़िल्टर करना और निष्पक्षता के लिए जिम्मेदार मूल्यांकन मेट्रिक्स विकसित करना। Google छोड़ने के बाद, वह Microsoft में शामिल हुईं, जहाँ उन्होंने अपना नैतिकता अनुसंधान जारी रखा और एआई प्रणालियों को अधिक न्यायसंगत बनाने के उद्देश्य से परियोजनाओं में योगदान दिया।
हगिंग फेस में नैतिक एआई की सह-स्थापना
2021 में, मिशेल ने हगिंग फेस में नैतिक एआई टीम की सह-स्थापना की, एक कंपनी जो मशीन लर्निंग के लिए ओपन-सोर्स उपकरण और लाइब्रेरी प्रदान करती है। हगिंग फेस में, उन्होंने कंपनी के उत्पाद विकास में नैतिकता को एकीकृत करने के लिए पहल का नेतृत्व किया है, जिसमें ऐसे उपकरणों का निर्माण शामिल है जो उपयोगकर्ताओं को पूर्वाग्रह और विषाक्तता के लिए मॉडल की ऑडिट करने की अनुमति देते हैं। उनकी टीम ने एआई को प्रशिक्षित करने के लिए उपयोग किए जाने वाले डेटासेट की पारदर्शिता में सुधार करने पर भी काम किया है, समुदाय को उनके डेटा की उत्पत्ति और संभावित पूर्वाग्रहों का दस्तावेजीकरण करने के लिए प्रोत्साहित किया है।
उनके नेतृत्व में, नैतिक एआई टीम ने एआई प्रशिक्षण के पर्यावरणीय प्रभाव और एआई विकास में विविध दृष्टिकोणों को शामिल करने के महत्व जैसे विषयों पर शोध प्रकाशित किया है। मिशेल अंतःविषय सहयोग की वकालत करने वाली भी रही हैं, जो एआई द्वारा उत्पन्न जटिल चुनौतियों का समाधान करने के लिए कंप्यूटर वैज्ञानिकों, सामाजिक वैज्ञानिकों और नीति निर्माताओं को एक साथ लाती हैं। हगिंग फेस में उनकी भूमिका ने उन्हें ओपन-सोर्स एआई समुदाय में एक प्रमुख व्यक्ति बना दिया है, जहाँ उन्होंने इस विचार का समर्थन किया है कि नैतिकता एआई अनुसंधान का एक मुख्य घटक होना चाहिए न कि एक बाद का विचार।
वकालत और सार्वजनिक जुड़ाव
अपने तकनीकी काम के अलावा, मिशेल एआई नैतिकता पर एक सक्रिय सार्वजनिक टिप्पणीकार रही हैं। उन्होंने सरकारी निकायों के समक्ष गवाही दी है और एआई उद्योग में विनियमन और जवाबदेही की आवश्यकता के बारे में अंतर्राष्ट्रीय सम्मेलनों में बात की है। उन्होंने कुछ कंपनियों की गति और लाभ को सुरक्षा पर प्राथमिकता देने की प्रवृत्ति की आलोचना की है, यह तर्क देते हुए कि ऐसी प्रथाएँ हाशिए के समुदायों के लिए हानिकारक परिणाम पैदा कर सकती हैं।
मिशेल ने एआई कार्यबल में विविधता के मुद्दे को भी संबोधित किया है, यह देखते हुए कि विविध पृष्ठभूमि की कमी वाली टीमें संभावित नुकसान को अनदेखा करने की अधिक संभावना रखती हैं। उन्होंने विश्वविद्यालयों और कंपनियों को ऐसे वातावरण बनाने के लिए प्रोत्साहित किया है जहाँ प्रतिशोध के डर के बिना नैतिक चिंताओं को उठाया जा सके। उनकी वकालत ने शोधकर्ताओं की एक नई पीढ़ी को अपने काम के सामाजिक आयामों पर विचार करने के लिए प्रेरित किया है, जो एआई के भीतर एक मान्यता प्राप्त क्षेत्र के रूप में नैतिकता के विकास में योगदान देता है।
मान्यता और विरासत
मिशेल के योगदान को शैक्षणिक और उद्योग संगठनों से पुरस्कार और सम्मान के साथ मान्यता दी गई है। उन्हें कई प्रकाशनों द्वारा एआई में सबसे प्रभावशाली लोगों में से एक नामित किया गया है, और उनके पेपर नैतिकता साहित्य में व्यापक रूप से उद्धृत हैं। मॉडल कार्ड और पूर्वाग्रह शमन पर उनका काम एआई चिकित्सकों के लिए मानक संदर्भ सामग्री बन गया है, और वह जिम्मेदार एआई के आसपास की बातचीत को आकार देती रही हैं।
2020 के दशक के मध्य तक, मिशेल एक सक्रिय शोधकर्ता और वकील बनी हुई हैं, जो एआई में उभरते नैतिक मुद्दों को संबोधित करने वाली परियोजनाओं पर काम कर रही हैं, जैसे कि रचनात्मक उद्योगों में जनरेटिव एआई उपकरणों की तैनाती और निगरानी में एआई का उपयोग। उनकी विरासत उनके इस आग्रह से परिभाषित होती है कि प्रौद्योगिकी को मानवता की समान रूप से सेवा करनी चाहिए, एक सिद्धांत जिसने शैक्षणिक अनुसंधान और उद्योग अभ्यास दोनों को प्रभावित किया है। उन्हें एआई को अधिक पारदर्शी, निष्पक्ष और जवाबदेह बनाने के आंदोलन में एक प्रमुख व्यक्ति माना जाता है।