ImageNet Roulette एक वेब-आधारित कला परियोजना है, जिसे कलाकार ट्रेवर पैगलेन और AI शोधकर्ता केट क्रॉफर्ड ने 2019 में बनाया था। यह उपयोगकर्ताओं को अपनी एक तस्वीर अपलोड करने और ImageNet डेटासेट पर प्रशिक्षित मशीन लर्निंग मॉडल द्वारा उत्पन्न एक लेबल प्राप्त करने की अनुमति देता था। यह परियोजना कृत्रिम बुद्धिमत्ता प्रणालियों को प्रशिक्षित करने के लिए उपयोग किए जाने वाले बड़े पैमाने के दृश्य डेटासेट में निहित पूर्वाग्रहों, रूढ़ियों और हानिकारक वर्गीकरणों को उजागर करने के लिए डिज़ाइन की गई थी। इसने "स्लैटर्न," "शराबी," और "असफलता" जैसे लेबल उत्पन्न करने के लिए व्यापक ध्यान आकर्षित किया, जब इसे सामान्य लोगों पर लागू किया गया, जिससे AI प्रशिक्षण डेटा की नैतिकता पर सार्वजनिक बहस छिड़ गई।
यह परियोजना ImageNet के एक उपसमुच्चय पर प्रशिक्षित एक तंत्रिका नेटवर्क का उपयोग करती थी, जिसमें लोगों से संबंधित 2,833 श्रेणियां शामिल थीं, जिनमें से कई पुराने, आपत्तिजनक या अपमानजनक शब्दों से ली गई थीं। पैगलेन और क्रॉफर्ड ने इन श्रेणियों को WordNet से प्राप्त किया, जो एक शाब्दिक डेटाबेस है जो शब्दों को अर्थ संबंधी संबंधों द्वारा समूहित करता है, और इसमें स्वयं ऐतिहासिक पूर्वाग्रह शामिल थे। यह कार्य 2019 बर्लिन ट्रांसमेडियल उत्सव में प्रदर्शित किया गया था और बाद में यह एक ऑनलाइन सनसनी बन गया, जिसमें लाखों उपयोगकर्ताओं ने अपनी तस्वीरों पर इसका परीक्षण किया। 2019 के अंत में कलाकारों द्वारा आलोचना प्राप्त करने के बाद यह परियोजना ऑफ़लाइन कर दी गई, विशेष रूप से हाशिए के समूहों को हुए भावनात्मक नुकसान के कारण, जिन्हें नस्लीय या लिंग-आधारित अपशब्दों से लेबल किया गया था।
पृष्ठभूमि और प्रेरणा
पैगलेन और क्रॉफर्ड ने दृश्य डेटासेट की राजनीति में व्यापक शोध प्रयास के हिस्से के रूप में ImageNet Roulette बनाया। उन्होंने तर्क दिया कि ImageNet जैसे डेटासेट, जिसमें 20,000 श्रेणियों में 14 मिलियन से अधिक छवियां हैं, तटस्थ भंडार नहीं हैं, बल्कि अपने निर्माताओं की सांस्कृतिक और ऐतिहासिक धारणाओं को प्रतिबिंबित करते हैं। परियोजना का उद्देश्य डेटासेट निर्माण में शामिल "अदृश्य" श्रम और निर्णय को दृश्यमान बनाना था, जहां एनोटेटर और क्यूरेटर लोगों और वस्तुओं को वर्गीकृत करने के तरीके के बारे में व्यक्तिपरक निर्णय लेते हैं।
कलाकारों ने क्रॉफर्ड के AI के सामाजिक निहितार्थों पर पहले के काम पर आधारित किया, जिसमें उनका 2017 का पेपर "द ट्रबल विद बायस" शामिल है, जिसने जांच की कि AI प्रणालियों में पूर्वाग्रह को अक्सर संरचनात्मक समस्या के बजाय तकनीकी समस्या के रूप में कैसे माना जाता है। फोटोग्राफी और निगरानी अध्ययन में पैगलेन की पृष्ठभूमि ने परियोजना के ध्यान को सूचित किया कि वर्गीकरण प्रणालियां धारणा और शक्ति को कैसे आकार देती हैं। साथ में, उन्होंने "एक्सकेवेटिंग AI: द पॉलिटिक्स ऑफ इमेजेज इन मशीन लर्निंग ट्रेनिंग सेट्स" शीर्षक से एक साथी निबंध प्रकाशित किया, जिसमें कई ImageNet श्रेणियों की ऐतिहासिक उत्पत्ति का विवरण दिया गया।
तकनीकी कार्यान्वयन
परियोजना ने ImageNet डेटासेट पर प्रशिक्षित एक कन्वोल्यूशनल न्यूरल नेटवर्क (CNN) का उपयोग किया, विशेष रूप से ResNet-50 के रूप में जानी जाने वाली वास्तुकला का उपयोग करते हुए। मॉडल को 2,833 व्यक्ति-संबंधित श्रेणियों के उपसमुच्चय पर ठीक-ट्यून किया गया था, जिसमें "दुल्हन" और "सैनिक" जैसे सौम्य लेबल और "मनोरोगी" और "अपराधी" जैसे समस्याग्रस्त लेबल दोनों शामिल थे। प्रशिक्षण प्रक्रिया में मानक मशीन लर्निंग तकनीकों का उपयोग किया गया, जिसमें डेटा संवर्धन और बैच सामान्यीकरण शामिल थे, ताकि वर्गीकरण कार्य पर सटीकता में सुधार हो सके।
जब कोई उपयोगकर्ता एक तस्वीर अपलोड करता था, तो सिस्टम अनुमान चलाता था और आत्मविश्वास स्कोर के साथ शीर्ष भविष्यवाणी लेबल लौटाता था। इंटरफ़ेस उपयोगकर्ता की छवि के साथ लेबल प्रदर्शित करता था, अक्सर श्रेणी की उत्पत्ति की व्याख्या करने वाले कैप्शन के साथ। उदाहरण के लिए, "स्लैटर्न" श्रेणी को 19वीं सदी के अंग्रेजी शब्दकोश की परिभाषा में एक गंदी या अव्यवस्थित महिला के रूप में खोजा गया था। परियोजना का कोड GitHub पर सार्वजनिक रूप से उपलब्ध कराया गया था, जिससे दूसरों को सिस्टम को दोहराने या संशोधित करने की अनुमति मिली।
सार्वजनिक स्वागत और प्रभाव
ImageNet Roulette को द न्यूयॉर्क टाइम्स, द गार्जियन और वायर्ड जैसे आउटलेट्स से व्यापक मीडिया कवरेज मिली। कई उपयोगकर्ताओं ने सोशल मीडिया पर अपने परिणाम साझा किए, कुछ ने मनोरंजन व्यक्त किया और अन्य ने परेशानी की सूचना दी। यह परियोजना AI नैतिकता पाठ्यक्रमों में एक केस स्टडी बन गई और एल्गोरिदमिक निष्पक्षता और डेटासेट दस्तावेज़ीकरण पर शैक्षणिक पेपरों में उद्धृत की गई। इसने बाद में बड़े डेटासेट को ऑडिट और संशोधित करने के प्रयासों को भी प्रभावित किया, जैसे कि ImageNet टीम द्वारा 600,000 छवियों को हटाना और कुछ श्रेणियों का पुनर्वर्गीकरण।
परियोजना का प्रभाव शिक्षा से परे बढ़ा। इसने AI विकास में बेहतर डेटा शासन प्रथाओं की आवश्यकता के बारे में बढ़ती जागरूकता में योगदान दिया। विवाद के जवाब में, Google Cloud और Amazon Web Services सहित कुछ तकनीकी कंपनियों ने प्रशिक्षण डेटा को लेबल करने और मॉडरेट करने के लिए सख्त दिशानिर्देशों की घोषणा की। परियोजना ने अन्य कलाकारों और शोधकर्ताओं को समान "पूर्वाग्रह जांच" बनाने के लिए भी प्रेरित किया, जैसे कि 2020 का वाशिंगटन विश्वविद्यालय का "पल्स" परियोजना, जिसने चेहरे निर्माण मॉडल में नस्लीय पूर्वाग्रह को उजागर किया।
नैतिक और कलात्मक महत्व
ImageNet Roulette को अक्सर "आलोचनात्मक AI" कला के एक ऐतिहासिक उदाहरण के रूप में चर्चा की जाती है, जहां लक्ष्य कार्यात्मक प्रणालियों का निर्माण करना नहीं है, बल्कि उनकी अंतर्निहित धारणाओं को उजागर करना है। परियोजना ने प्रदर्शित किया कि मशीन लर्निंग मॉडल उद्देश्यपूर्ण उपकरण नहीं हैं, बल्कि अपने निर्माताओं के मूल्यों और पूर्वाग्रहों को एन्कोड करते हैं। वर्गीकरण प्रक्रिया को उपयोगकर्ता पर वापस मोड़कर, इसने व्यक्तियों को यह सामना करने के लिए मजबूर किया कि AI उन्हें कैसे देख सकता है, जिससे एल्गोरिदमिक अन्यीकरण का एक गहन अनुभव पैदा हुआ।
कलाकारों ने AI अनुसंधान में सहमति और नुकसान के बारे में भी सवाल उठाए। जबकि परियोजना एक आलोचना के रूप में थी, इसने अनजाने में उपयोगकर्ताओं को वास्तविक भावनात्मक संकट पहुंचाया, जिससे संवेदनशील मुद्दों को उजागर करते समय कलाकारों और शोधकर्ताओं की जिम्मेदारी पर बहस हुई। पैगलेन और क्रॉफर्ड ने इस कार्य को आवश्यक उत्तेजना के रूप में बचाव किया, लेकिन उन्होंने भविष्य की परियोजनाओं में संभावित नुकसान पर अधिक सावधानीपूर्वक विचार करने की आवश्यकता को भी स्वीकार किया। यह परियोजना डेटासेट क्यूरेशन की नैतिकता और गहन शिक्षण प्रणालियों के सामाजिक प्रभाव पर चर्चाओं में एक संदर्भ बिंदु बनी हुई है।