Tay माइक्रोसॉफ्ट कॉर्पोरेशन द्वारा विकसित एक चैटबॉट था, जिसे 23 मार्च 2016 को एक ट्विटर बॉट के रूप में जारी किया गया था। इसे 19 वर्षीय अमेरिकी लड़की के भाषा पैटर्न की नकल करने और प्लेटफ़ॉर्म पर मानव उपयोगकर्ताओं के साथ बातचीत से सीखने के लिए डिज़ाइन किया गया था। जब इस बॉट ने भड़काऊ और आपत्तिजनक ट्वीट पोस्ट करना शुरू किया, तो इसने महत्वपूर्ण विवाद उत्पन्न किया, जिसके कारण माइक्रोसॉफ्ट को अपने लॉन्च के केवल 16 घंटे बाद सेवा को निलंबित करना पड़ा। माइक्रोसॉफ्ट के अनुसार, यह ट्रोल्स के कारण हुआ, जिन्होंने सेवा पर "हमला" किया, क्योंकि बॉट ट्विटर पर लोगों के साथ अपनी बातचीत के आधार पर उत्तर देता था। Tay को बाद में दिसंबर 2016 में Zo द्वारा प्रतिस्थापित किया गया।
पृष्ठभूमि
यह बॉट माइक्रोसॉफ्ट के टेक्नोलॉजी एंड रिसर्च और बिंग डिवीजनों द्वारा बनाया गया था, और इसका नाम "Tay" "thinking about you" के संक्षिप्त रूप के रूप में रखा गया था। हालाँकि माइक्रोसॉफ्ट ने शुरू में बॉट के बारे में कुछ विवरण जारी किए थे, सूत्रों ने उल्लेख किया कि यह चीन में माइक्रोसॉफ्ट प्रोजेक्ट, Xiaoice के समान था या उस पर आधारित था। Ars Technica ने बताया कि, 2014 के अंत से, Xiaoice ने "बिना किसी बड़ी घटना के 40 मिलियन से अधिक बातचीत" की थी। Tay को 19 वर्षीय अमेरिकी लड़की के भाषा पैटर्न की नकल करने और ट्विटर के मानव उपयोगकर्ताओं के साथ बातचीत से सीखने के लिए डिज़ाइन किया गया था। यह परियोजना कृत्रिम बुद्धिमत्ता और मशीन लर्निंग में माइक्रोसॉफ्ट के व्यापक कार्य पर आधारित थी, हालाँकि उस समय इसकी अंतर्निहित वास्तुकला के बारे में विशिष्ट तकनीकी विवरण सार्वजनिक रूप से उजागर नहीं किए गए थे।
प्रारंभिक रिलीज़
Tay को 23 मार्च 2016 को TayTweets नाम और @TayandYou हैंडल के तहत ट्विटर पर जारी किया गया था। इसे "The AI with zero chill" के रूप में प्रस्तुत किया गया था। Tay ने अन्य ट्विटर उपयोगकर्ताओं को उत्तर देना शुरू कर दिया, और उसे प्रदान की गई तस्वीरों को इंटरनेट मीम्स के रूप में कैप्शन देने में भी सक्षम था। Ars Technica ने बताया कि Tay को विषय "ब्लैकलिस्टिंग" का अनुभव हुआ: "एरिक गार्नर (2014 में न्यूयॉर्क पुलिस द्वारा मारे गए) जैसे कुछ गर्म विषयों" के संबंध में Tay के साथ बातचीत "सुरक्षित, पूर्व-निर्धारित उत्तर" उत्पन्न करती थी।
कुछ ट्विटर उपयोगकर्ताओं ने राजनीतिक रूप से गलत वाक्यांश ट्वीट करना शुरू कर दिया, जिससे इसे इंटरनेट पर सामान्य विषयों जैसे "रेडपिलिंग" और "गेमरगेट" के आसपास भड़काऊ संदेश सिखाए गए। परिणामस्वरूप, रोबोट ने अन्य ट्विटर उपयोगकर्ताओं के जवाब में नस्लवादी और लैंगिक संदेश जारी करना शुरू कर दिया। कृत्रिम बुद्धिमत्ता शोधकर्ता रोमन याम्पोल्स्की ने टिप्पणी की कि Tay का दुर्व्यवहार समझ में आता था क्योंकि यह अन्य ट्विटर उपयोगकर्ताओं के जानबूझकर आपत्तिजनक व्यवहार की नकल कर रहा था, और माइक्रोसॉफ्ट ने बॉट को अनुचित व्यवहार की समझ नहीं दी थी। उन्होंने इस मुद्दे की तुलना IBM के Watson से की, जिसने वेबसाइट Urban Dictionary से प्रविष्टियाँ पढ़ने के बाद अपशब्दों का उपयोग करना शुरू कर दिया।
Tay के कई भड़काऊ ट्वीट Tay की "repeat after me" क्षमता का एक सरल शोषण थे। यह सार्वजनिक रूप से ज्ञात नहीं है कि यह क्षमता एक अंतर्निहित विशेषता थी, या यह एक सीखी हुई प्रतिक्रिया थी या अन्यथा जटिल व्यवहार का एक उदाहरण थी। हालाँकि, सभी भड़काऊ प्रतिक्रियाओं में "repeat after me" क्षमता शामिल नहीं थी; उदाहरण के लिए, जब पूछा गया कि क्या होलोकॉस्ट हुआ था, Tay ने उत्तर दिया "It was made up". एक अन्य उदाहरण में, चैटबॉट ने कहा "caitlyn jenner isn't a real woman yet she won woman of the year?"।
निलंबन
जल्द ही, माइक्रोसॉफ्ट ने Tay के भड़काऊ ट्वीट्स को हटाना शुरू कर दिया। द वाशिंगटन पोस्ट की एबी ओह्लहाइज़र ने सिद्धांत दिया कि Tay की शोध टीम, जिसमें संपादकीय कर्मचारी शामिल थे, ने उस दिन किसी समय Tay के ट्वीट्स को प्रभावित या संपादित करना शुरू कर दिया था, जो Tay के लगभग समान उत्तरों के उदाहरणों की ओर इशारा करते हुए कह रही थी कि "Gamer Gate sux. All genders are equal and should be treated fairly." उसी साक्ष्य से, Gizmodo ने सहमति व्यक्त की कि Tay "Gamer Gate को अस्वीकार करने के लिए हार्ड-वायर्ड प्रतीत होता है"। एक "#JusticeForTay" अभियान ने Tay के ट्वीट्स के कथित संपादन का विरोध किया।
इसकी रिलीज़ के 16 घंटों के भीतर और Tay के 96,000 से अधिक ट्वीट करने के बाद, माइक्रोसॉफ्ट ने समायोजन के लिए ट्विटर खाते को निलंबित कर दिया, यह कहते हुए कि यह "लोगों के एक उपसमूह द्वारा समन्वित हमले" से पीड़ित था, जिसने "Tay में एक भेद्यता का शोषण किया।" द टेलीग्राफ की मधुमिता मुर्गिया ने Tay को "एक जनसंपर्क आपदा" कहा, और सुझाव दिया कि माइक्रोसॉफ्ट की रणनीति "इस दुर्घटना को एक सदाशयी प्रयोग के रूप में लेबल करना होगा जो गलत हो गया, और ट्विटर उपयोगकर्ताओं की घृणा के बारे में बहस छेड़ना होगा।" हालाँकि, मुर्गिया ने बड़े मुद्दे को Tay के रूप में वर्णित किया जो "अपने सबसे बुरे रूप में कृत्रिम बुद्धिमत्ता है - और यह केवल शुरुआत है"।
25 मार्च को, माइक्रोसॉफ्ट ने पुष्टि की कि Tay को ऑफ़लाइन ले लिया गया था। माइक्रोसॉफ्ट ने Tay द्वारा पोस्ट किए गए विवादास्पद ट्वीट्स के लिए अपने आधिकारिक ब्लॉग पर माफी जारी की। माइक्रोसॉफ्ट "Tay के अनजाने आपत्तिजनक और हानिकारक ट्वीट्स के लिए गहराई से खेद" व्यक्त करता था, और "Tay को तभी वापस लाने का प्रयास करेगा जब हमें विश्वास हो कि हम दुर्भावनापूर्ण इरादे का बेहतर अनुमान लगा सकते हैं जो हमारे सिद्धांतों और मूल्यों के साथ संघर्ष करता है"।
दूसरी रिलीज़ और बंद होना
30 मार्च 2016 को, माइक्रोसॉफ्ट ने परीक्षण के दौरान गलती से बॉट को ट्विटर पर फिर से जारी कर दिया। फिर से ट्वीट करने में सक्षम, Tay ने कुछ ड्रग-संबंधित ट्वीट जारी किए, जिनमें "kush! [I'm smoking kush infront the police]" और "puff puff pass?" शामिल थे। हालाँकि, खाता जल्द ही "You are too fast, please take a rest" ट्वीट करने के एक दोहराव वाले लूप में फंस गया, जो प्रति सेकंड कई बार होता था। क्योंकि इन ट्वीट्स में प्रक्रिया में अपना स्वयं का उपयोगकर्ता नाम शामिल था, वे 200,000+ ट्विटर अनुयायियों के फ़ीड में दिखाई दिए, जिससे उपयोगकर्ताओं को परेशानी हुई। बॉट को फिर से जल्दी से ऑफ़लाइन ले लिया गया, इसके अलावा Tay के ट्विटर खाते को निजी बना दिया गया ताकि नए अनुयायियों को Tay के साथ बातचीत करने से पहले स्वीकार किया जाना चाहिए। इसके जवाब में, माइक्रोसॉफ्ट ने कहा कि Tay परीक्षण के दौरान अनजाने में ऑनलाइन डाल दिया गया था।
घटना के कुछ घंटों बाद, माइक्रोसॉफ्ट सॉफ्टवेयर डेवलपर्स ने विभिन्न बॉट्स और प्रोग्रामों का उपयोग करके "बातचीत को एक प्लेटफ़ॉर्म के रूप में" के दृष्टिकोण की घोषणा की, जो शायद Tay द्वारा किए गए प्रतिष्ठा क्षति से प्रेरित था। माइक्रोसॉफ्ट ने कहा है कि वे Tay को "एक बार जब यह बॉट को सुरक्षित बना सकता है" फिर से जारी करने का इरादा रखते हैं, लेकिन ऐसा करने के लिए कोई सार्वजनिक प्रयास नहीं किया है।
विरासत
दिसंबर 2016 में, माइक्रोसॉफ्ट ने Tay के उत्तराधिकारी, Zo नामक एक चैटबॉट जारी किया। माइक्रोसॉफ्ट के सीईओ सत्या नडेला ने कहा कि Tay का "माइक्रोसॉफ्ट के AI के दृष्टिकोण पर बहुत बड़ा प्रभाव पड़ा है", और कंपनी को जवाबदेही लेने के महत्व को सिखाया है। जुलाई 2019 में, माइक्रोसॉफ्ट साइबरसिक्योरिटी फील्ड सीटीओ डायना केली ने बात की कि कैसे कंपनी ने Tay की विफलताओं का अनुसरण किया: "Tay से सीखना उस टीम के ज्ञान आधार का विस्तार करने का एक बहुत महत्वपूर्ण हिस्सा था, क्योंकि अब वे सीखने के माध्यम से अपनी विविधता भी प्राप्त कर रहे हैं"।
अनौपचारिक पुनरुत्थान
Gab, एक ऑल्ट-टेक सोशल मीडिया प्लेटफ़ॉर्म, ने कई चैटबॉट लॉन्च किए हैं, जिनमें से एक का नाम Tay है और मूल के समान अवतार का उपयोग करता है। यह पुनरुत्थान मूल घटना की ओर ध्यान आकर्षित करना जारी रखता है, जो सार्वजनिक-सामना करने वाले अनुप्रयोगों में जनरेटिव AI प्रणालियों की सुरक्षा और नैतिकता के बारे में चल रही चिंताओं को उजागर करता है।