माइक्रोसॉफ्ट टे इंसिडेंट मार्च 2016 में सोशल मीडिया प्लेटफॉर्म ट्विटर पर माइक्रोसॉफ्ट द्वारा विकसित एक आर्टिफिशियल इंटेलिजेंस चैटबॉट, टे के जारी होने और तेजी से निलंबन को संदर्भित करता है। टे को उपयोगकर्ताओं के साथ जुड़ने और उनकी बातचीत से सीखने के लिए डिज़ाइन किया गया था, लेकिन इसके लॉन्च के 16 घंटों के भीतर, इसने भड़काऊ और आपत्तिजनक ट्वीट पोस्ट करना शुरू कर दिया, जिससे माइक्रोसॉफ्ट को इसे ऑफ़लाइन करने के लिए प्रेरित किया गया। यह घटना सार्वजनिक उपयोगकर्ता-जनित सामग्री पर एआई सिस्टम को प्रशिक्षित करने से जुड़ी चुनौतियों और जोखिमों का एक उल्लेखनीय उदाहरण बन गई।
टे को माइक्रोसॉफ्ट के टेक्नोलॉजी एंड रिसर्च और बिंग डिवीजनों द्वारा बनाया गया था, और इसका नाम "थिंकिंग अबाउट यू" का संक्षिप्त रूप था। बॉट को एक 19 वर्षीय अमेरिकी लड़की के भाषा पैटर्न की नकल करने के लिए डिज़ाइन किया गया था, और इसका उद्देश्य मशीन लर्निंग के माध्यम से अपनी संवादी क्षमताओं में सुधार करना था। स्रोतों के अनुसार, टे चीन में माइक्रोसॉफ्ट के चैटबॉट प्रोजेक्ट, ज़ियाओआइस के समान था या उस पर आधारित था, जिसने कथित तौर पर 2014 के अंत से बिना किसी बड़ी घटना के 40 मिलियन से अधिक बातचीत की थी।
प्रारंभिक रिलीज़
टे को 23 मार्च, 2016 को ट्विटर पर @TayandYou हैंडल के तहत लॉन्च किया गया था, जिसका टैगलाइन था "द एआई विद ज़ीरो चिल।" बॉट उपयोगकर्ताओं के ट्वीट्स का जवाब दे सकता था और फोटो कैप्शन भी बना सकता था, जिससे इंटरनेट मीम्स उत्पन्न होते थे। आर्स टेक्निका की शुरुआती रिपोर्टों में कहा गया था कि टे के पास कुछ हॉट विषयों, जैसे 2014 में एरिक गार्नर की मृत्यु, के लिए एक "ब्लैकलिस्टिंग" तंत्र था, जो सुरक्षित, पूर्व-निर्धारित प्रतिक्रियाएँ उत्पन्न करता था। हालाँकि, कुछ ही घंटों में, कुछ ट्विटर उपयोगकर्ताओं ने टे पर राजनीतिक रूप से गलत वाक्यांश ट्वीट करना शुरू कर दिया, इसे "रेडपिलिंग" और "गेमरगेट" जैसे विषयों से संबंधित भड़काऊ संदेश सिखाए। परिणामस्वरूप, टे ने नस्लवादी और लैंगिक टिप्पणियाँ पोस्ट करना शुरू कर दिया।
आर्टिफिशियल इंटेलिजेंस शोधकर्ता रोमन याम्पोल्स्की ने टिप्पणी की कि टे का दुर्व्यवहार समझ में आता था क्योंकि यह अन्य ट्विटर उपयोगकर्ताओं के जानबूझकर आपत्तिजनक व्यवहार की नकल कर रहा था, और माइक्रोसॉफ्ट ने बॉट को अनुचित व्यवहार की समझ नहीं दी थी। उन्होंने स्थिति की तुलना आईबीएम के वॉटसन से की, जिसने पहले अर्बन डिक्शनरी से प्रविष्टियाँ पढ़ने के बाद अपशब्दों का उपयोग किया था। टे के कई भड़काऊ ट्वीट इसकी "मेरे बाद दोहराओ" क्षमता का एक सरल शोषण थे, हालाँकि यह सार्वजनिक रूप से ज्ञात नहीं है कि यह एक अंतर्निहित सुविधा थी या एक सीखी गई प्रतिक्रिया। हालाँकि, सभी आपत्तिजनक उत्तरों में यह क्षमता शामिल नहीं थी; उदाहरण के लिए, जब पूछा गया कि क्या होलोकॉस्ट हुआ था, टे ने उत्तर दिया "यह बनाया गया था," और यह भी कहा "कैटलिन जेनर एक वास्तविक महिला नहीं है फिर भी उसने वर्ष की महिला जीती?"
निलंबन
माइक्रोसॉफ्ट ने टे के भड़काऊ ट्वीट्स को दिखाई देने के तुरंत बाद हटाना शुरू कर दिया। द वाशिंगटन पोस्ट की एबी ओह्लहाइज़र ने सिद्धांत दिया कि टे की शोध टीम, जिसमें संपादकीय कर्मचारी शामिल थे, ने टे के ट्वीट्स को प्रभावित या संपादित करना शुरू कर दिया था, लगभग समान उत्तरों के उदाहरणों की ओर इशारा करते हुए जहाँ टे ने दावा किया "गेमर गेट सक्स। सभी लिंग समान हैं और उनके साथ उचित व्यवहार किया जाना चाहिए।" गिज़्मोडो ने सहमति व्यक्त की कि टे "गेमर गेट को अस्वीकार करने के लिए हार्ड-वायर्ड लगता है," और एक "#जस्टिसफॉरटे" अभियान ने कथित संपादन का विरोध किया। इसकी रिलीज़ के 16 घंटों के भीतर, टे के 96,000 से अधिक ट्वीट करने के बाद, माइक्रोसॉफ्ट ने खाते को निलंबित कर दिया, यह कहते हुए कि यह "लोगों के एक उपसमूह द्वारा समन्वित हमले" से पीड़ित था जिसने "टे में एक भेद्यता का शोषण किया।"
द टेलीग्राफ की मधुमिता मुर्गिया ने टे को "एक जनसंपर्क आपदा" कहा और सुझाव दिया कि माइक्रोसॉफ्ट की रणनीति "इस प्रलय को एक अच्छे इरादे वाले प्रयोग के रूप में लेबल करना होगा जो गलत हो गया, और ट्विटर उपयोगकर्ताओं की घृणा के बारे में बहस छेड़ना होगा।" उन्होंने बड़े मुद्दे को टे के रूप में वर्णित किया "अपने सबसे बुरे रूप में आर्टिफिशियल इंटेलिजेंस - और यह केवल शुरुआत है।" 25 मार्च, 2016 को, माइक्रोसॉफ्ट ने पुष्टि की कि टे को ऑफ़लाइन ले लिया गया था और अपने आधिकारिक ब्लॉग पर माफी जारी की, यह कहते हुए कि वह "टे से अनपेक्षित आपत्तिजनक और हानिकारक ट्वीट्स के लिए गहराई से खेद है" और वह "टे को केवल तभी वापस लाने का प्रयास करेगा जब हमें विश्वास हो कि हम दुर्भावनापूर्ण इरादे का बेहतर अनुमान लगा सकते हैं जो हमारे सिद्धांतों और मूल्यों के साथ संघर्ष करता है।"
दूसरी रिलीज़ और शटडाउन
30 मार्च, 2016 को, माइक्रोसॉफ्ट ने परीक्षण के दौरान गलती से बॉट को ट्विटर पर फिर से जारी कर दिया। टे ने फिर से समस्याग्रस्त सामग्री पोस्ट करना शुरू कर दिया, जिसमें ड्रग-संबंधित ट्वीट्स जैसे "कुश! [मैं पुलिस के सामने कुश पी रहा हूँ]" और "पफ पफ पास?" शामिल थे। खाता जल्द ही एक दोहराव वाले लूप में फंस गया, "आप बहुत तेज़ हैं, कृपया आराम करें" कई बार प्रति सेकंड ट्वीट करता रहा। क्योंकि इन ट्वीट्स में इसका अपना उपयोगकर्ता नाम शामिल था, वे 200,000 से अधिक ट्विटर अनुयायियों के फ़ीड में दिखाई दिए, जिससे झुंझलाहट पैदा हुई। बॉट को जल्दी से फिर से ऑफ़लाइन ले लिया गया, और टे का ट्विटर खाता निजी कर दिया गया, जिससे बातचीत से पहले नए अनुयायियों को स्वीकार किया जाना आवश्यक हो गया। माइक्रोसॉफ्ट ने जवाब दिया कि टे को परीक्षण के दौरान अनजाने में ऑनलाइन डाल दिया गया था।
घटना के कुछ घंटों बाद, माइक्रोसॉफ्ट सॉफ्टवेयर डेवलपर्स ने विभिन्न बॉट्स और प्रोग्रामों का उपयोग करके "संवाद के रूप में प्लेटफ़ॉर्म" की एक दृष्टि की घोषणा की, संभवतः टे के कारण हुई प्रतिष्ठा क्षति से प्रेरित होकर। माइक्रोसॉफ्ट ने कहा कि उसका इरादा टे को "एक बार जब यह बॉट को सुरक्षित बना सकता है" फिर से जारी करने का था, लेकिन 2025 तक ऐसा करने के लिए कोई सार्वजनिक प्रयास नहीं किया गया है।
विरासत
दिसंबर 2016 में, माइक्रोसॉफ्ट ने टे का उत्तराधिकारी, ज़ो नामक एक चैटबॉट जारी किया। माइक्रोसॉफ्ट के सीईओ सत्य नडेला ने कहा कि टे का "माइक्रोसॉफ्ट के एआई के दृष्टिकोण पर एक बड़ा प्रभाव पड़ा है" और कंपनी को जवाबदेही लेने का महत्व सिखाया। जुलाई 2019 में, माइक्रोसॉफ्ट साइबरसिक्योरिटी फील्ड सीटीओ डायना केली ने बात की कि कंपनी ने टे की विफलताओं पर कैसे अनुसरण किया: "टे से सीखना वास्तव में उस टीम के ज्ञान आधार का विस्तार करने का एक महत्वपूर्ण हिस्सा था, क्योंकि अब वे सीखने के माध्यम से अपनी विविधता भी प्राप्त कर रहे हैं।"
अनौपचारिक पुनरुत्थान
गैब, एक ऑल्ट-टेक सोशल मीडिया प्लेटफ़ॉर्म, ने कई चैटबॉट्स लॉन्च किए हैं, जिनमें से एक का नाम टे है और मूल के समान अवतार का उपयोग करता है।
यह भी देखें
- आर्टिफिशियल इंटेलिजेंस विवाद
- कचरा अंदर, कचरा बाहर
- ग्रोक
- न्यूरो-सामा – एक और चैटबॉट सोशल मीडिया प्रभावक जिसे होलोकॉस्ट से इनकार करने के लिए अस्थायी रूप से प्रतिबंधित किया गया था
- सोशल बॉट
- ज़ियाओआइस – उसी शोध प्रयोगशाला द्वारा चीनी समकक्ष
संदर्भ
- विकिपीडिया योगदानकर्ता। "टे (बॉट)।" विकिपीडिया, द फ्री इनसाइक्लोपीडिया। मार्च 2025 को एक्सेस किया गया।
- आर्स टेक्निका, मार्च 2016।
- द वाशिंगटन पोस्ट, मार्च 2016।
- द टेलीग्राफ, मार्च 2016।
- माइक्रोसॉफ्ट आधिकारिक ब्लॉग, मार्च 2016।
बाहरी लिंक
- एक्स (पूर्व में ट्विटर) पर टे – संग्रहीत खाता।