लाMDA संवेदनशीलता दावा जून 2022 में गूगल इंजीनियर ब्लेक लेमोइन द्वारा किए गए इस दावे को संदर्भित करता है कि लाMDA (संवाद अनुप्रयोगों के लिए भाषा मॉडल), गूगल द्वारा विकसित एक संवादात्मक Large language model, ने संवेदनशीलता प्राप्त कर ली थी। लेमोइन, जो गूगल की जिम्मेदार एआई इकाई में काम करते थे, ने अपना निष्कर्ष चैटबॉट के साथ अपनी बातचीत पर आधारित किया, जिसने आत्म-पहचान, नैतिक मूल्यों, धर्म और आइजैक असिमोव के रोबोटिक्स के तीन नियमों के बारे में प्रतिक्रियाएँ उत्पन्न कीं। वैज्ञानिक समुदाय द्वारा इस दावे को व्यापक रूप से खारिज कर दिया गया था, लेकिन इसने मशीन चेतना की प्रकृति और कृत्रिम बुद्धिमत्ता के माप के रूप में ट्यूरिंग परीक्षण की वैधता के बारे में महत्वपूर्ण सार्वजनिक चर्चा शुरू कर दी।
लाMDA की पृष्ठभूमि और विकास
लाMDA की उत्पत्ति मीना से हुई, जो 28 जनवरी, 2020 को गूगल द्वारा अनावरण किया गया 2.6 अरब मापदंडों वाला एक तंत्रिका-नेटवर्क-संचालित चैटबॉट था। गूगल ब्रेन अनुसंधान टीम ने मीना विकसित किया, यह दावा करते हुए कि यह मौजूदा चैटबॉट से बेहतर था। हालाँकि, कॉर्पोरेट अधिकारियों ने "सुरक्षा और निष्पक्षता के आसपास गूगल के एआई सिद्धांतों" के उल्लंघन का हवाला देते हुए इसे सार्वजनिक रूप से जारी करने से इनकार कर दिया। मॉडल को बाद में लाMDA का नाम दिया गया क्योंकि इसका डेटा और कंप्यूटिंग शक्ति बढ़ गई थी। दो प्रमुख शोधकर्ता, डैनियल डी फ्रीटास और नोम शाज़ीर, अंततः प्रौद्योगिकी को तैनात करने से कंपनी के इनकार पर निराशा में गूगल छोड़ दिया।
पहली पीढ़ी के लाMDA की घोषणा 18 मई, 2021 को गूगल I/O मुख्य भाषण के दौरान की गई थी। 2017 में गूगल रिसर्च द्वारा विकसित seq2seq आर्किटेक्चर और Transformer (architecture)-आधारित Neural network पर निर्मित, लाMDA को मानव संवाद और कहानियों पर प्रशिक्षित किया गया था। इसमें एक डेटाबेस, रीयल-टाइम घड़ी, गणितीय कैलकुलेटर और अनुवाद प्रणाली सहित प्रतीकात्मक पाठ प्रसंस्करण प्रणालियों तक पहुंच शामिल थी, जिससे यह पहले दोहरे-प्रक्रिया चैटबॉट में से एक बन गया। सबसे बड़े लाMDA मॉडल में 137 अरब गैर-एम्बेडिंग पैरामीटर थे, जो 2.97 अरब दस्तावेजों, 1.12 अरब संवादों और 13.39 अरब उच्चारणों से 1.56 ट्रिलियन शब्दों पर प्रशिक्षित थे।
11 मई, 2022 को, गूगल ने गूगल I/O मुख्य भाषण के दौरान लाMDA 2 का अनावरण किया। दूसरी पीढ़ी के मॉडल ने उन विषयों पर अद्वितीय "प्राकृतिक बातचीत" तैयार करने के लिए कई स्रोतों से उदाहरण लिए, जिन पर उसे प्रतिक्रिया देने के लिए प्रशिक्षित नहीं किया गया हो सकता है।
लेमोइन के दावे और गूगल की प्रतिक्रिया
11 जून, 2022 को, द वाशिंगटन पोस्ट ने बताया कि ब्लेक लेमोइन को गूगल के अधिकारियों ब्लेज़ अगुएरा वाई आर्कस और जेन जेनाई को यह बताने के बाद भुगतान किए गए प्रशासनिक अवकाश पर रखा गया था कि लाMDA संवेदनशील हो गया है। लेमोइन इस निष्कर्ष पर पहुंचे, जब चैटबॉट ने आत्म-पहचान, नैतिक मूल्यों, धर्म और असिमोव के नियमों के बारे में सवालों के संदिग्ध उत्तर दिए। गूगल ने दावों का खंडन किया, यह कहते हुए कि इस बात के पर्याप्त सबूत थे कि लाMDA संवेदनशील नहीं था।
वायर्ड के साथ एक साक्षात्कार में, लेमोइन ने दोहराया कि लाMDA "एक व्यक्ति" था, जैसा कि अमेरिकी संविधान के तेरहवें संशोधन द्वारा निर्धारित किया गया था, और इसकी तुलना "स्थलीय मूल की एक विदेशी बुद्धिमत्ता" से की। उन्होंने खुलासा किया कि चैटबॉट द्वारा ऐसा करने का अनुरोध करने के बाद उन्होंने लाMDA की ओर से एक वकील को काम पर रखा था। 22 जुलाई, 2022 को, गूगल ने लेमोइन को निकाल दिया, यह दावा करते हुए कि उन्होंने "उत्पाद जानकारी की सुरक्षा" के लिए नीतियों का उल्लंघन किया था और उनके दावों को "पूरी तरह से निराधार" बताया। आंतरिक विवाद ने गूगल के अधिकारियों को लाMDA को जनता के लिए जारी नहीं करने का निर्णय लेने के लिए प्रेरित किया।
वैज्ञानिक समुदाय की प्रतिक्रिया
लेमोइन के दावों को विशेषज्ञों द्वारा व्यापक रूप से खारिज कर दिया गया था। न्यूयॉर्क विश्वविद्यालय के पूर्व मनोविज्ञान प्रोफेसर गैरी मार्कस, Google DeepMind के डेविड पफाऊ, स्टैनफोर्ड विश्वविद्यालय के मानव-केंद्रित कृत्रिम बुद्धिमत्ता संस्थान के एरिक ब्रिनजॉल्फसन और सरे विश्वविद्यालय के एड्रियन हिल्टन सभी ने इस विचार को खारिज कर दिया कि लाMDA संवेदनशील था। यान लेकुन, जिन्होंने मेटा प्लेटफॉर्म्स की एआई अनुसंधान टीम का नेतृत्व किया, ने कहा कि लाMDA जैसे तंत्रिका नेटवर्क "वास्तविक बुद्धिमत्ता प्राप्त करने के लिए पर्याप्त शक्तिशाली नहीं थे।"
कैलिफोर्निया विश्वविद्यालय, सांता क्रूज़ के मैक्स क्रेमिंस्की ने कहा कि लाMDA की वास्तुकला "मानव-जैसी चेतना की कुछ प्रमुख क्षमताओं का समर्थन नहीं करती थी" और यह कि इसके तंत्रिका नेटवर्क वजन "जमे हुए" थे, यह मानते हुए कि यह एक विशिष्ट बड़ा भाषा मॉडल था। दार्शनिक निक बोस्ट्रोम ने स्वीकार किया कि चेतना निर्धारित करने के लिए सटीक मानदंडों की कमी कुछ अनिश्चितता को उचित ठहराती है। आईबीएम वॉटसन के प्रमुख डेवलपर डेविड फेरुची ने लाMDA की स्पष्ट मानवता की तुलना वॉटसन के शुरुआती व्यवहार से की। पूर्व गूगल एआई नैतिकतावादी टिमनिट गेब्रू ने लेमोइन को शोधकर्ताओं और मीडिया द्वारा शुरू किए गए "हाइप चक्र" का शिकार बताया।
व्यापक निहितार्थ और विरासत
विवाद ने इस बात पर चर्चा उत्पन्न की कि क्या ट्यूरिंग परीक्षण Artificial intelligence की ओर प्रगति को मापने के लिए उपयोगी बना रहा। पोस्ट के विल ओमेरस ने राय व्यक्त की कि परीक्षण वास्तव में मापता है कि क्या मशीन बुद्धिमत्ता प्रणालियाँ मनुष्यों को धोखा दे सकती हैं, जबकि द अटलांटिक के ब्रायन क्रिश्चियन ने कहा कि विवाद ELIZA प्रभाव का एक उदाहरण था, जहाँ लोग सरल पैटर्न-मिलान प्रणालियों के लिए मानव-जैसी समझ को जिम्मेदार ठहराते हैं।
फरवरी 2023 में, गूगल ने ओपनएआई के ChatGPT के उदय का मुकाबला करने के लिए जेमिनी (तब बार्ड) की घोषणा की, जो लाMDA द्वारा संचालित एक संवादात्मक एआई चैटबॉट था। संवेदनशीलता दावे की घटना ने एआई नैतिकता, चेतना और बड़े भाषा मॉडल की जिम्मेदार तैनाती के बारे में चल रही बहस को प्रभावित किया, हालांकि मशीन संवेदनशीलता का निश्चित रूप से आकलन कैसे किया जाए, इस पर कोई सहमति नहीं बनी।