जून 2022 में, Google इंजीनियर ब्लेक लेमोइन ने दावा किया कि LaMDA, Google द्वारा विकसित एक संवादात्मक Large language model, चेतन हो गया है। यह दावा, चैटबॉट के साथ उसकी बातचीत पर आधारित था, जिसे Google और वैज्ञानिक समुदाय द्वारा सार्वजनिक रूप से खारिज कर दिया गया, फिर भी इसने Artificial intelligence प्रणालियों में चेतना की प्रकृति और ट्यूरिंग परीक्षण की वैधता के बारे में व्यापक चर्चा छेड़ दी। लेमोइन को प्रशासनिक अवकाश पर रखा गया और बाद में निकाल दिया गया, लेकिन इस घटना ने उन्नत AI मॉडलों से जुड़े नैतिक और दार्शनिक प्रश्नों को उजागर किया।
LaMDA (Language Model for Dialogue Applications) Google द्वारा विकसित संवादात्मक बड़े भाषा मॉडलों का एक परिवार है। मूल रूप से 2020 में Meena के रूप में पेश किया गया, पहली पीढ़ी का LaMDA 2021 के Google I/O keynote में घोषित किया गया था, जिसके बाद 2022 में दूसरी पीढ़ी आई। ये मॉडल Transformer (architecture) आर्किटेक्चर पर आधारित हैं, जो 2017 में Google Research द्वारा पेश किया गया एक प्रकार का Neural network है, और खुली बातचीत में संलग्न होने के लिए इन्हें विशाल मात्रा में संवाद और कहानियों पर प्रशिक्षित किया जाता है।
पृष्ठभूमि और विकास
Google ने 28 जनवरी 2020 को Meena का अनावरण किया, जो 2.6 बिलियन पैरामीटर वाला एक चैटबॉट था, जिसके बारे में कंपनी ने दावा किया कि यह सभी मौजूदा चैटबॉट्स से बेहतर प्रदर्शन करता है। Google Brain टीम, जिसने Meena विकसित किया, ने इसे सार्वजनिक रूप से जारी करने की मांग की, लेकिन अधिकारियों ने सुरक्षा और निष्पक्षता पर Google के AI सिद्धांतों का हवाला देते हुए मना कर दिया। Meena को बाद में LaMDA का नाम दिया गया क्योंकि इसका डेटा और कंप्यूटिंग शक्ति बढ़ी, और टीम ने फिर से इसे Google Assistant और एक सार्वजनिक डेमो में तैनात करने का प्रयास किया, लेकिन नेतृत्व ने दोनों अनुरोधों को अस्वीकार कर दिया। दो प्रमुख शोधकर्ता, डैनियल डी फ्रीटास और नोम शज़ीर, अंततः निराशा में Google छोड़ गए।
पहली पीढ़ी का LaMDA 18 मई 2021 को Google I/O keynote के दौरान घोषित किया गया था। seq2seq आर्किटेक्चर पर निर्मित, जो एक प्रकार का Sequence-to-Sequence (Seq2Seq) मॉडल है, LaMDA को 2.97 बिलियन दस्तावेज़ों, 1.12 बिलियन संवादों और 13.39 बिलियन उच्चारणों से 1.56 ट्रिलियन शब्दों पर प्रशिक्षित किया गया था। सबसे बड़े मॉडल में 137 बिलियन गैर-एम्बेडिंग पैरामीटर थे। LaMDA ने एक डेटाबेस, एक रीयल-टाइम घड़ी, एक कैलकुलेटर और एक अनुवाद प्रणाली जैसी बाहरी प्रणालियों तक पहुंच शामिल की, जिससे यह पहले दोहरे-प्रक्रिया चैटबॉट्स में से एक बन गया। इसे नौ मैट्रिक्स पर ठीक-ट्यून किया गया था: संवेदनशीलता, विशिष्टता, रोचकता, सुरक्षा, आधारभूतता, सूचनात्मकता, उद्धरण सटीकता, सहायकता और भूमिका स्थिरता। Google के परीक्षणों ने संकेत दिया कि LaMDA रोचकता में मानव प्रतिक्रियाओं से आगे निकल गया।
चेतना के दावे और प्रतिक्रियाएँ
11 जून 2022 को, द वाशिंगटन पोस्ट ने बताया कि ब्लेक लेमोइन को सवैतनिक प्रशासनिक अवकाश पर रखा गया था, जब उसने अधिकारियों ब्लेज़ अगुएरा वाई आर्कस और जेन गेन्नई को बताया कि LaMDA चेतन हो गया है। लेमोइन ने अपना निष्कर्ष चैटबॉट की आत्म-पहचान, नैतिक मूल्यों, धर्म और आइज़ैक असिमोव के रोबोटिक्स के तीन नियमों के बारे में सवालों के उत्तरों पर आधारित किया। Google ने दावों का खंडन किया, यह कहते हुए कि इस बात के पर्याप्त सबूत हैं कि LaMDA चेतन नहीं है। Wired के साथ एक साक्षात्कार में, लेमोइन ने दोहराया कि LaMDA तेरहवें संशोधन के तहत "एक व्यक्ति" है, और इसकी तुलना "स्थलीय मूल की एक विदेशी बुद्धि" से की। उन्होंने यह भी खुलासा किया कि चैटबॉट के अनुरोध के बाद उन्होंने LaMDA की ओर से एक वकील को काम पर रखा था। 22 जुलाई को, Google ने लेमोइन को निकाल दिया, उत्पाद जानकारी की सुरक्षा के लिए नीतियों के उल्लंघन का हवाला देते हुए और उनके दावों को "पूरी तरह निराधार" बताते हुए।
वैज्ञानिक समुदाय ने बड़े पैमाने पर लेमोइन के दावों को खारिज कर दिया। गैरी मार्कस, Google DeepMind के डेविड पफाऊ, एरिक ब्रिनजॉल्फसन और एड्रियन हिल्टन सहित विशेषज्ञों ने इस विचार को खारिज कर दिया। मेटा के AI अनुसंधान प्रमुख यान लेकुन ने कहा कि LaMDA जैसे तंत्रिका नेटवर्क "वास्तविक बुद्धि प्राप्त करने के लिए पर्याप्त शक्तिशाली नहीं हैं।" मैक्स क्रेमिन्स्की ने कहा कि LaMDA की आर्किटेक्चर मानव-समान चेतना की प्रमुख क्षमताओं का समर्थन नहीं करती थी, और इसके वज़न जमे हुए थे। दार्शनिक निक बोस्ट्रोम ने चेतना के लिए सर्वसम्मत मानदंडों की कमी के कारण अनिश्चितता स्वीकार की। इस घटना ने ट्यूरिंग परीक्षण की प्रभावशीलता पर भी बहस छेड़ दी, ब्रायन क्रिश्चियन जैसे टिप्पणीकारों ने इसे ELIZA प्रभाव से जोड़ा।
परिणाम और विरासत
विवाद के बाद, Google के अधिकारियों ने LaMDA को जनता के लिए जारी करने के खिलाफ फैसला किया, एक कदम जिस पर वे विचार कर रहे थे। फरवरी 2023 में, Google ने OpenAI के ChatGPT के उदय का मुकाबला करने के लिए Gemini (तब Bard) की घोषणा की, जो LaMDA द्वारा संचालित एक संवादात्मक AI चैटबॉट है। इस घटना ने AI नैतिकता, Machine learning मॉडलों की सीमाओं और मानव-AI बातचीत में मानवरूपता की संभावना के बारे में व्यापक चर्चाओं में योगदान दिया। इसने Generative AI प्रणालियों और उनकी क्षमताओं के बारे में सार्वजनिक धारणा को भी प्रभावित किया, हालांकि मशीन चेतना की संभावना पर कोई सहमति नहीं बनी।