मीना गूगल द्वारा विकसित एक संवादात्मक कृत्रिम बुद्धिमत्ता मॉडल है, जिसकी घोषणा पहली बार जनवरी 2020 में एक शोध पत्र में की गई थी। यह एक तंत्रिका नेटवर्क-आधारित चैटबॉट है जिसे खुले-डोमेन संवादों को संभालने के लिए डिज़ाइन किया गया है, जिसका अर्थ है कि यह एक संकीर्ण डोमेन तक सीमित होने के बजाय विषयों की एक विस्तृत श्रृंखला पर चर्चा कर सकता है। मीना को Transformer (architecture) वास्तुकला पर बनाया गया था, जो आधुनिक डीप लर्निंग में एक मौलिक मॉडल प्रकार है। मॉडल को सार्वजनिक डोमेन सोशल मीडिया संवादों के एक बड़े डेटासेट पर प्रशिक्षित किया गया था, जिसने इसे मानव संवाद के पैटर्न सीखने की अनुमति दी। गूगल के शोधकर्ताओं ने मीना का मूल्यांकन एक मीट्रिक का उपयोग करके किया जिसे सेंसिबलनेस एंड स्पेसिफिसिटी एवरेज (SSA) कहा जाता है, जिसने मापा कि चैटबॉट की प्रतिक्रियाएँ मानव निर्णयों की तुलना में कितनी समझदार और विशिष्ट थीं। मीना ने 79% का SSA स्कोर हासिल किया, जो उस समय के मौजूदा चैटबॉट्स जैसे क्लीवरबॉट और मित्सुकु से काफी अधिक था, और 86% की मानव आधार रेखा के करीब पहुंच गया।
आर्किटेक्चर और प्रशिक्षण
मीना 2.6 अरब मापदंडों वाला एक बड़ा तंत्रिका नेटवर्क था, जो डेटा से सीखने की मॉडल की क्षमता का एक माप है। यह Transformer (architecture) वास्तुकला पर आधारित था, विशेष रूप से एक विकसित ट्रांसफॉर्मर एनकोडर-डिकोडर मॉडल। एनकोडर ने संवाद इतिहास को संसाधित किया, जबकि डिकोडर ने अगली प्रतिक्रिया उत्पन्न की। मॉडल को 341 गीगाबाइट पाठ पर प्रशिक्षित किया गया था, जिसे सार्वजनिक डोमेन सोशल मीडिया संवादों से फ़िल्टर किया गया था, जिसमें रेडिट जैसे प्लेटफार्मों की टिप्पणियाँ और चर्चाएँ शामिल थीं। प्रशिक्षण प्रक्रिया में अगले-टोकन भविष्यवाणी नामक एक तकनीक का उपयोग किया गया था, जहाँ मॉडल ने पिछले शब्दों को देखते हुए अनुक्रम में अगले शब्द की भविष्यवाणी करना सीखा। यह दृष्टिकोण बड़े भाषा मॉडल विकास में आम है और GPT-2 जैसे मॉडलों के लिए उपयोग की जाने वाली प्रशिक्षण विधियों के समान है, जिसे 2019 में OpenAI द्वारा जारी किया गया था।
मूल्यांकन और प्रदर्शन
मीना के लिए प्राथमिक मूल्यांकन मीट्रिक सेंसिबलनेस एंड स्पेसिफिसिटी एवरेज (SSA) था, जिसने दो पहलुओं को संयुक्त किया: समझदारी (क्या कोई प्रतिक्रिया संदर्भ में समझ में आती है) और विशिष्टता (क्या कोई प्रतिक्रिया सामान्य होने के बजाय दिए गए संदर्भ के लिए विशिष्ट है)। मानव मूल्यांकनकर्ताओं ने दोनों आयामों पर मॉडल की प्रतिक्रियाओं का मूल्यांकन किया, और स्कोर का औसत निकाला गया। मीना का SSA 79% अन्य चैटबॉट्स से काफी आगे था; उदाहरण के लिए, क्लीवरबॉट ने 51% और मित्सुकु ने 56% स्कोर किया। मानव आधार रेखा 86% थी, जो दर्शाता है कि मीना मानव-स्तरीय प्रदर्शन के करीब थी लेकिन फिर भी कम थी। शोधकर्ताओं ने गुणात्मक विश्लेषण भी किए, जिसमें दिखाया गया कि मीना विभिन्न संवादात्मक परिदृश्यों को संभाल सकती है, जिसमें छोटी बातचीत, व्यक्तिगत प्रश्न और यहां तक कि कुछ प्रकार के हास्य शामिल हैं।
स्वागत और प्रभाव
मीना को एक उत्पाद के रूप में जनता के लिए जारी नहीं किया गया था, लेकिन इसके शोध पत्र ने एआई समुदाय में महत्वपूर्ण रुचि पैदा की। इसने संवादात्मक एआई के लिए बड़े पैमाने पर तंत्रिका नेटवर्क की क्षमता पर प्रकाश डाला और क्षेत्र में बाद के विकास को प्रभावित किया। SSA मीट्रिक चैटबॉट्स के मूल्यांकन के लिए एक संदर्भ बिंदु बन गया, और संवाद प्रणालियों के लिए बड़े डेटासेट और ट्रांसफॉर्मर मॉडल का उपयोग करने का विचार गति पकड़ गया। मीना की तुलना अक्सर बाद के मॉडलों जैसे GPT-3 से की जाती है, जिसे 2020 में OpenAI द्वारा जारी किया गया था, और LaMDA, जिसकी घोषणा गूगल द्वारा 2021 में की गई थी। इन मॉडलों ने समान सिद्धांतों पर निर्माण किया लेकिन और भी बड़ी वास्तुकला और अधिक उन्नत प्रशिक्षण तकनीकों का उपयोग किया। मीना के दृष्टिकोण ने तंत्रिका नेटवर्क को बड़ा करने की व्यापक प्रवृत्ति में भी योगदान दिया, जो कृत्रिम बुद्धिमत्ता और मशीन लर्निंग की उन्नति में एक प्रमुख चालक रहा है।
बाद के मॉडलों के साथ तुलना
जबकि मीना एक महत्वपूर्ण कदम था, बाद के मॉडलों ने इसकी क्षमताओं को पार कर लिया है। उदाहरण के लिए, GPT-3 में 175 अरब पैरामीटर थे और यह संवाद से परे कार्यों की एक विस्तृत श्रृंखला में सक्षम था, जिसमें पाठ निर्माण, अनुवाद और प्रश्न उत्तर शामिल हैं। गूगल द्वारा विकसित LaMDA ने विशेष रूप से संवाद पर ध्यान केंद्रित किया और सार्वजनिक संवादों और वेब पाठ के डेटासेट पर प्रशिक्षित किया गया था। LaMDA की वास्तुकला मीना के समान ट्रांसफॉर्मर डिकोडर पर आधारित थी, लेकिन इसमें "सेंसिबलनेस एंड स्पेसिफिसिटी" मीट्रिक नामक एक मॉडल का उपयोग जैसी अतिरिक्त तकनीकें शामिल थीं, जिसे मीना के SSA से परिष्कृत किया गया था। इन बाद के मॉडलों को गूगल के बार्ड (अब जेमिनी के रूप में जाना जाता है) और OpenAI के ChatGPT जैसे उत्पादों में एकीकृत किया गया है, जिनका जनता द्वारा व्यापक रूप से उपयोग किया गया है। इस प्रकार मीना की विरासत आधुनिक पीढ़ी की संवादात्मक एआई प्रणालियों में दिखाई देती है।
तकनीकी विवरण और सीमाएँ
मीना का प्रशिक्षण डेटा सार्वजनिक डोमेन सोशल मीडिया संवादों से प्राप्त किया गया था, जिसने गोपनीयता और पूर्वाग्रह के बारे में चिंताएँ उठाईं। मॉडल अनुचित या पक्षपाती प्रतिक्रियाएँ उत्पन्न कर सकता था, क्योंकि यह अनफ़िल्टर्ड उपयोगकर्ता-जनित सामग्री से सीखा था। गूगल के शोधकर्ताओं ने इन सीमाओं को स्वीकार किया और सावधानीपूर्वक तैनाती और आगे के शोध की आवश्यकता पर जोर दिया। इसके अतिरिक्त, मीना की प्रतिक्रियाएँ एक समय में एक टोकन उत्पन्न की गईं, जिससे यह बाद के मॉडलों की तुलना में अपेक्षाकृत धीमी थी जो अधिक कुशल डिकोडिंग विधियों का उपयोग करते थे। मॉडल में बाहरी ज्ञान तक पहुंचने या जटिल तर्क करने की क्षमता भी नहीं थी, जिसने तथ्यात्मक सटीकता या तार्किक अनुमान की आवश्यकता वाले कार्यों में इसकी उपयोगिता को सीमित कर दिया। इन सीमाओं को बाद के मॉडलों में पुनर्प्राप्ति-संवर्धित निर्माण और मानव प्रतिक्रिया से सुदृढीकरण सीखने जैसी तकनीकों को शामिल करके संबोधित किया गया था।
यह भी देखें
संदर्भ
मीना के बारे में जानकारी का प्राथमिक स्रोत "Towards a Human-like Open-Domain Chatbot" शीर्षक वाला शोध पत्र है, जिसे डैनियल अदिवार्डाना, मिन्ह-थांग लुओंग, डेविड आर. सो, जेमी हॉल, नूह फिडेल, रोमल थोप्पिलन, ज़ी यांग, अपूर्व कुलश्रेष्ठ, गौरव नेमाडे, यिफेंग लू और क्वोक वी. ले द्वारा जनवरी 2020 में arXiv पर प्रकाशित किया गया था। मॉडल की वास्तुकला और मूल्यांकन के बारे में अतिरिक्त विवरण उस पत्र में पाए जा सकते हैं। SSA मीट्रिक और अन्य चैटबॉट्स के साथ तुलना भी पत्र में वर्णित है। बाद के विकासों के संदर्भ के लिए, GPT-3 और LaMDA के पेपर आगे की जानकारी प्रदान करते हैं।