Google Brain एक गहन शिक्षण कृत्रिम बुद्धिमत्ता अनुसंधान दल था जो Google की एकमात्र AI शाखा के रूप में कार्य करता था, इससे पहले कि इसे Google AI के नए छत्र के अंतर्गत शामिल किया जाता, जो कृत्रिम बुद्धिमत्ता को समर्पित Google में एक अनुसंधान प्रभाग है। 2011 में गठित, इसने खुले-अंत मशीन लर्निंग अनुसंधान को सूचना प्रणालियों और बड़े पैमाने पर कंप्यूटिंग संसाधनों के साथ जोड़ा। इसने TensorFlow जैसे उपकरण बनाए, जो तंत्रिका नेटवर्क को जनता द्वारा उपयोग करने की अनुमति देते हैं, और कई आंतरिक AI अनुसंधान परियोजनाएँ चलाईं, तथा मशीन लर्निंग और प्राकृतिक भाषा प्रसंस्करण में अनुसंधान के अवसर पैदा करने का लक्ष्य रखा। इसे अप्रैल 2023 में Google की पूर्व सहयोगी कंपनी DeepMind में विलय कर Google DeepMind बनाया गया।
यह परियोजना Google X में Google शोधकर्ताओं जेफ डीन और ग्रेग कोराडो तथा स्टैनफोर्ड प्रोफेसर एंड्रयू एनजी के बीच एक सहयोग के रूप में शुरू हुई। यह कंपनी के भीतर गहन शिक्षण प्रगति का एक प्रमुख चालक बन गया, जिसने प्रभावशाली उपकरण और मॉडल तैयार किए जिन्होंने Artificial intelligence के व्यापक क्षेत्र को आकार दिया।
इतिहास
Google Brain परियोजना 2011 में Google X में Google शोधकर्ताओं जेफ डीन और ग्रेग कोराडो तथा स्टैनफोर्ड प्रोफेसर एंड्रयू एनजी से जुड़े एक अनुसंधान सहयोग के रूप में शुरू हुई। 2012 में, टीम ने YouTube वीडियो से 10 मिलियन छवियों पर एक बड़े पैमाने का Neural network प्रशिक्षित किया; सिस्टम ने उच्च-स्तरीय अवधारणाओं को पहचानना सीखा, जिसमें बिल्लियाँ शामिल थीं, बिना उन्हें स्पष्ट रूप से पहचानने के लिए प्रशिक्षित किए। इस प्रदर्शन ने कच्चे डेटा से विशेषताएँ सीखने के लिए Deep learning की क्षमता पर प्रकाश डाला।
Google ने 2013 में जेफ्री हिंटन को काम पर रखकर और DNNResearch का अधिग्रहण करके अपने गहन शिक्षण अनुसंधान का विस्तार किया, जिसे उन्होंने एलेक्स क्रिज़ेव्स्की और इल्या सट्सकेवर के साथ स्थापित किया था। उसी वर्ष बाद में, टोमास मिकोलोव और Google Brain में उनके सहयोगियों ने word2vec विकसित किया, जो पाठ के बड़े संग्रहों से शब्द एम्बेडिंग सीखने की एक विधि है। यह तकनीक प्राकृतिक भाषा प्रसंस्करण के लिए आधारभूत बन गई।
2015 में, Google ने TensorFlow को ओपन-सोर्स किया, जो Google Brain टीम द्वारा मशीन-लर्निंग मॉडल विकसित करने और प्रशिक्षित करने के लिए विकसित एक फ्रेमवर्क है। TensorFlow सबसे व्यापक रूप से उपयोग किए जाने वाले Machine learning पुस्तकालयों में से एक बन गया, जिसने अनुसंधान और उत्पादन दोनों अनुप्रयोगों को सक्षम किया।
2017 में, Google शोधकर्ताओं ने पेपर "Attention Is All You Need" में Transformer आर्किटेक्चर पेश किया। शुरू में मशीन अनुवाद के लिए विकसित, यह बाद में Large language model के लिए प्रमुख आर्किटेक्चर बन गया, जो GPT और BERT जैसी प्रणालियों को शक्ति प्रदान करता है। Transformer के सेल्फ-अटेंशन तंत्र ने अधिक कुशल समानांतर प्रसंस्करण और पाठ में लंबी-दूरी की निर्भरताओं के बेहतर प्रबंधन की अनुमति दी।
अप्रैल 2023 में, Google Brain का विलय DeepMind के साथ होकर Google DeepMind बना, जो AI पर काम को तेज करने के कंपनी के निरंतर प्रयासों का हिस्सा था। संयुक्त इकाई का उद्देश्य अनुसंधान प्रतिभा और संसाधनों को एक छत्र के अंतर्गत समेकित करना था, जो AI को सुरक्षित और जिम्मेदारी से आगे बढ़ाने पर केंद्रित था।
टीम और स्थान
Google Brain की स्थापना शुरू में Google फेलो जेफ डीन और विजिटिंग स्टैनफोर्ड प्रोफेसर एंड्रयू एनजी द्वारा की गई थी। 2014 में, टीम में जेफ डीन, क्वोक वी. ले, इल्या सट्सकेवर, एलेक्स क्रिज़ेव्स्की, सैमी बेंगियो और विंसेंट वानहाउके शामिल थे। 2017 में, टीम के सदस्यों में एनेलिया एंजेलोवा, सैमी बेंगियो, ग्रेग कोराडो, जॉर्ज डाहल, माइकल इसार्ड, अंजुली कन्नन, ह्यूगो लारोशेल, क्रिस ओला, बेनोइट स्टीनर, विंसेंट वानहाउके, विजय वासुदेवन और फर्नांडा विगास शामिल थे। क्रिस लैटनर, जिन्होंने Apple की प्रोग्रामिंग भाषा Swift बनाई और फिर छह महीने के लिए Tesla की ऑटोनॉमी टीम चलाई, अगस्त 2017 में Google Brain की टीम में शामिल हुए। लैटनर ने जनवरी 2020 में टीम छोड़ दी और SiFive में शामिल हो गए।
2021 तक, Google Brain का नेतृत्व जेफ डीन, जेफ्री हिंटन और ज़ौबिन घहरामनी कर रहे थे। अन्य सदस्यों में कैथरीन हेलर, पी-चुआन चांग, इयान साइमन, जीन-फिलिप वर्ट, नेवेना लाज़िक, एनेलिया एंजेलोवा, लुकाज़ कैसर, कैरी जून कै, एरिक ब्रेक, रुओमिंग पैंग, कार्लोस रिक्वेल्मे, ह्यूगो लारोशेल और डेविड हा शामिल थे। सैमी बेंगियो ने अप्रैल 2021 में टीम छोड़ दी, और ज़ौबिन घहरामनी ने उनकी जिम्मेदारियाँ संभाल लीं।
Google Research में Google Brain शामिल है और यह माउंटेन व्यू में स्थित है। इसके अकरा, एम्स्टर्डम, अटलांटा, बीजिंग, बर्लिन, कैम्ब्रिज, इज़राइल, लॉस एंजिल्स, लंदन, मॉन्ट्रियल, म्यूनिख, न्यूयॉर्क शहर, पेरिस, पिट्सबर्ग, प्रिंसटन, सैन फ्रांसिस्को, सिएटल, टोक्यो, टोरंटो और ज्यूरिख में भी उपग्रह समूह हैं।
परियोजनाएँ
कृत्रिम-बुद्धिमत्ता-निर्मित एन्क्रिप्शन प्रणाली
अक्टूबर 2016 में, Google Brain ने यह निर्धारित करने के लिए एक प्रयोग डिज़ाइन किया कि तंत्रिका नेटवर्क सुरक्षित सममित एन्क्रिप्शन सीखने में सक्षम हैं। इस प्रयोग में, तीन तंत्रिका नेटवर्क बनाए गए: ऐलिस, बॉब और ईव। जनरेटिव एडवरसैरियल नेटवर्क (GAN) के विचार का पालन करते हुए, प्रयोग का लक्ष्य यह था कि ऐलिस बॉब को एक एन्क्रिप्टेड संदेश भेजे जिसे बॉब डिक्रिप्ट कर सके, लेकिन प्रतिद्वंद्वी, ईव, नहीं कर सके। ऐलिस और बॉब ने ईव पर एक लाभ बनाए रखा, क्योंकि उन्होंने एन्क्रिप्शन और डिक्रिप्शन के लिए उपयोग की जाने वाली एक कुंजी साझा की थी। ऐसा करने में, Google Brain ने तंत्रिका नेटवर्क की सुरक्षित एन्क्रिप्शन सीखने की क्षमता का प्रदर्शन किया।
छवि संवर्धन
फरवरी 2017 में, Google Brain ने 8x8 रिज़ॉल्यूशन वाली तस्वीरों को 32x32 के रिज़ॉल्यूशन में बदलने के लिए एक संभाव्य विधि निर्धारित की। यह विधि पिक्सेल अनुवाद उत्पन्न करने के लिए पहले से मौजूद संभाव्य मॉडल pixelCNN पर आधारित थी। प्रस्तावित सॉफ्टवेयर अनुवादित छवियों के पिक्सेल मेकअप के लिए अनुमान लगाने के लिए दो तंत्रिका नेटवर्क का उपयोग करता है। पहला नेटवर्क, जिसे "कंडीशनिंग नेटवर्क" के रूप में जाना जाता है, उच्च-रिज़ॉल्यूशन छवियों को 8x8 तक छोटा करता है और मूल 8x8 छवि से इन उच्च-रिज़ॉल्यूशन वाली छवियों के लिए मैपिंग बनाने का प्रयास करता है। दूसरा नेटवर्क, जिसे "प्रायर नेटवर्क" के रूप में जाना जाता है, पिछले नेटवर्क से मैपिंग का उपयोग करके मूल छवि में अधिक विवरण जोड़ता है। परिणामी अनुवादित छवि उच्च रिज़ॉल्यूशन में समान छवि नहीं है, बल्कि अन्य मौजूदा उच्च-रिज़ॉल्यूशन छवियों पर आधारित एक 32x32 रिज़ॉल्यूशन अनुमान है। Google Brain के परिणाम तंत्रिका नेटवर्क की छवियों को बढ़ाने की संभावना का संकेत देते हैं।
Google अनुवाद
Google Brain ने Google अनुवाद परियोजना में योगदान दिया, जिसमें एक नई गहन शिक्षण प्रणाली का उपयोग किया गया जो कृत्रिम तंत्रिका नेटवर्क को बहुभाषी पाठों के विशाल डेटाबेस के साथ जोड़ती है। सितंबर 2016 में, Google न्यूरल मशीन ट्रांसलेशन (GNMT) लॉन्च किया गया, जो एक एंड-टू-एंड लर्निंग फ्रेमवर्क है, जो बड़ी संख्या में उदाहरणों से सीखने में सक्षम है। पहले, Google अनुवाद का वाक्यांश-आधारित मशीन अनुवाद (PBMT) दृष्टिकोण शब्द दर शब्द सांख्यिकीय रूप से विश्लेषण करता था और वाक्य में आसपास के वाक्यांशों पर विचार किए बिना अन्य भाषाओं में संबंधित शब्दों से मिलान करने का प्रयास करता था। लेकिन वांछित भाषा में प्रत्येक व्यक्तिगत शब्द के लिए प्रतिस्थापन चुनने के बजाय, GNMT वाक्य के बाकी हिस्सों के संदर्भ में शब्द खंडों का मूल्यांकन करता है ताकि अधिक सटीक प्रतिस्थापन चुने जा सकें। पुराने PBMT मॉडल की तुलना में, GNMT मॉडल ने मानव अनुवाद से समानता में 24% सुधार दर्ज किया, जिसमें त्रुटियों में 60% की कमी आई। GNMT ने कुख्यात रूप से कठिन अनुवादों, जैसे चीनी से अंग्रेजी, के लिए भी महत्वपूर्ण सुधार दिखाया है।
जबकि GNMT की शुरुआत ने पायलट भाषाओं के लिए Google अनुवाद के अनुवादों की गुणवत्ता में वृद्धि की, इसकी सभी 103 भाषाओं के लिए ऐसे सुधार बनाना बहुत कठिन था। इस समस्या को संबोधित करते हुए, Google Brain टीम एक बहुभाषी GNMT प्रणाली विकसित करने में सक्षम थी, जिसने पिछले एक को कई भाषाओं के बीच अनुवाद सक्षम करके विस्तारित किया। इसके अलावा, यह ज़ीरो-शॉट अनुवादों की अनुमति देता है, जो दो भाषाओं के बीच अनुवाद हैं जिन्हें सिस्टम ने पहले कभी स्पष्ट रूप से नहीं देखा है। Google ने घोषणा की कि Google अनुवाद अब तंत्रिका नेटवर्क का उपयोग करके बिना लिप्यंतरण के भी अनुवाद कर सकता है। इसका मतलब है कि एक भाषा में भाषण को सीधे दूसरी भाषा में पाठ में अनुवाद करना संभव है, बिना पहले इसे पाठ में लिप्यंतरित किए। Google Brain के शोधकर्ताओं के अनुसार, तंत्रिका नेटवर्क का उपयोग करके इस मध्यवर्ती चरण से बचा जा सकता है। सिस्टम को यह सीखने के लिए, उन्होंने इसे ऑडियो और पाठ जोड़े से अवगत कराया, जिससे यह ध्वनियों को सीधे लिखित अनुवादों से मैप कर सके।
GNMT और Transformer आर्किटेक्चर पर काम ने Google Brain को Sequence-to-Sequence (Seq2Seq) सीखने और Machine learning अनुसंधान में एक नेता के रूप में स्थापित किया, जिसने Generative AI और Transformer (architecture)-आधारित मॉडलों में बाद के विकास को प्रभावित किया।