Google Brain एक Deep learning कृत्रिम बुद्धिमत्ता अनुसंधान टीम थी जो Google की एकमात्र AI शाखा के रूप में कार्य करती थी, इससे पहले कि इसे Google AI की नई छतरी के तहत शामिल किया जाता, जो Artificial intelligence के लिए समर्पित Google में एक अनुसंधान प्रभाग है। 2011 में गठित, इसने खुले-अंत Machine learning अनुसंधान को सूचना प्रणालियों और बड़े पैमाने पर कंप्यूटिंग संसाधनों के साथ जोड़ा। इसने TensorFlow जैसे उपकरण बनाए, जो न्यूरल नेटवर्क को जनता द्वारा उपयोग करने की अनुमति देते हैं, और कई आंतरिक AI अनुसंधान परियोजनाएं बनाईं, और मशीन लर्निंग और प्राकृतिक भाषा प्रसंस्करण में अनुसंधान के अवसर पैदा करने का लक्ष्य रखा। इसे अप्रैल 2023 में Google की पूर्व सहयोगी कंपनी DeepMind में विलय कर Google DeepMind बनाया गया।
यह टीम डीप लर्निंग में अग्रणी काम के लिए जानी जाती थी, जिसमें Transformer (architecture) आर्किटेक्चर का विकास शामिल था, जो बड़े भाषा मॉडल के लिए आधारभूत बन गया। इसका अनुसंधान छवि संवर्धन, मशीन अनुवाद, और यहां तक कि कृत्रिम-बुद्धिमत्ता-निर्मित एन्क्रिप्शन जैसे क्षेत्रों में फैला हुआ था।
इतिहास
Google Brain परियोजना 2011 में Google X में Google शोधकर्ताओं जेफ डीन और ग्रेग कोराडो और स्टैनफोर्ड प्रोफेसर एंड्रयू एनजी के बीच एक शोध सहयोग के रूप में शुरू हुई। 2012 में, टीम ने YouTube वीडियो से 10 मिलियन छवियों पर एक बड़े पैमाने पर तंत्रिका नेटवर्क को प्रशिक्षित किया; सिस्टम ने बिल्लियों सहित उच्च-स्तरीय अवधारणाओं को पहचानना सीखा, बिना उन्हें पहचानने के लिए स्पष्ट रूप से प्रशिक्षित किए बिना।
Google ने 2013 में जेफ्री हिंटन को काम पर रखकर और DNNResearch का अधिग्रहण करके अपने डीप-लर्निंग अनुसंधान का विस्तार किया, जिसे उन्होंने एलेक्स क्रिज़ेव्स्की और इल्या सुत्स्केवर के साथ स्थापित किया था। उसी वर्ष बाद में, टॉमस मिकोलोव और Google Brain में उनके सहयोगियों ने word2vec विकसित किया, जो पाठ के बड़े संग्रह से शब्द एम्बेडिंग सीखने की एक विधि है।
2015 में, Google ने TensorFlow को ओपन-सोर्स किया, जो Google Brain टीम द्वारा मशीन-लर्निंग मॉडल विकसित करने और प्रशिक्षित करने के लिए विकसित एक ढांचा है। 2017 में, Google शोधकर्ताओं ने पेपर "Attention Is All You Need" में ट्रांसफॉर्मर आर्किटेक्चर पेश किया। शुरू में मशीन अनुवाद के लिए विकसित, यह बाद में बड़े भाषा मॉडल के लिए प्रमुख आर्किटेक्चर बन गया।
अप्रैल 2023 में, Google Brain का DeepMind के साथ विलय होकर Google DeepMind बना, जो AI पर काम में तेजी लाने के कंपनी के निरंतर प्रयासों का हिस्सा था।
टीम और स्थान
Google Brain की स्थापना शुरू में Google फेलो जेफ डीन और विजिटिंग स्टैनफोर्ड प्रोफेसर एंड्रयू एनजी द्वारा की गई थी। 2014 में, टीम में जेफ डीन, क्वोक वी. ले, इल्या सुत्स्केवर, एलेक्स क्रिज़ेव्स्की, सैमी बेंगियो और विंसेंट वानहाउके शामिल थे। 2017 में, टीम के सदस्यों में एनेलिया एंजेलोवा, सैमी बेंगियो, ग्रेग कोराडो, जॉर्ज डाहल, माइकल इसर्ड, अंजुली कन्नन, ह्यूगो लारोशेल, क्रिस ओला, बेनोइट स्टीनर, विंसेंट वानहाउके, विजय वासुदेवन और फर्नांडा विएगास शामिल थे। क्रिस लैटनर, जिन्होंने Apple की प्रोग्रामिंग भाषा Swift बनाई और फिर छह महीने के लिए Tesla की स्वायत्तता टीम चलाई, अगस्त 2017 में Google Brain की टीम में शामिल हुए। लैटनर ने जनवरी 2020 में टीम छोड़ दी और SiFive में शामिल हो गए।
2021 तक, Google Brain का नेतृत्व जेफ डीन, जेफ्री हिंटन और ज़ौबिन घहरामनी कर रहे थे। अन्य सदस्यों में कैथरीन हेलर, पी-चुआन चांग, इयान साइमन, जीन-फिलिप वर्ट, नेवेना लाज़िक, एनेलिया एंजेलोवा, लुकाज़ कैसर, कैरी जून कै, एरिक ब्रेक, रुओमिंग पैंग, कार्लोस रिकेलमे, ह्यूगो लारोशेल और डेविड हा शामिल थे। सैमी बेंगियो ने अप्रैल 2021 में टीम छोड़ दी, और ज़ौबिन घहरामनी ने उनकी जिम्मेदारियां संभालीं।
Google Research में Google Brain शामिल है और यह माउंटेन व्यू में स्थित है। इसके अकरा, एम्स्टर्डम, अटलांटा, बीजिंग, बर्लिन, कैम्ब्रिज, इज़राइल, लॉस एंजिल्स, लंदन, मॉन्ट्रियल, म्यूनिख, न्यूयॉर्क शहर, पेरिस, पिट्सबर्ग, प्रिंसटन, सैन फ्रांसिस्को, सिएटल, टोक्यो, टोरंटो और ज्यूरिख में भी उपग्रह समूह हैं।
परियोजनाएं
कृत्रिम-बुद्धिमत्ता-निर्मित एन्क्रिप्शन प्रणाली
अक्टूबर 2016 में, Google Brain ने यह निर्धारित करने के लिए एक प्रयोग डिजाइन किया कि क्या तंत्रिका नेटवर्क सुरक्षित सममित एन्क्रिप्शन सीखने में सक्षम हैं। इस प्रयोग में, तीन तंत्रिका नेटवर्क बनाए गए: एलिस, बॉब और ईव। जनरेटिव एडवर्सेरियल नेटवर्क (GAN) के विचार का पालन करते हुए, प्रयोग का लक्ष्य एलिस के लिए बॉब को एक एन्क्रिप्टेड संदेश भेजना था जिसे बॉब डिक्रिप्ट कर सके, लेकिन प्रतिद्वंद्वी, ईव, नहीं कर सके। एलिस और बॉब ने ईव पर एक फायदा बनाए रखा, क्योंकि उन्होंने एन्क्रिप्शन और डिक्रिप्शन के लिए उपयोग की जाने वाली एक कुंजी साझा की। ऐसा करके, Google Brain ने सुरक्षित एन्क्रिप्शन सीखने के लिए तंत्रिका नेटवर्क की क्षमता का प्रदर्शन किया।
छवि संवर्धन
फरवरी 2017 में, Google Brain ने 8x8 रिज़ॉल्यूशन वाली तस्वीरों को 32x32 के रिज़ॉल्यूशन में बदलने के लिए एक संभाव्य विधि निर्धारित की। यह विधि पिक्सेल अनुवाद उत्पन्न करने के लिए pixelCNN नामक पहले से मौजूद संभाव्य मॉडल पर आधारित थी। प्रस्तावित सॉफ्टवेयर अनुवादित छवियों की पिक्सेल संरचना के लिए अनुमान लगाने के लिए दो तंत्रिका नेटवर्क का उपयोग करता है। पहला नेटवर्क, जिसे "कंडीशनिंग नेटवर्क" के रूप में जाना जाता है, उच्च-रिज़ॉल्यूशन छवियों को 8x8 तक कम करता है और मूल 8x8 छवि से इन उच्च-रिज़ॉल्यूशन वाले लोगों के लिए मैपिंग बनाने का प्रयास करता है। दूसरा नेटवर्क, जिसे "पूर्व नेटवर्क" के रूप में जाना जाता है, मूल छवि में अधिक विवरण जोड़ने के लिए पिछले नेटवर्क से मैपिंग का उपयोग करता है। परिणामी अनुवादित छवि उच्च रिज़ॉल्यूशन में समान छवि नहीं है, बल्कि अन्य मौजूदा उच्च-रिज़ॉल्यूशन छवियों के आधार पर एक 32x32 रिज़ॉल्यूशन अनुमान है। Google Brain के परिणाम तंत्रिका नेटवर्क की छवियों को बढ़ाने की संभावना का संकेत देते हैं।
Google Translate
Google Brain ने Google Translate परियोजना में एक नई डीप लर्निंग प्रणाली का उपयोग करके योगदान दिया जो कृत्रिम तंत्रिका नेटवर्क को बहुभाषी ग्रंथों के विशाल डेटाबेस के साथ जोड़ती है। सितंबर 2016 में, Google न्यूरल मशीन ट्रांसलेशन (GNMT) लॉन्च किया गया, जो एक एंड-टू-एंड लर्निंग ढांचा है, जो बड़ी संख्या में उदाहरणों से सीखने में सक्षम है। पहले, Google Translate का वाक्यांश-आधारित मशीन अनुवाद (PBMT) दृष्टिकोण सांख्यिकीय रूप से शब्द-दर-शब्द विश्लेषण करता था और वाक्य में आसपास के वाक्यांशों पर विचार किए बिना अन्य भाषाओं में संबंधित शब्दों का मिलान करने का प्रयास करता था। लेकिन वांछित भाषा में प्रत्येक व्यक्तिगत शब्द के लिए प्रतिस्थापन चुनने के बजाय, GNMT अधिक सटीक प्रतिस्थापन चुनने के लिए शेष वाक्य के संदर्भ में शब्द खंडों का मूल्यांकन करता है। पुराने PBMT मॉडल की तुलना में, GNMT मॉडल ने मानव अनुवाद से समानता में 24% सुधार किया, जिसमें त्रुटियों में 60% की कमी आई। GNMT ने कुख्यात रूप से कठिन अनुवादों, जैसे चीनी से अंग्रेजी, के लिए भी महत्वपूर्ण सुधार दिखाया है।
जबकि GNMT की शुरूआत ने पायलट भाषाओं के लिए Google Translate के अनुवादों की गुणवत्ता में वृद्धि की है, इसकी सभी 103 भाषाओं के लिए ऐसे सुधार बनाना बहुत मुश्किल था। इस समस्या को संबोधित करते हुए, Google Brain टीम एक बहुभाषी GNMT प्रणाली विकसित करने में सक्षम थी, जिसने कई भाषाओं के बीच अनुवाद सक्षम करके पिछले एक का विस्तार किया। इसके अलावा, यह ज़ीरो-शॉट अनुवाद की अनुमति देता है, जो दो भाषाओं के बीच अनुवाद है जो सिस्टम ने पहले कभी स्पष्ट रूप से नहीं देखा है। Google ने घोषणा की कि Google Translate अब तंत्रिका नेटवर्क का उपयोग करके प्रतिलेखन के बिना भी अनुवाद कर सकता है। इसका मतलब है कि एक भाषा में भाषण को पहले इसे पाठ में प्रतिलेखित किए बिना सीधे दूसरी भाषा में पाठ में अनुवाद करना संभव है। Google Brain के शोधकर्ताओं के अनुसार, इस मध्यवर्ती चरण से तंत्रिका नेटवर्क का उपयोग करके बचा जा सकता है। सिस्टम को यह सीखने के लिए, उन्होंने इसे कई भाषाओं में ऑडियो और पाठ जोड़े के संपर्क में लाया, जिससे प्रत्यक्ष भाषण-से-पाठ अनुवाद सक्षम हो गया।
विरासत
Google Brain के योगदान का AI के क्षेत्र पर स्थायी प्रभाव पड़ा है। TensorFlow दुनिया भर में सबसे व्यापक रूप से उपयोग किए जाने वाले मशीन-लर्निंग ढांचे में से एक बना हुआ है, और ट्रांसफॉर्मर आर्किटेक्चर कई आधुनिक बड़े भाषा मॉडलों को रेखांकित करता है, जिसमें OpenAI, Anthropic और अन्य द्वारा विकसित शामिल हैं। टीम के Sequence-to-Sequence (Seq2Seq) मॉडल, Multi-Head Attention और Positional Encoding पर शोध प्राकृतिक भाषा प्रसंस्करण में मानक बन गया है। 2023 में DeepMind के साथ विलय ने Google के AI अनुसंधान प्रयासों को समेकित किया, जो Google Brain द्वारा रखी गई नींव पर आधारित था।