Google Brain 是一个深度学习人工智能研究团队，在并入谷歌旗下更广泛的AI研究部门Google AI之前，曾作为谷歌唯一的AI分支。该团队成立于2011年，将开放式机器学习研究与信息系统及大规模计算资源相结合。它创建了TensorFlow等工具，使公众能够使用神经网络，并开展了多个内部AI研究项目，旨在为机器学习和自然语言处理创造研究机会。2023年4月，它与前谷歌姊妹公司DeepMind合并，组建了Google DeepMind。
该项目起源于Google X，是谷歌研究员Jeff Dean和Greg Corrado与斯坦福大学教授Andrew Ng之间的合作。它成为公司内部深度学习进展的关键驱动力，产出了具有影响力的工具和模型，塑造了更广泛的人工智能领域。
历史
Google Brain项目于2011年在Google X启动，是谷歌研究员Jeff Dean和Greg Corrado与斯坦福大学教授Andrew Ng之间的研究合作。2012年，该团队在来自YouTube视频的1000万张图像上训练了一个大规模神经网络；该系统学会了识别包括猫在内的高层概念，而无需被明确训练来识别它们。这一演示凸显了深度学习从原始数据中学习特征的潜力。
谷歌在2013年通过聘请Geoffrey Hinton并收购DNNResearch（由他与Alex Krizhevsky和Ilya Sutskever共同创立）扩大了其深度学习研究。同年晚些时候，Google Brain的Tomáš Mikolov及其同事开发了word2vec，这是一种从大型文本集合中学习词嵌入的方法。该技术成为自然语言处理的基础。
2015年，谷歌开源了TensorFlow，这是Google Brain团队开发的用于开发和训练机器学习模型的框架。TensorFlow成为最广泛使用的机器学习库之一，支持研究和生产应用。
2017年，谷歌研究人员在论文《Attention Is All You Need》中引入了Transformer架构。该架构最初为机器翻译而开发，后来成为大型语言模型的主导架构，为GPT和BERT等系统提供支持。Transformer的自注意力机制允许更高效的并行处理，并更好地处理文本中的长距离依赖关系。
2023年4月，Google Brain与DeepMind合并，组建了Google DeepMind，这是公司持续加速AI工作的一部分。合并后的实体旨在将研究人才和资源整合到一个框架下，专注于以安全和负责任的方式推进AI。
团队与地点
Google Brain最初由谷歌Fellow Jeff Dean和访问斯坦福教授Andrew Ng建立。2014年，团队成员包括Jeff Dean、Quoc V. Le、Ilya Sutskever、Alex Krizhevsky、Samy Bengio和Vincent Vanhoucke。2017年，团队成员包括Anelia Angelova、Samy Bengio、Greg Corrado、George Dahl、Michael Isard、Anjuli Kannan、Hugo Larochelle、Chris Olah、Benoit Steiner、Vincent Vanhoucke、Vijay Vasudevan和Fernanda Viegas。Chris Lattner（曾创建苹果编程语言Swift，随后领导特斯拉自动驾驶团队六个月）于2017年8月加入Google Brain团队。Lattner于2020年1月离开该团队，加入SiFive。
截至2021年，Google Brain由Jeff Dean、Geoffrey Hinton和Zoubin Ghahramani领导。其他成员包括Katherine Heller、Pi-Chuan Chang、Ian Simon、Jean-Philippe Vert、Nevena Lazic、Anelia Angelova、Lukasz Kaiser、Carrie Jun Cai、Eric Breck、Ruoming Pang、Carlos Riquelme、Hugo Larochelle和David Ha。Samy Bengio于2021年4月离开该团队，Zoubin Ghahramani接管了他的职责。
Google Research包括Google Brain，总部位于山景城。它还在阿克拉、阿姆斯特丹、亚特兰大、北京、柏林、剑桥、以色列、洛杉矶、伦敦、蒙特利尔、慕尼黑、纽约市、巴黎、匹兹堡、普林斯顿、旧金山、西雅图、东京、多伦多和苏黎世设有卫星团队。
项目
人工智能设计的加密系统
2016年10月，Google Brain设计了一项实验，以确定神经网络能够学习安全的对称加密。在该实验中，创建了三个神经网络：Alice、Bob和Eve。遵循生成对抗网络（GAN）的理念，实验的目标是让Alice向Bob发送一条加密消息，Bob可以解密，而对手Eve则不能。Alice和Bob相对于Eve保持优势，因为他们共享一个用于加密和解密的密钥。通过这样做，Google Brain证明了神经网络学习安全加密的能力。
图像增强
2017年2月，Google Brain确定了一种将8x8分辨率图片转换为32x32分辨率的概率方法。该方法建立在已有的概率模型pixelCNN之上，以生成像素转换。所提出的软件利用两个神经网络来近似转换图像的像素构成。第一个网络称为“条件网络”，将高分辨率图像缩小到8x8，并尝试从原始8x8图像创建到这些高分辨率图像的映射。另一个网络称为“先验网络”，利用前一个网络的映射为原始图像添加更多细节。生成的转换图像不是同一图像的高分辨率版本，而是基于其他现有高分辨率图像的32x32分辨率估计。Google Brain的结果表明神经网络增强图像的可能性。
Google翻译
Google Brain通过采用一种新的深度学习系统为Google翻译项目做出贡献，该系统将人工神经网络与庞大的多语言文本数据库相结合。2016年9月，Google神经机器翻译（GNMT）推出，这是一个端到端的学习框架，能够从大量示例中学习。此前，Google翻译的基于短语的机器翻译（PBMT）方法会逐词进行统计分析，并尝试匹配其他语言中的对应单词，而不考虑句子中的周围短语。但GNMT不是为目标语言中的每个单词选择替换词，而是评估单词片段在句子其余部分上下文中的含义，以选择更准确的替换词。与较旧的PBMT模型相比，GNMT模型在与人工翻译的相似度上提高了24%，错误率降低了60%。GNMT还显著改善了公认困难的翻译，如中译英。
虽然GNMT的引入提高了Google翻译试点语言的翻译质量，但要为所有103种语言实现这种改进非常困难。针对这一问题，Google Brain团队开发了一个多语言GNMT系统，通过支持多种语言之间的翻译扩展了之前的系统。此外，它还支持零样本翻译，即系统从未明确见过的两种语言之间的翻译。谷歌宣布，Google翻译现在还可以使用神经网络进行无需转录的翻译。这意味着可以将一种语言的语音直接翻译成另一种语言的文本，而无需先将其转录为文本。据Google Brain的研究人员称，使用神经网络可以避免这一中间步骤。为了让系统学习这一点，他们向其展示了音频和文本对，使其能够将声音直接映射到书面翻译。
GNMT和Transformer架构方面的工作使Google Brain成为序列到序列学习和机器学习研究的领导者，影响了生成式AI和基于Transformer模型的后续发展。