Gemini Nano是Google Gemini系列多模态大型语言模型中的一个紧凑变体，由Google DeepMind开发。它于2023年12月6日与更大规模的Gemini Pro和Gemini Ultra模型一同发布。与基于云端的同类模型不同，Gemini Nano专为端侧任务设计，使得人工智能功能能够在智能手机和其他硬件上本地运行，无需网络连接。这种设计优先考虑了效率、隐私和低延迟，使其适用于文本摘要、智能回复建议和语法纠错等直接在设备上运行的应用。
作为更广泛的Gemini计划（该计划接替了LaMDA和PaLM 2等早期模型）的一部分，Gemini Nano代表了Google将生成式AI能力嵌入消费硬件的战略举措。该模型利用了神经网络压缩和优化方面的进展，使其能够在移动设备的存储和功耗限制下运行。其推出标志着行业向边缘AI迈出的重要一步，减少了对外部服务器的依赖，并解决了数据隐私和连接性方面的担忧。
开发与设计
Gemini Nano的开发始于更广泛的Gemini项目，该项目由Google首席执行官Sundar Pichai在2023年5月10日Google I/O主题演讲中公开揭晓。该项目是Google Brain与DeepMind合并为Google DeepMind这一单一部门后的合作成果。DeepMind首席执行官Demis Hassabis强调，Gemini将结合AlphaGo等先前系统的优势与先进的语言处理能力。团队的目标是创建一个本质上多模态的模型，能够处理文本、图像、音频、视频和代码，尽管Gemini Nano专门针对轻量级端侧推理进行了优化。
为了实现端侧功能，Google工程师采用了模型量化和知识蒸馏等技术，在缩减模型大小的同时保留核心能力。该模型在Google的张量处理单元（TPU）上进行了训练，TPU是专为机器学习工作负载设计的定制硬件加速器。The Information在2023年8月的早期报道指出，Google的目标是在2023年底发布，来自Google Brain和DeepMind的数百名工程师为此做出了贡献。值得注意的是，Google联合创始人Sergey Brin被召回协助该项目，后来被列为核心贡献者。
发布与初步集成
Gemini Nano于2023年12月6日在由Pichai和Hassabis主持的线上新闻发布会上正式推出。发布时，它被集成到Pixel 8 Pro智能手机中，标志着该模型的首次商业部署。Pixel 8 Pro使用Gemini Nano为来电筛选、消息建议和Recorder应用中的端侧摘要等功能提供支持。Google表示，该模型专为“端侧任务”设计，与面向云端服务的更强大的Gemini Pro和Ultra模型有所区别。最初，Gemini Nano仅支持英文，Google强调在更广泛部署前需要经过全面的安全测试。
在同一活动中，Google宣布将Gemini Nano提供给Android开发者，允许第三方应用利用端侧AI能力。此举是更广泛战略的一部分，旨在将Gemini嵌入Google的产品生态系统中，包括Search、Chrome和Workspace。此次发布正值与OpenAI的ChatGPT及其他大型语言模型的激烈竞争之际，Google将Gemini定位为GPT-4的直接挑战者。
硬件合作伙伴与扩展
2024年1月，Google与三星电子合作，将Gemini Nano集成到Galaxy S24智能手机系列中。此次合作将端侧AI功能带给更广泛的受众，包括实时翻译、生成式照片编辑和键盘智能回复。这次合作被视为对Gemini Nano能力的重大验证，因为三星是全球最大的智能手机制造商之一。集成需要Google和三星密切合作，以针对三星使用高通和三星Exynos处理器的硬件优化该模型。
2024年晚些时候，Google将Gemini Nano的应用范围扩展到智能手机之外。在2024年5月14日的Google I/O大会上，公司宣布计划将桌面优化的Gemini Nano版本直接集成到Google Chrome浏览器中。这项名为“内置AI”的计划通过实验性API（如Prompt API，有时称为“window.ai”）向Web开发者暴露本地处理能力。这使得网站能够执行文本摘要和内容生成等任务，而无需将数据发送到外部服务器，从而增强了隐私并减少了延迟。
技术能力与应用场景
Gemini Nano旨在处理各种端侧自然语言处理任务。常见应用场景包括文本摘要（模型将长文档或消息压缩为较短形式）、智能回复（在消息应用中生成上下文合适的响应）以及语法纠错（提高输入文本的准确性）。该模型还支持来电筛选（可分析来电并提供实时建议）和转录（将语音高精度转换为文本）等功能。
Gemini Nano的一个关键优势是其离线运行能力，确保AI功能即使在无网络连接时也能保持可用。这对隐私敏感的应用尤为重要，因为用户数据无需传输到云服务器。该模型的体积小也降低了功耗，这对电池受限的移动设备至关重要。然而，与Gemini Pro等大型模型相比，其能力较为有限，后者可以处理更复杂的推理和多模态输入。
与其他端侧模型的比较
Gemini Nano进入了竞争激烈的端侧AI模型领域。Apple开发了自己的端侧AI能力，通常集成到其Core ML框架中，但这些能力通常更侧重于特定功能。高通等芯片制造商也推出了用于加速此类模型的神经处理单元（NPU）。在更广泛的AI行业中，Meta等公司探索了LLaMA 2等较小的开源模型，这些模型可以在本地硬件上运行，但并非专门为移动设备优化。
Google在Gemini Nano上的方法不同于这些努力，它将模型与Android操作系统和Pixel硬件紧密集成。这种垂直整合可提供无缝的用户体验和跨设备的一致性能。此外，Google与三星的合作为Gemini Nano在Android生态系统中确立端侧AI标准提供了助力，并可能影响未来的硬件设计。
影响与反响
Gemini Nano的推出获得了科技记者和分析师的积极评价，他们称赞其能够在不大幅影响隐私或性能的情况下提供有用的AI功能。早期用户指出，与基于云端的替代方案相比，端侧处理显著缩短了响应时间。然而，一些批评者指出，该模型的能力相比更大的系统较为有限，许多用户在日常任务中可能不会注意到差异。
从战略角度看，Gemini Nano代表了Google更广泛AI战略的关键组成部分，该战略强调云端和边缘计算并重。通过提供从Nano到Ultra的一系列模型，Google旨在满足多样化的用例，从轻量级移动应用到企业级数据处理。该模型还助力Google与OpenAI和Microsoft竞争，后者通过ChatGPT和GitHub Copilot获得了显著市场份额。
未来发展
在首次发布后，Google继续迭代Gemini Nano。2024年12月，公司宣布推出Gemini 2.0 Flash Experimental，其中包括实时音频和视频交互的改进，但它不是专门的端侧模型。截至2025年，Google尚未发布Gemini Nano的专用后续版本，但模型压缩和高效架构方面的持续研究表明，未来版本将提供增强的功能，同时保持较低的资源需求。端侧AI集成到Chrome和Android表明，Google将边缘计算视为长期优先事项，潜在应用领域包括增强现实和自主系统。
参见
- Gemini
- Google DeepMind
- Sundar Pichai
- Demis Hassabis
- 大型语言模型
- 人工智能
- android|Android
- 三星电子
- Google Cloud
- Vertex AI
- Bard
- ChatGPT
- GPT-4
- PaLM 2
- AlphaGo
- 神经网络
- 深度学习
- 机器学习
- Transformer
- 生成式AI