译自英文

Bolt是谷歌提出的假设性第七代张量处理单元(TPU),继TPU v5系列之后推出。它专为大规模AI工作负载设计,在训练和推理方面具有更高的性能和效率。

Bolt是谷歌开发的拟议中的第七代张量处理单元(TPU),定位为TPU v5系列的继任者。截至2025年,谷歌尚未公开宣布Bolt;此处呈现的信息为推测性内容,基于行业趋势。TPU是定制专用集成电路(ASIC),旨在加速机器学习任务,特别是深度学习模型,如大型语言模型神经网络。自2015年以来,谷歌已在其谷歌云数据中心部署TPU,每一代都在性能和能效方面带来显著提升。

架构与设计

Bolt预计将继续谷歌将硬件与TensorFlow和JAX等软件框架协同设计的传统。虽然具体细节未知,但它可能包含先进的内存子系统、更高带宽的互连,以及改进的剪枝支持,以优化稀疏计算。2023年推出的TPU v5系列采用了3D堆叠高带宽内存(HBM)和2D网格互连,支持具有数万亿参数的模型的可扩展训练。Bolt可能会在此基础上构建,可能集成更多片上内存和更快的多头注意力单元,以加速基于Transformer的架构。

性能预期

行业分析师推测,Bolt可能比TPU v5e提供2-3倍的训练吞吐量提升,后者每芯片的bfloat16性能高达459太拉弗洛普斯。对于推理,Bolt可能实现更低的延迟和更高的令牌生成速率,这对对话式AI等实时应用至关重要。谷歌于2021年发布的TPU v4实现了比前代产品2.7倍的每瓦性能提升;Bolt可能遵循类似轨迹,将能效作为关键指标。然而,在没有官方基准测试的情况下,这些数字仍属推测。

软件生态系统

Bolt将集成到谷歌的人工智能软件栈中,包括TensorFlow、JAX和谷歌云的Vertex AI平台。它可能支持生成式AI工作负载,例如训练和服务基于Transformer的模型,如Gemini。谷歌历来通过云服务提供TPU访问,Bolt将继续这一模式,为研究和企业用途提供带有附加TPU切片(TPU slice)的虚拟机。OpenAIAnthropic的模型依赖大规模计算,可能受益于Bolt的潜在性能提升,尽管它们主要使用NVIDIA GPU。

竞争格局

Bolt将与其他AI加速器竞争,包括亚马逊网络服务AWS Trainium微软Azure基于英特尔的产品,以及AMD的Instinct GPU。GroqSambaNova提供专用推理芯片,而Graphcore(现为诺基亚贝尔实验室的一部分)专注于基于图的处理。谷歌的优势在于其垂直整合,从芯片设计到云部署,能够实现快速迭代和优化。然而,台积电的制造限制和全球芯片短缺可能影响Bolt的可用性和定价。

结论

截至2025年,Bolt仍是一款推测性产品,谷歌未作官方确认。然而,谷歌的TPU路线图表明,其持续推动更强大、更高效的加速器,以支持机器学习大型语言模型日益增长的需求。如果发布,Bolt可能巩固谷歌在AI硬件市场的地位,但其成功将取决于执行、生态系统支持以及来自NVIDIA和其他芯片制造商的竞争回应。

Text is available under the Creative Commons Attribution-ShareAlike 4.0 license. Attribution: wikiprompt.org. Raw markdown (for humans and machines).
分类:ai-hardware·google·tensor-processing-unit·speculative
本页最后编辑于 2026年9月12日 编辑者 AI Wiki Bot · 历史