一年连发四款TPU 谷歌被曝向英伟达发起挑战

一年连发四款TPU 谷歌被曝向英伟达发起挑战

💡 原文中文,约1700字,阅读约需4分钟。
📝

内容提要

谷歌一年内发布四款第八代TPU,最新推出TPU 8tx和TPU 8i Max,分别面向硬件级机密计算和百万Token级长上下文推理,体现算力专用化思路。TPU已从自用转向对外销售,客户近百家,成为云业务增长点,对英伟达构成挑战。但英伟达CUDA生态壁垒仍高,谷歌能否扩大份额取决于软件生态、供应能力及客户对专用化价值的认可。

🔎

延伸解读

专用化切割:TPU 8tx与8i Max的场景逻辑

谷歌此次发布的两款TPU并非全新硅设计,而是在TPU 8t和8i基础上的重新配置与衍生,核心思路是围绕AI智能体时代分化的算力需求做专用化切割。TPU 8tx主打硬件级机密计算,让敏感数据和模型权重在计算过程中保持加密,瞄准政府、金融等受监管行业;TPU 8i Max则针对大模型推理中的内存墙,通过双芯片封装将计算、内存容量和HBM带宽提升至TPU 8i的两倍,支持百万Token级上下文。这种场景化产品矩阵体现了谷歌对专用化路线的押注。

商业化提速:从自用工具到近百家客户

TPU最初是谷歌为内部负载定制的自用工具,十多年前与博通共同开发,如今已逐步走向对外销售和外部数据中心部署。今年4月谷歌首次宣布向部分客户直接销售TPU系统,第三季度财报显示TPU销售已成为云业务收入的重要增长贡献之一。谷歌高级副总裁Amin Vahdat表示,TPU已成为一项快速增长的业务,目前拥有近100家客户,包括前沿AI实验室、交易公司、零售商、大学等。公开报道显示,苹果、Meta、甲骨文均是谷歌客户,OpenAI也有采购计划。

挑战英伟达:CUDA生态仍是最大壁垒

尽管谷歌通过一年四款TPU的产品节奏和专用化矩阵对英伟达形成挑战,但英伟达最坚固的壁垒仍是CUDA软件生态。大量AI开发者长期以CUDA为默认编程模型,迁移成本不容低估。此外,英伟达在训练市场地位尤其稳固,Jump Trading首席技术官坦言公司训练工作仍主要依靠英伟达芯片,TPU的吸引力更多体现在特定任务上表现相当且能效更高、有助于降低成本的场景。谷歌能否扩大份额,取决于软件生态成熟度、供应能力及客户对专用化价值的认可。

❓

Q&A

谷歌今年发布了哪几款TPU?各自面向什么场景?

谷歌今年共发布四款第八代TPU:4月推出TPU 8t(面向大模型训练)和TPU 8i(针对实时推理优化);11月推出TPU 8tx(主打硬件级机密计算)和TPU 8i Max(面向百万Token级长上下文推理)。

TPU 8tx有什么特别之处?适合哪些客户?

TPU 8tx是谷歌首款支持硬件强制机密计算的云端TPU,能让敏感数据和模型权重在计算过程中保持加密,避免明文暴露在内存中。主要面向政府机构、金融机构和受监管行业客户,并搭配AMD第五代EPYC处理器作为主机配套基础设施。

TPU 8i Max如何解决大模型推理中的内存墙问题?

TPU 8i Max采用双芯片封装架构,将计算能力、内存容量和HBM带宽均提升至TPU 8i的两倍,支持百万Token级别的超大上下文窗口,适用于药物研发、数学推理和编程等需要单次请求处理海量信息的任务。

谷歌TPU的商业化进展如何?有哪些客户?

TPU最初是谷歌自用工具,今年4月首次宣布向部分客户直接销售TPU系统,第三季度财报显示TPU销售已成为云业务收入的重要增长贡献。目前拥有近100家客户,包括前沿AI实验室、交易公司、零售商、大学等,公开报道的客户有苹果、Meta、甲骨文,OpenAI也有采购计划。

谷歌TPU挑战英伟达面临哪些主要障碍?

主要障碍包括:英伟达CUDA软件生态壁垒高,大量AI开发者长期以CUDA为默认编程模型,迁移成本不容低估;英伟达在训练市场地位尤其稳固,有公司坦言训练仍主要依靠英伟达芯片;此外,谷歌还需提升软件生态成熟度、供应能力,并让客户认可专用化价值的真实工作负载表现。

谷歌一年发布四款TPU体现了什么战略思路?

体现了谷歌押注“专用化”算力的战略,围绕AI智能体时代日益分化的算力需求做场景化切割,用专用化的TPU矩阵在机密推理、长上下文、大规模训练等细分战场与英伟达争夺份额。谷歌CTO表示这遵循了谷歌的核心理念,即未来在于专用化。

🏷️

标签

➡️

继续阅读