EP222：什么是谷歌的TPU？
内容提要
Google的TPU是其专为深度学习设计的定制AI芯片，不同于为图形而生的GPU。最新第八代分为两款：TPU 8t用于训练，侧重高吞吐量；TPU 8i用于推理，侧重低延迟和芯片间速度。两者共享Axion CPU、液冷和软件栈，代码可互用。
延伸解读
TPU与GPU的设计初衷差异
文章明确指出，GPU最初是为图形处理设计的，而TPU从第一天起就为深度学习打造。这一根本差异决定了它们在架构上的不同侧重：TPU针对矩阵乘法等深度学习核心运算进行了优化，而GPU则需兼顾图形渲染的并行计算需求。理解这一点有助于解释为何Google要专门研发TPU，而非直接依赖现成的GPU。
训练与推理芯片的分工
第八代TPU首次分为两款：TPU 8t面向训练，强调高吞吐量；TPU 8i面向推理，注重低延迟和芯片间速度。这种分工反映了AI工作负载的多样性：训练阶段需要处理海量数据，而推理阶段则对响应速度有更高要求。用户在选择硬件时，应根据实际应用场景（训练还是推理）来评估不同芯片的适用性。
共享架构带来的兼容性优势
尽管TPU 8t和8i定位不同，但它们共享Axion CPU、液冷系统和软件栈，代码可以互用。这意味着开发者可以在训练和推理之间灵活迁移，无需重写代码。这种设计降低了迁移成本，也简化了运维，是Google在芯片生态上的一种策略，值得关注其后续对开发者生态的影响。
Q&A
谷歌的TPU是什么？
TPU（张量处理单元）是谷歌专门为深度学习设计的定制AI芯片，从零开始为现代模型依赖的大规模矩阵乘法而构建。
TPU和GPU有什么区别？
GPU最初是为图形处理而设计的，而TPU从第一天起就是为深度学习而构建的。
谷歌第八代TPU有哪些型号？分别有什么特点？
第八代TPU分为两款：TPU 8t用于训练，侧重高吞吐量；TPU 8i用于推理，侧重低延迟和芯片间速度。
TPU 8t和TPU 8i有什么共同点？
两者共享相同的Axion CPU、液冷和软件栈，因此为其中一个编写的代码可以在另一个上运行。
TPU 8t和TPU 8i分别适用于什么场景？
TPU 8t适用于训练场景，因为训练需要高吞吐量；TPU 8i适用于推理场景，因为推理对延迟和芯片间速度要求更高。
谷歌在何时发布了第八代TPU？
在Cloud Next '26大会上，谷歌发布了第八代TPU。
