谷歌人工智能基础设施产品经理谈新款TPU、液冷技术及更多
💡
原文英文，约700词，阅读约需3分钟。
📝
内容提要
谷歌在Cloud Next 25大会上推出了新款TPU加速器Ironwood，性能显著提升。每个模块包含9216个芯片，总计算能力达到42.5 exaflops，功耗性能提升2倍。谷歌采用液冷系统保持TPU温度，客户在选择TPU或GPU时需考虑工作负载。尽管硬件不断进步，模型架构变化更快，谷歌与DeepMind的合作助力前瞻性设计。
🎯
关键要点
- 谷歌在Cloud Next 25大会上推出了新款TPU加速器Ironwood，性能显著提升。
- 每个Ironwood模块包含9216个芯片，总计算能力达到42.5 exaflops，功耗性能提升2倍。
- 谷歌采用液冷系统来保持TPU温度，液冷技术经历了多代演变。
- 客户在选择TPU或GPU时需考虑工作负载和使用案例，部分团队可能需要NVIDIA框架。
- 硬件不断进步，但模型架构变化更快，谷歌与DeepMind的合作助力前瞻性设计。
❓
延伸问答
新款TPU Ironwood的性能如何？
Ironwood每个模块包含9216个芯片，总计算能力达到42.5 exaflops，功耗性能提升2倍。
谷歌是如何保持TPU的温度的？
谷歌采用液冷系统来保持TPU温度，这是其第四代液冷技术。
客户在选择TPU和GPU时需要考虑什么？
客户需考虑工作负载和使用案例，有时需要NVIDIA框架来加速工作。
谷歌与DeepMind的合作对TPU设计有什么影响？
与DeepMind的合作帮助谷歌前瞻性设计硬件，以应对快速变化的模型架构。
TPU的硬件进步与模型架构变化的关系是什么？
尽管硬件每年进步，但模型架构变化更快，谷歌需不断适应。
使用TPU的客户有哪些成功案例？
例如，Moloco将训练应用从CPU迁移到TPU后实现了10倍的性能提升。
➡️
