Ironwood:谷歌在AI芯片战争中的回应

Ironwood:谷歌在AI芯片战争中的回应

💡 原文英文,约1000词,阅读约需4分钟。
📝

内容提要

谷歌推出新一代AI芯片Ironwood,旨在提升Gemini性能。每台服务器可连接9216个Ironwood芯片,提供42.5 exaflops的AI计算能力,速度和能效优于前代TPU。Ironwood专为推理任务设计,以满足日益增长的AI需求,预计将成为谷歌云中最昂贵的选项。

🎯

关键要点

  • 谷歌推出新一代AI芯片Ironwood,旨在提升Gemini性能。
  • 每台服务器可连接9216个Ironwood芯片,提供42.5 exaflops的AI计算能力。
  • Ironwood专为推理任务设计,以满足日益增长的AI需求。
  • Ironwood是谷歌自2015年以来发布的第七代AI芯片。
  • Ironwood比前一代TPU Trillium更快且更节能。
  • 每个Ironwood TPU配备192GB的HBM内存,是Trillium的六倍。
  • Ironwood芯片专为Gemini工作负载设计,不会在市场上出售。
  • 谷歌的Ironwood芯片在推理和思考方面具有优势。
  • Ironwood TPU将以TPU7和TPU7x两种配置提供。
  • Ironwood支持FP8和FP4数据类型,以提高数据移动和能效。
  • 谷歌的全球数据中心基础设施被划分为AI超计算机,提供强大的计算能力。
➡️

继续阅读