Inferact团队为谷歌TPU v7开发megakernel推理内核，将数百个小程序合并为一个大程序，消除调度间隙并实现跨层权重预取。16块TPU运行Kimi K3达每秒709 token，比GB200快57%，且精度无损。该团队源自vLLM，获a16z领投1.5亿美元融资，代码已开源。

谷歌计划于10月1日由SpaceX火箭将首颗搭载AI芯片的卫星送入近地轨道，测试TPU在太空辐射和极端温度下的性能。这是“Suncatcher项目”的第一步，目标是将AI数据中心送入太空。芯片运行约15分钟后需冷却，明年计划再发射两颗卫星。

AI芯片竞争激烈，NVIDIA B200算力利用率低，数据搬运成瓶颈；Google TPU专为自身优化；AMD性价比高但新算法支持慢；Cerebras和Groq速度快但存储小、成本高；AWS Trainium适合自家生态。无通吃赢家，选择需看场景，NVIDIA生态是最大护城河。

Google的TPU是其专为深度学习设计的定制AI芯片，不同于为图形而生的GPU。最新第八代分为两款：TPU 8t用于训练，侧重高吞吐量；TPU 8i用于推理，侧重低延迟和芯片间速度。两者共享Axion CPU、液冷和软件栈，代码可互用。

谷歌Gemini 3.5 Pro原定5月发布却迟迟未出，SemiAnalysis称其或已取消，能力仅接近Claude Opus 4.5。谷歌面临模型落后、内部人事动荡，布林重新介入AI战略。算力分配上，谷歌将超20%TPU售予Anthropic，影响自身前沿模型发展，Gemini 4前景亦不被看好。

谷歌AI内部动荡，DeepMind核心团队出走，Gemini模型排名跌至第九。但谷歌云业务因出售TPU给竞争对手而飙升82%，预计年收入超2000亿美元。谷歌放弃模型竞争，专注卖算力，虽短期盈利，但长期技术优势被削弱。

谷歌研发Frozen v2芯片，将Gemini模型部分决策蚀刻于硅晶片，吞吐量较现有TPU提升6至10倍，计划2028年量产。此举应对算力短缺，但全蚀刻限制模型更新，故采用冻结架构、允许权重更新的方案，以延长寿命并支持多版本模型，与TPU并行发展。

谷歌推出专供Gemini模型的Frozen v2芯片，性能比自家TPU快6到10倍，通过预存模型逻辑实现极致效率，但牺牲通用性。此举是押注Gemini架构的豪赌，若模型路线改变，芯片可能沦为废铁。这反映AI芯片定制化趋势，谷歌以性能换取未来灵活性，风险与收益并存。

本文解析CPU、GPU、TPU的设计差异：CPU重延迟，GPU重并行吞吐，TPU为矩阵计算优化。AI负载以矩阵乘法为主，内存墙是性能瓶颈。GPU逻辑能力不弱，但复杂分支不如CPU。CPO不会消灭光模块，只是改变封装形式，两者将共存。AI Infra竞争核心是数据流动效率。

Kubernetes上AI、边缘计算和电信工作负载的增长，推动了对硬件管理的新需求。设备管理工作组通过动态资源分配（DRA）框架，优化GPU、TPU等硬件的配置和共享，解决了传统设备插件API的局限性。DRA已在Kubernetes 1.34中正式发布，支持更灵活的硬件需求描述和调度。

谷歌推出TPU开发者中心，旨在简化机器学习从业者与专用加速硬件的互动。该中心整合了文档、迁移指南和开发环境，目标是将模型训练时间从数周缩短至数小时，尤其适用于参数超过70亿的语言模型，显著降低训练成本和时间。

谷歌计划在2028年向英特尔下达300万颗TPU AI芯片订单，这为英特尔的晶圆制造业务提供了重要机会。随着AI需求激增，台积电的产能不足，英特尔的制造能力受到关注。英伟达也在考虑与英特尔的合作。英特尔的EMIB封装技术可能成为其竞争优势，但其交付能力仍需验证，以挑战台积电的市场地位。

谷歌与美满电子和英特尔合作，定制网络芯片以提升TPU单元性能。该芯片将由英特尔代工，预计2027年底量产，未来用于新数据中心。同时，谷歌与联发科共同开发TPUv8e，强调高效网络芯片在数据中心连接中的重要性。

Midjourney因使用谷歌TPU导致研究进度延迟一年，后悔未坚持使用英伟达芯片。硬件切换引发的软件兼容性问题和调试困难，显示出英伟达CUDA生态的优势。研究人员应专注于模型优化，而非硬件兼容性。选择芯片时，稳定性和生态系统的重要性远超成本。

谷歌向竞争对手Anthropic投资400亿美元，旨在通过资金和TPU芯片建立闭环交易，确保算力霸权。此举使谷歌在AI竞争中占据优势，强化其在云计算市场的地位。