Inferact团队为谷歌TPU v7开发megakernel推理内核，将数百个小程序合并为一个大程序，消除调度间隙并实现跨层权重预取。16块TPU运行Kimi K3达每秒709 token，比GB200快57%，且精度无损。该团队源自vLLM，获a16z领投1.5亿美元融资，代码已开源。