内容提要
谷歌发布TimesFM-3,一款3.3亿参数的时间序列预测模型,支持多序列并行预测和零样本泛化,性能超越Chronos-2等竞品。模型采用双注意力机制,解码效率提升,但权重仅限非商业使用,商业用途需通过谷歌平台,反映行业商业化趋势。
延伸解读
双注意力机制:横向关联是关键
TimesFM-3 采用两种交替的注意力层:一种在单序列内沿时间轴保持因果性,另一种则跨序列横向捕捉同一时刻的关联。这种设计让模型能利用相关产品(如冰淇淋和糖浆)的销售、历史客流量等外部因素,实现更全面的预测。相比仅依赖自身历史数据的传统模型,这种横向信息融合更贴近真实业务场景。
解码效率提升:一次前向传播完成预测
与早期版本逐块生成预测不同,TimesFM-3 在预测时先为整个预测区间添加掩码占位符,然后通过一次前向传播填充所有值。这显著降低了延迟,并避免了逐步生成可能累积的误差。对于需要快速预测多个序列的企业,这种设计在效率和准确性上都有实际优势。
非商业许可:开源与商业化的平衡
TimesFM-3 的权重采用非商业许可,仅限非商业、非生产用途,而源代码仍为 Apache 2.0。这与 TimesFM-2.5 的 Apache 2.0 许可形成对比,也不同于 Toto 2.0 和 Chronos-2 的许可。谷歌同时通过 BitQuery 的 AI.FORECAST 提供商业路径,反映出模型厂商在开放与盈利之间的策略调整。
Q&A
谷歌新发布的TimesFM-3是什么?
TimesFM-3是谷歌于周一发布的330亿参数时间序列预测模型,基于超过一万亿个真实和合成数据点训练,支持多序列并行预测和零样本泛化,性能超越Chronos-2等竞品。
TimesFM-3与之前的版本相比有哪些技术改进?
TimesFM-3采用双注意力机制:一种在单个序列内沿时间向后看并保持严格因果性,另一种跨序列在同一时刻横向看,以捕捉不同序列间的相互影响。解码时,它不再逐块生成预测,而是为整个预测范围附加掩码占位符,并通过一次前向传播填充所有值,从而降低延迟和累积误差。
TimesFM-3的许可证是什么?商业使用是否允许?
TimesFM-3的预训练权重采用非商业许可证(timesfm-non-commercial-license-v1.0),仅限非商业和非生产用途,商业或生产使用需通过谷歌平台获取授权。源代码仍为Apache 2.0许可证。
TimesFM-3在基准测试中的表现如何?
在谷歌分享的基准测试中,TimesFM-3超越了Salesforce的Gift-Eval、Amazon/AutoGluon的FEV-Bench以及Time等基准上的所有竞品,包括Chronos-2、Moirai 2.0和Toto 2.0,且优势明显。
TimesFM-3为什么能进行多序列预测?
TimesFM-3是谷歌首个原生预训练支持多时间序列的模型,能够同时处理多个相关序列,并利用历史数据(如过去的客流量)进行预测。其双注意力机制中的横向注意力层允许模型在不同序列间共享信息,从而提升预测准确性。
谷歌对TimesFM-3的商业化策略是什么?
谷歌将TimesFM-3的权重限制为非商业使用,但通过其数据仓库平台(如BitQuery的AI.FORECAST命令)提供商业路径,这表明谷歌正在积极将模型商业化,并反映了行业将预测模型集成到平台中的趋势。