TimeDiT:用于时间序列的通用扩散变换器基础模型
原文中文,约300字,阅读约需1分钟。发表于: 。本研究针对现有时间序列基础模型在处理真实世界数据时的局限,提出了TimeDiT,采用去噪扩散范式来取代时间自回归生成,解决了多分辨率数据的变通道大小、缺失值及信号采样间隔不均等挑战。实验表明,TimeDiT在预测、填补缺失值和异常检测等多种任务上表现优异,具有广泛的应用潜力。
该研究提出了一种名为Timely Generative Pre-trained Transformer的创新架构,通过整合递归注意力和时间卷积模块来捕获长序列中的时间依赖关系。实验结果显示该模型在处理非规则采样时间序列数据方面表现出色。