不规则时间序列预测的连续时间线性位置嵌入
💡
原文中文,约200字,阅读约需1分钟。
📝
内容提要
研究显示,使用全局标记和局部窗口的注意力图作为数据点的核表示,可以提高时间序列预测准确性,无需改变神经网络结构,MSE降低3.6%。该方法可替代分块嵌入方案,提升transformer模型性能。
🎯
关键要点
-
研究表明,使用全局标记和局部窗口构建的注意力图可以提高时间序列预测准确性。
-
该方法在不改变核心神经网络结构的情况下,显著降低了多变量时间序列预测的均方误差(MSE)3.6%。
-
该方法是一个通用组件,可以替代基于分块的嵌入方案。
-
该方法提升了基于transformer模型的性能。
🏷️
标签
➡️