通道和序列的舞动:一种高效的基于注意力的多元时间序列预测方法
原文中文,约300字,阅读约需1分钟。发表于: 。我们介绍了 CSformer 模型,它通过精心设计的两阶段自注意机制实现了序列特定和通道特定信息的提取,并引入了序列适配器和通道适配器,以促进各个维度之间的协同和相互增强,从而显著提高了多变量时间序列数据的特征提取能力。
本文介绍了一种灵活的多头线性注意力(FMLA)方法,通过与可变形卷积块和在线知识蒸馏进行分层交互来提高局部感知能力。同时,还提出了一种简单但有效的掩码机制,以减少时间序列中的噪声影响并降低FMLA的冗余。结果显示该算法在top-1准确性方面具有可比性,并且在浮点运算每秒和参数数量方面与三种基于Transformer的模型相比,实现了更好的效率。