Powerformer: A Weighted Causal Attention Transformer for Time Series Forecasting
💡
原文英文,约100词,阅读约需1分钟。
📝
内容提要
本研究提出了Powerformer模型,通过用平滑重尾衰减的因果权重替代非因果注意力权重,克服了传统变换器在时间序列预测中的局限性,提升了对时间依赖性的理解,并在公开基准测试中取得了领先的准确度。
🎯
关键要点
- 本研究提出了Powerformer模型,旨在克服传统变换器在时间序列预测中的局限性。
- Powerformer通过用平滑重尾衰减的因果权重替代非因果注意力权重,提升了对时间依赖性的理解。
- 该模型允许学习各数据集独特的关联结构,增强了模型的表现。
- 在公开时间序列基准测试中,Powerformer取得了领先的准确度和更好的注意力模式可解释性。
🏷️
标签
➡️