频域多层感知机在时间序列预测中的更高学习能效

💡 原文中文,约400字,阅读约需1分钟。
📝

内容提要

时间序列预测在工业中至关重要。研究表明,简单的多层感知机网络有时能胜过基于变换器的网络。本文提出了结合变换器低通特性和多层感知机优点的U型变换器,通过跳跃连接和补丁合并分割操作提取特征,实验显示其性能高效且成本较低。

🎯

关键要点

  • 时间序列预测在工业中至关重要。
  • 变换器骨干的神经网络在多个领域取得显著成功。
  • 简单的多层感知机网络在时间序列预测中有时胜过基于变换器的网络。
  • 研究表明时间序列中存在低秩特性。
  • 提出了结合变换器低通特性和多层感知机优点的U型变换器。
  • U型变换器采用跳跃连接保留高频率上下文。
  • 引入补丁合并和分割操作以提取不同尺度的特征。
  • 实验结果显示该模型在多个数据集上表现优异且成本较低。
🏷️

标签

➡️

继续阅读