ReCycle：高效快速的长时间序列预测与残差周期变换
原文中文，约600字，阅读约需2分钟。发表于：。通过引入 Residual Cyclic Transformer (ReCycle) 来解决长时间序列中注意力机制的计算复杂性，通过学习来自精细平滑平均技术的残差，ReCycle 在各种应用场景中超过了最先进的准确性，同时降低了运行时间和能源消耗，使训练和推断在低性能、低功耗和边缘计算设备上成为可能。
研究人员成功将Transformers应用于时间序列预测，并提出了一种校准方法来检测和调整模型中的上下文驱动分布变化。通过评估预测残差与上下文之间的互信息，量化了模型对分布变化的脆弱性。他们还提出了一个简单但有效的模型校准框架，通过微调预测层来实现最佳平衡。实验证明该方法能够显著提高Transformers的性能。
