Apple Machine Learning Research
·
通过功能叙述实现时间序列的可推广自回归建模
💡
原文英文，约400词，阅读约需2分钟。
📝
内容提要
当前变压器模型通常简单拼接时间序列，忽视其特性。本文提出新方法，将时间序列视为时间函数，通过功能空间中的降解算子生成简化样本，训练自回归变压器恢复原始样本。实验显示，该方法在22个数据集上表现优于其他预训练方法，提升6%，展示了作为通用动态学习器的潜力。
🎯
关键要点
- 当前变压器模型通常将时间序列视为时间段的简单拼接，忽视其功能特性。
- 本文提出将时间序列重新解释为时间函数的新目标。
- 通过在功能空间中构建不同强度的降解算子，生成简化样本的替代序列。
- 训练自回归变压器逐步恢复原始样本，从最简化的变体开始。
- 该方法类似于语言中的下一个单词预测任务，旨在学习时间序列的叙事。
- 理论上，构建时间函数序列在逼近函数方面具有优势，提升了26%的性能。
- 在22个真实数据集上验证了该方法，显示出比其他预训练方法高出6%的显著优势。
- 将该方法与现有变压器架构结合，可以持续提升性能。
- 结果表明，该方法作为通用动态学习器的潜力，为时间序列分析的基础模型开发提供了可行的替代方案。
➡️
