Apple Machine Learning Research
·
通过功能叙述实现时间序列的可推广自回归建模
内容提要
当前变压器模型通常简单拼接时间序列，忽视其特性。本文提出新方法，将时间序列视为时间函数，通过功能空间中的降解算子生成简化样本，训练自回归变压器恢复原始样本。实验显示，该方法在22个数据集上表现优于其他预训练方法，提升6%，展示了作为通用动态学习器的潜力。
关键要点
-
当前变压器模型通常将时间序列视为时间段的简单拼接，忽视其功能特性。
-
本文提出将时间序列重新解释为时间函数的新目标。
-
通过在功能空间中构建不同强度的降解算子，生成简化样本的替代序列。
-
训练自回归变压器逐步恢复原始样本，从最简化的变体开始。
-
该方法类似于语言中的下一个单词预测任务，旨在学习时间序列的叙事。
-
理论上，构建时间函数序列在逼近函数方面具有优势，提升了26%的性能。
-
在22个真实数据集上验证了该方法，显示出比其他预训练方法高出6%的显著优势。
-
将该方法与现有变压器架构结合，可以持续提升性能。
-
结果表明，该方法作为通用动态学习器的潜力，为时间序列分析的基础模型开发提供了可行的替代方案。
延伸解读
时间序列建模的新视角
传统的时间序列建模方法往往将数据视为时间段的简单拼接，忽视了其内在的功能特性。本文提出将时间序列重新解释为时间函数，这一新视角有助于更好地捕捉数据的动态变化，提升模型的表现。
降解算子的应用
通过在功能空间中构建不同强度的降解算子，本文生成了多种简化样本。这种方法不仅丰富了训练数据的多样性，还为自回归变压器提供了更为有效的学习路径，逐步恢复原始样本的复杂性。
与现有方法的比较
实验结果显示，本文提出的方法在22个真实数据集上比其他预训练方法提升了6%的性能。这表明，新的建模方式在处理时间序列数据时具有显著优势，值得在实际应用中进一步探索。
延伸问答
当前变压器模型在处理时间序列时存在哪些不足？
当前变压器模型通常将时间序列视为时间段的简单拼接，忽视了其功能特性。
本文提出了什么新方法来处理时间序列？
本文提出将时间序列重新解释为时间函数，通过构建降解算子生成简化样本。
该方法在实验中表现如何？
该方法在22个真实数据集上表现优于其他预训练方法，提升了6%。
如何训练自回归变压器以恢复原始样本？
通过训练自回归变压器逐步恢复原始样本，从最简化的变体开始。
构建时间函数序列有什么理论优势？
构建时间函数序列在逼近函数方面具有优势，提升了26%的性能。
该方法对时间序列分析的未来有什么影响？
该方法作为通用动态学习器的潜力，为时间序列分析的基础模型开发提供了可行的替代方案。
