RESTAD:基于重构和相似性的时间序列异常检测的 Transformer
💡
原文中文,约600字,阅读约需2分钟。
📝
内容提要
研究人员成功将Transformers应用于时间序列预测,并提出了一种校准方法来调整模型中的上下文驱动分布变化。通过评估预测残差与上下文之间的互信息,量化了模型对于上下文驱动分布变化的脆弱性。实验证明该框架能够提高Transformers在真实世界数据集上的性能。
🎯
关键要点
-
研究人员成功将Transformers应用于时间序列预测。
-
现有的Transformers容易受到时间上下文驱动的分布变化的影响。
-
提出了一种普适的校准方法,用于检测和调整Transformer模型中的上下文驱动分布变化。
-
新颖的CDS检测器——基于残差的CDS检测器(Reconditionor)被提出,用于量化模型的脆弱性。
-
高Reconditionor分数表示模型易受影响,需要进行调整。
-
提出了样本级上下文适配器(SOLID)作为模型校准框架,通过上下文相似数据集进行微调。
-
理论分析表明该调整策略能够在偏差和方差之间实现最佳平衡。
-
Reconditionor和SOLID适用于各种Transformers,并且易于调整。
-
大量实验证明SOLID增强了真实世界数据集上Transformers的性能,特别是在具有实质性CDS的情况下。
➡️