面向异构时间序列插值的不确定性感知深度注意力循环神经网络
内容提要
该文综述时间序列缺失值插补的深度学习方法，包括：NAOMI采用多分辨率由粗到细递归解码与对抗训练，长序列误差较自回归模型降低约60%；GRU-D利用缺失模式与时间间隔捕获长期依赖；mTAN处理稀疏不规则多变量生理数据；CTA基于连续时间自编码器表现最佳；此外还涉及深度集成分位数回归、面向医疗数据的CSAI、隐式神经表示MADS、DeepAR概率预测及CDSA跨维度自注意力等方法。
延伸解读
方法演进：从循环网络到连续时间与注意力机制
文章梳理的插补方法体现了技术路线的演变：早期GRU-D利用缺失模式和时间间隔增强循环网络；随后mTAN和CDSA引入注意力机制处理不规则多变量数据；近年CTA基于连续时间自编码器、MADS基于隐式神经表示，在特定数据集上表现优异。这一脉络显示，处理稀疏不规则时间序列的重心正从离散递归转向连续时间建模与注意力架构。
长序列插补：多分辨率与对抗训练的价值
NAOMI采用多分辨率由粗到细的递归解码和对抗训练，在基准数据集上相比自回归模型将平均预测误差降低约60%，并展现出更好的长序列泛化能力。这表明对于长序列缺失，分治策略和生成式对抗训练能有效缓解误差累积问题，为长序列插补提供了可借鉴的设计思路。
不确定性量化：从点估计到概率分布
文章涉及多种不确定性感知方法：深度集成分位数回归以计算高效的方式估计插补不确定性；基于神经随机微分方程的框架解析量化认知与随机不确定性；DeepAR通过自回归循环网络实现概率预测。这些工作表明，插补正从单一值估计转向提供置信区间或分布，对医疗、能源等风险敏感领域尤为重要。
领域适配：医疗数据的特殊挑战
CSAI专门针对医疗电子病历中缺失数据分布不平衡的问题，引入条件隐藏状态初始化和非均匀掩蔽策略；mTAN则面向稀疏不规则的多变量生理数据。这提示通用插补方法在医疗场景可能失效，需要针对缺失机制和数据结构进行定制设计，领域知识嵌入是提升实用性的关键。
Q&A
NAOMI模型在时间序列插补中有什么优势？
NAOMI是一种深度生成模型，采用多分辨率由粗到细的递归解码和对抗训练，能有效处理长序列缺失问题。在基准数据集上，与自回归模型相比，其平均预测误差减少达60%，在准确性和长序列泛化性能上均有显著改进。
GRU-D模型是如何利用缺失信息的？
GRU-D基于GRU，利用缺失模式中的缺失值及其时间间隔来捕获时间序列的长期依赖关系，从而提高分类任务的预测性能，并为理解和利用缺失值提供了见解。
mTAN模型主要针对什么类型的数据？效果如何？
mTAN（多时间注意网络）针对电子健康档案中稀疏、不规则采样、多变量的生理时序数据，在多个数据集上的内插和分类任务中性能优于许多基线和最新模型，且训练速度更快。
CTA方法在时间序列插补中的表现如何？
基于连续时间自回归神经网络（NCDEs）的连续时间自编码器（CTA）方法在时间序列输入中表现出最佳的填补性能。
CSAI模型如何针对医疗时间序列的缺失数据进行设计？
CSAI（条件自注意力填补模型）基于变换器框架，引入条件隐藏状态初始化，并整合知识嵌入和非均匀掩蔽策略，以灵活适应电子病历中缺失数据分布不平衡的独特模式。
DeepAR在概率预测方面有什么提升？
DeepAR通过基于大量相关时间序列训练自回归循环网络模型，实现准确的概率预测，在多个真实数据集上比现有方法准确度提升约15%。
