本研究分析了过度参数化神经网络的学习与泛化机制，强调图神经网络中对齐和图移位算子的优化重要性。实验证明，采用交叉协方差的图神经网络在多变量时间序列预测中表现优于传统方法。同时，研究探讨了神经切向核在无限宽度下的行为及其与训练过程的关系。

多变量LSTM模型通过张量化隐藏状态学习变量表示，实现时间与变量注意力，可预测含外生变量的时间序列并量化变量重要性，结果与Granger因果检验吻合。后续研究提出iTransformer、PatchTST、ETSFormer、TimeX等Transformer改进模型，提升了多变量时间序列预测的精度与可解释性，并探索了联邦学习、PCA降维等方向。

该文综述Transformer在多变量时间序列预测中的进展，涵盖不变量嵌入、MTPNet、MTST、TFT、PatchTST、Meta-Transformer、TLNets、DeepTime、HiMTM等模型，强调多尺度建模、通道独立与自监督学习，并总结数据集、评估指标及最佳实践。

该文综述多变量时间序列预测中的多尺度Transformer研究，涵盖MTPNet（不变量嵌入与金字塔网络捕捉多尺度依赖）、MTSMAE（掩码自编码器预训练）、FormerTime（结合特征金字塔提升分类效率）、STMAE（增强时空基线）、MTST（多分支建模多分辨率模式），以及分层多尺度RNN、MMTM多任务解码器、MMM自主框架、TTM轻量预训练和MAGNN自适应图网络；实验均优于先进方法。

我们提出了一个深度生成时间序列的方法，用于建模和分析复杂疾病轨迹。通过结合生成方法与医学知识，我们展示了学习到的时间潜在过程可用于数据分析和临床假设测试。我们的方法能够进行个性化在线监测和多变量时间序列的预测，包括不确定性量化。我们在系统性硬化病过程中展示了我们方法的有效性，展示了我们机器学习模型捕捉复杂疾病轨迹和获取新医学知识的潜力。

本文提出了一种深度生成时间序列的方法，用于建模和分析复杂疾病轨迹，并结合生成方法与医学知识进行数据分析和临床假设测试。该方法还可用于个性化在线监测和多变量时间序列预测。通过在系统性硬化病过程中的应用，展示了该方法的有效性和获取新医学知识的潜力。

文章介绍了一种新的iTransformer模型，用于多变量时间序列预测，通过反转注意力机制和前馈网络的职责，取得了最先进的表现，成为时间序列预测的基本骨干的一个很好的替代方案。