该论文介绍了多种基于Transformer的模型，如Yformer、FEDformer和Patchformer，旨在提高时间序列预测的准确性。实验结果表明，这些模型在不同数据集上均优于现有技术，显著降低了预测误差，尤其在风速预测和长期时间序列预测方面表现突出。

本文介绍了一种基于Transformer的架构，通过异构自注意层和Hiformer模型，有效应用于大规模推荐系统，显著提升了关键参与度指标。