Curse of Attention: A Kernel-Based Perspective on the Generalization Failures of Transformers in Time Series Forecasting and Beyond
原文英文，约100词，阅读约需1分钟。
📝
内容提要
本研究探讨了变压器模型在时间序列预测中的低效，发现其泛化能力不如简单的线性残差模型。提出了“非对称学习”理论，阐明了注意力网络在处理不一致数据时的局限性，为改进变压器架构提供了理论基础。
🏷️
