LLM用于时序预测真的不行，连推理能力都没用到
原文中文，约4800字，阅读约需12分钟。
📝
内容提要
该研究探讨了语言模型在时序预测任务中的应用，发现其性能不佳且计算量大。研究团队提出了三种消融方法来评估语言模型的影响，发现这些方法在大多数情况下优于基于语言模型的方法。预训练语言模型对时序预测的帮助有限，基于语言模型的方法的计算强度并不能提升性能。总之，语言模型在时序预测任务中的应用有待改进。
❓
Q&A
语言模型在时序预测中的表现如何？
语言模型在时序预测任务中的表现不佳，计算量大，且在大多数情况下不如消融方法。
研究团队提出了哪些消融方法？
研究团队提出了三种消融方法：w/o LLM、LLM2Attn和LLM2Trsf。
预训练语言模型对时序预测的帮助大吗？
预训练语言模型对时序预测的帮助有限，尤其在少样本学习场景中表现不佳。
消融方法的计算成本与基于LLM的方法相比如何？
消融方法的计算成本显著低于基于LLM的方法，且在性能上通常更优。
LLM能否有效表征时间序列中的顺序依赖关系？
LLM在表征时间序列中的顺序依赖关系方面能力不足，输入混洗对其影响不大。
在少样本学习场景中，LLM的表现如何？
在少样本学习场景中，LLM的表现与消融方法相似，未能显著提升性能。
🏷️
