利用大规模语言模型增强时间序列分析：综述
内容提要
该文综述大语言模型在时间序列分析中的应用，涵盖直接提示、量化、对齐及多模态结合等方法，并介绍Time-LLM等框架，可将时间序列转为文本进行零样本预测，性能媲美专用模型。文章还总结金融、医疗等领域应用及数据集，指出分词误差、不确定性校准等挑战与未来方向。
延伸解读
LLM处理时间序列的独特优势
文章指出，大语言模型在时间序列分析中展现出独特优势：它们能自然表示多模态分布，偏好简洁性和重复性，这与时间序列的重复季节性趋势相契合。此外，LLM无需插补即可处理缺失数据，并能容纳文本边信息，帮助解释预测。这些特性使LLM在零样本外推任务中性能媲美专用模型，为时间序列分析提供了新思路。
模型规模与性能的非单调关系
文章发现，增加模型大小通常能提升时间序列性能，但并非绝对。例如，GPT-4可能因数字分词方式不佳以及不确定性校准较差，表现反而不如GPT-3。这很可能与RLHF等对齐干预有关。这一现象提醒研究者和从业者，在时间序列任务中不能盲目追求大模型，需关注分词策略和校准问题。
金融领域的应用与决策框架
文章介绍了LLM在金融时间序列预测中的应用，如利用GPT-4和Open LLaMA进行零样本/少样本推断，生成可解释预测，并在NASDAQ-100股票上优于经典ARMA-GARCH和梯度提升树模型。同时，文章提出了一个决策框架，帮助金融从业者根据数据、计算和性能需求选择合适的LLM方案，从轻量级实验到大规模自定义LLM投资。
分词误差与不确定性校准挑战
文章强调，当前LLM对时间数据的分词处理存在错误，可能导致无法产生有意义的输出。解决方案包括轻量级嵌入层调整和多模态适配器来弥合模态差异。此外，不确定性校准问题也影响预测可靠性，如GPT-4因对齐干预导致校准较差。这些挑战是未来研究的重要方向，需要开发更有效的技术来提升LLM在时间序列任务中的鲁棒性。
Q&A
大语言模型如何用于时间序列分析？有哪些主要方法？
该综述指出，大语言模型用于时间序列分析的主要方法包括直接提示、时间序列量化、对齐技术、利用视觉作为桥梁机制以及与其他工具结合。这些方法旨在将时间序列数据与语言模型的能力对齐，以实现预测和分析。
Time-LLM是什么？它在时间序列预测中有什么优势？
Time-LLM是一个利用大语言模型进行时间序列预测的重新编程框架，通过在输入时间序列中加入文本原型，将两种模态对齐，从而获得强大的时间序列学习器。它在少样本和零样本学习场景中表现出优越性能，并超越了专业的预测模型。
大语言模型在零样本时间序列预测上的表现如何？
研究发现，大语言模型如GPT-3和LLaMA-2可以意外地在零样本外推时间序列，其性能与或超过在下游任务上训练的专用时间序列模型相当。这得益于它们能够自然地表示多模态分布，结合了对简洁性和重复性的偏好，与时间序列的重复季节性趋势相一致。
大语言模型在金融时间序列预测中有哪些应用？效果如何？
在金融领域，大语言模型被用于可解释的金融时间序列预测，使用股票价格数据、公司元数据和历史新闻等多模态信号。在NASDAQ-100股票上的实验显示，使用GPT-4和Open LLaMA进行零样本/少样本推断并通过基于指令的微调生成可解释预测，优于经典的ARMA-GARCH模型和梯度提升树模型。
大语言模型处理时间序列数据时面临哪些挑战？
挑战包括：分词误差，即当前流行的LLMs对时间数据的分词处理存在错误；不确定性校准较差，例如GPT-4可能因数字分词和RLHF等对齐干预而比GPT-3表现更差；以及语言模型在处理输入细微差别时可能无法产生有意义的输出。解决方案包括轻量级嵌入层调整和多模态适配器来弥合模态差异。
有哪些多模态时间序列和文本数据集可用于大语言模型研究？
该综述提供了现有的多模态时间序列和文本数据集的综合概述，但具体数据集名称未在提供的文本中列出。文章总结了金融、医疗等领域的应用及数据集，并分析了该新兴领域的挑战和未来机会。
