BriefGPT - AI 论文速递
·
Timer-XL：统一时间序列预测的长上下文变换器
💡
原文中文，约400字，阅读约需1分钟。
📝
内容提要
研究发现，通过将时间序列编码为数字字符串，大型语言模型如GPT-3和LLaMA-2在零样本情况下能有效预测时间序列，性能可媲美或优于专用模型。研究提出了有效的时间序列数据令牌化方法，并将离散分布转换为连续值的密度。LLMs擅长处理多模态分布，适合重复性和季节性趋势。尽管模型增大通常提高性能，但GPT-4因令牌化问题和不确定性校准不佳，可能不如GPT-3。
🎯
关键要点
-
通过将时间序列编码为数字字符串，可以将时间序列预测视为文本中的下一个标记预测。
-
大型语言模型（LLMs）如GPT-3和LLaMA-2在零样本情况下能有效预测时间序列，其性能可媲美或优于专用时间序列模型。
-
提出了有效的时间序列数据令牌化方法，并将离散分布转换为连续值的密度。
-
LLMs擅长处理多模态分布，适合重复性和季节性趋势。
-
LLMs能够自然处理缺失数据，无需插补，并能容纳文本边信息。
-
增加模型大小通常提高性能，但GPT-4因令牌化问题和不确定性校准不佳，可能不如GPT-3。
➡️
