BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 ·

TPRNN：一种自顶向下的金字塔循环神经网络用于时间序列预测

💡 原文中文，约200字，阅读约需1分钟。
📝

内容提要

该论文提出了一种自上而下的金字塔式递归神经网络TPRNN，用于时间序列预测。通过构建不同尺度的子序列和多尺度信息交互模块，实现了对时间序列中多尺度时间模式的建模。实验证明，TPRNN在七个真实世界数据集上取得了领先水平，相对最佳基准线平均提高了8.13%的MSE精度。

🏷️

标签

MSE精度 多尺度信息交互模块 时间序列预测 神经网络 自上而下 金字塔式递归神经网络
➡️

继续阅读

  1. 大模型不只是预测下一个词：RLVR让它自己跟自己下棋
    大模型不再仅依赖预测下一个词，通过RLVR强化学习，它能自主探索解题路径，从模仿者转变为探索者。预训练如同背诵课文，而RLVR则类似自我解题，借助可验证奖...
  2. DeepSeek-V4 模型结构（3）：序列维度（下），HCA、混合排布与零件
    本文详解DeepSeek-V4模型结构：HCA将128个token压缩为一条目，无需稀疏选择；CSA与HCA交错排布，确保全局信息不丢失；滑窗分支弥补压缩...
  3. DeepSeek-V4 模型结构（2）：序列维度（中），Lightning Indexer 与稀疏选择
    本文介绍DeepSeek-V4模型中的压缩稀疏注意力（CSA）机制。KV缓存每4个token压缩为一条，1M上下文仍有26万条目，故用lightning ...
  4. DeepSeek-V4 模型结构（1）：序列维度（上），从 MLA 到压缩 KV
    本文介绍DeepSeek-V4的注意力机制，从MHA到CSA/HCA的演进，重点分析压缩KV缓存的方法。V4将每4或128个token压缩为一条512维K...
  5. GPT-6带火循环Transformer，阿里早已布局
    阿里团队针对循环Transformer的计算冗余问题，提出两篇论文：MeSH通过动态记忆缓冲和路由器解决循环空转，提升零样本准确率；SpiralForme...
  6. Kimi K3 模型结构（3）：序列维度，Gated MLA 与 3:1 混合
    本文介绍Kimi K3模型结构：采用3:1混合，每四层含一层Gated MLA（无位置编码、满秩sigmoid门），其余为KDA层。MLA低秩压缩KV至5...
👤 个人中心
在公众号发送验证码完成验证