BriefGPT - AI 论文速递 · 2025-01-09T00:00:00Z TreeKV：基于树结构的平滑键值缓存压缩 💡 原文中文，约300字，阅读约需1分钟。 📝 内容提要 本研究提出了TreeKV，一种直观且无需训练的键值缓存压缩方法，旨在解决长序列和资源有限环境中的信息保留问题。TreeKV通过树结构实现平滑缓存压缩，在语言建模任务中表现优异，相比基线模型在长上下文中显著提升性能，最佳效率仅需6%的预算。 🏷️ 标签 TreeKV 压缩方法 语言建模 键值缓存 长序列 阅读原文 生成长图 分享链接 已复制链接
