BriefGPT - AI 论文速递 · 2025-03-31T00:00:00Z Subspace-Orthogonal Key-Value Cache Quantization 💡 原文英文，约100词，阅读约需1分钟。 📝 内容提要 本文提出了SQuat方法，解决了键值缓存量化中的误差累积问题。该方法通过构建查询张量生成的子空间，确保量化后的键与原始键之间的差异正交，从而减小量化误差对注意力机制的影响。实验结果表明，SQuat在内存占用和处理能力方面优于现有算法。 🏷️ 标签 SQuat 实验结果 注意力机制 量化误差 键值缓存 阅读原文 生成长图 分享链接 已复制链接
