AdaSVD:用于大型语言模型的自适应奇异值分解

💡 原文中文,约300字,阅读约需1分钟。
📝

内容提要

本研究提出了一种自适应奇异值分解方法AdaSVD,旨在解决大型语言模型在资源受限设备上的高内存需求。该方法通过动态调整压缩比例和更新奇异矩阵,显著提升了内存效率和性能。

🏷️

标签

➡️

继续阅读