LoRA+:大型模型的高效低秩自适应

💡 原文中文,约400字,阅读约需1分钟。
📝

内容提要

Delta-LoRA是一种用于微调大型语言模型的新方法,通过增量更新低秩矩阵和预训练权重来解决学习表示的问题。实验证明,Delta-LoRA优于其他低秩适应方法。

🏷️

标签

➡️

继续阅读