该研究提出了一种新的持续全细调方案，解决大型语言模型的灾难性遗忘问题。通过自适应奇异值分解，动态识别低秩参数子空间，减少干扰，显著提升模型的准确性和语言能力保留。

塑造子空间：大型语言模型的约束全细调以实现持续学习
BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 ·
👤 个人中心
在公众号发送验证码完成验证