本研究提出VersaTune框架,解决大语言模型微调中的知识遗忘问题。通过动态调整领域权重,VersaTune在多领域任务上提升了35.21%,同时减少了其他领域性能下降的幅度,降低了38.77%。
完成下面两步后,将自动完成登录并继续当前操作。