VersaTune: Efficient Fine-Tuning of Multi-Capability Large Language Models

💡 原文英文,约100词,阅读约需1分钟。
📝

内容提要

本研究提出VersaTune框架,解决大语言模型微调中的知识遗忘问题。通过动态调整领域权重,VersaTune在多领域任务上提升了35.21%,同时减少了其他领域性能下降的幅度,降低了38.77%。

🏷️

标签

➡️

继续阅读