利用开放知识提升大型语言模型的任务专长
内容提要
本文探讨了大型语言模型（LLMs）的专家模型微调方法，发现单任务微调在多个数据集上优于多任务微调。提出的LoRAMoE模型通过插件形式有效协调专家，避免知识遗忘，提升下游任务性能。同时，研究分析了知识编辑方法，提出新的基准KnowEdit，强调知识编辑在模型更新中的重要性。
延伸解读
单任务微调的优势与适用场景
文章指出，单任务微调在11个未知数据集和13个BIG-bench基准上平均准确率分别比多任务微调高3.20%和1.29%。这种优势源于避免了负面任务转移，并能持续学习新任务而无需重新训练，防止灾难性遗忘。因此，当任务差异较大或需要持续更新时，单任务专家模型可能更合适。
LoRAMoE：插件式专家协调与知识保持
LoRAMoE采用插件形式，冻结骨干模型以保持世界知识完整，并通过局部平衡约束协调专家。实验表明，即使扩大指导数据规模，它也能避免知识遗忘，并在下游任务上提供额外性能优势。这为多任务学习提供了一种高效且稳定的微调方案。
知识编辑的分类与评估基准
文章将知识编辑方法分为三类：利用外部知识、将知识合并到模型中、编辑内在知识，并提出了新基准KnowEdit进行综合评估。知识编辑对于动态更新LLM、纠正过时信息或整合新知识至关重要，KnowEdit为比较不同方法提供了标准化平台。
MoE架构下的专家定制微调
研究发现，MoE模型中特定任务的路由分布高度集中，且不同任务激活的专家差异显著。提出的专家定制微调（ESFT）仅调整与下游任务最相关的专家，冻结其他部分，不仅提高调整效率，甚至超过全参数微调性能。更细粒度的专家有助于选择更相关的专家组合。
Q&A
单任务微调相比多任务微调有什么优势？
单任务微调在11个未知数据集和13个BIG-bench基准测试中，平均准确率分别提高了3.20%和1.29%。
LoRAMoE模型是如何提升下游任务性能的？
LoRAMoE模型通过插件形式有效协调专家，避免知识遗忘，从而提升下游任务性能。
知识编辑方法有哪些分类？
知识编辑方法分为三类：利用外部知识、将知识合并到模型中、编辑内在知识。
KnowEdit基准的目的是什么？
KnowEdit基准旨在评估知识编辑方法的有效性。
专家定制微调（ESFT）有什么优势？
专家定制微调（ESFT）提高了调整效率，甚至超过了全参数微调的性能。
大型语言模型在知识更新方面面临哪些挑战？
大型语言模型需要频繁更新以纠正过时的信息或整合新知识，以确保其持续相关性。
