CAT Merging: A Training-Free Approach to Resolving Conflicts in Model Merging
原文英文,约100词,阅读约需1分钟。
📝
内容提要
本研究提出了一种无训练的冲突感知任务合并(CAT合并)方法,旨在解决多任务模型合并中的知识冲突问题。通过剔除冲突组件,CAT合并在视觉、语言和视觉-语言任务上有效提升了准确率,平均提高2.5%和2.0%。
🎯
关键要点
-
本研究提出了一种无训练的冲突感知任务合并(CAT合并)方法。
-
CAT合并旨在解决多任务模型合并中的知识冲突问题。
-
通过剔除冲突组件,CAT合并在视觉、语言和视觉-语言任务上有效提升了准确率。
-
CAT合并的平均准确率提升为2.5%和2.0%。
🏷️