FuseChat：聊天模型的知识融合
内容提要
本文探讨了大型语言模型（LLM）融合的多种方法，特别是针对非英语语言的适应性。研究提出了TransLLM框架，通过翻译连接英语与非英语，提升模型性能。同时，知识融合技术被拆解为四个场景，强调内部参数化知识的重要性。新方法Cool-Fusion和WIDEN有效解决了计算负载和模型合并中的挑战，提升了多语种能力和准确性。
延伸解读
知识融合的四个场景与内部知识的重要性
文章将知识融合拆解为四个场景，并首次系统研究了LLM在每个场景下的行为。研究发现，增强LLM内部的参数化知识可以显著提升其知识整合能力，但过度依赖外部知识会低估内部知识的价值。在外部知识不完整时，如何协调内外部知识仍是挑战，尤其是在记忆和引出参数化知识以及确定其边界方面。
TransLLM：以翻译为桥梁的非英语适配
针对非英语LLM稀缺的问题，TransLLM框架通过翻译连接英语和非英语，将转换问题细分为多个子任务。实验中将LLaMA-2-chat-7B转化为泰语，仅使用单轮数据的方法在多轮基准MT-bench上优于强基准和ChatGPT。此外，在没有安全数据的情况下，该方法在安全基准AdvBench上拒绝了比ChatGPT和GPT-4更多的有害查询。
Cool-Fusion与WIDEN：解决融合中的计算与参数差异
Cool-Fusion方法针对融合异构LLM的高计算负载问题，无需训练即可利用不同模型的互补优势，在GSM8K数据集上准确率提高了8%到17.8%。WIDEN方法则解决了合并微调和预训练模型时参数变化范围不同的挑战，成功将多语种能力注入指令跟随模型，并提高了其在东南亚语言中的表现。
ProFuser：综合评估以增强模型表现
ProFuser方法针对现有LLM融合方法在训练期间选择模型的挑战，通过综合训练和推理模式来评估模型优劣。这一创新的融合过程显著增强了模型在知识、推理和安全性方面的表现，展示了更强的效能。
Q&A
FuseChat的主要目标是什么？
FuseChat旨在通过知识融合提升大型语言模型的性能，特别是在非英语语言的适应性方面。
TransLLM框架是如何工作的？
TransLLM框架通过翻译连接英语与非英语，将转换问题细分为多个子任务，从而提升模型性能。
Cool-Fusion方法解决了什么问题？
Cool-Fusion方法解决了融合大型语言模型时的高计算负载问题，实验显示其准确率提高了8%到17.8%。
WIDEN方法的主要贡献是什么？
WIDEN方法有效解决了合并模型时参数变化范围不同的挑战，成功注入多语种能力。
知识融合在大型语言模型中的重要性是什么？
知识融合可以增强大型语言模型的推理、常识和代码生成能力，克服静态参数化记忆的局限性。
ProFuser方法如何评估模型的优劣？
ProFuser通过综合训练和推理模式来评估模型，显著增强了知识、推理和安全性表现。
