从复杂到简单：增强大型语言模型的多约束复合指令跟随能力
内容提要
本文介绍了CELLO基准，用于评估大型语言模型（LLMs）理解复杂指令的能力。通过引入新数据集Conifer和顺序指令调整，提升了模型在多级指令遵循方面的表现。研究表明，使用AI生成的指令进行微调能有效提高模型性能，尤其在高复杂度任务中。此外，提出了FollowBench基准，揭示LLMs在遵循细粒度约束方面的不足，指明未来研究方向。
延伸解读
多约束指令跟随的评估基准
文章介绍了CELLO基准，用于评估大型语言模型理解复杂指令的能力，包含八个复杂指令特征，并建立了四个标准和度量方法。这为比较不同模型在复杂指令跟随方面的表现提供了系统化工具，有助于识别模型在现实场景中的不足。
顺序指令调整提升多级任务表现
针对数据中顺序指令稀缺的问题，文章提出顺序指令调整策略，通过自动增加指令调整数据，赋予模型执行多个顺序指令的能力。实验表明，该策略在推理、多语言和多模态等下游任务中优于传统指令调整基线，为复杂任务提供了新思路。
AI生成指令微调的有效性
文章提到使用Evol-Instruct方法，从初始指令集逐步重写为更复杂指令，混合后微调LLaMA得到WizardLM模型。人类评估显示，AI生成的指令优于人工创建，尤其在高复杂度方面，且模型输出被认为比OpenAI ChatGPT更好，表明AI生成指令微调是提升模型性能的有前途方向。
细粒度约束遵循的不足与未来方向
FollowBench基准揭示了LLMs在遵循细粒度约束方面的不足，例如容易过拟合于指令短语而无法真正理解应遵循哪些指令。这突出了训练模型理解提示而非仅仅遵循指令短语的挑战，为未来研究指明了方向。
Q&A
CELLO基准的主要功能是什么？
CELLO基准用于评估大型语言模型理解复杂指令的能力，包含八个复杂指令特征。
Conifer数据集如何提升模型性能？
Conifer数据集通过引入新的指令调整和渐进学习方案，提高了模型在遵循复杂多级指令方面的能力。
使用AI生成的指令进行微调有什么好处？
使用AI生成的指令进行微调能有效提高模型性能，尤其在高复杂度任务中表现更佳。
FollowBench基准揭示了什么问题？
FollowBench基准揭示了大型语言模型在遵循细粒度约束方面的不足，并指明了未来研究方向。
如何通过增加指令数据的复杂性来提升模型性能？
研究表明，增加指令数据的复杂性可以持续提升模型性能，少数复杂指令优于多样化的简单指令。
顺序指令调整的作用是什么？
顺序指令调整是一种策略，用于自动增加指令调整数据，使大型语言模型能够执行多个顺序指令。
