从数量到质量：通过自导数据选择提高 LLM 性能以进行指令调整

本文介绍了指令追踪评分（IFS）作为一种度量标准，用于评估语言模型遵循指令的能力。通过基准测试，发现格式良好回应与部分和完整句子之间的比例可以作为有效的衡量指标。利用IFS作为指令调整的早停准则，在监督微调中计算IFS，结果表明模型在早期学会了遵循指令，并且微调可以导致基础模型语义的变化。通过辅助标准ObjecQA展示了模型预测的客观性的变化。希望通过将指令调整分解为IFS来更好地处理和理解。