本文介绍了低训练数据指令调优（LTD Instruction Tuning）方法，旨在减少大型语言模型（LLMs）指令调优的数据使用，提高效率。研究表明，使用少于0.5%的数据可训练出性能提升2%的模型。此外，提出顺序指令调整策略以增强模型在复杂任务中的表现，并探讨了数据偏差对模型性能的影响，提出分阶段指令微调方法以提高指令遵循能力。

本文探讨了通过Self-Instruct框架和低训练数据指令微调（LTD Instruction Tuning）提升大型语言模型（LLMs）指令遵循能力的方法。研究表明，使用少量高质量数据可显著提高模型性能，且人工指导数据优于合成数据。通过数据增强和选择性反射微调等技术，模型在自然语言理解和代码生成任务中表现出色。