本文综述了降低大语言模型指令微调数据需求的研究。研究表明，仅需不足原数据0.5%的样本即可训练任务模型，性能提升2%；1k–6k样本足以取得良好效果；人工指导数据优于GPT-4合成数据，并具有跨能力泛化性。此外，还介绍了InstructMining筛选高质量数据、过滤算法将样本减少五倍，以及reflection-tuning和软提示提升鲁棒性。