CMU&清华新作：让LLM自己合成数据来学习，特定任务性能同样大幅提升
内容提要
清华大学和卡内基梅隆大学的研究团队提出了SELF-GUIDE方法，通过语言模型自动生成任务特定的数据集，并在该数据集上进行微调，以提升模型在特定任务上的能力。该方法不依赖于大量外部高质量数据或更强大的Teacher Model。实验结果表明，SELF-GUIDE在数据有限的情况下具有巨大潜力，可以有效解决缺少训练数据的问题。
延伸解读
方法核心：三阶段自生成数据流程
SELF-GUIDE 将数据生成分解为输入生成、输出生成和质量优化三个阶段。输入生成根据任务类型采用不同提示模板，分类任务先随机选伪标签再生成对应输入；输出生成利用上下文学习为每个输入标注；质量优化则通过调整温度、噪声过滤和长度过滤提升数据质量。这种多阶段设计使模型能在少量示例下自主构建训练集。
实验效果：分类与生成任务显著提升
在 Super-NaturalInstructions V2 基准的 14 个分类和 8 个生成任务上，SELF-GUIDE 相比基线方法，分类任务绝对提升 14.5%，生成任务提升 17.9%。实验使用 Vicuna-7b-1.5 作为基础模型，评估指标为分类 Exact Match 和生成 ROUGE-L。结果表明，即使在数据极其有限的情况下，自生成数据微调也能大幅提升模型的任务特定能力。
实用策略：参数搜索与过滤机制
SELF-GUIDE 采用“One Parameter Fits All”策略，在验证任务上搜索最大化最差任务性能的超参数，并固定用于测试任务。质量优化阶段结合温度调整与基于规则的过滤：输入生成用较高温度鼓励多样性，其他阶段用较低温度保证质量；噪声过滤丢弃含噪声术语的样本，长度过滤保留符合正态分布（μ±2σ）的样本。这些策略共同保障了合成数据的可用性。
潜在影响与局限
SELF-GUIDE 不依赖大量外部高质量数据或更强大的 Teacher Model，为数据稀缺场景提供了新思路，并有望推动 AI 系统在自主对齐和持续学习方面的发展。但方法仍需在验证任务上调整超参数，且过滤规则依赖人工整理的噪声列表和长度分布假设，可能影响泛化性。未来需进一步探索更通用的参数设置和过滤机制。
Q&A
SELF-GUIDE方法的主要目标是什么？
SELF-GUIDE方法旨在通过语言模型自动生成任务特定的数据集，以提升模型在特定任务上的能力。
SELF-GUIDE方法是如何生成数据的？
SELF-GUIDE方法分为三个阶段：输入数据生成、输出数据生成和质量优化，通过这些阶段生成和优化合成数据。
SELF-GUIDE方法在数据有限的情况下表现如何？
实验结果表明，SELF-GUIDE在数据极其有限的情况下，能够显著提升大规模语言模型的特定任务能力。
SELF-GUIDE方法的质量优化阶段有哪些策略？
质量优化阶段采用调整生成参数和基于规则的过滤策略，以提高生成数据的质量。
SELF-GUIDE方法的实验结果如何？
在分类任务上，SELF-GUIDE提升了14.5%；在生成任务上，提升了17.9%。
SELF-GUIDE方法与其他方法相比有什么优势？
SELF-GUIDE不依赖于大量外部高质量数据或更强大的Teacher Model，能够在数据稀缺的情况下有效提升模型性能。
