学习生成用于零 - shot 任务适应的指示调整数据集
内容提要
该文综述指令微调研究：FLAN用60个NLP任务指令调整137B模型，零样本超越GPT-3；元调谐、MultiInstruct多模态基准、UDIT未标注数据增强、元学习提升多任务泛化；InstructBLIP在13个测试集超越BLIP-2与Flamingo；反转学习从未见标签任务提升F1约20%。
延伸解读
指令微调的核心优势
文章指出，通过指令调整，137B的FLAN模型在未见过任务上零样本性能超越175B GPT-3，表明指令微调能显著提升模型泛化能力，且较小模型可媲美更大模型。
多模态指令调优进展
MultiInstruct作为首个多模态指令调优基准，推动视觉语言模型发展；InstructBLIP在13个测试集上超越BLIP-2和Flamingo，显示指令调优在多模态领域的有效性。
数据增强与元学习策略
UDIT利用未标注数据构建伪标注，提升指令微调效果；元学习应用于多任务指令学习，在零样本场景下显著改善基线，尤其对困难任务有效。
创新方法提升泛化
反转学习从输入样例和标签预测任务指令，对未见标签任务平均F1提高20%；元调谐直接针对零样本目标微调，在分类任务上优于先前SOTA。
Q&A
FLAN 模型是如何通过指令调整提升零样本性能的？
FLAN 通过对 60 个自然语言处理任务的指令模板进行调整，将 137B 预训练语言模型微调为 FLAN。在未见过任务上评估时，其零样本性能大幅提升，并在 20 个任务上超越了 175B GPT-3 的零样本表现。
元调谐（meta-tuning）方法有什么特点？
元调谐直接针对零样本学习目标对预训练语言模型进行微调，应用于分类任务。它通过聚合 43 个现有数据集和 441 个标签描述构建元数据集，实验表明其在新任务上优于基于自然语言推理的先前 SOTA 零样本学习系统和同规模 QA 模型，且增加参数数量可进一步提升 AUC-ROC 分数。
MultiInstruct 是什么？
MultiInstruct 是第一个多模态指令调优基准数据集，旨在设计多个特定任务和多个专家编写的指令，使用现有开源数据集和多种迁移学习策略来优化 OFM 模型的零样本性能，并探索了新的评估指标：敏感性。
UDIT 算法如何利用未标注数据提升指令微调性能？
UDIT（Unlabeled Data Augmented Instruction Tuning）算法通过使用未标注的文本数据构建伪标注数据，以更好地利用指令来提高指令微调的性能。实验结果表明，UDIT 在不同场景下都具有较好的效果。
InstructBLIP 模型在哪些方面超越了 BLIP-2 和 Flamingo？
InstructBLIP 通过构建指导调整方法和使用指导语音特征提取，在 13 个测试集上全面超越 BLIP-2 和更大的 Flamingo 模型，并在单个下游任务的微调中获得了最先进的性能。
反转学习（inverted learning）如何提升模型对未见标签任务的性能？
反转学习是一种新的元训练方法，创新性地从输入样例和标签预测任务指令。它可以显著提高语言模型的迁移学习能力，特别是对于未见标签的任务，平均 F1 值可提高 20%。
