RIFF: 学习改写输入以便对语言模型进行少样本微调
内容提要
该文综述少样本微调预训练语言模型的研究，涵盖动态低秩重参数化、结构控制器、LM-BFF、PERFECT、CP-Tuning等方法，通过少量参数更新或自动提示，在摘要、翻译、GLUE等任务上提升性能并降低提示工程需求。
延伸解读
少样本微调的核心思路
文章综述了多种少样本微调方法，其共同目标是在训练数据极少的情况下，通过少量参数更新或自动提示来适配预训练语言模型。例如，仅更新0.1%的偏置项就能达到与全参数微调相当甚至更好的准确率，这显著降低了计算成本和提示工程需求。
参数高效与自动提示的融合
PERFECT和CP-Tuning等方法进一步减少了人工设计提示的负担。PERFECT基于任务适配器和多令牌标签嵌入，无需手动构造提示；CP-Tuning则集成了连续提示编码和完全可训练的提示参数，实现了端到端的对比提示调整。这些设计在多种NLP任务上优于现有方法。
跨领域泛化与数据增强
文章还提到了一个通用框架，通过自监督模型快速适应下游少样本任务，并在160个跨领域NLP任务上验证了其泛化能力。此外，有研究通过微调后的生成器合成新训练样本，在GLUE基准上比无增加方法平均提升5个点以上，比增加方法提升3个点以上。
Q&A
RIFF 是什么？它主要解决什么问题？
RIFF 是一种通过学习改写输入来对语言模型进行少样本微调的方法。它旨在减少提示工程需求，并在少量数据下提升模型性能。
RIFF 使用了哪些技术来实现参数高效的自适应？
RIFF 使用动态低秩重参数化和学习结构控制器来实现数据和参数高效的自适应。
RIFF 在哪些任务上展示了性能提升？
RIFF 在对话完成、摘要生成等任务上展示出明显提升。
除了 RIFF，还有哪些少样本微调方法被提及？
文章还提到了 LM-BFF、PERFECT、CP-Tuning 等方法。
LM-BFF 在少样本微调方面有什么改进？
LM-BFF 提出了一种改进的少样本微调方法，在低资源环境下性能最高提升 30%，平均提高 11%。
PERFECT 方法有什么特点？
PERFECT 能够高效地进行少样本学习，无需手动构造提示信息，仅需少量数据即可完成微调，基于任务适配器和多令牌标签嵌入，优于现有先进方法。
CP-Tuning 是什么？
CP-Tuning 是第一个无需手动工程任务特定提示和说明符进行微调的端到端对比提示调整框架，集成了任务不变的连续提示编码技术和完全可训练的提示参数。
