NoisyICL: 模型参数微噪音对上下文学习的校正
内容提要
本文综述大语言模型上下文学习(ICL)的校准与鲁棒性研究。模型规模、示例数量及微调会导致性能与校准的权衡;RICL、LARICL、LinC、DP-ICL、SuperICL等方法可提升校准与隐私性;ICL对标签扰动不如监督学习敏感,且存在标签偏移现象,需进行生成校准。
延伸解读
性能与校准的权衡
文章指出,当增加模型规模、增加上下文示例数量,或使用指导、对话、强化学习等方法微调模型时,性能和校准之间会出现权衡。常用的重新校准技术对校准错误的改善有限,因此在需要模型可靠性的场景下,可能需要新的校准方法。
校准方法的实用进展
文章介绍了多种提升校准与隐私性的方法:RICL和LARICL通过优化输入提示改善性能;LinC仅需少量标记样本即可校准GPT模型的概率输出,平均改善率高达21%,某些情况下达50%,且对标签比例、提示模板和演示排列具有鲁棒性;DP-ICL在保持隐私保证的同时,性能下降小于2%。
ICL对标签扰动的鲁棒性
通过对比ICL与监督学习,文章发现黄金标签对下游上下文性能有显著影响,尤其对大型语言模型;但不平衡标签对ICL的影响较小。ICL对标签扰动的敏感性低于监督学习,且随着模型规模增大,ICL逐渐获得与监督学习相当的性能。
标签偏移与生成校准
文章首次确定了上下文学习中的标签偏移现象,并提出生成校准方法,通过调整标签边际分布来校准上下文预测分布。实验证明,该方法在文本分类任务中显著且一致地优于其他校准方法,并且对于不同的提示配置也表现稳定。
Q&A
大语言模型在上下文学习中,性能和校准之间存在怎样的权衡?
研究发现,当增加模型大小、增加上下文学习示例,以及使用指导、对话或强化学习等方法在精心策划的数据集上对模型进行微调时,性能和校准之间存在权衡。常用的重新校准技术在校准错误方面的改善有限,因此在期望模型可靠性的设置下,可能需要新的方法。
有哪些方法可以改善大语言模型上下文学习的校准和隐私性?
RICL(Reweighted In-context Learning)和LARICL(Linear Approximation of Reweighted In-context Learning)通过优化输入提示来改善性能;LinC(线性校准技术)仅需少量数据样本即可校准GPT模型的概率输出,平均改善率高达21%,某些情况下高达50%;DP-ICL通过建立嘈杂共识实现隐私推理,在四个基准测试中性能与非私有ICL相当(<2%降级);SuperICL算法能有效调整大规模监督数据,适用于难以调整的大型语言模型。
上下文学习(ICL)对标签扰动的敏感性与监督学习(SL)相比如何?
通过使用相同的演示示例训练相同的LLMs,并在一系列分类任务中研究标签扰动(嘈杂标签和标签不平衡)下的表现,发现黄金标签对下游上下文性能有显著影响,尤其是对于大型语言模型;然而,对于所有模型大小,不平衡标签对ICL的影响较小。与SL相比,ICL对标签扰动的敏感性较低,并且随着模型大小的增加,ICL逐渐获得与SL相当的性能。
什么是上下文学习中的标签偏移现象?如何校准?
通过理论和实证研究,首次确定了上下文学习中的标签偏移现象,并提出了一种生成校准方法,通过调整标签边际分布来校准上下文预测分布。实验证明该方法在文本分类任务中显著且一致地优于其他校准方法,同时对于不同的提示配置也表现稳定。
在低资源环境中,如何解决大语言模型过度自信和误校准的问题?
探索了标准的有监督微调(SFT)和上下文学习(ICL)两种方法在低资源环境中存在的过度自信和误校准问题,提出了使用自我集成技术来增强预测校准性和性能,为选择学习范式以及如何提升大语言模型的任务性能和校准性提供了具体指导。
上下文学习中的示例扰动对机器翻译任务有何影响?
研究了上下文演示的不同方面对机器翻译任务的影响,观察到不同模型家族对扰动示例呈现不同的行为,表明上下文学习的鲁棒性可能受到多种因素的影响,需要进一步研究来全面了解这些因素。