Self-AMPLIFY: 提高小型语言模型性能的自解释方法
内容提要
该文综述大语言模型的自我解释与自我改进研究，涵盖AMPLIFY（自动生成解释以提升预测准确率）、ZARA（利用自然语言推理构建伪数据，在FEB基准上达到SOTA）、TriPosT（让小模型通过反馈纠错缩小与大模型的差距）、SG-ICL（自生成演示以减少外部依赖）、PIT（从人类偏好中隐式学习）以及自解释提示（增强多轮对话理解）。
延伸解读
自我解释如何提升模型性能
文章介绍了AMPLIFY框架，它通过自动生成自然语言解释作为纠正信号，提高大语言模型的预测准确率。这种方法不同于传统的事后解释，而是将解释融入预测过程，为模型提供自我修正的依据。实验表明，该框架在可解释人工智能领域开辟了新方向，其性能与现有解释技术相当。
小模型自我改进的可行路径
针对小型语言模型，文章提到了ZARA和TriPosT两种方法。ZARA通过将可能性判断转化为自然语言推理，自动构建伪平行数据，在FEB基准上达到SOTA。TriPosT则让小模型通过与大型语言模型互动收集反馈，学习纠正自身错误，从而缩小性能差距。这些方法表明，小模型可以通过自我改进提升能力，而无需依赖大量人工标注。
减少外部依赖的上下文学习
SG-ICL方法让预训练语言模型自生成演示文稿，用于上下文学习，从而减少对外部演示的依赖。在四个文本分类任务上，SG-ICL显著优于零样本学习，其表现相当于使用约0.6个金训练样本，且生成的演示比随机选取的演示更一致、方差更低。这为在资源有限场景下应用上下文学习提供了新思路。
自我解释的局限与影响
文章也探讨了自我合理化能力的局限性。研究发现，模型生成的解释具有选择性和说明性元素，但不太主观或误导。这些属性可能带来正面或负面影响，取决于自我合理化系统的目标和用户群体。因此，在应用自我解释时，需注意其潜在偏差，并评估其对不同用户的适用性。
Q&A
AMPLIFY框架是如何提升大语言模型预测准确率的？
AMPLIFY框架通过自动生成自然语言解释作为纠正信号，利用后续解释的方法来提高大语言模型的预测准确率。
ZARA方法在哪些方面取得了SOTA性能？
ZARA在FEB基准测试中实现了SOTA性能，包括任务准确性和解释度量。
TriPosT训练算法的主要目标是什么？
TriPosT训练算法旨在赋予更小的模型自我改进的能力，从而减小大型语言模型与成本效益更高、运行更快的模型之间的性能差距。
SG-ICL方法如何减少对外部演示的依赖？
SG-ICL通过生成预训练语言模型自身的演示文稿，在上下文学习中减少对外部演示的依赖。
PIT自我改进框架与提示法方法相比有何优势？
PIT框架从人类偏好数据中隐式学习，以最大程度地与人类偏好相一致，显著优于提示法方法。
自解释提示策略在多轮对话理解中有什么效果？
自解释提示策略能增强大语言模型在多轮对话中的理解能力，在多个基准数据集上持续优于其他零样本提示，并达到或超过少样本提示的效果。
