输入归因能否解释在上下文学习中引发的归纳推理过程

本研究解决了机器学习领域中理解神经模型输出背后的合理性这一复杂问题，尤其是在大语言模型和上下文学习的背景下。通过设计合成诊断任务，我们发现传统的输入归因方法在解释上下文学习中的归纳推理过程时存在一定的局限性，尤其较大模型的可解释性更为困难。研究表明，某些简单的输入归因方法表现最佳。