事实回忆、启发式还是纯粹的猜测？语言模型事实补全的精确解释

本文探讨了语言模型在处理事实信息时的不同反应，解决了以往解释缺乏重要区分的问题。我们提出了一种名为PrISM的模型特定方法，以构建不同预测场景的数据集，并应用因果追踪技术分析这些场景的表现，发现聚合混合示例的结果可能仅代表信号最强的场景。这项研究为语言模型的事实补全提供了更细致的分析工具和理解途径。