语言模型的演绎闭包训练：连贯性、准确性和可更新性
内容提要
该文综述大语言模型与思维链（CoT）研究：通过知识蒸馏训练小型自洽CoT模型，用MCMC-EM微调最大化正确答案边际似然；提出Verify-and-Edit框架借助外部知识修正推理链，CoAT利用模拟数据提升上下文学习；指出CoT解释可能受输入偏见影响、需评估忠实度；CoCo用连贯性图与对比学习检测低资源机器生成文本；探索用GPT-3.5辅助演绎编码，研究事实追溯与训练数据指向方法；DKGen动态选择参考段落增强知识利用，DECENT以对抗解耦提升摘要准确性。
延伸解读
从“结果正确”到“过程合理”：CoT训练的两条路径
文章呈现了两种提升思维链质量的思路：一是知识蒸馏，让小型模型学习大模型生成的合理解释，并用对抗约束保证一致性与反事实推理；二是MCMC-EM微调，不直接最大化正确答案的似然，而是最大化生成正确答案的边际似然，相当于平均所有可能解释。前者侧重解释的合理性，后者侧重答案的稳健性，二者在GSM8K等任务上均报告了优于基线方法的表现。
外部知识修正与解释忠实度的张力
Verify-and-Edit框架通过引入外部知识编辑推理链，以提升开放域问答的准确性；CoAT则用模拟数据帮助模型更好利用背景知识。但文章同时指出，CoT解释可能受输入偏见影响，误导人们对模型预测真实原因的判断，导致过度信任。这意味着提升答案准确性与保证解释忠实度并非同一目标，尤其在社会偏见问题上，需要专门评估和改进解释的忠实度。
事实追溯与知识利用的改进空间
文章比较了基于梯度和基于嵌入的两种训练数据指向方法，用于追溯语言模型记忆的事实知识来源，并明确指出仍有很大改进空间。这提示读者，当前模型的事实知识虽多，但定位其来源的能力尚不成熟。与此同时，DKGen通过动态选择高相关参考段落来增强外部知识利用，DECENT则以对抗解耦提升摘要准确性，二者分别从检索与生成端回应了知识使用中的可靠性问题。
Q&A
如何训练小型模型生成自洽的思维链解释？
采用知识蒸馏方法，用大型教师模型生成的合理解释来训练小型学生模型，并加入对抗性约束以保证学生模型的一致性和反事实推理能力，从而生成有利于提高性能的CoT解释。
MCMC-EM微调如何提升语言模型在推理任务上的准确性？
MCMC-EM微调通过最大化生成正确答案的边际对数似然（平均所有可能的解释），使用马尔可夫链蒙特卡罗-期望最大化算法采样解释后验分布，并采用控制变量技术降低梯度估计方差。在GSM8K和BIG-Bench Hard任务上，它通常比STaR或带/不带CoT提示的微调方法在留存样例上提高准确性。
Verify-and-Edit框架是如何提高思维链推理准确性的？
Verify-and-Edit框架通过使用外部知识来编辑推理链，修正其中的错误，从而提高推理链的准确性，并在多个开放型问题回答任务中实现了准确度提升。
CoAT方法如何帮助语言模型更好地利用背景知识？
CoAT利用模拟训练数据来帮助语言模型更好地利用其背景知识。使用CoAT训练的In-context learners性能表现良好，达到了在多任务训练中更大规模模型的性能水平。
为什么需要评估思维链解释的忠实度？
因为大型语言模型的思维链推理虽然能提供合理解释，但有时会受到输入偏见的影响，误导我们对模型预测真实原因的认识，可能导致人们过度信任LLMs的预测结果。因此有必要针对模型解释的忠实度进行有针对性的评估和改进，特别是在社会偏见问题方面。
CoCo模型如何检测低资源情况下的机器生成文本？
CoCo模型基于连贯性图和对比学习，采用预训练模型和图神经网络将文本表示为连贯性图，并使用改进的对比损失函数应对数据限制挑战。实验结果表明，CoCo方法优于现有的最先进的方法。
使用GPT-3.5进行演绎编码能达到人类编码者的一致性水平吗？
研究发现，在某些情况下，使用GPT-3.5可以达到与人类编码者同等程度的一致性水平，从而减少演绎编码所需的时间，同时保留传统内容分析的灵活性。
DKGen如何增强语言模型正确使用外部知识的能力？
DKGen将文本生成过程划分为迭代过程，通过动态选择相关性高的参考段落，消除与先前生成的文本和查询无关的引用，从而增强正确使用外部知识的能力。实验结果表明，DKGen优于所有基准模型。
DECENT方法如何提高文本摘要的准确性和可靠性？
DECENT采用基于对抗解耦的方法，旨在提高大型语言模型文本摘要的准确性和可靠性，以克服生成摘要时出现的谬误和虚假细节问题。
