该文综述大语言模型思维链(CoT)微调研究,涵盖MCMC-EM最大化边际似然(在GSM8K等任务上优于STaR)、嘈杂标签辅助微调、CoF-CoT分解NLU任务、CoT减少性别偏见、CoTT提升小模型表现、NoisyTune加噪改进微调、R3提示增强噪声下推理鲁棒性,以及CoT解释忠实度问题。
大型语言模型在推理任务中展示出色能力,但存在推理与预测不一致的问题。研究提出了SCORE框架,分析模型的推理能力。使用POV方法进行进一步分析,发现模型在多视角设置中无法稳定行为。结果凸显了推理鲁棒性的重要性,需要进一步研究建立超越准确性度量的推理最佳实践。
完成下面两步后,将自动完成登录并继续当前操作。