本文综述大语言模型在事实核查与自我解释方面的研究。xLLM框架通过评估器和迭代优化提升解释忠实度,多模型辩论可改善推理并减少幻觉。实验表明,LLM能提高事实核查效率,但解释错误易致用户过度依赖,高风险场景不宜替代人工。自洽性检查显示解释忠实度因任务和模型而异。LLM在多数事实核查任务中媲美小模型,但中文验证存在语言不一致和虚构问题。GPT-3.5事实性输出不足25%,经重新训练可作事实验证器。
该文综述大语言模型思维链(CoT)微调研究,涵盖MCMC-EM最大化边际似然(在GSM8K等任务上优于STaR)、嘈杂标签辅助微调、CoF-CoT分解NLU任务、CoT减少性别偏见、CoTT提升小模型表现、NoisyTune加噪改进微调、R3提示增强噪声下推理鲁棒性,以及CoT解释忠实度问题。
该文综述可解释自然语言处理研究,涉及RExC、RR、REFER、R2R、ExPred等框架,通过检索增强、思维链提示、可微解释提取和多任务学习提升模型性能与解释忠实度。研究还发现大模型在科学推理中会编造证据,检索增强可改善问答表现,人类实验表明解释对BERT型分类器操纵帮助有限。
完成下面两步后,将自动完成登录并继续当前操作。