本文提出了一种自我解释的深度学习模型,适用于无监督概念学习,能够生成有意义的解释并提升性能。实验结果显示,该模型在多个数据集上优于现有方法。此外,研究还探讨了基于不确定性的贝叶斯估计和模型无关的概念解释方法,验证了其在模型选择和优化中的实用性。
本文探讨了大型语言模型(LLMs)自我解释的忠实度,提出了基于自我一致性的测量方法CC-SHAP。研究表明,模型忠实度与任务和模型类型相关,并提出生成解释框架xLLM以提升解释质量,强调透明度和可理解性的重要性。
该文综述大语言模型的自我解释与自我改进研究,涵盖AMPLIFY(自动生成解释以提升预测准确率)、ZARA(利用自然语言推理构建伪数据,在FEB基准上达到SOTA)、TriPosT(让小模型通过反馈纠错缩小与大模型的差距)、SG-ICL(自生成演示以减少外部依赖)、PIT(从人类偏好中隐式学习)以及自解释提示(增强多轮对话理解)。
本文综述大语言模型在事实核查与自我解释方面的研究。xLLM框架通过评估器和迭代优化提升解释忠实度,多模型辩论可改善推理并减少幻觉。实验表明,LLM能提高事实核查效率,但解释错误易致用户过度依赖,高风险场景不宜替代人工。自洽性检查显示解释忠实度因任务和模型而异。LLM在多数事实核查任务中媲美小模型,但中文验证存在语言不一致和虚构问题。GPT-3.5事实性输出不足25%,经重新训练可作事实验证器。
完成下面两步后,将自动完成登录并继续当前操作。