LLMCheckup: 通过可解释性工具对大型语言模型进行对话式检测
内容提要
综述150多个大语言模型评估，提出结合知识图谱与LLM语言能力的新型架构，兼顾语言复杂性与事实严谨性，并加强数据安全。研究涉及对话系统、对话理解评估、多轮对话增强、教育口语学习、医疗诊断评估及事实核查，发现LLM在事实一致性和复杂对话理解上仍有不足，需提升可信度与透明度。
延伸解读
评估揭示的对话理解短板
文章指出，在对话理解评估中，大多数LLM生成的摘要存在27%的事实不一致，即使ChatGPT也有16%的错误，而事实问答平均准确率仅62.8%。这表明模型在主题/客体理解上仍面临挑战，需通过多任务数据微调等方式提升，如DIAC-FactQA上8.9%的准确率提升。
多轮对话能力的局限与改进
研究显示，LLM在显式信仰状态跟踪上不如专门的任务特定模型，但若提供正确插槽值，它们能将对话引导至成功结局。自解释提示策略可增强多轮对话理解，在多个基准上优于零样本提示，达到或超过少样本提示效果，显示提升复杂对话任务的潜力。
事实核查中的效率与风险
LLM能提高事实核查效率，但对比实验表明，在解释错误时容易让用户过分依赖，因此在高风险环境中不宜作为阅读检索内容的可靠替代品。同时，LLM可基于潜在知识表示执行事实检查、刻板印象和仇恨言论检测，通过“1/2-shot”方法在多个语言任务上优于全监督基线。
领域应用与评估创新
在教育口语学习领域，LLM在音韵学、语音学和第二语言习得方面有良好概念理解，但在解决现实世界问题的推理上存在限制。医疗诊断中，LLM-specific Mini-CEX评估标准可通过自动对话评估替代人工，有效比较不同LLM的质量。ExploreLLM则能帮助探索性和规划任务，提供任务结构和引导。
Q&A
LLMCheckup 提出的新型功能架构有什么特点？
该架构结合了知识图谱的结构化动态与大型语言模型的语言能力，通过真实人工智能新闻数据验证，成功将语言复杂性与事实严谨性相结合，并利用基于角色的访问控制加强数据安全性。
大型语言模型在对话理解方面存在哪些不足？
评估显示，大多数 LLM 生成的摘要中有 27% 的事实不一致，即使最强模型 ChatGPT 也有 16% 的错误摘要；对于事实问题回答，所有评估的 LLM 平均准确率仅为 62.8%。最挑战的问题仍然是对话的主题/客体的理解。
如何提升大型语言模型在多轮对话中的理解能力？
可以通过自解释提示策略来增强理解能力，实验证实该方法在多个基准数据集上持续优于其他零样本提示，并达到或超过少样本提示的效果。此外，通过自动构建多任务数据进行微调的范式，在 DIAC-FactQA 上获得了 8.9% 的准确率提升。
大型语言模型在教育口语学习中的表现如何？
模型在音韵学、语音学和第二语言习得方面具有良好的概念理解，但在解决现实世界问题的推理方面存在限制。研究还初步探讨了对话交流的发现。
如何评估医疗诊断对话中大型语言模型的质量？
建立了一种评估标准（LLM-specific Mini-CEX），通过自动对话评估与 ChatGPT 的交互并替代人工评估，可以有效评估医疗诊断对话和比较不同 LLMs 之间的质量。
大型语言模型在事实核查方面有哪些优势和风险？
优势：LLMs 能提高事实核查的效率，并可作为自适应和可解释的工具检测错误信息、刻板印象和仇恨言论。风险：在解释错误的情况下容易让用户过分依赖，因此在高风险环境中不宜将其作为阅读检索内容的可靠替代品。
