自监督可解释的基于概念的文本分类模型
内容提要
本文探讨了大型语言模型（LLM）在可解释机器学习（IML）中的应用，特别是在图像分类和HVAC系统中的有效性。研究提出了自动概念嵌入模型（ACEMs），旨在提高模型的解释能力和可靠性，并结合知识图谱和多模式模型，增强了模型的可解释性。
延伸解读
概念嵌入模型的瓶颈与ACEM的突破
概念嵌入模型在解释能力和性能之间取得了平衡，但需要为所有训练数据提供概念注释，这成为其应用的关键限制。自动概念嵌入模型（ACEMs）通过自动学习概念注释，解决了这一瓶颈，有望推动概念解释方法在更广泛场景中的落地。
LLM与可解释模型的协同价值
大型语言模型不仅能独立生成解释，还能与广义可加模型（GAMs）等可解释模型配合，描述、解释和调试这些模型。这种协同让数据集概述、问题回答和模型评论成为可能，并改进了领域专家与可解释模型的交互，甚至能产生关于潜在现象的假设。
多模态可解释性的新路径
通过将开放世界定位模型与多模态大型语言模型结合，新架构能同时产生文本和物体定位输出。这不仅增强了可解释性，还允许设计新的显著性图来解释任何输出标记，识别模型幻觉，并通过语义对抗扰动评估模型偏见，为多模态模型的可信度提供了新工具。
Q&A
自动概念嵌入模型（ACEMs）有什么优势？
ACEMs能够自动学习概念注释，解决了传统模型需要为所有训练数据提供概念注释的关键限制。
大型语言模型如何提高图像分类的可解释性？
通过利用GPT-4的领域知识和常识能力，大型语言模型能够生成高级概念，提供人类可理解的解释。
可解释机器学习在HVAC系统中的应用效果如何？
结合Shapley值和大型语言模型，研究表明可解释机器学习在HVAC系统中能够提高模型的可信度和工业应用效果。
知识图谱如何优化大型语言模型的性能？
知识图谱通过提供结构化信息，帮助大型语言模型更好地理解和解释数据，从而提升其性能。
多模式大型语言模型的可解释性如何增强？
通过结合图像嵌入组件和开放世界定位模型，增强了多模式大型语言模型的可解释性，能够同时产生文本和物体定位输出。
大型语言模型如何帮助解释其他预测模型？
大型语言模型能够描述、解释和调试广义可加模型，提供数据集概述和问题回答的能力。
