AdaCBM: 一种用于可解释和准确诊断的自适应概念瓶颈模型
内容提要
本研究提出了后续概念瓶颈模型（PCBM），旨在将神经网络转化为可解释模型，提升性能而无需密集注释。PCBM通过多模式模型实现概念转移，用户可编辑模型以提高准确率。新方法OpenCBM引入开放词汇概念，允许用户修改概念，显著提升分类准确率。此外，研究还提出了多种改进的CBM模型，增强了模型的可解释性和性能。
延伸解读
从闭集到开放词汇：概念瓶颈模型的演进
传统概念瓶颈模型（CBM）依赖预定义的概念集，且需要密集的概念标注，这限制了其实际应用。PCBM通过多模态模型从其他数据集或自然语言中转移概念，无需目标域标注即可实现模型编辑。OpenCBM进一步引入开放词汇概念，允许用户在训练后自由增删改概念，在CUB-200-2011上准确率提升9%。这一演进表明，CBM正从封闭、静态的概念集走向开放、动态可编辑的概念空间，显著增强了实用性和灵活性。
概念编辑与干预：提升模型性能的新途径
PCBM允许用户通过概念层反馈编辑模型，无需重新训练即可提升性能。CB2M则通过双重记忆机制自动学习并推广干预，纠正错误预测，并能识别错误概念。这些方法将用户交互从被动标注转变为主动编辑，降低了模型修正的成本。但需注意，编辑效果依赖于概念的质量和用户反馈的准确性，且目前主要在特定数据集上验证，泛化能力仍需进一步检验。
自动概念发现与残差优化：减少人工依赖
Discover-then-Name-CBM利用稀疏自编码器先发掘模型学到的概念，再为其命名并训练线性探针，生成语义有意义且易于解释的概念。Res-CBM则通过优化向量补全缺失概念，将补充向量转化为候选概念库中的潜在概念，以增强任何CBM的性能。这些方法减少了对人工概念标注的依赖，并在准确性和效率上优于现有方法，但概念的可解释性仍可能受自动发现过程的影响。
Q&A
什么是后续概念瓶颈模型（PCBM）？
后续概念瓶颈模型（PCBM）是一种将神经网络转化为可解释模型的方法，无需密集注释，同时保持模型的性能和解释性。
OpenCBM如何提高分类准确率？
OpenCBM通过引入开放词汇概念，允许用户修改概念，从而在基准数据集上将分类准确率提高了9%。
概念瓶颈记忆模型（CB2M）有什么优势？
CB2M通过两重记忆能够在新情境中学习推广干预，自动改进模型性能，并成功推广到未见数据。
递增残差概念瓶颈模型（Res-CBM）如何提升模型性能？
Res-CBM通过优化向量来完成缺失的概念，增强CBM的性能，在准确性和效率方面优于现有方法。
概念瓶颈模型（CBMs）如何提供可解释性？
CBMs通过其概念表示提供内在解释，使得模型的决策过程更加透明和易于理解。
Discover-then-Name-CBM方法的主要创新是什么？
该方法通过先发掘模型学到的概念，再为其命名，生成语义有意义且易于解释的概念，从而提升模型性能。
