通过任意概念解释：具有开放词汇概念的概念瓶颈模型
内容提要
本文提出了一种新型可解释模型，结合监督与无监督学习，优化模型性能并减少计算量。研究展示了通过概念瓶颈模型（CBM）和交互式机制提升预测准确率，并引入自适应模块增强分类性能。新框架Label-free CBM能够在无标记数据下实现高效转换，未来有望广泛应用。
延伸解读
概念瓶颈模型的核心优势
概念瓶颈模型（CBM）通过引入人类可理解的概念作为中间层，在保持模型可解释性的同时提升性能。文章指出，结合监督与无监督概念发现，CBM能减少所需概念数量，缩小与黑盒模型的性能差距。此外，通过可视化每个概念的显著性图，模型决策过程更符合语义意义，增强了透明度。
无标记数据下的高效转换
Label-free CBM框架能够将任何神经网络转换为可解释的CBM，无需标记的概念数据，且准确性高。该框架已成功扩展到ImageNet数据集，整个创建过程仅需几个小时，展示了其在实际场景中大规模应用的潜力。这降低了构建可解释模型的门槛，为广泛应用提供了可能。
自适应模块与多模型融合
研究提出自适应模块连接源域和下游领域，以提高分类性能并保持解释性。该方案综合了GPT、CLIP和CBM的优势，涵盖从概念发现到模型训练的整个过程。通过大型视觉-语言模型介入最终模型权重，可以纠正模型错误，进一步提升性能。
模型编辑与用户反馈
后续概念瓶颈模型（PCBM）支持从其他数据集或自然语言描述中转移概念，实现全局模型编辑。用户研究表明，通过概念层反馈编辑PCBM，可以在不使用目标域数据或重新训练模型的情况下显著提高性能。这为模型持续改进和适应新领域提供了高效途径。
Q&A
什么是概念瓶颈模型（CBM）？
概念瓶颈模型（CBM）是一种可解释的机器学习模型，通过引入概念层来提升模型的透明度和性能。
新型Label-free CBM有什么优势？
Label-free CBM能够在无标记数据下实现高效转换，并且准确性高，适用于实际场景的广泛应用。
如何提高模型的预测准确率？
通过引入交互式机制和人类协作者的标签反馈，可以显著提升模型的预测准确率。
自适应模块在模型中起什么作用？
自适应模块用于连接源域和下游领域，从而增强分类性能并保持模型的解释性。
PCBM与传统模型相比有什么优势？
PCBM可以在不需要密集注释的情况下保持模型性能和解释性，且能够从其他数据集转移概念。
研究中提到的递增残差概念瓶颈模型（Res-CBM）有什么创新？
Res-CBM通过优化向量来完成缺失的概念，增强了模型的性能和效率，优于现有方法。
