基于 XAI 增强的语义分割模型用于视觉质量检测
内容提要
本文综述可解释人工智能（XAI）在计算机视觉与遥感图像分割中的应用，重点研究高分辨率卫星图像中的建筑物分割，并提出基于熵衡量模型不确定性的新XAI评估指标。文章还介绍了视觉解释基准、AS-XAI自监督语义解释框架、表面裂纹分割监测、融合人类注意力的显著性方法、SeCAM类激活映射，以及医学影像中的XAI应用与评估方法。
延伸解读
熵作为不确定性度量：XAI评估的新视角
文章提出基于“熵”衡量模型不确定性的新XAI评估指标，用于高分辨率卫星图像建筑物分割。传统XAI评估多关注解释与人类标注的一致性，而熵指标从模型内部不确定性出发，为解释质量提供量化补充。这有助于识别模型在哪些区域决策更不确定，从而指导透明度提升。但该指标的有效性仍需在更多数据集和任务中验证。
视觉解释基准：推动公平比较与可复现研究
文章构建了包含多主题数据集的XAI基准，提供类别标签和解释注释，并整合数据加载、预处理、实验设置与模型评估的完整流程。该基准使研究人员能公平比较不同视觉解释技术，并对十余种评估方法进行综述。公开可访问的数据集和代码降低了研究门槛，但基准的覆盖范围和代表性仍需后续扩展。
从分类到分割：XAI方法的多场景适配
文章综述了XAI在图像分割中的多种应用：AS-XAI框架通过透明正交嵌入和PCA实现无监督语义解释；表面裂纹分割监测表明无监督方法虽掩码质量不及有监督，但仍能实现严重程度监测并降低标注成本；融合人类注意力的显著性方法提升了物体检测模型的合理性与可靠性；SeCAM则结合现有算法优势解释图像分类。这些案例显示XAI正从分类向分割等更复杂任务延伸。
医学影像中的XAI：机遇与评估挑战并存
文章回顾了XAI在医学影像诊断中的应用，包括解释方法、数据集和评估指标的综述与比较，并提出了分类框架。医学影像对解释的可靠性要求极高，但现有XAI评估方法仍不统一。文章还介绍了生成具有真实标准数据集的新方法来衡量解释质量，这有助于推动医学影像XAI的标准化评估，但其泛化能力仍需进一步检验。
Q&A
这篇论文主要研究什么？
本文着重于高分辨率卫星图像中的建筑物分割研究，通过适应最近的XAI分类算法并用于多类别图像分割，引入基于“熵”衡量模型不确定性的新XAI评估方法和指标，以提供透明度和可解释性。
为什么深度学习模型需要可解释性？
深度学习算法在计算机视觉任务中取得重大进展，但其“黑匣子”性质引发了对可解释性的关注。可解释人工智能（XAI）旨在打开这个“黑匣子”，揭示AI模型的决策过程。
论文提出的XAI基准包含哪些内容？
XAI基准包括来自不同主题的数据集集合，为图像提供类别标签和相应的解释注释；还引入了一个全面的视觉解释流程，整合数据加载、预处理、实验设置和模型评估过程，使研究人员能公平比较各种视觉解释技术。
AS-XAI框架是如何实现可解释性的？
AS-XAI（自我监督的自动语义可解释人工智能框架）利用透明正交嵌入语义提取空间和行居中主成分分析（PCA）来全局语义解释模型决策，在没有人为干预的情况下产生人可理解的解释。
在表面裂纹分割监测中，XAI方法的效果如何？
运用可解释人工智能方法对表面裂纹进行分割和监测，结果表明生成的分割掩码质量可能不如有监督方法高，但仍具有意义并能实现严重程度的监测，从而降低了大量标注成本。
SeCAM方法有什么特点？
SeCAM（分割-类激活映射）结合了现有算法的优势并克服其不足，用于解释AI模型特别是图像分类问题。在ILSVRC数据集上使用ResNet50、Inception-v3、VGG16等模型测试，证明该算法能在极短时间内满足特定解释的所有要求，取得出色结果。
