少而精：通过亚模性子集选择获取更少的可解释区域
内容提要
该文汇总多项研究：利用子模互信息选数据提升分类性能20-30%；提出低成本自监督数据归因法；用稀疏子集选择实现图像分割；结合部件发现与归因实现可解释细粒度识别；提出逐类可解释算法；提出ROAD归因评估框架；提出三种评估方案及平滑后处理；用第二网络生成类特定蒙版；结合子集选择与半监督数据编程训练模型；提出区域归因方法XRAI及PICs评估。
延伸解读
子集选择与数据效率
文章汇总的多项研究显示，通过子模互信息等子集选择方法，可以在CIFAR-10和MNIST上提升分类性能20-30%，并减少所需标注数据。在资源受限场景下，结合半监督数据编程，仅用少量样例图像就能训练出优于其他半监督方法的模型。这表明有目的地选择数据子集是提升数据效率的有效途径。
可解释性方法的多样性
文章涉及多种可解释性技术，包括基于自监督的数据归因、逐类可解释算法、类特定蒙版生成以及XRAI区域归因方法。这些方法从不同角度解释模型决策，如通过第二网络生成蒙版或结合部件发现与归因。它们共同丰富了可解释深度学习的工具箱，适应不同应用需求。
评估框架的改进
针对归因方法的评估，文章提出了ROAD框架和三种新评估方案，旨在减少信息泄漏、消除重新训练步骤，并平衡不同方法间的比较。这些评估工具提高了归因技术评估的一致性和可靠性，有助于更公平地衡量各种可解释性方法的性能。
Q&A
什么是亚模性子集选择？它在深度学习中有什么应用？
亚模性子集选择是一种通过选择数据子集来优化模型训练的方法。在深度学习中，它被用于数据选择，例如利用子模互信息（SMI）函数选择数据子集，在CIFAR-10和MNIST图像分类任务中，相比主动学习等方法，分类性能提升了20-30%。
如何降低数据归因的计算成本？
一种基于自监督学习预训练的最小化基线方法可以对图像数据进行归因，这种方法计算成本低、内存占用少、易于扩展，并且在CIFAR-10和ImageNet上实现了与现有方法相媲美甚至更好的性能。
稀疏子集选择如何用于图像分割？
基于稀疏子集选择的图像分割方法采用局部光谱直方图特征将视觉信息编码为高维向量，并馈入一种新颖的凸模型，该模型自动确定连贯区域的最优数量和超像素分配，形成最终分割结果。作者设计了基于交替方向乘子法的数值算法，高度可并行化且计算效率高，实验表明该方法能提供高质量和具有竞争力的结果。
有哪些方法可以评估特征归因技术的可靠性？
Remove and Debias (ROAD) 是一种新的本地特征归因方法评估框架，通过减少信息泄漏和消除计算昂贵的重新训练步骤，为不同的归因技术提供高一致性的评估。此外，还有三种新的评估方案用于衡量影响深度神经网络决策的图像区域，并提出后处理平滑步骤来改善归因方法的性能。
如何实现细粒度视觉识别的可解释性？
一种可解释的深度模型通过在深层神经网络中将基于区域的部件发现和归因结合起来实现细粒度视觉识别，并通过图像级对象标签进行训练，可以有效地识别图像中的对象部件，提高细粒度识别和对象部件定位的准确性。
在资源受限环境下，如何利用少量标注数据训练深度模型？
在资源受限的环境中，可以利用有限的标注数据和领域专家的注释，通过有信息的子集选择和半监督数据编程方法，使用少量的样例图像来训练深度模型，取得了比其他半监督方法更好的结果。
