多篇论文探讨深度学习可解释性：简化模型在分布外可能不忠实，导致理解幻觉；DAS方法可高效搜索大语言模型中的因果结构；子空间干预可能造成虚假解释；解释性模型与黑箱结合可提升性能；但检查Transformer个别注意力头或权重矩阵的解释可能误导。

该文综述多种深度学习可解释性方法：热力图定位妨碍目标识别的区域；预测移动UI可点击元素并用XRAI解释；Shap-CAM利用Shapley值改进类激活映射；基于Shapley值的变量重要性度量；最大激活群提取与多尺度可视化；在医学多标签数据集上比较四种解释方法；基于归类的特征提取；卷积层梯度权重归因；系统评估解释方法的忠实度等指标，发现Grad-CAM和RISE表现较好；提出XC评分用于3D目标检测，并发现复杂方法未必优于简单方法。