本文综述Transformer可解释性研究，涵盖基于Deep Taylor分解的相关性传播方法、自我注意力归因（识别重要注意力头、构建注意力树及对抗攻击）、经注意力头与LayerNorm稳定传播的改进梯度法、语言生成模型分析与机器翻译对齐、融入外部知识的注意力提升NLI稳健性，以及注意力与特征归因相关性低、注意力权重与梯度重要性不相关等发现，并分析大模型对上下文外词的表征与鲁棒性。

该研究探讨了梯度法在有限循环群中学习离散对数奇偶位的局限性，发现梯度函数集中在一个固定点附近，不管所使用的对数的基。实证实验证明了梯度法学习的局限性，随着群的阶数的增加，在预测奇偶位上的成功率逐渐降低。

本文介绍了一种解释深度学习模型决策的方法，使用梯度法、特征可视化和多实例学习等技术，在 Camelyon-16 数据集上训练，提出了一种新型计算解释性幻灯片级别热图的方法，可以提高瓦片级分类性能达 29% 以上。

本文介绍了一种解释深度学习模型决策的方法，使用梯度法、特征可视化和多实例学习等技术。该方法在 Camelyon-16 数据集上训练，提出了一种新型计算解释性幻灯片级别热图的方法，可以提高瓦片级分类性能达 29% 以上。