本文综述深度神经网络的可视化与可解释性研究，涵盖激活最大化、特征可视化、显著性图、注意力机制及预训练模型分析。研究表明，自然图像比合成图像更利于理解卷积网络；特征文本化可揭示语言模型神经元知识，但神经元并非清晰的语言符号；通过亲和矩阵分析生成转换器，可揭示“在哪里”与“是什么”两条信息路径。