本研究探讨了网络入侵检测系统中黑盒人工智能模型的可解释性，提出使用白盒可解释技术，并评估LRP、IG和DeepLift在多个数据集上的表现，结果表明白盒技术在鲁棒性和完整性方面优于黑盒技术。

该论文介绍了多种基于Grad-CAM的可解释性技术，提升了卷积神经网络（CNN）模型的透明度和信任度。通过细粒度可视化，帮助用户理解模型决策，适用于图像分类、字幕生成和视觉问答等任务，并探讨了Grad-CAM在医学成像中的潜力及局限性。

该研究介绍了一种名为层次反馈传播 (LFP) 的新型训练方法，利用层次相关传播 (LRP) 为神经网络预测器中的个别连接分配奖励。LFP 在模型中传播奖励信号，增强了接收到积极反馈的结构，减少了接收到负反馈的结构的影响。研究还探讨了将不同的LRP规则扩展到LFP中的方法，以及潜在的应用，例如训练没有有意义的导数的模型或用于转移学习。