基于消学习的神经网络解释
原文中文,约200字,阅读约需1分钟。发表于: 。本研究解决了基于梯度的模型解释中由于静态基线函数引发的偏差和不稳定性问题。提出的UNI方法通过沿着消学习方向扰动输入,计算出可动态调整的去偏基线,从而有效消除显著特征并提高决策边界的平滑性。研究结果表明,消学习为生成可信、有效且稳健的模型解释提供了新思路。
本文比较了几种显著图解释技术在二值化神经网络和全精度神经网络中的表现差异。研究发现,SmoothGrad在二值化神经网络中产生噪音,而GradCAM在不同网络类型上的表现差异大,有时解释无效。文章探讨了这些差异的原因,并建议在更多网络类型上测试这些技术。