神经网络解释性

文章介绍了五种神经网络可解释性方法：基于梯度解释、对输入加扰动观察输出变化、利用中间层数据检测、用对抗样本发现模型缺陷、通过剔除样本重训分析归因。作者建议少发明新方法，多验证解释性优劣，并指出模型过大时解释信号微弱，可从小模型逐步扩展以保证可解释性，助力AGI发展。