本研究提出测地线集成梯度(GIG)方法,以解决集成梯度法的错误归因问题。GIG将输入空间视为黎曼流形,沿测地线整合梯度,实验结果表明其在解释性和完整性方面优于现有方法。
随着大型语言模型的发展,理解其决策过程变得重要。可解释性技术如注意力可视化、显著性图和集成梯度等,揭示了模型的“黑箱”特性,提升了模型的透明度、可靠性和公平性。
完成下面两步后,将自动完成登录并继续当前操作。