随着大型语言模型的发展,理解其决策过程变得重要。可解释性技术如注意力可视化、显著性图和集成梯度等,揭示了模型的“黑箱”特性,提升了模型的透明度、可靠性和公平性。
本文介绍了ReluFormer模型在Flow CytoMetry数据上的应用及其可视化技术。梯度可视化和注意力可视化能够识别模型决策过程中的重要细胞和Transformer的决策过程。
完成下面两步后,将自动完成登录并继续当前操作。