本研究提出了“神经元经验梯度”概念及NeurGrad方法,量化神经元激活与模型输出之间的关系。实验结果表明,该方法有效捕捉知识,揭示技能神经元的高效性,对理解预训练语言模型的知识存储机制具有重要意义。
完成下面两步后,将自动完成登录并继续当前操作。