本研究提出了一种激活方差稀疏性评分(AVSS)方法,用于评估深度学习模型各层的重要性。去除约25%的低重要性层后,模型仍能保持90%以上的性能,为大型语言模型的优化提供了新思路。
完成下面两步后,将自动完成登录并继续当前操作。