重新审视大语言模型剪枝的神经元语义归因
📝
内容提要
本研究解决了现有模型剪枝方法在不同数据集和任务上泛化能力不强的问题。我们提出了一种新的方法——神经元语义归因,能够将神经元与特定语义关联,从而提高剪枝效果的可解释性。研究发现,该方法在情感分类任务中显著提升了剪枝性能,对模型加速和资源节约具有重要影响。
🏷️
标签
➡️