本研究提出了一种新剪枝指标LLM-BIP，旨在提高现有结构化剪枝方法在评估连接重要性时的准确性。通过精确评估连接对变换器块输出的影响，该方法显著提升了剪枝效果，实验证明在多个推理任务中平均提高了3.26%的准确性。

LLM-BIP: Structured Pruning for Large Language Models with Block-Wise Importance Propagation
BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 ·
👤 个人中心
在公众号发送验证码完成验证