论文研究现代大语言模型中的早退解码,即中间层能否提前输出词元以节省算力。作者提出EAS评分衡量各层相似度与可跳过比例,并通过“神谕”实验测试。结果显示,多数新模型可跳过空间极小:Llama3-8B仅0.18%,Qwen2-7B为0,GPT-OSS-20B最高7.26%。结论是早退收益递减,部署前需先测量。
完成下面两步后,将自动完成登录并继续当前操作。