BriefGPT - AI 论文速递 · 2024-01-26T00:00:00Z

EAGLE：推测抽样需要重新思考特征不确定性

📝

内容提要

EAGLE 是一个简单的框架，可以通过自下而上的特征级联操作实现大型语言模型（LLMs）的无损加速，且生成的文本分布与传统自回归解码相同。