本研究提出了CORAL框架，解决了推测解码技术在训练与推理中的不一致问题，提升了多步训练的一致性，显著提高了推测性能，减少了解码延迟，其效率和准确性优于现有技术。

CORAL：使用更轻量级的推测草拟器学习跨多步训练的一致表示
BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 ·
👤 个人中心
在公众号发送验证码完成验证