本研究提出了一种自我推测解码（ASD）方法，旨在解决去噪扩散概率模型（DDPMs）推理中的计算瓶颈，显著提高推理速度。ASD在并行运行时的速度比传统方法快约$ ilde{O}(K^{rac{1}{3}})$。

本文提出了一种新颖的自我推测解码方案，旨在加速大型语言模型（LLMs）的推理过程。该方法通过草稿和验证两个阶段生成高质量输出，无需额外训练或内存占用。实验结果表明，该方案在效率上可实现最高1.73倍的加速，显著提升生成质量并节省计算资源。

本文提出了一种新颖的自我推测解码方案，旨在加速大型语言模型（LLMs）的推理。该方法分为草稿和验证两个阶段，确保输出质量与原始模型一致。实验结果显示，该方案在多个任务中实现了显著的速度提升和内存效率，最高加速比可达3.16倍，且无需额外训练。

本文提出了一种新颖的自我推测解码方案，用于加速大型语言模型（LLMs）。该方法分为草稿和验证两个阶段，确保输出质量与原始模型一致。草稿阶段快速生成标记，验证阶段使用原始LLM进行确认。该方案无需额外训练，经济高效，基准测试显示加速比最高可达1.73倍。

该文介绍了一种新颖的自我推测解码推理方案，用于加速大型语言模型，无需辅助模型。该方法通过草稿和验证两个阶段的过程来实现，不需要额外的神经网络训练和内存占用，加速比最高可达1.73倍。