推测解码通过草稿模型生成候选词元、目标模型并行验证，在不改变输出分布的前提下加速大语言模型推理。相关方法包括多候选分段采样与批量验证、无需辅助模型的自推测解码、将起草融入目标模型的Speculative Streaming、级联投机编码及Hydra heads等，在多个模型和任务上实现1.7至3.1倍加速，并保持生成质量。