推测解码利用小型草稿模型生成候选token，再由大模型并行验证，借助GPU空闲算力实现2-3倍加速且不损失输出质量。其效果取决于接受率，结构化任务中接受率高，创意写作中较低，高并发时收益下降。草稿来源包括小模型、预测头、量化版本或文本搜索，需根据部署场景选择。