Coupling without Communication and Drafter-Invariant Speculative Decoding

💡 原文英文,约100词,阅读约需1分钟。
📝

内容提要

本研究探讨在无通信情况下生成相同概率分布样本的问题。通过Weighted MinHash算法和Gumbel抽样,提出了一种草稿不变的推测解码方法,以确保在固定随机种子下输出一致。

🏷️

标签

➡️

继续阅读