本文介绍了一种名为Permute-and-Flip(PF)解码器的新方法,具有与标准采样解码器类似的健壮性特性,但在质量-健壮性权衡方面比采样高出2倍且不会比其他解码器差。实验证明PF解码器在困惑度方面优于朴素采样,成为一种有前景的新的LLM解码方法。
完成下面两步后,将自动完成登录并继续当前操作。