本文探讨了大语言模型(LLM)采样算法的改进,特别是核采样(top-p)的问题。作者提出了一种新的“首个令牌截止”(FTC)算法,旨在提高生成文本的质量和多样性,通过限制低质量令牌的选择比例,确保生成内容的连贯性和准确性。
完成下面两步后,将自动完成登录并继续当前操作。