KCTS: 基于知识约束的树搜索解码与令牌级幻觉检测

该文介绍了一种名为KCTS的知识约束解码方法，通过知识分类器分数和MCTS，在每个解码步骤上引导模型生成与参考知识一致的文本，以减少大型语言模型产生误信息的潜力。同时，作者还提出了一种新的标记级幻觉检测方法RIPA。实证结果表明，KCTS作为一种即插即用、模型不可知的解码方法，能有效减少自然语言生成中的幻觉。