丰富保真度的对比搜索:在文本生成中协调忠实度与多样性的权衡
💡
原文中文,约300字,阅读约需1分钟。
📝
内容提要
本文提出了一种名为 FECS 的新解码方法,用于解决自然语言生成任务中的幻觉问题。该方法通过上下文感知的正则化项来增强语义上与来源相似的标记,同时惩罚生成文本的重复性。在抽象化摘要和对话生成两个任务中,FECS 显示出了有效性。结果表明,FECS 能够持续提升忠实度,同时保持输出多样性。
🎯
关键要点
- 提出了一种名为忠实度增强对比搜索(FECS)的新解码方法。
- FECS 旨在解决自然语言生成任务中的幻觉问题。
- 该方法通过上下文感知的正则化项增强语义上与来源相似的标记。
- FECS 对生成文本的重复性进行惩罚。
- 在抽象化摘要和对话生成任务中,FECS 显示出有效性。
- 结果表明,FECS 能够持续提升忠实度,同时保持输出多样性。
➡️