可验证的生成带有子句级细粒度引用
内容提要
本文探讨了基于大型语言模型的引文生成方法，提出通过整合目标论文与源论文生成连贯段落。研究表明，结合知识图谱可提升生成性能，并介绍了细粒度奖励训练框架，验证了模型的有效性。实验结果显示，该方法在多个基准测试中表现优异，推动了科学文档之间的复杂连接探索。
延伸解读
细粒度奖励如何提升引文生成质量
文章指出，通过引入细粒度奖励训练框架，模型在ALCE基准和EXPERTQA上表现优异，甚至在LLaMA-2-7B上超过了GPT-3.5-turbo。这表明，针对引文支持和相关性的细粒度奖励能有效引导模型生成更可靠的引用，为提升引文生成质量提供了新思路。
知识图谱与检索增强的协同作用
文章提到，将目标论文的知识图谱整合到提示中能提升生成性能，同时LLatrieval模型通过迭代更新检索结果来验证文档支持性。这两种方法都强调了外部知识对引文生成的重要性，但知识图谱侧重于结构化关系，而检索增强侧重于动态验证，两者结合可能进一步减少幻觉。
从段落级到句子级的引用推荐进展
文章介绍了基于段落级别的引用推荐任务，并利用多实例学习和学习标签比例技术提高句子级评分性能。此外，PMOA-CITE数据集的构建和BiLSTM模型的应用，在引用检测上达到了先进水平。这些工作表明，引用推荐正从粗粒度向细粒度发展，并借助更大规模的数据集提升性能。
可验证生成与幻觉缓解的实践路径
文章提到“先选后生成”方法通过内容选择、句子规划和顺序句子生成，确保源片段作为细粒度归属，从而缓解幻觉问题。同时，演化记忆和自我反思方法通过验证器和证据查找器反思论点与引用关系。这些实践路径共同指向一个目标：在生成过程中保持归属准确性，降低人工审核成本。
Q&A
大型语言模型如何提升引文生成的性能？
通过将目标论文的知识图谱整合到生成引文文本的提示中，可以显著提升引文生成的性能。
细粒度奖励训练框架的作用是什么？
细粒度奖励训练框架用于教授大型语言模型生成高度相关和支持的引用文献，确保回答的正确性。
ALCE基准测试的目的是什么？
ALCE基准测试用于自动化评估大型语言模型的引用质量，衡量流畅度、正确性和引用质量三个维度。
LLatrieval模型的创新点是什么？
LLatrieval模型通过更新检索结果来验证文档支持性，使语言模型能够迭代反馈以确保生成的可验证性。
如何解决大型语言模型中的幻觉问题？
通过“先选后生成”方法，将生成过程分为内容选择、句子规划和顺序句子生成三个步骤，确保输出的细粒度归属。
PMOA-CITE数据集的贡献是什么？
PMOA-CITE数据集是一个新构建的数据集，证明了模型在引用检测上的先进性能，并揭示了促进和抑制引用的特定语言运用。
