生成还是检索？对医疗开放域问答人工上下文有效性的研究
内容提要
本文综述了检索增强生成在开放域问答中的进展，涵盖GenRead、GRG、GAR等方法，通过生成上下文文档提升检索与推理能力，在Natural Questions、TriviaQA等基准上优于传统检索-阅读模型，并拓展至生物医学等领域。
延伸解读
生成式检索增强的核心思路
文章综述的GenRead、GRG、GAR等方法，核心在于利用大语言模型生成上下文文档，而非完全依赖外部检索。这种思路将生成模型作为知识聚合器，能够组合多段落证据，在Natural Questions、TriviaQA等基准上超越传统检索-阅读模型。读者可关注生成与检索如何互补，以及聚类提示等技巧对多样性的提升。
方法演进与性能对比
从2020年的迭代检索-生成框架，到2022年的GenRead，再到2023年的GRG和GAR，方法不断融合生成与检索。GRG在TriviaQA、NQ和WebQ上比GENREAD和RFiD提升至少5.2、4.2和1.6个点；GAR结合BM25或DPU也能达到或超越稠密检索。这些对比显示生成增强检索的潜力，但需注意不同方法在具体任务上的差异。
领域扩展与轻量化趋势
文章提到方法已拓展至生物医学领域，如Self-BioRAG在三个医学问答基准上平均绝对改进7.2%，并发布了7B和13B模型权重。同时，有研究致力于减少开放域QA系统的存储占用，使其能在边缘设备运行。这表明生成式检索增强不仅追求精度，也开始关注实际部署的可行性和领域适应性。
Q&A
GenRead是什么？它如何提升开放域问答的性能？
GenRead是一种使用大型语言模型生成上下文文档来解决开放域问答等知识密集型任务的新方法。它借助基于聚类的提示方法来选择不同的提示以提高回收率，实验证明相比传统的检索-阅读模型，这种方法有更高的准确性。
GRG方法在开放域问答中是如何工作的？
GRG（Generator-Retriever-Generator）首先命令模型根据给定的问题生成上下文文档，然后使用双编码器网络从外部语料库中检索与问题相关的文档。将生成的和检索的文档传递给第二个LLM模型，生成最终的答案。
GAR方法如何增强开放域问答的检索效果？
GAR（Generation-Augmented Retrieval）通过发现相关语境并进行文本生成来增强查询，所生成的语境大大丰富了查询的语义。使用BM25稀疏表示与DPU等最先进的稠密检索方法相比，GAR能够获得同等甚至更好的检索效果。
Self-BioRAG在生物医学问答中的表现如何？
Self-BioRAG是一个可靠的生物医学文本生成解释、检索特定领域文档并进行自我反思的框架。通过使用84k个过滤后的生物医学指令集训练，它在三个主要的医学问答基准数据集上实现了显著的性能增益，平均绝对改进率为7.2％，超过了参数大小为7B或更少的最先进的开放式基础模型。
生成模型在开放域问答中相比传统检索-阅读模型有哪些优势？
生成模型擅长聚合和组合多个段落的证据，利用文本段落检索可以显著提高性能。例如GenRead在Natural Questions和TriviaQA开放式基准测试中取得最好的结果，GRG在TriviaQA、NQ和WebQ数据集上表现优于最先进的生成-阅读和检索-阅读流水线，性能至少提高了+5.2、+4.2和+1.6。
检索增强生成在开放域问答中有哪些主要方法？
主要方法包括GenRead、GRG、GAR等。GenRead使用LLM生成上下文文档；GRG结合生成和检索文档；GAR通过生成语境增强查询。这些方法在Natural Questions、TriviaQA等基准上优于传统检索-阅读模型，并拓展至生物医学等领域。
