使用大型语言模型进行语料导向的查询扩展
内容提要
该文综述利用大语言模型改进信息检索的查询扩展与重写研究，包括SoftQE将查询嵌入映射到LLM扩展查询嵌入以提升MS-MARCO和BEIR性能、query2doc生成伪文档扩展查询，以及互验证框架、BERT选块扩展、迭代检索-生成协作、文档扩展预训练、查询重写和ALCE引用评估等方法，均显著提升检索与问答效果。
延伸解读
查询扩展的技术路线分化
文章梳理了多种基于大语言模型的查询扩展方法，可归纳为两类：一是嵌入映射，如SoftQE将查询嵌入映射到LLM扩展查询的嵌入，避免推理时依赖LLM；二是文本生成，如query2doc生成伪文档扩展查询。前者侧重效率与部署便利，后者侧重语义丰富性。读者可据此根据实际场景选择技术路线。
性能提升的边界与条件
SoftQE在MS-MARCO上仅略微提升，但在五个BEIR任务上平均提高2.83个百分点，说明域外泛化收益更明显。query2doc在MS-MARCO和TREC DL等ad-hoc IR数据集上有效。这些结果提示，查询扩展的收益可能因数据集和任务类型而异，实际应用中需针对性评估。
评估与风险：引用质量与证据捏造
文章提到ALCE基准从流畅度、正确性和引用质量三个维度评估LLM引用，并指出检索器和长文本LLM仍有改进空间。同时，有研究发现LLM在科学文档推理中会编造证据，且科学语料预训练无法减轻该风险。这提醒读者，在利用LLM进行查询扩展或问答时，需关注生成内容的可靠性。
Q&A
SoftQE 是如何利用大型语言模型改进查询扩展的？
SoftQE 将输入查询的嵌入映射到 LLM 扩展查询的嵌入，从而在推理时避免依赖 LLM。它在领域内 MS-MARCO 指标上略有提升，并在五个领域外的 BEIR 任务上平均提高 2.83 个百分点。
query2doc 方法是什么？它有什么效果？
query2doc 是一种简单有效的查询扩展方法，利用大型语言模型生成伪文档并将其扩展到查询中，从而提高信息检索系统在 ad-hoc IR 数据集（如 MS-MARCO 和 TREC DL）上的性能。
基于 BERT 的查询扩展模型如何解决引入不相关信息的问题？
该模型使用 BERT 选择相关文档块进行扩展，从而避免引入不相关信息，并在标准 TREC Robust04 测试集上显著优于 BERT-Large 模型。
迭代检索-生成协作框架有什么作用？
该框架利用参数化和非参数化知识，帮助找到正确的推理路径，显著提高大型语言模型的推理能力。实验显示在单跳和多跳问答任务上优于基线模型。
利用大型语言模型进行查询重写的方法有哪些关键点？
该方法将 LLM 作为查询重写器，结合精心设计的指令，定义了四个重写的关键属性，并介绍了重写能力的提炼和“先重写后编辑”的方法。在 QReCC 数据集上，信息丰富的查询重写能显著提高检索性能，尤其在检索器稀疏时。
ALCE 是什么？它评估哪些维度？
ALCE 是一个自动化评估大型语言模型引用质量的基准，通过自动度量三个维度：流畅度、正确性和引用质量，并强调了更好的检索器、长文本 LLMs 等方向的改善空间。
