ARL2：通过自导自适应相关标签对黑盒大语言模型进行对齐检索
内容提要
该文综述了检索增强语言模型的多项研究：RRAML结合大模型推理与数据库检索以突破上下文限制；R-LLMs、RaLLe、AAR等提升了知识密集任务的表现，但模型在科学文档推理中仍会编造证据，且预训练无法缓解。研究还提出用大模型作检索器、ARM-RAG存储推理链、In-Context RALM添加文档前缀等方法，并发现检索信息通常能提升性能。
延伸解读
检索增强语言模型的核心价值与局限
文章汇总的多项研究表明，检索增强能提升语言模型在知识密集型任务中的表现，例如R-LLMs改善事实问答，AAR增强零样本推理。但研究也指出，模型在科学文档推理中会编造证据，且预训练无法缓解这一问题。这说明检索增强并非万能，其可靠性取决于检索质量与模型对证据的忠实度。
方法创新：从检索器到推理链存储
文章介绍了多种技术路径：用大模型作为检索器提升零样本检索效率，ARM-RAG存储和检索推理链以辅助小学数学问题求解，In-Context RALM通过添加文档前缀整合外部信息而不改变模型结构。这些方法从不同角度扩展了模型能力，但各自适用于特定场景，实际效果需结合任务评估。
性能提升与风险并存
文章提到，检索到的信息通常能提高模型性能且不会损害性能，但存在性能下降的可能，并提出了两种缓解方法。同时，模型在科学文档中捏造证据的风险提示我们，检索增强可能引入不实信息。因此，在应用时需关注检索源的可信度，并设计机制验证模型输出。
Q&A
RRAML框架是如何解决大语言模型上下文限制的？
RRAML（增强检索增强机器学习）将大型语言模型的推理能力与用户数据库中的检索信息相结合，从而有效解决了API文本输入的上下文限制和外部数据源可用性的局限性。
RaLLe是什么？它有什么作用？
RaLLe是一个开源框架，用于促进知识密集型任务中检索增强语言模型（R-LLMs）的开发、评估和优化，能够提升模型的性能和准确性。
大型语言模型在科学文档推理中会出现什么问题？预训练能解决吗？
大型语言模型在科学文档推理任务中会使用编造的证据来支持预测，而利用科学语料库进行预训练无法减轻这种证据捏造的风险。
检索增强语言模型（RALMs）在处理特定应用场景时，检索到的信息对性能有何影响？
检索到的信息能够提高模型的性能，并且不会损害性能。该研究分析了五个开放领域问答基准，并提出了两种方法以减轻性能下降问题。
如何利用大规模语言模型作为检索器来提高检索效率？
该论文提出一种简单方法，使用大规模语言模型作为信息检索的检索器，在零样本场景下提高检索效率。通过在检索词和其他相关域内候选之间进行组合，辅助语言模型生成更精确的答案，使检索更加透明，从而实现竞争力更强的检索结果。
In-Context RALM方法是如何整合外部信息的？
In-Context RALM将基础语料库中的相关文档作为输入前缀添加到语言模型中，实现对外部信息的整合而无需改变模型结构，并证实其在各种场景下的性能提升，从而增加了语言模型的普适性。
