LaRA:评估检索增强生成和长上下文Llama
📝
内容提要
本文解决了检索增强生成(RAG)与长上下文(LC)大语言模型(LLMs)之间缺乏明确比较的问题,特别是在现有基准设计限制的背景下。通过提出LaRA这一新基准,研究表明在选择RAG还是LC时需综合考虑模型参数大小、长文本能力、上下文长度、任务类型以及检索到的片段特性等多种因素,为实践者提供有效指导。
➡️
本文解决了检索增强生成(RAG)与长上下文(LC)大语言模型(LLMs)之间缺乏明确比较的问题,特别是在现有基准设计限制的背景下。通过提出LaRA这一新基准,研究表明在选择RAG还是LC时需综合考虑模型参数大小、长文本能力、上下文长度、任务类型以及检索到的片段特性等多种因素,为实践者提供有效指导。