RAPTOR：树状组织的递归抽象检索技术 [译]
内容提要
本文介绍了RAPTOR检索系统的性能分析，通过对不同层级的查询，RAPTOR能够从非叶节点中检索到重要信息。实验结果显示，RAPTOR在多个数据集上的性能表现优秀，与其他检索器相比具有更高的检索效率和准确度。结果强调了RAPTOR多层树状结构的重要性。
延伸解读
RAPTOR 如何突破传统检索的局限
传统检索增强方法通常只能返回短小连续的文本片段，难以捕捉文档的整体结构和跨段落信息。RAPTOR 通过递归聚类和摘要构建树状结构，使检索能够覆盖从宏观主题到微观细节的不同层次。这种设计尤其适合需要多步推理或综合全文的问答任务，例如理解小说主题或科学论文中的复杂问题。
树状结构在检索中的实际价值
实验表明，RAPTOR 的检索结果中有相当比例来自非叶节点（即高层摘要节点），在 NarrativeQA 数据集上使用 DPR 检索器时，非叶节点占比高达 57.36%。这说明高层摘要能有效补充细节信息，帮助模型把握全文脉络。因此，在构建检索系统时，不应只依赖底层文本块，而应重视分层摘要的整合。
查询策略的选择与权衡
RAPTOR 提供树遍历和折叠树两种查询策略。折叠树将所有节点视为同一层级进行相似度搜索，在 QASPER 数据集上表现更优，因为它能灵活选取不同层次的节点，避免固定比例带来的偏差。但折叠树需要对全树节点计算相似度，计算开销较大，可借助 FAISS 等高效近邻搜索库缓解。实际应用中需根据任务需求和资源条件选择。
性能提升与潜在限制
RAPTOR 在多个问答数据集上刷新了记录，例如结合 GPT-4 在 QuALITY 上达到 82.6% 的准确率，比之前最佳提升约 20 个百分点。但需注意，其摘要生成过程可能引入约 4% 的轻微幻觉，尽管这些错误未向上传播或显著影响问答。此外，树构建成本随文档长度线性增长，处理超长文档时仍需考虑计算资源。
Q&A
RAPTOR 是什么？它的核心思想是什么？
RAPTOR 是一种基于树状结构的检索系统，通过递归地嵌入、聚类和概括文本块，自下而上构建分层总结的树状结构。其核心思想是利用树状结构捕捉文本的各个层面信息，从而在不同层次上整合长篇文档的信息，提升处理复杂询问的能力。
RAPTOR 如何构建树状结构？
RAPTOR 首先将文本分割成 100 字符的短文本段，用 SBERT 嵌入作为叶子节点。然后使用基于高斯混合模型（GMM）的软聚类算法对相似文本段分组，并用语言模型生成摘要。这些摘要被重新嵌入，重复嵌入、聚类、总结的过程，直至无法进一步聚类，最终形成多层次的树状结构。
RAPTOR 有哪些查询策略？哪种更有效？
RAPTOR 有两种查询策略：树遍历和折叠树。树遍历按层遍历，每层选择最相关的节点；折叠树将所有层合并为一层，综合评估所有节点。实验表明，折叠树方法更有效，在 QASPER 数据集上表现更佳，因此 RAPTOR 采用最大 2000 令牌的折叠树方法。
RAPTOR 在哪些数据集上进行了评估？结果如何？
RAPTOR 在 NarrativeQA、QASPER 和 QuALITY 三个问答数据集上进行了评估。结果显示，RAPTOR 在多个指标上优于传统检索方法（如 BM25、DPR），并创下新纪录。例如，结合 GPT-4 在 QuALITY 上达到 82.6% 的准确率，在 QASPER 上 F-1 得分为 55.7%。
RAPTOR 的树状结构为什么重要？
RAPTOR 的树状结构能够从不同层次检索信息，非叶节点（如第一层和第二层）在检索中贡献显著。实验表明，使用全树搜索比仅使用叶节点更有效，因为高层节点提供了主题和摘要信息，有助于处理需要多步推理的复杂查询。
RAPTOR 的计算效率如何？
RAPTOR 的计算效率高，构建树的 token 消耗和构建时间随文档长度线性增长。在 16GB RAM 的 Apple M1 Mac 上测试，处理长达 78,000 tokens 的文档时，成本线性增加，表明其可扩展性好，能有效处理大规模文本集合。
