构建企业级 RAG 系统的高级指南 [译]

📝

内容提要

本文介绍了构建企业级RAG系统的关键要素和挑战，包括决策、案例研究和常见失败因素。文章提供了关于用户认证、输入安全防护、查询优化器、文档摄入系统、生成器和可观测性的建议。强调了用户反馈和多租户系统构建的重要性。

🔎

延伸解读

从失败案例中学习：RAG系统的七大挑战

文章通过三个案例研究总结了RAG系统的七个常见失败点，包括缺失内容、未覆盖排名靠前的文档、答案被遗漏、信息未被提取、回答格式不符、答案不精准和不全面。这些失败点揭示了RAG系统在检索、生成和整合环节中的潜在问题。构建企业级系统时，应针对这些挑战设计相应的缓解措施，例如改进检索策略、优化提示工程和加强输出监控。

编码器选择：平衡性能、成本与隐私

编码器是RAG系统的核心组件，直接影响检索质量和响应速度。文章建议使用MTEB基准评估编码器，但强调需在自有数据上定制评估。选择时需权衡查询成本、索引成本、存储成本、语言支持、搜索延迟和隐私等因素。例如，高维嵌入（如OpenAI的1526维）存储成本高，而低维嵌入可降低延迟。在敏感领域，可能需自托管开源模型以满足隐私要求。

提升检索效果的关键技术

文章介绍了多种提升检索效果的技术，如HyDE、查询引导、重排序器、MMR、自动筛选、递归检索和句子窗口检索。这些技术针对不同场景：HyDE利用生成假想文档改善短查询；查询引导将查询定向到相关索引；重排序器提升排名；MMR增加多样性；自动筛选控制结果数量；递归检索和句子窗口检索平衡精确性与上下文。合理组合这些技术可显著提高RAG系统性能。

可观测性与用户反馈：持续优化的闭环

企业级RAG系统需要强大的可观测性，监控提示、检索、生成等环节，并设置警报。用户反馈是改进的关键，通过👍/👎、星级评分等收集反馈，识别问题并诊断根源，进而改善数据、优化提示和调整参数。这种迭代闭环确保系统持续进化，适应真实用户需求。文章强调，可观测性和反馈机制是RAG系统长期稳定运行的重要保障。

❓

Q&A

构建企业级RAG系统时，常见的失败点有哪些？

根据研究，RAG系统常见的七大失败点包括：缺失内容（FP1）、未覆盖排名靠前的文档（FP2）、答案被遗漏（FP3）、信息未被提取（FP4）、回答格式不符（FP5）、答案精准度不足（FP6）以及答案不全面（FP7）。

企业级RAG系统中用户认证的作用是什么？

用户认证是企业级RAG系统的首要环节，它确保只有授权用户能访问系统，保障数据安全，维护用户隐私，满足法律遵从性，实现责任追踪，并提供个性化与定制体验。

查询优化器如何改善用户查询？

查询优化器通过三种技术改善查询：结合历史记录进行重写，以理解上下文并生成更清晰的查询；将复杂查询分解成子查询，以便更精确地检索；生成类似查询，利用同义词和相关术语提高检索召回率。

选择文本编码器时需要考虑哪些成本因素？

选择文本编码器时需考虑查询成本（嵌入API服务的效率）、索引成本（文档索引和嵌入计算）、存储成本（向量维度和存储量）、语言支持、搜索延迟和隐私要求。

文档摄入系统中分块器的作用是什么？

分块器负责将长文本分割成更小的片段，以便转换为嵌入向量。分块大小直接影响嵌入质量和搜索性能：过小可能无法回答问题，过大则包含过多无关信息。分块需要专业知识，可能采用特定前缀（如代码中的def/class）进行分块。

如何构建多租户RAG系统以确保数据隐私？

构建多租户RAG系统可通过元数据管理实现：向文档添加包含用户信息的元数据，搜索时利用元数据筛选，只展示与该用户相关的文档，确保不同租户的数据互不干扰，保护用户隐私。

🏷️

标签

rag 企业级RAG系统 关键要素 多租户系统 挑战 用户认证