云原生
·
RAG：给模型“外挂知识库”
💡
原文中文，约2700字，阅读约需7分钟。
📝
内容提要
RAG（检索增强生成）使大语言模型（LLM）能够实时访问外部知识，避免死记硬背。通过动态数据和私有文档，模型生成基于检索结果的准确回答，提升信息更新能力并降低训练成本。
🎯
关键要点
- RAG（检索增强生成）使大语言模型能够实时访问外部知识，避免死记硬背。
- RAG 让大语言模型从内置知识升级为可挂载外部知识。
- 没有 RAG，大模型只能依赖预训练知识，无法实时更新。
- RAG 解决了业务知识更新、实时信息访问和训练成本高的问题。
- RAG 的标准流程包括检索、精排和生成三个环节。
- Embedding 将文本转为语义向量，便于相似度计算。
- 向量数据库用于存储和检索高维向量，支持高效的相似度搜索。
- Retriever 负责召回最相关的文档，常用策略包括向量检索和混合检索。
- Rerank 对召回结果进行更精细的排序，提升答案准确度。
- 上下文构建策略包括 chunk 合并和文档摘要，需平衡长度与信息量。
- LLM 根据检索到的证据生成有依据的回答，减少幻觉。
- RAG 面临的工程挑战包括切片策略、用户提问不完整和上下文冲突。
- RAG 是 AI 应用的核心基础设施之一，支持私有数据和实时数据。
➡️
