MVP 聚技站|一文道尽 RAG,为大模型提供你的私有知识
内容提要
本文介绍了RAG(Retrieval-augmented Generation)技术,它是对大型语言模型输出进行优化,引用训练数据来源之外的权威知识库。RAG包括Vector RAG、Search RAG、FAQ RAG、Graph RAG、DB RAG和Internet RAG等多种方案,每种方案适用于不同的场景和数据源。文章还提到了微软最有价值专家(MVP)奖项,该奖项是微软授予第三方技术专业人士的全球奖项。
延伸解读
RAG 的本质:检索是核心,而非生成
文章强调,RAG 的核心在于检索(Retrieval),即解决“数据从哪里来”和“如何召回正确的数据”两个问题。大模型本身的知识是固化的,且可能产生不符合企业私域知识体系的幻觉。通过检索外部知识片段并增强(Augmented)到提示中,可以优化生成(Generation)质量。但需注意,大模型不会完全依赖提供的私域片段,若认为不足,仍可能融合自身知识或忽略片段。
不同 RAG 方案的选择:场景决定技术路线
文章列举了六种 RAG 方案:Vector RAG 适合开放性问答,但面临 chunk 大小、文档布局转换等挑战;Search RAG 适合需要全文检索的场景;FAQ RAG 适合预设提问,其中 BERT FAQ 输出控制更精确,Vector FAQ 召回更丰富;Graph RAG 擅长全局性推理,但构建和维护成本高;DB RAG 适合结构化数据,Chat2SQL 灵活但有注入风险,Chat2API 安全但需预定义;Internet RAG 利用外部数据,需注意搜索引擎返回的是摘要而非全文。
Graph RAG 的挑战:并非所有知识都适合图谱
Graph RAG 虽能解决 Vector RAG 在全局推理上的不足,但文章指出其四大挑战:一是并非所有文档都能有意义地构建为三元组,需有明确实体和关系;二是 Graph 网络结构定义不同,消耗的 Token 和召回信息也不同;三是大模型自动构建的三元组质量不足,需人工审阅,工作量大;四是知识源更新时需全局重构,可能修改已审计信息,需更多干预。
多路 RAG 与成本优化:Agent 调度与模型选择
文章提出,可以在一个知识库中组合多种 RAG 方案,使用 Agent 根据资料和场景调度合适的 Retriever。若预算允许,可将相同资料分别用 Vector RAG 和 Search RAG 存储,并用大模型对返回上下文做质量检测,优选后提交最终推理。此外,在多路方案中,Agent 和 Retriever 可使用成本较低的模型(如 GPT-4o mini),以平衡效果与开销。
Q&A
RAG技术的主要功能是什么?
RAG技术通过引用权威知识库来优化大型语言模型的输出,增强生成质量。
RAG有哪些不同的方案?
RAG包括Vector RAG、Search RAG、FAQ RAG、Graph RAG、DB RAG和Internet RAG等多种方案。
Vector RAG适合什么场景?
Vector RAG适合电商推荐等场景,利用高维空间中的向量表示数据。
Graph RAG的优势是什么?
Graph RAG能够全局性地推理知识库中的信息,减少冗余,提高信息的清晰度。
DB RAG如何从数据库中获取知识?
DB RAG通过Chat2SQL和Chat2API两种方式从结构化数据库中获取企业知识。
微软最有价值专家(MVP)奖项的目的是什么?
MVP奖项旨在表彰在技术社区中分享专业知识和经验的技术专家。