Mafin： 使用模型增强微调提升黑盒嵌入
内容提要
文章比较了微调与检索增强生成（RAG），指出RAG在知识密集型任务中始终优于微调，且微调难以让大模型学习新事实。文章还综述了RAG的发展范式（Naive、Advanced、Modular）、核心组件与评估方法，并介绍了其在医疗、多模态、问答等领域的应用及未来方向。
延伸解读
微调与RAG的适用场景
文章指出，在知识密集型任务中，RAG始终优于微调，且微调难以让大模型学习新事实。这意味着当任务需要频繁更新知识或依赖外部事实时，RAG是更合适的选择；而微调可能更适合调整模型风格或特定格式输出。读者应根据任务对知识新鲜度和准确性的需求来选择方法。
RAG的演进与核心组件
文章综述了RAG的三种范式：Naive RAG、Advanced RAG和Modular RAG，并总结了检索器、生成器和增强方法三个核心组件。了解这些有助于读者把握RAG的技术脉络，在实际应用中根据需求选择合适的检索策略和增强方式，而非简单套用基础RAG。
RAG的评估与领域应用
文章介绍了RAG的评估方法、重点指标和自动评估框架，并提及了在医疗、多模态、问答等领域的应用。这表明RAG已形成较完整的评估体系，并在垂直领域展现出潜力。读者在落地时需关注评估指标的选择，并参考领域特定案例来设计流程。
实践中的权衡与提示增强
文章提到，在商业平台默认设置下，微调模型优于GPT-3.5 Turbo，而RAG又优于微调，且软提示能进一步提升所有方法。这提示读者，在实际应用中可结合RAG与提示工程来优化性能，同时注意不同方法在不同场景下的成本与效果权衡。
Q&A
RAG和微调在知识密集型任务中哪个效果更好？
RAG在不同主题的知识密集型任务中始终优于微调。
为什么大模型通过微调难以学习新事实？
大模型在微调中难以学习新的事实信息，但通过在训练过程中暴露它们于相同事实的多个变体可以缓解这个问题。
RAG有哪些主要的发展范式？
RAG的发展范式包括三种：Naive RAG、Advanced RAG和Modular RAG。
RAG的三个主要组成部分是什么？
RAG的三个主要组成部分是检索器、生成器和增强方法。
如何评估RAG模型的有效性？
论文介绍了两种RAG的评估方法、重点指标和能力，以及最新的自动评估框架。
RAG在医疗领域有哪些应用？
RAG被用于定制LLMs中的领域知识，例如通过开发和评估一个专门针对医疗保健领域、特别关注术前医学的LLM-RAG流程，验证了其可行性。
MuRAG是什么？它有什么优势？
MuRAG是第一个多模态检索增强变压器，利用外部非参数多模态存储器来增强语言生成，并在WebQA和MultimodalQA两个数据集上实现了最新的准确性，优于现有模型10-20%绝对值。
Prompt-RAG与传统RAG有何不同？
Prompt-RAG是一种自然语言提示增强生成式大型语言模型性能的新方法，与传统的RAG模型不同，它不需要嵌入向量，在问答聊天机器人应用中，在相关性和信息性方面优于现有模型。
