Sekyoro的博客小屋
·
Agentic RAG and LLMs-based assistant
💡
原文中文，约14600字，阅读约需35分钟。
📝
内容提要
AI Agent和RAG在多模态大模型的基础上发展应用，通过智能体和外部数据进行搜索。由于大模型参数庞大，普通用户可以使用开源模型如llama。RAG通过检索增强生成，提高了大模型的响应质量，适合用于文档写作等场景。
🎯
关键要点
-
AI Agent和RAG在多模态大模型基础上发展应用，利用智能体和外部数据进行搜索。
-
普通用户可以使用开源模型如llama进行微调等操作。
-
RAG通过检索增强生成，提高大模型的响应质量，适合文档写作等场景。
-
Foundation Model的发展超出普通人能玩的范围，盈利模式是关键。
-
大模型供应商如grok、gemini、openai提供不同的大模型和接口。
-
RAG解决了LLM无法意识到特定内容的问题，通过提供检索的上下文生成更明智的响应。
-
RAG工作流包括加载数据、分块、创建embedding和retriever。
-
结合LLM和retriever可以提升回答质量，使用RAG和迭代询问。
-
Agent可以调用外部工具，增强模型功能。
-
RAG的局限性在于检索步骤和语义相似度计算，可以通过创建RAG代理来缓解这些问题。
-
构建RAG需要处理各种格式的数据，如pdf、电子邮件、Markdown等。
➡️
