➡️
继续阅读
-
EP224:MCP与RAG及AI代理的对比
本文介绍MCP、RAG与AI Agent的区别:MCP是连接AI与外部工具的标准协议;RAG通过检索外部数据提供最新答案;AI Agent能自主决策执行任...
-
在代理式RAG中建立信任始于证据
Agentic RAG通过代理重写查询、选择数据源和搜索方式,提升检索覆盖率,但需记录决策链以建立信任。系统应保留查询、来源、拒绝原因等痕迹,验证引用支持...
-
AI 智创简报:《逐句举证专利扎堆,RAG 质检的插件生意》
2026年多家大厂专利显示,AI答案需逐句带证据,可验证性从事后打分前移至生成时内嵌。第三方质检工具空缺,为客服、法务等团队提供引用质检插件或审计服务,成...
-
营销人员使用Genie One的五个方法
本文介绍Databricks Genie One如何赋能营销团队,将数据转化为行动。它作为AI助手,帮助营销人员绕过分析师瓶颈,直接查询活动、客户和管道数...
-
推理服务的缓存与调度:前缀、多级存储、集群路由
本文讨论长上下文推理服务的缓存与调度优化。核心原则是缓存未命中比命中贵几个数量级,因此设计围绕复用展开:单实例内通过块哈希实现前缀缓存;KV池采用writ...
-
显存账本:每张卡上住着什么,搬走付什么
本文介绍训练大模型时显存管理的通用记账方法。显存分为五类:权重、梯度、优化器状态、激活和通信缓冲。前三类由参数量和并行度决定,激活随输入长度增长,优化空间...