以行业领先的检索能力弥合智能体承诺与实际成效之间的差距

以行业领先的检索能力弥合智能体承诺与实际成效之间的差距

💡 原文英文,约1100词,阅读约需4分钟。
📝

内容提要

麦肯锡报告显示,AI代理和机器人每年可为美国创造约2.9万亿美元经济价值;97%的高管称公司已部署AI代理,但仅29%看到生成式AI的显著回报,瓶颈在于数据准确性和工作流。为此,MongoDB在Build Fest上发布多项能力:由Voyage AI驱动的Atlas自动嵌入、嵌入与重排序API、voyage-code-4模型,以及流处理中的$vectorSearch,将高精度检索内置到运营数据库,无需额外搭建嵌入管道,帮助团队兼顾准确性与速度,加速代理从原型走向生产。

🔎

延伸解读

检索精度决定代理成败

文章指出,代理在生产环境能否可靠工作,关键取决于其检索数据的准确性。若检索返回错误信息,代理会基于错误行动,且错误会在后续步骤中累积放大。这解释了为何97%的高管称已部署AI代理,却仅29%看到生成式AI的显著回报——瓶颈不在模型本身,而在数据准确性与工作流。

内置检索减少工程负担

MongoDB将Voyage AI驱动的自动嵌入和向量搜索直接内置到运营数据库,团队无需额外搭建并维护独立的嵌入管道。MedINT的案例显示,在4000万份文档上部署后,原本数周的工程工作转化为低维护的生产级工作流,检索速度与相关性均得到提升,同时降低了开发开销。

流处理让代理获取实时数据

Atlas流处理新增$vectorSearch和$rerank阶段,流处理器可在管道中途直接查询向量索引,无需离开平台。这意味着代理能对“运动中的数据”进行准确检索,而非仅依赖已静止的数据,从而加快数据到达与代理行动之间的衔接,避免为获取实时检索而绕开平台。

参考架构降低自建风险

MongoDB与Temporal联合推出面向实时数据代理的参考架构,将Temporal的持久执行与MongoDB、Voyage AI的状态、记忆和检索结合。该架构在源数据变化时持续同步向量存储,中断后从最后完成步骤恢复,而非重新嵌入已完成工作。它以可复制的开源仓库形式提供,帮助团队避开脆弱的自建管道。

❓

Q&A

为什么很多公司部署了AI代理却看不到显著回报?

根据WRITER调查,仅29%的受访者看到生成式AI的显著ROI,瓶颈在于数据准确性和工作流。当检索返回不准确信息时,代理会基于错误行动,且错误会在后续步骤中累积。

MongoDB在Build Fest上发布了哪些新能力来提升AI代理的检索准确性?

MongoDB发布了四项能力:由Voyage AI驱动的Atlas自动嵌入(正式可用)、Atlas嵌入与重排序API(正式可用)、voyage-code-4模型,以及Atlas流处理中的$vectorSearch(正式可用)。这些能力将高精度检索内置到运营数据库中。

Atlas自动嵌入相比传统向量扩展方案有什么优势?

传统方案需要在数据库上外挂向量扩展,并单独搭建和维护嵌入管道。而Atlas自动嵌入将准确检索内置到数据库中,只需创建向量搜索索引即可,无需额外管道,减少了运维复杂性和同步问题。

voyage-code-4模型适合什么场景?有哪些技术特点?

voyage-code-4专为代理编码检索工作负载设计,支持灵活的输出维度(256d、512d、1024d、2048d)、32K输入上下文和量化感知训练,能以低成本提供高准确度的编码检索,适合代理持续运行。

Atlas流处理中的$vectorSearch如何帮助代理处理实时数据?

流处理器可以在管道中直接查询Atlas Vector Search索引,无需离开平台即可对运动中的数据(而非静态数据)进行语义检索,从而加速数据到达和代理基于数据行动的过程。

MongoDB和Temporal联合提供的参考架构解决了什么问题?

该架构结合Temporal的持久执行与MongoDB和Voyage AI的状态、记忆和检索,保持向量存储与源数据同步,中断后从最后完成步骤恢复,避免重复嵌入工作。代理的状态和记忆与检索在同一平台,提供了生产级起点。

🏷️

标签

➡️

继续阅读