推出 MongoDB Vercel AI SDK 集成:为 AI 应用提供持久化记忆

推出 MongoDB Vercel AI SDK 集成:为 AI 应用提供持久化记忆

💡 原文英文,约1000词,阅读约需4分钟。
📝

内容提要

MongoDB 发布 Vercel AI SDK 集成,将 MongoDB Atlas 作为 AI 应用的持久化记忆库,自动存储会话、语义、程序、情景和临时笔记五类记忆,支持向量搜索与自定义保留策略,并可通过 memory_forget 让模型删除指定记忆。生产版支持可靠的会话历史、按客户隔离数据及自定义集合命名。该包开源,兼容 AI SDK v6 和 v7,三步即可接入。

🔎

延伸解读

五类记忆的分层设计

该集成将记忆分为会话、语义、程序、情景和临时笔记五类,每类有不同的保留时长和检索方式。情景记忆默认保留一年不活跃期,临时笔记一小时后过期,但可提升为情景记忆。语义和程序记忆带版本控制,事实变更时保留历史。这种分层让短期对话与长期事实各得其所,避免所有记忆混在一起影响检索效率。

保留策略的平衡点

文章指出,无限期保留记忆会降低检索性能并增加成本,而过早删除又会让应用丢失重要上下文。集成提供四种保留模式:永不过期、按时间过期、按时间加重要性过期,以及自定义动态过期。模型还能通过 memory_forget 响应用户的“忘记”指令,删除通常在约60秒内完成。开发者需根据业务场景权衡记忆的生命周期。

生产环境的关键控制

默认情况下,模型自行决定何时保存和读取对话轮次,可能偶尔遗漏。生产版允许通过 AI SDK 钩子让应用代码在每一轮加载和保存记录,确保每条用户、助手和工具消息只保存一次。此外,可添加 tenant_id 等过滤字段实现按客户隔离数据,并重命名集合和索引以匹配现有架构,或关闭未使用类别的索引。

一体化平台的优势与前提

由于记忆存储在 MongoDB Atlas 中,应用运营数据、记忆和向量搜索运行在同一平台上,开发者无需额外拼接独立的向量存储或记忆服务,即可统一进行安全、监控和扩展。集成会自动创建向量索引并检测嵌入维度,支持多种嵌入模型。接入需三步:安装包、创建记忆实例、将记忆工具传入应用,且要求使用 MongoDB Atlas 集群并兼容 AI SDK v6 和 v7。

❓

Q&A

MongoDB 和 Vercel AI SDK 集成是什么?它解决了什么问题?

MongoDB 发布了 Vercel AI SDK 集成,将 MongoDB Atlas 作为 AI 应用的持久化记忆存储。它解决了 Vercel AI SDK 本身不包含数据库、无法在会话间保留记忆的问题,让 AI 应用能记住对话、用户事实和过往事件,从而在多次会话、不同用户和重启后保持上下文。

这个集成支持哪几种 AI 记忆类型?各自有什么特点?

集成自动分类并存储五种记忆:会话记忆(当前对话)、语义记忆(关于人、实体和偏好的事实)、程序记忆(工作流程和指令)、情景记忆(关键事件和结果,默认保留一年不活动后过期)、临时笔记(工作草稿,一小时后过期,可提升为情景记忆)。语义和程序记忆会版本化,语义、程序、情景记忆使用向量搜索。

如何控制 AI 记忆的保留时间?可以自定义吗?

每个记忆类别有独立的保留策略,集成提供默认值并允许自定义。保留模式包括:none(永不过期)、ttl(设定时间后过期)、ttl+importance(除非标记重要否则过期)、dynamic(自定义遗忘时间)。此外,通过 memory_forget 功能,模型可在用户要求“忘记”时删除特定记忆,通常约 60 秒内移除。

在生产环境中使用这个集成有哪些增强功能?

生产版提供:可靠的会话历史(通过 AI SDK 钩子确保每条消息精确保存一次)、按客户隔离数据(添加 tenant_id 等过滤字段限制搜索范围)、自定义集合和索引命名或关闭未使用类别的索引。该包开源(Apache 2.0),兼容任何 AI SDK 模型。

如何将 MongoDB 记忆集成到现有的 Vercel AI SDK 项目中?

三步即可:1. 安装包及依赖:npm install @mongodb-developer/vercel-ai-memory ai mongodb;2. 使用 Atlas 连接字符串和嵌入模型创建记忆实例;3. 将记忆工具传递给应用,并指定用户和会话。之后模型会自动决定何时保存和搜索记忆。需要 MongoDB Atlas 集群,兼容 AI SDK v6 和 v7。

这个集成如何实现语义搜索?支持哪些嵌入模型?

集成使用 MongoDB Vector Search 按语义含义而非精确关键词查找记忆。它在启动时自动创建向量索引并检测嵌入维度。开发者可以使用任何 AI SDK 嵌入模型,包括 Voyage AI、OpenAI、Cohere 或 Google。

🏷️

标签

➡️

继续阅读