内容提要
MongoDB旗下Voyage AI的Rerank 3与Rerank 3 Lite已上线AI Gateway,可在文档送入语言模型前按相关性重排搜索结果,提升检索质量,对长文档和代码效果最明显。Rerank 3侧重准确率,Lite版优化延迟与成本,均支持32K token并可按查询指令排序。
延伸解读
重排模型在检索流程中的位置
文章指出,Rerank 3 系列会在文档送入语言模型之前,按相关性重新排序搜索结果。这意味着它并非替代向量检索,而是作为检索后的精排环节,帮助语言模型优先看到最相关的文档。对于需要高质量上下文的生成任务,这种重排能减少无关信息干扰,从而提升最终回答的准确性。
准确率与效率的版本选择
Rerank 3 侧重准确率,适合对结果质量要求高的场景;Rerank 3 Lite 则优化了延迟与成本,适合对响应速度和开销更敏感的应用。两者都支持 32K token 的查询-文档对,并可根据查询中的指令调整排序。选择时需在精度与资源消耗之间权衡,而非简单认为 Lite 版是低配替代。
长文档与代码场景收益更明显
文章提到,该系列在跨领域提升检索质量,其中长文档和代码的收益最大。这是因为长文本和代码片段往往包含大量细节,传统检索容易遗漏关键信息,而重排模型能更细致地判断相关性。如果应用涉及技术文档、代码库或长报告检索,引入重排可能带来更显著的改进。
通过 AI Gateway 调用的便利性
Rerank 3 与 Lite 版已上线 AI Gateway,开发者可用统一 API 调用,并跟踪用量与成本,配置路由、重试和故障转移。既可使用 AI Gateway 的 API 密钥,也可自带提供商密钥。这降低了集成门槛,但需注意模型标识分别为 voyage/rerank-3 和 voyage/rerank-3-lite,调用时不要写错。
Q&A
Voyage Rerank 3 和 Rerank 3 Lite 是什么?它们有什么作用?
它们是 MongoDB 旗下 Voyage AI 推出的重排序模型,现已上线 AI Gateway。它们能在将文档传递给语言模型之前,按相关性重新排序搜索结果,从而提升检索质量,对长文档和代码效果最明显。
Rerank 3 和 Rerank 3 Lite 有什么区别?
Rerank 3 侧重于准确率,而 Rerank 3 Lite 则针对延迟和成本进行了优化。两者都支持每个查询-文档对最多 32K token,并可根据查询中的指令来指导排序。
如何在代码中使用 Rerank 3?
使用 Rerank 3 时,将模型设置为 'voyage/rerank-3'。例如:import { rerank } from 'ai'; const { ranking } = await rerank({ model: 'voyage/rerank-3', query: '...', documents: [...], topN: 1 });。对于 Rerank 3 Lite,只需将模型改为 'voyage/rerank-3-lite'。
Rerank 3 系列模型支持多大的输入长度?
两者都支持每个查询-文档对最多 32K token。
AI Gateway 提供了哪些功能?
AI Gateway 提供了一个统一的 API 来调用模型、跟踪使用情况和成本,并配置路由、重试和故障转移。你可以使用 AI Gateway 的 API 密钥,或自带提供商密钥。
Rerank 3 在哪些场景下效果提升最明显?
Rerank 3 系列能提升跨领域的检索质量,其中在长文档和代码上的效果提升最大。