AI，去取数据！NVIDIA NeMo Retriever 新微服务提升大模型准确性和吞吐量
内容提要
NVIDIA宣布推出四款新的NeMo Retriever NIM推理微服务，可帮助企业扩展AI工作流程并提供准确的检索增强生成。这些微服务允许组织将自定义模型与多样化的业务数据连接，并为AI应用生成高度准确的响应。微服务包括嵌入和重新排序模型，以在准确性和计算效率方面提供最佳解决方案。NeMo Retriever支持各种AI应用，从聊天机器人到数据驱动的分析。NVIDIA的数据平台合作伙伴，包括DataStax、Cohesity、Kinetica和NetApp，正在将NeMo Retriever微服务集成到其产品中，以增强AI功能。NVIDIA的全球系统集成合作伙伴也正在开发服务，帮助企业将NeMo Retriever纳入其AI流程。这些微服务可以与其他NIM微服务一起使用，为开发人员提供了构建AI应用的模块化方法。通过NVIDIA AI Enterprise软件平台，企业可以在生产环境中部署NIM的AI应用。
延伸解读
嵌入与重排序的协同价值
NeMo Retriever 微服务包含嵌入和重排序两类模型。嵌入模型将文本、图像等数据转化为向量，速度快且计算成本低；重排序模型则对检索结果按相关性评分，精度更高但计算复杂。两者结合，先由嵌入模型广泛检索，再由重排序模型精选，从而在准确性和效率间取得平衡，为企业提供更可靠的问答管道。
准确性提升的量化证据
文章指出，与其他模型相比，NeMo Retriever NIM 微服务在企业问答中减少了 30% 的不准确答案。这一数据表明，通过优化检索增强生成流程，企业可以显著降低 AI 应用中的错误信息，尤其适用于对准确性要求高的场景，如客服聊天机器人和安全漏洞分析。
合作伙伴生态与集成进展
DataStax、Cohesity、Kinetica 和 NetApp 等数据平台合作伙伴已将 NeMo Retriever 集成到各自产品中，例如 DataStax 的 Astra DB 和 Cohesity Gaia。此外，埃森哲、德勤等全球系统集成商也在开发服务，帮助企业将微服务纳入 AI 流程。这显示该技术正通过合作伙伴快速落地，降低企业采用门槛。
部署灵活性与模块化构建
NIM 微服务可单独或组合使用，支持云、本地及混合环境，并能与社区模型、NVIDIA 模型或自定义模型集成。企业可通过 NVIDIA AI Enterprise 平台在生产环境部署，并利用开发者计划免费进行研发测试。这种模块化方法为开发者构建 AI 应用提供了高度灵活性。
Q&A
NVIDIA NeMo Retriever微服务的主要功能是什么？
NVIDIA NeMo Retriever微服务帮助企业扩展AI工作流程，提供准确的检索增强生成，连接自定义模型与多样化的业务数据。
NeMo Retriever微服务支持哪些AI应用？
NeMo Retriever可用于聊天机器人、数据驱动的分析、安全漏洞分析和供应链信息提取等多种AI应用。
NeMo Retriever的嵌入模型和重新排序模型有什么区别？
嵌入模型将数据转化为数值向量，计算效率高；而重新排序模型根据相关性评分数据，提供更高的准确性但计算复杂度较高。
NVIDIA的合作伙伴如何利用NeMo Retriever微服务？
NVIDIA的合作伙伴如DataStax、Cohesity和NetApp等，正在将NeMo Retriever集成到其产品中，以增强AI功能和提高准确性。
企业如何在生产环境中部署NIM的AI应用？
企业可以通过NVIDIA AI Enterprise软件平台在生产环境中部署NIM的AI应用，支持多种基础设施。
NeMo Retriever微服务如何提高问答系统的准确性？
NeMo Retriever提供高准确性的文本问答检索管道，减少企业问答中的不准确答案，提升整体响应质量。
