NVIDIA Blog
·
AI，去取数据！NVIDIA NeMo Retriever 新微服务提升大模型准确性和吞吐量
内容提要
NVIDIA宣布推出四款新的NeMo Retriever NIM推理微服务，可帮助企业扩展AI工作流程并提供准确的检索增强生成。这些微服务允许组织将自定义模型与多样化的业务数据连接，并为AI应用生成高度准确的响应。微服务包括嵌入和重新排序模型，以在准确性和计算效率方面提供最佳解决方案。NeMo Retriever支持各种AI应用，从聊天机器人到数据驱动的分析。NVIDIA的数据平台合作伙伴，包括DataStax、Cohesity、Kinetica和NetApp，正在将NeMo Retriever微服务集成到其产品中，以增强AI功能。NVIDIA的全球系统集成合作伙伴也正在开发服务，帮助企业将NeMo Retriever纳入其AI流程。这些微服务可以与其他NIM微服务一起使用，为开发人员提供了构建AI应用的模块化方法。通过NVIDIA AI Enterprise软件平台，企业可以在生产环境中部署NIM的AI应用。
关键要点
-
NVIDIA推出四款新的NeMo Retriever NIM推理微服务，帮助企业扩展AI工作流程。
-
这些微服务支持将自定义模型与多样化的业务数据连接，提供准确的检索增强生成。
-
NeMo Retriever可用于各种AI应用，包括聊天机器人和数据驱动的分析。
-
新微服务包括嵌入和重新排序模型，优化准确性和计算效率。
-
NVIDIA的数据平台合作伙伴正在将NeMo Retriever集成到其产品中，以增强AI功能。
-
NeMo Retriever微服务可与其他NIM微服务一起使用，提供模块化的AI应用构建方法。
-
企业可以通过NVIDIA AI Enterprise软件平台在生产环境中部署NIM的AI应用。
-
嵌入模型将多种数据转化为数值向量，重新排序模型根据相关性评分数据。
-
NeMo Retriever提供高准确性的文本问答检索管道，减少企业问答中的不准确答案。
-
微服务可用于构建智能聊天机器人、分析安全漏洞和提取供应链信息等。
-
NVIDIA全球系统集成合作伙伴正在开发服务，帮助企业将NeMo Retriever纳入AI流程。
-
NIM微服务可与Riva NIM微服务结合使用，增强语音AI应用。
-
NVIDIA NIM微服务可在多种基础设施上运行，包括云实例和本地环境。
-
开发者可通过NVIDIA开发者计划免费访问NIM进行研究和开发。
延伸问答
NVIDIA NeMo Retriever微服务的主要功能是什么？
NVIDIA NeMo Retriever微服务帮助企业扩展AI工作流程，提供准确的检索增强生成，连接自定义模型与多样化的业务数据。
NeMo Retriever微服务支持哪些AI应用？
NeMo Retriever可用于聊天机器人、数据驱动的分析、安全漏洞分析和供应链信息提取等多种AI应用。
NeMo Retriever的嵌入模型和重新排序模型有什么区别？
嵌入模型将数据转化为数值向量，计算效率高；而重新排序模型根据相关性评分数据，提供更高的准确性但计算复杂度较高。
NVIDIA的合作伙伴如何利用NeMo Retriever微服务？
NVIDIA的合作伙伴如DataStax、Cohesity和NetApp等，正在将NeMo Retriever集成到其产品中，以增强AI功能和提高准确性。
企业如何在生产环境中部署NIM的AI应用？
企业可以通过NVIDIA AI Enterprise软件平台在生产环境中部署NIM的AI应用，支持多种基础设施。
NeMo Retriever微服务如何提高问答系统的准确性？
NeMo Retriever提供高准确性的文本问答检索管道，减少企业问答中的不准确答案，提升整体响应质量。
