NVIDIA Blog
·
AI，去取数据！NVIDIA NeMo Retriever 新微服务提升大模型准确性和吞吐量
💡
原文英文，约1100词，阅读约需4分钟。
📝
内容提要
NVIDIA宣布推出四款新的NeMo Retriever NIM推理微服务，可帮助企业扩展AI工作流程并提供准确的检索增强生成。这些微服务允许组织将自定义模型与多样化的业务数据连接，并为AI应用生成高度准确的响应。微服务包括嵌入和重新排序模型，以在准确性和计算效率方面提供最佳解决方案。NeMo Retriever支持各种AI应用，从聊天机器人到数据驱动的分析。NVIDIA的数据平台合作伙伴，包括DataStax、Cohesity、Kinetica和NetApp，正在将NeMo Retriever微服务集成到其产品中，以增强AI功能。NVIDIA的全球系统集成合作伙伴也正在开发服务，帮助企业将NeMo Retriever纳入其AI流程。这些微服务可以与其他NIM微服务一起使用，为开发人员提供了构建AI应用的模块化方法。通过NVIDIA AI Enterprise软件平台，企业可以在生产环境中部署NIM的AI应用。
🎯
关键要点
- NVIDIA推出四款新的NeMo Retriever NIM推理微服务，帮助企业扩展AI工作流程。
- 这些微服务支持将自定义模型与多样化的业务数据连接，提供准确的检索增强生成。
- NeMo Retriever可用于各种AI应用，包括聊天机器人和数据驱动的分析。
- 新微服务包括嵌入和重新排序模型，优化准确性和计算效率。
- NVIDIA的数据平台合作伙伴正在将NeMo Retriever集成到其产品中，以增强AI功能。
- NeMo Retriever微服务可与其他NIM微服务一起使用，提供模块化的AI应用构建方法。
- 企业可以通过NVIDIA AI Enterprise软件平台在生产环境中部署NIM的AI应用。
- 嵌入模型将多种数据转化为数值向量，重新排序模型根据相关性评分数据。
- NeMo Retriever提供高准确性的文本问答检索管道，减少企业问答中的不准确答案。
- 微服务可用于构建智能聊天机器人、分析安全漏洞和提取供应链信息等。
- NVIDIA全球系统集成合作伙伴正在开发服务，帮助企业将NeMo Retriever纳入AI流程。
- NIM微服务可与Riva NIM微服务结合使用，增强语音AI应用。
- NVIDIA NIM微服务可在多种基础设施上运行，包括云实例和本地环境。
- 开发者可通过NVIDIA开发者计划免费访问NIM进行研究和开发。
➡️
