NVIDIA Blog
·
NVIDIA扩大与Microsoft的合作，助力开发者更快构建和部署AI应用
💡
原文英文，约700词，阅读约需3分钟。
📝
内容提要
NVIDIA在Microsoft Build上展示了与Microsoft Azure和Windows PC集成的解决方案，简化了AI模型部署并优化了路线规划和应用性能。Microsoft开发的最新AI模型正在优化为在NVIDIA GPU上运行，并作为NVIDIA NIM推理微服务提供。NVIDIA还将其他微服务添加到Microsoft Azure Marketplace，如cuOpt路线优化AI。此外，NVIDIA和Microsoft为使用NVIDIA GeForce RTX和NVIDIA RTX GPU的PC开发人员提供了优化和集成。
🎯
关键要点
- NVIDIA在Microsoft Build上展示了与Microsoft Azure和Windows PC集成的解决方案，简化了AI模型部署。
- 微软开发的最新AI模型正在优化为在NVIDIA GPU上运行，并作为NVIDIA NIM推理微服务提供。
- NVIDIA将cuOpt路线优化AI等微服务添加到Microsoft Azure Marketplace。
- NVIDIA和微软为使用NVIDIA GeForce RTX和NVIDIA RTX GPU的PC开发者提供优化和集成。
- 微软扩展了Phi-3小型语言模型家族，增加了小型和中型模型，以及支持图像和文本的新多模态模型Phi-3-vision。
- 所有Phi-3模型都经过NVIDIA TensorRT-LLM优化，并作为加速推理微服务提供。
- NVIDIA cuOpt现已在Azure Marketplace上提供，支持实时物流管理。
- cuOpt在主要路由基准测试中创下多项世界纪录，能够为物流和供应链行业节省数十亿美元。
- NVIDIA加速计算平台支持全球超过1亿台Windows GeForce RTX PC和NVIDIA RTX工作站。
- NVIDIA和微软为Windows开发者提供新的优化和集成，以加速下一代PC和工作站应用中的AI。
- 与会者可以在NVIDIA展位体验NVIDIA NIM、cuOpt、Omniverse和RTX AI平台的现场演示。
- NVIDIA还展示了MONAI平台和BioNeMo生成AI平台，均可在Azure上使用。
➡️
