Spectro Cloud 利用 NVIDIA 堆栈为 AI 基础设施提供助力,实现电信和边缘扩展

Spectro Cloud 利用 NVIDIA 堆栈为 AI 基础设施提供助力,实现电信和边缘扩展

💡 原文中文,约600字,阅读约需2分钟。
📝

内容提要

Spectro Cloud 宣布将 Palette 平台与 NVIDIA DOCA 3.0 和 AI Enterprise 集成,以简化电信和边缘环境中的 AI 部署,支持高级配置和实时威胁检测,提升网络效率,适用于可扩展的 AI 基础架构。

🎯

关键要点

  • Spectro Cloud 宣布将 Palette 平台与 NVIDIA DOCA 3.0 和 AI Enterprise 集成。
  • 此集成旨在简化电信、企业和边缘环境中的 AI 部署。
  • Palette 支持 NVIDIA BlueField-3 DPU 和 AI 工作负载的高级配置、生命周期管理和服务部署。
  • Palette 现在支持 NVIDIA DOCA Argus,增强 AI 安全性,提供实时、自主的威胁检测。
  • 支持 DOCA FLOW 等先进的 DOCA 网络功能,提高数据流量控制和网络效率。
  • Palette 简化了 NVIDIA AI Enterprise 部署,包括 GPU 操作员、网络操作员和用于 AI/ML 工作负载的 NIM 微服务。
  • Palette 支持 NVIDIA NeMo 微服务,支持 LLM 和视觉模型等 AI 模型的可扩展高效部署。
  • 此次集成将 Palette 定位为适用于电信、企业和边缘用例的可扩展 AI 基础架构。
  • Spectro Cloud 将在 GTC Paris 上展示这一集成,并提供用于部署和概念验证项目的 Palette。
➡️

继续阅读