The DigitalOcean Blog
·
迎接高性能、低成本推理的新标准：NVIDIA Dynamo 1.0现已向DigitalOcean客户开放
💡
原文英文，约700词，阅读约需3分钟。
📝
内容提要
NVIDIA Dynamo 1.0在GTC发布，现已为DigitalOcean客户提供，推理性能提升7倍，成本降低。结合DigitalOcean的Agentic Inference Cloud，客户可高效部署，优化推理工作负载，支持GPU集群，提升吞吐量和降低延迟。
🎯
关键要点
-
NVIDIA Dynamo 1.0在GTC发布，现已为DigitalOcean客户提供。
-
推理性能提升7倍，成本降低。
-
结合DigitalOcean的Agentic Inference Cloud，客户可高效部署，优化推理工作负载。
-
支持GPU集群，提升吞吐量和降低延迟。
-
Dynamo是一个高性能推理服务框架，专为加速和优化大规模生成AI和推理模型而设计。
-
Dynamo的关键技术突破包括：7倍性能提升、KV感知路由、分离服务和内存卸载。
-
DigitalOcean通过Dynamo优化推理工作负载，提高吞吐量和降低延迟。
-
Workato使用Dynamo在DigitalOcean上实现了67%的吞吐量提升和79%的延迟降低。
-
未来将推出更多产品更新以增强DigitalOcean的Agentic Inference Cloud能力。
🏷️
标签
➡️
