KubeCon北美2025 - Robert Nishihara谈Kubernetes、Ray、PyTorch和vLLM的开源AI计算

InfoQ · 2025-11-28T18:15:00Z

Anyscale的Robert Nishihara在KubeCon会议上讨论了Kubernetes、PyTorch、vLLM和Ray如何协同支持复杂的AI工作负载，强调数据处理、模型训练和服务的重要性。Ray作为开源框架，促进了分布式机器学习应用的发展，支持GPU和CPU协同使用，提升性能。他指出，AI平台需具备多云体验、工作负载优先级和可观察性等核心要求。