如何基于 ACK Serverless 快速部署 AI 推理服务
原文中文,约3800字,阅读约需9分钟。
📝
内容提要
随着AI浪潮的到来,AI应用对GPU资源的依赖很强,但GPU很昂贵。在云原生场景下,可以使用ACK Serverless中的Knative + KServe方案,快速部署AI推理服务,按需使用GPU资源,节省成本。
🏷️