本文介绍在 Ascend 310P3 上使用 HAMi 2.10 实现 vNPU 硬切分并接入 Kubernetes。310P3 仅支持从固定模板 vir01/02/04 中选择,HAMi 根据 Pod 显存请求匹配最小模板,由调度器分配设备,device-plugin 与 Ascend Runtime 负责暴露 vNPU。实测验证了模板匹配、超限回退整卡、多 Pod 共卡、整卡与切片互斥、残留 vNPU 清理,以及 Pod 内运行 AscendC 负载和调度监控指标。
本文介绍Ascend 310P3 NPU的vNPU虚拟化使用方法。原生Docker需手动用npu-smi创建vNPU并挂载设备;Ascend Docker Runtime支持静态挂载(复用已创建vNPU)和动态虚拟化(启动时自动创建释放)。通过环境变量指定设备与模板,容器内可见310Pvir01实例,动态实例随容器退出自动回收。
完成下面两步后,将自动完成登录并继续当前操作。