本文介绍昇腾Ascend 310P3 NPU的vNPU虚拟化使用方法。vNPU可将物理NPU划分为多个隔离实例,类比NVIDIA MIG。文章演示两种Docker运行方式:原生Docker需手动用npu-smi创建vNPU并挂载设备;Ascend Docker Runtime支持静态挂载(复用已创建vNPU)和动态虚拟化(启动时自动创建并释放实例)。通过环境变量指定设备与模板,容器内可正常使用npu-smi查看资源。
本文介绍Ascend 310P3 NPU的vNPU虚拟化使用方法。原生Docker需手动用npu-smi创建vNPU并挂载设备;Ascend Docker Runtime支持静态挂载(复用已创建vNPU)和动态虚拟化(启动时自动创建释放)。通过环境变量指定设备与模板,容器内可见310Pvir01实例,动态实例随容器退出自动回收。
完成下面两步后,将自动完成登录并继续当前操作。