本文介绍在 Ascend 310P3 上使用 HAMi 2.10 实现 vNPU 硬切分并接入 Kubernetes。310P3 仅支持从固定模板 vir01/02/04 中选择,HAMi 根据 Pod 显存请求匹配最小模板,由调度器分配设备,device-plugin 与 Ascend Runtime 负责暴露 vNPU。实测验证了模板匹配、超限回退整卡、多 Pod 共卡、整卡与切片互斥、残留 vNPU 清理,以及 Pod 内运行 AscendC 负载和调度监控指标。
本文介绍昇腾Ascend 310P3 NPU的vNPU虚拟化使用方法。vNPU可将物理NPU划分为多个隔离实例,类比NVIDIA MIG。文章演示两种Docker运行方式:原生Docker需手动用npu-smi创建vNPU并挂载设备;Ascend Docker Runtime支持静态挂载(复用已创建vNPU)和动态虚拟化(启动时自动创建并释放实例)。通过环境变量指定设备与模板,容器内可正常使用npu-smi查看资源。
DEEPX推出DX-H1视觉神经网络处理单元(V-NPU),该芯片功耗仅为30W,能够处理数百路AI视频通道,集成了解码、编码和AI推理,显著降低硬件成本和能耗。
完成下面两步后,将自动完成登录并继续当前操作。