实例演示如何使用CCE XGPU虚拟化
内容提要
本文介绍了华为云CCE平台上的GPU虚拟化技术，包括GPU资源的利用、CCE平台上GPU虚拟化的优势以及如何使用xGPU能力。文章还提到了安装插件、创建负载任务调用xGPU资源的方法，并给出了具体的操作步骤和示例。此外，还介绍了xGPU模式下的显存隔离和显存算力均隔离的使用方法，以及单pod中多个容器的显存隔离。最后，文章提到了GPU监控相关指标和升级GPU驱动版本的方法。
延伸解读
xGPU虚拟化的核心优势
CCE的xGPU虚拟化技术能动态划分GPU显存和算力，单卡最多虚拟出20个设备。算力分配粒度5%，显存粒度MB级，支持严格隔离，且业务无需重新编译或替换CUDA库，对现有业务透明。这有助于提高GPU利用率，减少任务排队，增强公平性。
使用前的必要准备
使用xGPU前，需提前创建对应规格的GPU节点资源池，并安装Volcano调度器和GPU插件。若未将Volcano设为默认调度器，则需在负载YAML中指定schedulerName: volcano。这些步骤是后续调用xGPU资源的基础。
资源申请与隔离模式
通过资源字段volcano.sh/gpu-mem.128Mi和volcano.sh/gpu-core.percentage可分别申请显存和算力。仅指定显存时，算力不受限；同时指定则实现显存和算力双重隔离。单Pod多容器也可各自申请显存，实现容器级隔离。
兼容性与监控要点
开启GPU共享兼容模式后，使用nvidia.com/gpu配额的工作负载可等价于显存隔离，并能与显存隔离负载共用GPU卡，但不支持与算显隔离负载共用。监控需安装kube-prometheus-stack，关注xgpu_memory_total等指标。
Q&A
什么是CCE平台上的GPU虚拟化技术？
CCE平台上的GPU虚拟化技术是华为云自主研发的xGPU技术，能够动态划分GPU显存与算力，最多可虚拟化20个GPU设备。
使用xGPU技术有什么优势？
xGPU技术可以提高资源利用率，减少资源浪费，增强服务质量和公平性，同时支持显存和算力的严格隔离。
如何在CCE平台上安装GPU插件？
用户需前往CCE插件市场安装Volcano调度器和GPU插件，并设置默认调度器为Volcano。
如何创建负载任务以调用xGPU资源？
用户需根据xGPU支持的虚拟化维度创建负载任务，并在yaml文件中指定调度器为Volcano。
xGPU模式下如何实现显存隔离？
在xGPU模式下，用户可以通过在负载yaml中设置显存限制来实现显存隔离，确保每个容器独立使用显存资源。
如何监控GPU资源的使用情况？
监控GPU资源使用情况需要安装kube-prometheus-stack插件，并查看相关监控指标，如xgpu_memory_total和xgpu_memory_used。
