陈少文的博客
·
GPU 主机如何开启 GDS
💡
原文中文，约9700字，阅读约需23分钟。
📝
内容提要
GDS（GPUDirectStorage）允许RDMA网络卡直接访问GPU内存，提高GPU应用程序的IO带宽，降低IO延迟和CPU负载。GDS需要特定的系统和存储要求，提供了安装过程和不同的测试模式。与CPU-GPU模式相比，GDS模式显示出较低的CPU使用率。
🎯
关键要点
- GDS（GPUDirectStorage）允许RDMA网络卡直接访问GPU内存，提升IO带宽，降低延迟和CPU负载。
- GDS需要特定的系统和存储要求，包括支持的操作系统和存储系统。
- 安装GDS需要依赖项，如cuda-keyring、nvidia-fs、libnvidia-nscq和fabricmanager。
- GDS的安装过程包括检查当前驱动版本和安装nvidia-gds。
- GDS提供多种测试模式，能够评估不同传输模型下的性能。
- 测试结果显示，Storage->GPU (GDS)模式的速度最高，CPU使用率显著低于传统模式。
- GDS模式下CPU使用率仅为传统模式的30%。
❓
延伸问答
GDS（GPUDirectStorage）是什么？
GDS允许RDMA网络卡直接访问GPU内存，提升IO带宽，降低延迟和CPU负载。
使用GDS需要哪些系统和存储要求？
GDS需要支持的操作系统如Ubuntu 20.04、22.04和RHEL 8、9，以及支持的存储系统如NVMe、SCSI等。
安装GDS的步骤是什么？
安装GDS需要安装依赖项如cuda-keyring、nvidia-fs、libnvidia-nscq和fabricmanager，然后安装nvidia-gds。
GDS的测试模式有哪些？
GDS提供多种测试模式，包括Storage->GPU (GDS)、Storage->CPU、Storage->CPU->GPU等，适用于不同的传输需求。
GDS模式下CPU使用率如何？
在GDS模式下，CPU使用率仅为传统模式的30%，显示出显著的低负载。
GDS与传统CPU-GPU模式的性能比较如何？
GDS模式的速度最高，CPU使用率显著低于传统模式，适合需要高效数据传输的场景。
➡️
