陈少文的博客
·
GPU 主机如何开启 GDS
💡
原文中文，约9700字，阅读约需23分钟。
📝
内容提要
GDS（GPUDirectStorage）允许RDMA网络卡直接访问GPU内存，提高GPU应用程序的IO带宽，降低IO延迟和CPU负载。GDS需要特定的系统和存储要求，提供了安装过程和不同的测试模式。与CPU-GPU模式相比，GDS模式显示出较低的CPU使用率。
🎯
关键要点
- GDS（GPUDirectStorage）允许RDMA网络卡直接访问GPU内存，提升IO带宽，降低延迟和CPU负载。
- GDS需要特定的系统和存储要求，包括支持的操作系统和存储系统。
- 安装GDS需要依赖项，如cuda-keyring、nvidia-fs、libnvidia-nscq和fabricmanager。
- GDS的安装过程包括检查当前驱动版本和安装nvidia-gds。
- GDS提供多种测试模式，能够评估不同传输模型下的性能。
- 测试结果显示，Storage->GPU (GDS)模式的速度最高，CPU使用率显著低于传统模式。
- GDS模式下CPU使用率仅为传统模式的30%。
➡️
