Lei Mao's Log Book
·
NVIDIA NVML GPU统计信息
💡
原文英文，约2500词，阅读约需10分钟。
📝
内容提要
NVIDIA的nvml库可监控GPU的功率、温度和利用率等统计信息。通过自定义C++应用程序，可以实现类似nvidia-smi dmon的功能，获取详细的GPU性能指标。
🎯
关键要点
- NVIDIA的nvml库用于监控GPU的功率、温度和利用率等统计信息。
- nvidia-smi工具提供了GPU的基本统计信息，包括功率、温度和利用率等。
- 可以通过自定义C++应用程序实现类似nvidia-smi dmon的功能，获取详细的GPU性能指标。
- nvidia-smi dmon可以显示基本的GPU统计信息和额外的GPU性能指标（GPM）。
- 使用nvmlDeviceGetProcessesUtilizationInfo API可以查询基本的GPU统计信息。
- 使用nvmlGpmMetricsGet API可以查询额外的GPM统计信息。
- 提供了一个示例程序gpu_stats，演示如何使用NVIDIA NVML库的API。
- 程序可以通过命令行参数指定要监控的GPM指标和采样间隔。
- 程序输出包括GPU的功率、温度、利用率和GPM指标等信息。
➡️
