0xSoul 发表于 2023-4-9 00:06:15

Ubuntu 下 nvidia-smi 的一些经验

nvidia-smi是Nvidia显卡命令行管理套件,基于NVML库,旨在管理和监控Nvidia GPU设备。



这是nvidia-smi命令的输出,其中最重要的两个指标:

显存占用
GPU利用率
显存占用和GPU利用率是两个不一样的东西,显卡是由GPU计算单元和显存等组成的,显存和GPU的关系有点类似于内存和CPU的关系。

这里推荐一个好用的小工具:gpustat,直接pip install gpustat即可安装,gpustat基于nvidia-smi,可以提供更美观简洁的展示,结合watch命令,可以动态实时监控GPU的使用情况。

watch --color -n1 gpustat -cpu

页: [1]
查看完整版本: Ubuntu 下 nvidia-smi 的一些经验