一、命令行运行python程序时

1、首先查看哪些GPU空闲，nvidia-smi显示当前GPU使用情况。

nvidia-smi

• GPU：编号，这里是0和1

• Fan：风扇转速，在0到100%之间变动，第一个是29%

• Name：显卡名，这里两块都是GeForce

• Temp：显卡温度，第一个是60摄氏度

• Perf：性能状态，从P0到P12，P0性能最大，P12最小

• Persistence-M：持续模式的状态开关，该模式耗能大，但是启动新GPU应用时比较快，这里是off

• Pwr：能耗

• Bus-Id：GPU总线

• Disp.A：表示GPU的显示是否初始化

• Memory-Usage：显存使用率

• GPU-Util：GPU利用率，第一个是74%，第二个未用

• Compute M.：计算模式

2、然后指定空闲的GPU运行python程序。

CUDA_VISIBLE_DEVICES=0,2,3 python test.py

二、在python程序中指定GPU

import os
os.environ["CUDA_VISIBLE_DEVICES"] = "0,2,3"

PS：周期性输出GPU使用情况

每 10s 显示一次GPU使用情况：

watch -n 10 nvidia-smi