如何监控NVIDIA GPU 的运行状态和使用情况_nvidia 85c_LiBiGo的博客-CSDN博客设备跟踪和管理正成为机器学习工程的中心焦点。这个任务的核心是在模型训练过程中跟踪和报告gpu的使用效率。有效的GPU监控可以帮助我们配置一些非常重要的超参数，例如批大小，还可以有效的识别训练中的瓶颈，比如CPU活动(通常是预处理图像)占用的时间很长，导致GPU需要等待下一批数据的交付，从而处于空闲状态。什么是利用率？过去的一个采样周期内GPU 内核执行时间的百分比，就称作GPU的利用率。如果这个值很低，则意味着您的 GPU 并没有全速的工作，可能是受到 CPU或者IO 操作的瓶颈，如果你使用_nvidia 85chttps://blog.csdn.net/qq_39237205/article/details/124747807?utm_medium=distribute.pc_relevant.none-task-blog-2~default~baidujs_utm_term~default-1-124747807-blog-121142575.235^v38^pc_relevant_anti_vip_base&spm=1001.2101.3001.4242.2&utm_relevant_index=4
nvidia-smi -pm 1
