Reference:

1. nvidia-smi命令详解

相关文章：

1. nvidia-smi nvcc -V 及 CUDA、cuDNN 安装

nvidia-smi(NVIDIA System Management Interface) 是一种命令行实用程序，用于监控和管理 NVIDIA GPU（图形处理器）的状态和性能。它提供了一种简单而强大的方式来获取有关 GPU 的实时信息，并且可以用于诊断、优化和管理 GPU 资源。

1. nvidia-smi 面板解析

• Driver Version：GPU 驱动版本；
• CUDA Version：CUDA Driver API 的型号，详见 nvidia-smi nvcc -V 及 CUDA、cuDNN 安装。

• GPU：本机中的 GPU 编号，从 $0$ 开始。上图仅 $0$ 一块 GPU；
• Name：GPU名字/类型，上图的一块为 NVIDIA GeForce …(???可能版本有点老了，理论上应该为 NVIDIA GeForce RTX 3080 之类的)；
• Fan：风扇转速(0%~100%)，N/A 表示没有风扇；
• Temp：GPU 温度(GPU 温度过高会导致 GPU 频率下降)；
• Perf：性能状态，从 P0（最大性能）到 P12（最小性能），上图为 P0；
• Persistence-M：持续模式状态，持续模式耗能大，但在新的GPU应用启动时花费时间更少，上图为 Off；
• Pwr:Usager/Cap：GPU 功耗，Usage 表示用了多少，Cap 表示总共多少；
• Bus-Id：GPU 总线；
• Disp.A：Display Active，表示 GPU 是否初始化；
• Memory-Usage：显存使用率；
• Volatile GPU-UTil：GPU使用率，与显存使用率的区别可参考显存与 GPU；
• Uncorr. ECC：是否开启错误检查和纠错技术，0/DISABLED，1/ENABLED，上图为 N/A；
• Compute M：计算模式，0/DEFAULT，1/EXCLUSIVE_PROCESS，2/PROHIBITED，上图为 Default。

• Processes：显示每个进程占用的显存使用率、进程号、占用的哪个GPU；
• GPU：本机中的 GPU 编号，从 $0$ 开始。上图仅 $0$ 一块 GPU；
• PID：进程号；
• Type：进程类型；
• Process name：进程名称；
• GPU Memory Usage：显存占用。在上方 Memory-Usage 的内存使用约等于(稍微大一点点) Processes 内同 GPU 的 GPU Memory Usage 和。

2. 显存与GPU的区别

显存(Video RAM，VRAM) 和 图形处理单元(Graphics Processing Unit, GPU) 是计算机图形处理中的两个不同概念。

• 显存：显存是一种特殊类型的内存，用于存储图形数据和纹理等与图像显示相关的数据。它通常位于独立的显卡（或显卡集成在主板上的集成图形处理器）中，也被称为图形存储器。显存具有高带宽和低延迟的特点，可用于快速读取和写入图像数据，以供 GPU 进行图形渲染和处理。显存的容量通常以兆字节（MB）或千兆字节（GB）为单位。
• GPU：GPU 是一种专门设计用于处理图形和图像数据的处理器。它是计算机图形渲染和加速的关键组件。GPU 负责执行图形渲染管线中的各个阶段，包括几何计算、光栅化、像素处理等，以生成最终的图像。GPU 还能执行通用计算任务，因此在许多领域，如科学计算、机器学习和密码破解等，GPU 也被广泛应用。显存是 GPU 的一部分，用于存储 GPU 处理所需的图形数据。

总结起来，显存是一种专门用于存储图形数据的内存，而 GPU 是一种专门用于处理图形和图像数据的处理器。显存和 GPU 是紧密相关的，GPU 使用显存来存储和处理图形数据，以实现高性能的图形渲染和处理能力。