这里仅描述自身发现的一种情况，希望对大家有所帮助。

问题源头：$\text{nvidia-smi}$报错问题

服务器系统版本：$\text{CentOS 7}$
在查看显卡驱动版本信息时出错：

nvidia-smi

Failed to initialize NVML: Driver/library version mismatch

首先查看当前环境显卡驱动使用的内核版本：

cat /proc/driver/nvidia/version

返回结果：
其中$\text{440.118.02}$是显卡驱动版本;$\text{4.8.5}$表示$\text{GCC}$编译器版本。

NVRM version: NVIDIA UNIX x86_64 Kernel Module  440.118.02  Thu Sep  3 09:54:46 UTC 2020
GCC version:  gcc version 4.8.5 20150623 (Red Hat 4.8.5-44) (GCC) 

再查看$\text{CUDA}$版本：

nvcc -V

返回结果：

nvcc: NVIDIA (R) Cuda compiler driver
Copyright (c) 2005-2019 NVIDIA Corporation
Built on Wed_Oct_23_19:24:38_PDT_2019
Cuda compilation tools, release 10.2, V10.2.89

我们事先知道$\text{440.118.02}$兼容$\text{10.2}$的$\text{CUDA}$版本，因而不会是$\text{CUDA}$自身版本的错误。

执行如下指令：

dmesg | grep NVRM

返回结果

[ ***] NVRM: API mismatch: the client has the version 440.33.01, but
NVRM: this kernel module has the version 440.118.02. Please
NVRM: make sure that this kernel module and all NVIDIA driver
NVRM: components have the same version.

其表示$\text{CUDA}$内部基于的显卡驱动版本$\text{440.33.01}$与当前环境中的显卡驱动版本$\text{440.118.02}$不匹配。
这里我建议如果已经装好显卡驱动的，尽量不要删了重新装，非常麻烦。这里介绍的是重新安装$\text{CUDA}$的版本。

$\text{CUDA}$安装时的问题

$\text{CUDA}$官方下载路径：
https://developer.nvidia.com/cuda-toolkit-archive
打开后，这里选择$10.2$版本，并按照自身系统条件进行选择。

这里服务器系统版本是$\text{CentOS 7}$，这里对应的安装指令表示如下：

wget https://developer.download.nvidia.com/compute/cuda/10.2/Prod/local_installers/cuda_10.2.89_440.33.01_linux.run
sudo sh cuda_10.2.89_440.33.01_linux.run

从该路径的名称可以看出，该版本号10.2.89的$\text{CUDA}$被设定了唯一的显卡驱动版本——440.33.01。

作为小白，可能会存在这样一种误区：可以将我们的显卡驱动版本由440.118.02升级到440.33.01。

通过指令查询当前服务器的显卡信息：

lspci | grep -i nvidia

返回结果如下，是$2$块$\text{GeForce RTX 2080Ti}$显卡。

17:00.0 VGA compatible controller: NVIDIA Corporation TU102 [GeForce RTX 2080 Ti Rev. A] (rev a1)
17:00.1 Audio device: NVIDIA Corporation TU102 High Definition Audio Controller (rev a1)
17:00.2 USB controller: NVIDIA Corporation TU102 USB 3.1 Host Controller (rev a1)
17:00.3 Serial bus controller [0c80]: NVIDIA Corporation TU102 USB Type-C UCSI Controller (rev a1)
65:00.0 VGA compatible controller: NVIDIA Corporation TU102 [GeForce RTX 2080 Ti Rev. A] (rev a1)
65:00.1 Audio device: NVIDIA Corporation TU102 High Definition Audio Controller (rev a1)
65:00.2 USB controller: NVIDIA Corporation TU102 USB 3.1 Host Controller (rev a1)
65:00.3 Serial bus controller [0c80]: NVIDIA Corporation TU102 USB Type-C UCSI Controller (rev a1)

$\text{Nvidia}$各显卡驱动版本查询路径：
https://www.nvidia.com/Download/Find.aspx?lang=en-us
将我们的显卡型号输入，查找是否存在440.33.01版本。最后结果是显而易见的：没有找到。

最终我在特斯拉公司的$\text{Tesla T4}$中找到了该版本：

这说明：$\text{440.33.01}$根本就不是$\text{GeForce}$显卡的版本号。
那么$\text{GeForce}$的显卡驱动就不能用$\text{CUDA=10.2}$版本吗$?$自然可以用的。那么我们在安装$\text{CUDA}$的时候就需要注意这个事项。

关于$\text{CUDA}$安装请参考：
centos卸载cuda与安装 - 简书

重点在于：在安装$\text{CUDA}$的过程中，需要将$\text{Driver}$的项去除：
需要注意的是:[X]表示被选定的意思(有点坑)。而我们要选择[ ]。

在安装结束之后，我们再次执行dmesg | grep NVRM。返回结果：

[***] NVRM: loading NVIDIA UNIX x86_64 Kernel Module  440.118.02  Thu Sep  3 09:54:46 UTC 2020

不再报版本冲突的错误了。
最终观察nvidia-smi：

+-----------------------------------------------------------------------------+
| NVIDIA-SMI 440.118.02   Driver Version: 440.118.02   CUDA Version: 10.2     |
|-------------------------------+----------------------+----------------------+
| GPU  Name        Persistence-M| Bus-Id        Disp.A | Volatile Uncorr. ECC |
| Fan  Temp  Perf  Pwr:Usage/Cap|         Memory-Usage | GPU-Util  Compute M. |
|===============================+======================+======================|
|   0  GeForce RTX 208...  Off  | 00000000:17:00.0 Off |                  N/A |
| 36%   64C    P0    81W / 300W |      0MiB / 11019MiB |      0%      Default |
+-------------------------------+----------------------+----------------------+
|   1  GeForce RTX 208...  Off  | 00000000:65:00.0 Off |                  N/A |
| 62%   72C    P0    48W / 300W |      0MiB / 11016MiB |      0%      Default |
+-------------------------------+----------------------+----------------------+

+-----------------------------------------------------------------------------+
| Processes:                                                       GPU Memory |
|  GPU       PID   Type   Process name                             Usage      |
|=============================================================================|
|  No running processes found                                                 |
+-----------------------------------------------------------------------------+