Pytorch 安装与配置

NVIDIA系统管理界面查看

nvidia-smi 进入NVIDIA系统管理界面

在这里插入图片描述

对应的详细解释看下图

nvidia-smi输出介绍

参考博文

(53条消息) nvidia-smi命令详解和一些高阶技巧介绍_Chaos_Wang_的博客-CSDN博客

CUDA 查看

CUDA 有两类：其中一类是驱动API(Driver API)，另一种是运行时API(Runtime API)。

驱动API查看方式

方式一

使用 nvidia-smi命令，系统管理界面的右上角就是对应的驱动API版本。
方式二

进入 NVIDIA > 系统信息，结果如下图

运行API查看方式

需要说明的是，只有安装过运行API才能通过命令行的形式查看。

nvcc -V

查询结果如下图

在这里插入图片描述

尤为注意的问题

需要说明的是尽管驱动API和运行API版本不一致也不会影响使用。runtime(运行时) API和driver API，这两个API都有对应的CUDA版本。用于支持runtime API的必要文件(如libcudart.so以及nvcc)是由CUDA Toolkit installer安装的。（CUDA Toolkit Installer有时可能会集成了GPU driver Installer）。nvcc是与CUDA Toolkit一起安装的CUDA compiler-driver tool，它只知道它自身构建时的CUDA runtime版本。它不知道安装了什么版本的GPU driver，甚至不知道是否安装了GPU driver。

综上，如果driver API和runtime API的CUDA版本不一致可能是因为你使用的是单独的GPU driver installer，而不是CUDA Toolkit installer里的GPU driver installer。

runtime和driver API区别
runtime和driver API在很多情况非常相似，也就是说用起来的效果是等价的，但是你不能混合使用这两个API，因为二者是互斥的。也就是说在开发过程中，你只能选择其中一种API。简单理解二者的区别就是：runtime是更高级的封装，开发人员用起来更方便，而driver API更接近底层，速度可能会更快。

两种API存在默认匹配

NVIDIA显卡驱动和CUDA Toolkit本身是不具有捆绑关系的，为什么在安装后进行查询总会出现意料之外的结果，原因就是离线安装的CUDA Toolkit会默认携带与之匹配的最新的驱动程序。

CUDNN是个啥

cudnn是一个为深度学习计算设计的软件库，提供对应的计算函数，如卷积等，还有很多其他的软件库和中间件，包括实现c++ STL的thrust、实现快速傅里叶变换的cuFFT、实现gpu版本blas的cublas、实现稀疏矩阵运算操作的cuSparse、实现深度学习网络加速的cuDNN等等。

下载链接

CUDA 运行APP

CUDA Toolkit 11.6 Downloads | NVIDIA Developer

CUDA 驱动APP

Official Drivers | NVIDIA
CUDNN APP

cuDNN Archive | NVIDIA Developer

Pytorch —whl安装

步骤总览

整体步骤如下：

步骤一：

进入离线下载torch whl 的官网 download.pytorch.org/whl/torch_stable.html

步骤二：

选择对应的 torchvision、torchaudio、torch，安装到指定的路径，记住此路径记为path1

步骤三：

使用Ancaconda Prompt 切换到为安装torch准备的环境，并切换到path1所在的路径

步骤四：

使用以下pip命令进行安装

pip install “torch包名.whl” “torchvision包名.whl” “torchaudio包名.whl”

以上完成了torch的安装步骤，但是！！！还需要检查torch是否安装成功，步骤如下：
步骤一：

Anaconda Prompt 切换至torch所在的环境
步骤二：

执行下列代码：
import torch # 如果pytorch安装成功即可导入
print(torch.cuda.is_available()) # 查看CUDA是否可用
print(torch.cuda.device_count()) # 查看可用的CUDA数量
print(torch.version.cuda) # 查看CUDA的版本号
        
至此，完成pytorch的安装，开始你的深度学习之旅！！！

whl包下载

方式一

可以通过官方网站PyTorch推荐的Pytorch包进行安装，如下图。

在这里插入图片描述

然后，直接使用 Run this Command 的命令直接进行安装，此种对于国内用户极其不友好，建议直接按照方式二进行安装！！！

方式二

当然，也可以根据之前的CUDA版本进入到whl的网站，进行离线下载再使用pip去安装。进入到whl的网站是这样子的（如下），因为为我的CUDA的驱动和运行版本均是11.6，所以进入网站后根据关键字11.6和torch去搜索对应的包。

使用 Ctrl + F 打开搜索条目，输入关键字即可实现当前网页内的搜索。

在这里插入图片描述

1-4 的含义如下

1：当你下载的GPU版本的torch时，此时为cu开头其后的数字为cuda对应的版本号。因为我是cuda为11.6所以此处就是11.6，如果你下载的是CPU版本的torch，开头则为cpu。

2：此处的代表的是torch和对应的版本号，尽量不要选择太高版本吧。%后面的2B代表是Beata版即测试版，绝对够用直接冲！！！

3：cp代表的是python，其后的数字代表对应环境中的python版本号，python版本查看方式如下：