前言
最近因为连续部署了两个深度学习环境,实在嫌烦了,于是摸索出一条简便的方式希望让人人都可以傻瓜式的快速部署,首先确保你的硬盘具有20G以上的空间,这里以部署torch的gpu版和让onnxruntime使用cuda加速为例,让我们开始以下的步骤。
安装
安装miniconda
这步如果已经有conda环境可以跳过,没有的从0开始的就直接装miniconda,不推荐直接安装anaconda,体积太大,包太多。
miniconda下载
现在一般都是64位了,这里以64位安装包为例直接下载:
这里选just me:
修改目录,如果你对你的C盘足够自信,你直接默认也行,不过一般来说C盘没有那么大空间,再加上后期深度学习可能需要硬盘分页作虚拟内存,所以我放在D盘保证足够的空间:
全部勾上,第二项是添加conda到环境变量里,免得你手动操作,后面就可以直接命令行调起conda和python,第四项安装完清理包残留,也勾上:
点install,安装完后命令行打开输入conda和python看有无输出,有就正确安装完毕了:
conda换源
命令行复制粘贴以下,换成国内镜像源,下载快一点:
conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/free/
conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/main/
conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/pytorch/
conda config --set show_channel_urls yes
安装pytorch和cuda
为了保证文章在以后也具有时效性,我在这里把pytorch官网如何获取安装命令的图发出来:
以后如果版本改变了,就复制新的命令。
现在复制粘贴以下命令:
conda install pytorch torchvision torchaudio pytorch-cuda=11.7 -c pytorch -c nvidia
等待大概15分钟安装完毕后,打开系统高级设置,点击path添加环境变量:
把miniconda3下的bin和include两个路径添加进去,这里用省略号是表示你的路径自己填:
.../miniconda3/bin
.../miniconda3/include
然后在命令行里输python调起python环境,输入以下代码:
import torch
print(torch.cuda.is_available())
print(torch.backends.cudnn.is_available())
print(torch.cuda_version)
print(torch.backends.cudnn.version())
前两个print打印出来为True,后面两个版本号正确打印出来即可。
onnxruntime使用cuda加速
先命令行安装onnxruntime-gpu。
pip install onnxruntime-gpu -i https://mirror.baidu.com/pypi/simple
接下来如果你想使用cuda加速,必须要在import onnxruntime前import pytorch,不然会显示error 126,找不到cuda环境:
import pytorch
import onnxruntime
这是因为这种方法实际上下载了pytorch相关的cuda和cudnn的组件,不在onnxruntime默认的搜索路径里,但如果你先导入了pytorch,环境里就会有cuda库可以调用。