小白的实验室服务器深度学习环境配置指南

news2025/2/7 12:09:38

安装nvidia

本文在ubuntu server 22.04上实验成功，其他版本仅供参考

注意，本文仅适用于ubuntu server，不需要图形界面，没有对图形界面进行特殊考虑和验证！依赖图形操作界面的读者慎用

查看是否安装了gcc

gcc -v

若没有安装，则输入下面的命令，直接把包括gcc在内很多开发工具包一同安装

sudo apt-get install build-essential

禁用nouveau驱动

编辑 /etc/modprobe.d/blacklist-nouveau.conf 文件，添加以下内容：

blacklist nouveau
blacklist lbm-nouveau
options nouveau modeset=0
alias nouveau off
alias lbm-nouveau off

关闭nouveau：

echo options nouveau modeset=0 | sudo tee -a /etc/modprobe.d/nouveau-kms.conf

注意，本文仅适用于ubuntu server，不需要图形界面，没有对图形界面进行特殊考虑和验证！依赖图形操作界面的读者慎用！

完成后，重新生成内核并重启：

sudo update-initramfs -u
sudo reboot

重启后，执行：lsmod | grep nouveau。如果没有屏幕输出，说明禁用nouveau成功。否则，应重新执行第禁用nouveau驱动小节。

因为实验室服务器不方便重启，我没有重启，但执行：lsmod | grep nouveau，没有屏幕输出，说明禁用nouveau成功。

安装驱动

使用命令ubuntu-drivers devices获取可用驱动信息，如果命令不存在自己安装一下。

输出为：

== /sys/devices/pci0000:72/0000:72:00.0/0000:73:00.0 ==
modalias : pci:v000010DEd00002204sv00001028sd00003880bc03sc00i00
vendor   : NVIDIA Corporation
model    : GA102 [GeForce RTX 3090]
driver   : nvidia-driver-525 - third-party non-free
driver   : nvidia-driver-525-open - distro non-free
driver   : nvidia-driver-525-server - distro non-free
driver   : nvidia-driver-470 - distro non-free
driver   : nvidia-driver-535-server-open - distro non-free
driver   : nvidia-driver-470-server - distro non-free
driver   : nvidia-driver-535 - distro non-free recommended
driver   : nvidia-driver-535-server - distro non-free
driver   : nvidia-driver-535-open - distro non-free
driver   : xserver-xorg-video-nouveau - distro free builtin

注意recommend的版本是535，加上是在服务器上安装，初步确定安装nvidia-driver-535-server

还可以查看内核中nvidia的版本：cat /proc/driver/nvidia/version

输出为：

NVRM version: NVIDIA UNIX x86_64 Kernel Module  535.129.03  Thu Oct 19 18:56:32 UTC 2023
GCC version:  gcc version 11.4.0 (Ubuntu 11.4.0-1ubuntu1~22.04)

可以看到版本是535

因此执行命令安装：sudo apt install nvidia-driver-535-server

等待安装完成后，执行nvidia-smi可以输出gpu监控界面，则驱动安装成功！

执行nvidia-smi的输出结果

+---------------------------------------------------------------------------------------+
| NVIDIA-SMI 535.129.03             Driver Version: 535.129.03   CUDA Version: 12.2     |
|-----------------------------------------+----------------------+----------------------+
| GPU  Name                 Persistence-M | Bus-Id        Disp.A | Volatile Uncorr. ECC |
| Fan  Temp   Perf          Pwr:Usage/Cap |         Memory-Usage | GPU-Util  Compute M. |
|                                         |                      |               MIG M. |
|=========================================+======================+======================|
|   0  NVIDIA GeForce RTX 3090        Off | 00000000:73:00.0 Off |                  N/A |
| 55%   66C    P2             163W / 350W |   1575MiB / 24576MiB |      0%      Default |
|                                         |                      |                  N/A |
+-----------------------------------------+----------------------+----------------------+
                                                                                         
+---------------------------------------------------------------------------------------+
| Processes:                                                                            |
|  GPU   GI   CI        PID   Type   Process name                            GPU Memory |
|        ID   ID                                                             Usage      |
|=======================================================================================|
|    0   N/A  N/A   1331109      C   python3                                    1562MiB |
+---------------------------------------------------------------------------------------+

上图显示的显卡信息，第一行是版本信息，第二行是标题栏，第三行是具体的显卡信息。如果有多个显卡，就会有多行对应标题栏的信息。例如我上面显示了共0~4号，共5个卡。

  • GPU：显卡编号，从0开始。
  • Fan：风扇转速，在0~100%之间变动。这个速度是计算机期望的风扇转速，实际情况下如果风扇堵转，可能就不会显示具体转速值。有的设备不会返回转速，因为它不依赖风扇冷却，而是通过其他外设保持低温，比如我们实验室的服务器是常年放在空掉房间里面的。
  • Name：显卡名，以上都是Tesla。
  • Temp：显卡内部的温度，以上分别是54、49、46、50、39摄氏度。
  • Perf：性能状态，从P0到P12，P0性能最大，P12最小 。
  • Persistence-M：持续模式的状态开关，持续模式虽然耗能大，但是在新的GPU应用启动时，花费的时间更少。以上都是Off的状态。
  • Pwr：能耗表示。
  • Bus-Id：涉及GPU总线的相关信息。
  • Disp.A：是Display Active的意思，表示GPU的显示是否初始化。
  • Memory-Usage：显存的使用率。
  • GPU-Util：GPU的利用率。
  • Compute M.：计算模式。
  • 下面的Process显示每块GPU上每个进程所使用的显存情况。

卸载显卡驱动

如果遇到Nvidia NVML Driver/library version mismatch的问题，又不方便重启实验室服务器，只能重装显卡驱动。因此将卸载显卡驱动的命令记录于此。

卸载显卡驱动：sudo apt-get remove --purge nvidia*

再执行：dpkg -l | grep nvidia

如果还有其他包，也全部卸载。

安装CUDA Toolkit

就安装nvidia-smi中适用于nvidia 535.129.03的最大的cuda版本：12.2

1、去官网选择要安装的版本

2、以cuda 12.2为例，选择系统配置。一定要选择runfile安装，因为使用runfile安装可以选择不安装nvidia驱动，而使用deb安装默认安装nvidia驱动，会出现driver/library version mismatch的问题

在这里插入图片描述

在这里插入图片描述

3、执行命令，由于前面已经安装了nvidia驱动，所以在安装选项里要取消Driver

在这里插入图片描述

4、将cuda写入环境变量，由于是多用户系统，在~/.bashrc文件（仅当前用户生效）的末尾写入

#####################cuda12.2#######################
export PATH=$PATH:/usr/local/cuda-12.2/bin
export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/cuda-12.2/lib64

5、source刷新环境变量

source /etc/profile

Anaconda虚拟环境配置

安装Anaconda

1、安装Anaconda

在使用服务器时，可以使用Anaconda来创建和管理多个虚拟环境，非常好用。安装步骤如下：

1、去官网下载安装文件

在这里插入图片描述

2、上传至服务器并赋予执行权限

chmod +x Anaconda3-2023.09-0-Linux-x86_64.sh

3、安装

sudo ./Anaconda3-2023.09-0-Linux-x86_64.sh

注意，安装路径默认是当前用户的home目录下的anaconda3，例如：~/anaconda3。在询问是否执行conda initialization时，选择yes，这样就不需要自己配置环境变量了（默认写入~/.bashrc文件）。

配置虚拟环境

1、新建一个Python环境

conda create -n test python=3.9 # 新建一个名为test的python3.9环境
conda activate test # 激活test环境

如果激活失败，可以先进入base环境再激活test环境，执行以下命令：

source activate
conda activate test

2、在虚拟环境中配置conda和PyTorch-GPU

去官网查看对应版本的安装命令并执行

不幸的发现最高的pytorch只支持cuda12.1版本

在这里插入图片描述

因此我们选择在虚拟环境中安装低版本cuda

conda install cuda=11.8

继续安装版本匹配的pytorch

conda install pytorch torchvision torchaudio pytorch-cuda=11.8 -c pytorch -c nvidia

验证是否安装成功

import torch
print(torch.__version__)
print(torch.cuda.is_available())

注意conda-forge这个通道会比较慢，所以安装pytorch的时候，最好选择不带conda-forge的命令

3、在虚拟环境中配置cudnn

去官网查看cudnn和cuda的版本对应关系

在这里插入图片描述

conda找不到对应版本的cudnn

输入命令： conda search cudnn -c conda-forge 然后出现了各个版本的cudnn：

在这里插入图片描述

选择一个合适的版本安装，这里选择cudnn 8.9.2.26

conda install cudnn=8.9.2.26

验证cudnn安装成功：conda list | grep cudnn

输出如下，安装成功

cudnn                     8.9.2.26               cuda11_0

参考

[1] nvidia-smi查看GPU的使用信息并分析

[2] 【2022新教程】Ubuntu server 20.04如何安装nvidia驱动和cuda-解决服务器ssh一段时间后连不上的问题

[3] 这绝对是你见过的最全深度学习服务器管理配置手册

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：http://www.coloradmin.cn/o/1336426.html

如若内容造成侵权/违法违规/事实不符，请联系多彩编程网进行投诉反馈，一经查实，立即删除！

相关文章

HTTP content-type内容类型的常见格式

HTTP content-type内容类型的常见格式

本专栏是汇集了一些HTML常常被遗忘的知识，这里算是温故而知新，往往这些零碎的知识点，在你开发中能起到炸惊效果。我们每个人都没有过目不忘，过久不忘的本事，就让这一点点知识慢慢渗透你的脑海。 本专栏的风格是力求简洁…
阅读更多...
因吹斯汀！只需上传照片，GPT-4V精准识别食物的卡路里和摄入热量

因吹斯汀！只需上传照片，GPT-4V精准识别食物的卡路里和摄入热量

健身和减肥的朋友有福啦！ 最近一篇文章探索了GPT-4V在膳食评估领域的强大能力，可以根据饮食图片精准判断食物的种类与重量，并给出营养成分的分析，包括碳水化合物、蛋白质、脂肪占比。 最最重要的是，它还能告诉我们这…
阅读更多...
Linux操作系统——进程（四）进程切换与命令行参数

Linux操作系统——进程（四）进程切换与命令行参数

进程切换 概念引入 下面我们先了解几个概念： 竞争性: 系统进程数目众多，而CPU资源只有少量，甚至1个，所以进程之间是具有竞争属性的。为了高效完成任务，更合理竞争相关资源，便具有了优先级 独立性: 多进程…
阅读更多...
解决国内大模型痛点的最佳实践方案

解决国内大模型痛点的最佳实践方案

1.前言 自AI热潮掀起以来，国内互联网大厂躬身入局，各类机构奋起追赶，创业型企业纷至沓来。业内戏称，一场大模型的“百模大战”已经扩展到“千模大战”。 根据近期中国科学技术信息研究所发布的《中国人工智能大模型地图研究报告…
阅读更多...
关于linux mv指令机制

关于linux mv指令机制

最近在mv文件的时候，操作失误将生产服务器一个1TB的文件夹mv到了/opt/test目录，因为最后/opt/目录被沾满所以1TB的文件夹没有迁移过来，写入了30GB数据到了/opt/test目录，因为系统分区被沾满，所以把test目录给删除了。 …
阅读更多...
交换机端口镜像技术原理与配置

交换机端口镜像技术原理与配置

在网络维护的过程中会遇到需要对报文进行获取和分析的情况，比如怀疑有攻击报文，此时需要在不影响报文转发的情况下，对报文进行获取和分析。镜像技术可以在不影响报文正常处理流程的情况下，将镜像端口的报文复制一份到观察端口&…
阅读更多...
OpenAI大模型DecryptPrompt

OpenAI大模型DecryptPrompt

what is prompt 综述1.Pre-train, Prompt, and Predict: A Systematic Survey of Prompting Methods in Natural Language Processing(五星好评)综述2. Paradigm Shift in Natural Language Processing(四星推荐)综述3. Pre-Trained Models: Past, Present and Future Prompt即…
阅读更多...
LeetCode刷题--- 优美的排列

LeetCode刷题--- 优美的排列

个人主页：元清加油_【C】,【C语言】,【数据结构与算法】-CSDN博客元清加油_【C】,【C语言】,【数据结构与算法】-CSDN博客 个人专栏 力扣递归算法题 http://t.csdnimg.cn/yUl2I 【C】 http://t.csdnimg.cn/6AbpV 数据结构与算法 ​​​​​​http://t.cs…
阅读更多...
SQL手工注入漏洞测试(MySQL数据库)

SQL手工注入漏洞测试(MySQL数据库)

一、实验平台 https://www.mozhe.cn/bug/detail/elRHc1BCd2VIckQxbjduMG9BVCtkZz09bW96aGUmozhe 二、实验目标 获取到网站的KEY，并提交完成靶场。 三、实验步骤 ①、启动靶机，进行访问查找可能存在注入的页面 ②、通过测试判断注入点的位置(id) (1)…
阅读更多...
Unity VR Pico apk安装失败：INSTALL_FAILED_UPDATE_INCOMPATIBLE

Unity VR Pico apk安装失败：INSTALL_FAILED_UPDATE_INCOMPATIBLE

我的报错： PICO4企业版。安装apk，报错“安装失败。（所属的Unity项目打包的apk，被我在同一台pico4安装了20次） 调试方法： PIco4发布使用UNITY开发的Vr应用，格式为apk，安装的时候发生…
阅读更多...
Java多线程技术六——线程的状态(备份)

Java多线程技术六——线程的状态(备份)

1 概述 线程在不同的运行时期存在不同的状态，状态信息在存在于State枚举类中，如下图。 每个状态的解释如下图 调用于线程有关的方法是造成线程状态改变的主要原因，因果关系如下图 从上图可知，在调用与线程有关的方法后&#xff0…
阅读更多...
Scikit-Learn线性回归（一）

Scikit-Learn线性回归（一）

Scikit-Learn线性回归一 1、线性回归概述1.1、回归1.2、线性1.3、线性回归1.4、线性回归的优缺点1.5、线性回归与逻辑回归2、线性回归的原理2.1、线性回归的定义与原理2.2、线性回归的损失函数3、Scikit-Learn线性回归3.1、Scikit-Learn线性回归API3.2、Scikit-Learn线性回归初…
阅读更多...
mac终端自定义登录欢迎语

mac终端自定义登录欢迎语

shigen坚持更新文章的博客写手，擅长Java、python、vue、shell等编程语言和各种应用程序、脚本的开发。记录成长，分享认知，留住感动。 shigen看着单调的终端，突然有了一丝丝的念头，我要搞的炫酷一点。让我想到的一个场景…
阅读更多...
VMvare虚拟机之文件夹共享与防火墙设置

VMvare虚拟机之文件夹共享与防火墙设置

共享文件夹 什么是共享文件夹 共享文件夹是一种在网络上共享文件和文件夹的方法。它允许多个用户通过网络连接到共享文件夹，并可以访问其中的文件和文件夹，进行文件的读取、修改、删除等操作。共享文件夹可以用于方便地共享文件和协作工作，…
阅读更多...
STL：std::array 和 基本数组类型array 浅谈一二三

STL：std::array 和 基本数组类型array 浅谈一二三

一、优缺点比较 在C中，std::array是标准库提供的数组容器，相比于基础数据类型的数组，它具有以下优点和缺点： 优点： 安全性：std::array提供了边界检查，可以避免数组越界访问的问题。 可以作为…
阅读更多...
在Centos7中利用Shell脚本：实现MySQL的数据备份

在Centos7中利用Shell脚本：实现MySQL的数据备份

目录 自动化备份MySQL 一.备份数据库脚本 1.创建备份目录 2.创建脚本文件 3.新建配置文件（连接数据库的配置文件） 4.给文件权限(mysql_backup.sh) ​编辑 5.执行命令 (mysql_backup.sh) ​编辑 二.数据库通过备份恢复 1.创建脚…
阅读更多...
jsonhandle 插件下载

jsonhandle 插件下载

网盘地址： 链接：https://pan.baidu.com/s/1hj4GKuGNyDNP2JzsJTLFtg 提取码：87rw 1.打开谷歌浏览器，选择扩展程序，记得选择为开发者模式，然后把下载好的CRX文件拖进去就行了
阅读更多...
TCP通信流程

TCP通信流程

// TCP 和 UDP -> 传输层的协议 UDP : 用户数据报协议，面向无连接，可以单播，多播，广播， 面向数据报，不可靠（接受方不会存储数据，也没有拥塞控制）。效率高&#xff…
阅读更多...
二维码智慧门牌管理系统升级：高效授权精准控制

二维码智慧门牌管理系统升级：高效授权精准控制

文章目录 前言一、精确权限控制二、角色权限受限与透明操作三、提升工作效率与安全性 前言 二维码智慧门牌管理系统在企业管理中扮演着愈发重要的角色。通过系统升级，管理员可以配置权限角色，为单个或多个用户赋权，实现精准控制，…
阅读更多...
如何进行镜像管理

如何进行镜像管理

目录 镜像管理 创建自定义镜像 自定义镜像管理 自定义镜像管理方法 对于传统的物理服务器，就要基于现有服务器磁盘制作操作系统镜像，系统镜像可以简单理解成把操作系统中包含的一系列文件通过镜子映射出一模一样的文件并进行打包压缩，就变…
阅读更多...
推荐文章
最新文章

Copyright @ 2022~2023