问题描述

docker 容器启动时如果需要访问 gpu ，需要安装 nvidia-container-toolkit 才行，否则会提示如下错误

sudo docker run --rm -it --gpus all ubuntu:latest
docker: Error response from daemon: could not select device driver "" with capabilities: [[gpu]].

安装驱动

首先根据下面博客安装驱动
https://blog.csdn.net/xiaofei125145/article/details/144912196

设置版本

因为 ubuntu24.04 较新 nvidia-container-toolkit 目前官方尚未提供对应的版本支持。
所以只能安装 ubuntu22.04 对应的版本
执行如下命令设置对应的系统版本变量

distribution=ubuntu22.04

执行安装命令

curl -s -L https://nvidia.github.io/nvidia-docker/gpgkey | sudo apt-key add -
curl -s -L https://nvidia.github.io/nvidia-docker/$distribution/nvidia-docker.list | sudo tee /etc/apt/sources.list.d/nvidia-docker.list
sudo apt-get update
sudo apt-get install -y nvidia-container-toolkit

重启docker 服务

sudo systemctl restart docker

验证安装

sudo docker run --rm -it --gpus all ubuntu:latest

如果可以正常启动 ubuntu 容器表示没有问题。