问题原因

如果你的下载命令是：

pip install torch

就会有问题。
torch的官网上
如果是CPU版本

如果是GPU版本

对比可以发现问题所在。

CUDA版本确定

输入

nvidia-smi

右上角就是。
(一般来说之后下载的对应版本不高于CUDA_VERSION即可)

下载命令

CUDA 11.8

pip3 install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118

CUDA 12.4

pip3 install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124

检查

1.一般来说，GPU版本的下载大小比CPU版本大很多
2.

import torch
print(torch.cuda.is_available())

如果输出

则说明已经成功。