安装cuda12.1
nvcc -V
conda创建pythong3.10环境
conda create -n llama3_env python=3.10
conda activate llama3_env
安装pytorch
conda install pytorch torchvision torchaudio pytorch-cuda=11.8 -c pytorch -c nvidia
gpu - Pytorch version for cuda 12.2 - Stack Overflow