Jetson orin nano是一块比较新的板子,装的是Ubuntu20.04系统,与普通x86_64不同,它是ARM64平台,网上的教程不是很多。
一、Jeston Orin Nano介绍
2022年GTC,NVIDIA 宣布Jetson Orin Nano系列系统模块(SoM)。它们的 AI性能是NVIDIA Jetson Nano的80倍,为入门级边缘AI和机器人应用设定了新标准。
Jetson Orin Nano系列生产模块已于2023年1月份上市,起价199美元。这些模块以最小的Jetson外形尺寸提供高达40 TOPS的AI性能,功率选项低至 5W,高达 15W。该系列有两个不同的版本:Jetson Orin Nano 4GB和Jetson Orin Nano 8GB,我手里的这块是8G版本的,如图。
下图是Jetson Orin Nano系列规格:
下图是Jetson Orin Nano系列基准图,以这些基准的平均值来看,Jetson Orin Nano 8GB 的性能比Jetson Nano提高了30倍。随着未来软件的改进,英伟达官方宣布预计性能将提高45倍。
二、安装CUDA和cuDNN
Jetson Orin Nano在系统烧录的时候可以自己选择是否要安装CUDA和cuDNN,选择安装即可,这样就不需要后续再安装了,如果希望后续安装的话,需要先安装JetPack,然后安装Jtop(类似于x86_64平台的nvidia-smi,如下图),然后安装pip3,最后根据自己的JetPack版本来安装CUDA和cuDNN。
可以参考网址:Building on Jetson — Torchaudio 2.1.0 documentation
三、安装Pytorch
Pytorch的安装需要根据JetPack版本进行安装,下图是NVIDIA官网的对照表:
我这里只在网上找到了torch-2.0.0a0+8aa34602.nv23.03-cp38-cp38-linux_aarch64.whl文件,因此我使用下面命令安装Pytorch:
export TORCH_INSTALL=https://developer.download.nvidia.cn/compute/redist/jp/v51/pytorch/torch-2.0.0a0+8aa34602.nv23.03-cp38-cp38-linux_aarch64.whl
python3 -m pip install --upgrade pip; python3 -m pip install aiohttp numpy=='1.19.4' scipy=='1.5.3' export "LD_LIBRARY_PATH=/usr/lib/llvm-8/lib:$LD_LIBRARY_PATH"; python3 -m pip install --upgrade protobuf; python3 -m pip install --no-cache $TORCH_INSTALL
sudo apt-get install libopenblas-dev