1. 项目概述
在边缘计算和嵌入式AI领域，NVIDIA Jetson AGX Orin凭借其强大的AI算力（最高275 TOPS）和能效比，已成为众多计算机视觉、机器人项目的首选硬件平台。然而不同于x86架构的PC环境，基于ARM架构的AArch64体系在软件生态上存在诸多特殊适配问题。本文将手把手带你在Ubuntu 20.04系统上完成Miniforge（Conda的轻量级替代）与PyTorch的完整部署流程，解决ARM平台特有的依赖冲突问题。
关键提示：Jetson系列开发板默认搭载的Ubuntu系统采用修改版内核，直接使用pip安装PyTorch会导致CUDA驱动不兼容，必须通过特定方法构建环境。
2. 环境准备与系统配置
2.1 基础系统检查
首先通过终端验证系统信息：
bash复制uname -m # 应显示aarch64
lsb_release -a # 确认Ubuntu 20.04
nvidia-smi # 检查GPU驱动状态
典型输出示例：
code复制L4T 35.3.1
CUDA Version: 11.4
Driver Version: 510.47.03
2.2 必要依赖安装
ARM架构需要额外安装编译工具链：
bash复制sudo apt update
sudo apt install -y \
build-essential \
cmake \
libopenblas-dev \
liblapack-dev \
libjpeg-dev \
zlib1g-dev
避坑指南：Jetson的Ubuntu镜像默认使用修改过的APT源，若遇到"Unable to locate package"错误，需执行
sudo apt-add-repository universe扩展软件源。
3. Miniforge安装与配置
3.1 为什么选择Miniforge
相比Anaconda/Miniconda，Miniforge具有以下优势：
- 专为ARM架构优化，避免x86模拟层性能损失
- 默认使用conda-forge通道，包含更全的ARM包
- 精简体积（安装包仅~50MB）
3.2 具体安装步骤
- 下载ARM专用安装包：
bash复制wget https://github.com/conda-forge/miniforge/releases/latest/download/Miniforge3-Linux-aarch64.sh
- 验证文件完整性：
bash复制sha256sum Miniforge3-Linux-aarch64.sh
# 对比Github发布的校验值
- 执行安装：
bash复制bash Miniforge3-Linux-aarch64.sh -b -p $HOME/miniforge3
- 初始化环境：
bash复制source ~/miniforge3/bin/activate
conda init
- 创建专用环境（推荐）：
bash复制conda create -n torch_env python=3.8
conda activate torch_env
4. PyTorch的ARM适配方案
4.1 官方预编译包安装
NVIDIA为Jetson提供定制版PyTorch：
bash复制conda install -c pytorch -c nvidia \
pytorch==1.12.0 \
torchvision==0.13.0 \
torchaudio==0.12.0 \
cudatoolkit=11.4
4.2 验证GPU加速
在Python交互环境测试：
python复制import torch
print(torch.__version__) # 应显示1.12.0
print(torch.cuda.is_available()) # 应返回True
x = torch.rand(5,3).cuda()
print(x) # 显示设备类型为cuda:0
4.3 常见问题排查
问题1：Illegal instruction (core dumped)
- 原因：使用了x86架构的PyTorch包
- 解决：彻底卸载后重装ARM专用版
问题2：CUDA driver version is insufficient
- 原因：PyTorch与JetPack版本不匹配
- 解决：按此对应表选择版本：
code复制JetPack 5.0 → PyTorch 1.12 + CUDA 11.4
JetPack 4.6 → PyTorch 1.10 + CUDA 10.2
5. 性能优化技巧
5.1 开启TensorCore加速
在代码中加入：
python复制torch.backends.cudnn.benchmark = True
torch.set_float32_matmul_precision('high')
5.2 内存管理策略
Jetson共享内存架构需特别处理：
python复制# 设置GPU缓存大小（单位MB）
torch.cuda.set_per_process_memory_fraction(0.5)
5.3 量化推理优化
将模型转换为INT8精度：
python复制model = torch.quantization.quantize_dynamic(
model, {torch.nn.Linear}, dtype=torch.qint8
)
6. 扩展组件安装
6.1 OpenCV编译安装
使用conda安装基础版：
bash复制conda install -c conda-forge opencv
需要GPU加速时建议源码编译：
bash复制git clone --branch 4.6.0 https://github.com/opencv/opencv.git
mkdir build && cd build
cmake -D WITH_CUDA=ON -D CUDA_ARCH_BIN="8.7" ..
make -j$(nproc)
6.2 TensorRT集成
利用JetPack自带的TensorRT：
python复制import tensorrt as trt
from torch2trt import torch2trt
model_trt = torch2trt(model, [x])
7. 开发环境配置建议
7.1 远程开发方案
-
VSCode远程开发：
- 安装Remote-SSH扩展
- 配置端口转发：
ssh -L 5901:localhost:5901 user@jetson_ip
-
Jupyter Notebook：
bash复制
conda install jupyter jupyter notebook --ip=0.0.0.0 --no-browser
7.2 性能监控工具
实时查看资源占用：
bash复制tegrastats --interval 1000
输出示例：
code复制RAM 4000/32768MB | CPU [10%@1.4,5%@1.3] | GPU [email protected] | EMC 5%@1600 | TEMP 56C
8. 实际项目测试案例
以YOLOv5目标检测为例：
- 克隆仓库：
bash复制git clone https://github.com/ultralytics/yolov5
cd yolov5
- 安装依赖：
bash复制pip install -r requirements.txt
- 测试推理速度：
bash复制python detect.py --source 0 --weights yolov5s.pt --img 640
实测数据：在Jetson AGX Orin 64GB版本上，YOLOv5s模型可达120FPS（FP16精度）
9. 深度问题解决方案
9.1 多版本CUDA管理
通过符号链接切换版本：
bash复制sudo ln -sf /usr/local/cuda-11.4 /usr/local/cuda
export LD_LIBRARY_PATH=/usr/local/cuda/lib64:$LD_LIBRARY_PATH
9.2 自定义算子编译
示例：编译带CUDA的PyTorch扩展
python复制from setuptools import setup
from torch.utils.cpp_extension import BuildExtension, CUDAExtension
setup(
name='custom_ops',
ext_modules=[CUDAExtension('custom_ops', ['ops.cpp'], extra_compile_args={'cxx': ['-O3'], 'nvcc': ['-O3']})],
cmdclass={'build_ext': BuildExtension}
)
10. 维护与更新策略
10.1 环境备份
导出当前环境配置：
bash复制conda env export > env_jetson.yaml
pip freeze > requirements.txt
10.2 安全更新
仅更新关键组件：
bash复制conda update --all -n torch_env --strict-channel-priority
避免完整系统升级，可能破坏JetPack依赖关系。建议通过NVIDIA官方SDK Manager进行系统级更新。