去年开始我在公司的算法组带新人,几乎每个月都会遇到同样的问题:新来的同学拿着 PyTorch 官方教程啃了两周,代码能跑通,但一碰到自己的业务数据就彻底卡壳——模型不收敛、显存爆掉、精度上不去。后来我把带新人的整套思路沉淀成了一个系列《深度学习实战(基于 PyTorch)》,从环境配置一直写到三维重建和强化学习。这篇博文就是这个系列的完整目录和规划思路,每一个模块背后对应了实战中最高频的问题,或者说,都是当年我自己踩过的坑。无论你是刚入门想找一条不走弯路的学习路径,还是已经有一定基础但总觉得知识零散、没法落地到实际项目,这个系列的目标就是用“实战优先”的逻辑,把深度学习这套东西串成一条线。
1. 系列整体设计与学习路径规划
1.1 为什么要用“实战驱动”而不是“理论驱动”
市面上讲深度学习的资料太多了,花书、西瓜书、各种公开课,理论讲得很透,但很多人学完之后的状态是:BN 层的原理能默写,一让写个完整的训练循环反而无从下手。这是典型的“理论—实践”断层。我设计这个系列时,刻意把顺序调转过来——先跑通一个最小可用的完整流程,再回头拆解其中的原理。
这样的安排有几个实际好处。第一,反馈周期短。环境装好、代码能跑,屏幕上 loss 在往下降,这种即时反馈比看十页公式更能支撑新手坚持下去。第二,定位问题更精准。当你亲手写完一个训练脚本,在 Debug 过程中遇到的问题(维度对不上、梯度爆炸、loss 为 NaN),每一个都是真实业务里会踩的坑,带着问题去翻理论,记忆会牢固得多。第三,贴合实际工作节奏。公司里的算法需求永远是“先出个能用的baseline,再谈优化”,实战驱动正好是这个节奏。
整个系列分四个阶段:基础环境(Part 1)→ 核心模型(Part 2-6)→ 场景实战(Part 7-10)→ 前沿扩展(Part 11-12)。对应一个完整的学习曲线:从“能跑”到“会用”,再到“会调”,最后是“会设计”。
1.2 模块拆解与知识图谱一览
我把整套内容画成了一张知识地图,每个部分解决一个核心问题:
| 阶段 | 模块 | 核心解决什么问题 | 产出物 |
|---|---|---|---|
| 基础 | 环境配置 | 让 PyTorch 在你的机器上高效跑起来 | 可复现的环境 |
| 基础 | PyTorch 核心基础 | Tensor、自动求导、Dataset、Dataloader | 完整训练循环 |
| 核心 | CNN | 图像特征怎么提 | 图像分类模型 |
| 核心 | 模型训练与调参 | 怎么训得快、训得稳 | 可复用的训练模板 |
| 核心 | Transformer | 序列建模与注意力机制 | 文本/图像 Transformer 结构 |
| 场景 | 目标检测 YOLO | 物体在哪、是什么 | 检测模型 |
| 场景 | 分割与遥感 | 像素级/多模态识别 | 分割模型 |
| 场景 | 三维重建 | 从二维图像恢复三维结构 | 神经渲染基础 |
| 进阶 | 深度强化学习 | 决策与序列控制 | 智能体训练环境 |
| 扩展 | 工程化落地 | 从模型到可用服务 | ONNX/部署脚本 |
这样编排的逻辑是:每一章都建立在前一章的产出之上。比如目标检测章节会直接复用 CNN 章节写好的特征提取器,三维重建章节会用到 Transformer 章节的注意力机制。不重复造轮子,但每章都会把前序工具升级到新场景。
1.3 适合哪些读者,需要什么基础
这个系列的定位是“一本可以直接跟着敲的实战手册”,但我默认读者满足两个条件:一是会 Python 基础语法,理解类、函数、装饰器这些概念;二是有最基本的线性代数和微积分概念,知道矩阵乘法、求导是干什么的就行。如果这两样都还不熟,建议先花一两周补一下基础。
我的经验是,最后能完整跟下来的同学都具有同一个特质:愿意动手敲,而不是“看完了”。每一章我都设计了必做的实验和选做的挑战,代码必须一行行手打过,Debug 必须自己经历过。这个过程的痛苦程度和你最后掌握的程度直接成正比。
需要模型API调用? 免费领10W Token,多模型网关一键接入 Claude、DeepSeek 等主流模型。
2. 环境配置与 PyTorch 核心基础
2.1 Windows 和 Mac 下的环境搭建避坑指南
环境配置是我带新人时收到问题最多的部分,没有之一。尤其是 Windows 系统,坑多到能写一本独立的踩坑合集。这个系列里我专门用了一整章来讲环境配置,目的就是把这第一道坎填平。
首先是 Miniconda 的安装。为什么不直接装官方 Python?因为项目之间依赖隔离太重要了。我见过太多人因为全局环境里装了两个版本的 CUDA 工具包,导致 PyTorch 一运行就 segfault。Miniconda 占空间小,按需创建虚拟环境,出了问题直接删掉重建,五分钟复活。安装时注意勾选“Add to PATH”,否则后面每次用 conda 命令都要先激活。
然后是 PyTorch 安装。这里最关键的一步是版本对齐。pip install torch 装的是 CPU 版本,很多人跑起来发现慢得离谱才注意到这一点。GPU 版本必须去 PyTorch 官网选择对应的 CUDA 版本。要注意的是,这里的 CUDA 版本指的不是你本机装的显卡驱动版本,而是 PyTorch 编译时绑定的 CUDA 运行库版本。你可以不管本机有没有装 CUDA Toolkit,直接用 pip 安装 PyTorch 的 CUDA 版本,它会把运行库一起打包带过来——只要显卡驱动足够新就行。检查驱动支持的最高 CUDA 版本,Windows 下用 nvidia-smi,右上角显示的 CUDA Version 就是上限。选择等于或低于这个数值的 PyTorch CUDA 版本,基本不会出错。
bash复制# 创建独立环境(我一般固定用 python 3.10,兼容性最好)
conda create -n dlp python=3.10 -y
conda activate dlp
# 安装 PyTorch 2.x GPU 版(以 CUDA 11.8 为例)
pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118
# 验证安装
python -c "import torch; print(torch.__version__); print(torch.cuda.is_available()); print(torch.cuda.get_device_name(0))"
如果最后一行能输出你的显卡型号,恭喜,环境没问题了。这里还有两个易踩的坑。第一,不要在本机装一堆和 PyTorch 无关的 CUDA 工具包,会让环境变得极其混乱。第二,Mac 用户记得 MPS 加速——torch.backends.mps.is_available() 返回 True 时,把 .to('cuda') 换成 .to('mps'),速度虽然赶不上 NVIDIA 显卡,但比 CPU 快很多。
2.2 Tensor、自动求导与 Dataset 机制的底层逻辑
环境装好之后,系列进入了 PyTorch 最核心的三个抽象:Tensor、自动求导、Dataloader。这三个东西表面上是 API,实际上是整个框架的“底层逻辑”,理解了它们,后面写任何模型都是顺水推舟。
Tensor 的本质就是一个带设备信息和梯度信息的多维数组。创建 Tensor 时指定 requires_grad=True,之后所有基于它的运算都会被记录在一个计算图里。反向传播时,PyTorch 从 loss 出发,沿着这张图反向链式求导,把梯度算出来。我用一个比喻给新人解释:计算图就像一棵树的根系,前向传播是阳光从叶子往根部走,反向传播是水分从根部往叶子输送。哪个节点需要水分(梯度),路径上都会标记好。
Dataset 和 Dataloader 是 PyTorch 吃数据的标准姿势。Dataset 负责“取单个样本”——给定索引返回 (数据, 标签);Dataloader 负责“批量生产”——自动拼 batch、打乱顺序、多进程预加载。注意不要自己用 for 循环加切片去喂模型,之前有同学图省事,结果训练速度慢了四五倍,原因是没利用 Dataloader 的 num_workers 并行加载。这里推荐一个经验值:num_workers 设为 CPU 核心数的一半左右,Windows 下如果老是报 BrokenPipe,先把它设成 0 排查是否是代码问题,再逐步调大。
python复制class MyDataset(Dataset):
def __init__(self, data, labels):
self.data = data
self.labels = labels
def __len__(self):
return len(self.data)
def __getitem__(self, idx):
return self.data[idx], self.labels[idx]
loader = DataLoader(MyDataset(data, labels), batch_size=32, shuffle=True, num_workers=4, pin_memory=True)
2.3 从零手写一个完整的训练循环
系列第二章的压轴内容,是让读者从零手写一个不依赖任何高级封装的训练循环。这个训练循环包含五个必须掌握的部分:模型初始化、损失函数、优化器、迭代训练、验证评估。
一个标准的训练循环骨架长这样:
python复制for epoch in range(epochs):
model.train()
for x, y in train_loader:
x, y = x.to(device), y.to(device)
optimizer.zero_grad()
out = model(x)
loss = criterion(out, y)
loss.backward()
optimizer.step()
model.eval()
with torch.no_grad():
val_loss, val_acc = evaluate(model, val_loader)
print(f"Epoch {epoch}: train_loss={loss.item():.4f}, val_acc={val_acc:.2%}")
这段代码看着简单,但里面有一个关键细节:model.train() 和 model.eval() 的切换。train() 模式下,Dropout 会随机丢掉部分神经元,BN 层会使用当前 batch 的统计量;eval() 模式下,Dropout 关闭,BN 使用训练阶段积累的全局统计量。忘记切换模式是这个系列里我见过频率第二高的隐性 bug——训练集精度极高、验证集精度稀烂,多半是这个原因。
另一个容易忽略的细节是 optimizer.zero_grad() 的位置。必须放在前向传播之前(或 loss.backward() 之后但要在下一次 backward 前)。PyTorch 默认会累加梯度,不手动清零的话,梯度会把之前的数值累加起来,导致训练完全不收敛。
3. 核心网络架构实战与训练技巧
3.1 CNN——用经典图像分类任务吃透卷积网络
CNN 部分我选用了 CIFAR-10 和猫狗分类两个案例,分别对应“从零搭建”和“迁移学习”两种训练模式。之所以不用 ImageNet,是因为完整的 ImageNet 训练一次要好几块高端显卡跑一周,对新手极不友好。我的理念是:入门阶段,机器资源没那么好,就用小数据集把原理和完整流程跑通,等理解了每一层的作用再放大规模。
从零搭建部分,我带着读者实现了一个包含卷积、池化、批归一化、全连接层的经典 CNN 结构。这里要重点理解三个维度的变化。输入图像是 (N, C, H, W),N 是 batch size,C 是通道数,H 和 W 是宽高。卷积层保留空间维度(或者减半),通道数逐层增加;池化层负责压缩空间维度,减少参数量;最后的全连接层才真正组合特征做分类。新手最容易蒙的地方是卷积层输出尺寸的计算公式:
code复制输出尺寸 = floor((输入尺寸 - 卷积核大小 + 2 * padding) / stride + 1)
不理解这个公式,后面修改网络结构时就会手足无措。我建议读者在纸上手动算几遍,然后用 torchsummary 或直接打印每一层的输出 shape 来验证。实操中我发现,能把这个公式算对的人,调试网络结构的速度至少快一倍。
3.2 模型训练与调参——从 loss 曲线到超参搜索
训练调参这个话题,完全可以单独写一本书。系列里我把它压缩成了一套新手可以直接套用的方法论,围绕“loss 曲线诊断”展开。
很多新手训练时只知道盯着最终精度,却忽略了训练过程中 loss 的变化形态。我把常见的 loss 曲线分为几类。第一类,loss 持续下降且验证集同步下降,这是最健康的;第二类,训练 loss 下降但验证 loss 不降反升,这是过拟合,解决方案是加正则化或数据增强;第三类,loss 完全不降或者一开始就是 NaN,这往往是学习率太大或梯度爆炸,先调低学习率;第四类,loss 在某个值附近震荡但不收敛,可能是数据没打乱或者 batch size 太大。
下面这张表格是我带新人时给到的最常用诊断速查表:
| 现象 | 可能原因 | 优先尝试的调整 |
|---|---|---|
| loss 为 NaN | 学习率过大、数据里有 NaN | 降低 lr,检查数据 |
| 验证集不涨 | 过拟合、eval 模式没切换 | 加 Dropout、数据增强 |
| 训练特别慢 | num_workers 太小、batch size 太小 | 增大两者 |
| 精度 90% 后上不去 | 模型容量不够 | 换更大的网络 |
| loss 震荡 | 数据没 shuffle、梯度不平稳 | 加大 batch、调低 lr |
调参方面,我强调“先粗后细”的策略。先用默认配置(lr=0.001, Adam, batch=32)跑通流程,确定模型能学到东西之后,再去调学习率。学习率的调整顺序是:先确定数量级(0.1→0.01→0.001→0.0001),再微调具体值。这里介绍一个实用的工具——余弦退火学习率调度器,PyTorch 里一行代码就能用,基本能比固定学习率稳定提升 1% 到 2% 的精度,代价是增加一点点训练时间。
提示:如果条件允许,建议在第一次跑通完整流程后,用 TensorBoard 或者 wandb 记录每一次实验的超参数组合和对应的指标。调参最怕的就是“感觉改了还行但不知道改了什么”,养成记录习惯能让你少走大量弯路。
3.3 Transformer——从注意力机制到 ViT 的实现细节
Transformer 部分是这个系列里内容更新最快的一章,因为这两年大模型和 CV 领域里 Transformer 架构的影子无处不在。理解注意力机制,不仅是为了跟上潮流,更是因为它在处理全局依赖关系时确实比 CNN 更高效。
我用一个生活化的例子来说明自注意力的含义。想象你在看全班合照,要判断某个人的情绪。CNN 的做法是从眼睛、嘴角这些局部特征逐层组合,看得越深越“费劲”;而 Transformer 的做法是,每个人直接观察其他所有人,结合和自己相关的重点得出判断。这里的“观察”就是计算相似度权重,“结合”就是加权求和。公式如下:
code复制Attention(Q, K, V) = softmax(Q * K^T / sqrt(d_k)) * V
Q 是查询向量,K 是键向量,V 是值向量,d_k 是向量维度,除以 sqrt(d_k) 是防止点积过大导致 softmax 梯度消失。
实际工程中,这个公式的写法在 PyTorch 里已经高度封装了,直接用 nn.MultiheadAttention 就行。真正难理解的是三个 mask:padding mask、causal mask、attention mask。我建议读者一定亲手实现一次原版 Transformer 的编码器,再跑一遍 ViT(Vision Transformer)做图像分类,这样对位置编码、LayerNorm、残差连接的理解会非常到位。ViT 的核心是图像分块嵌入——把一张图切成固定大小的 patch,每个 patch 展平后线性投影成 token,再加上位置编码送入 Transformer 编码器,这个思路其实跟 NLP 里的词嵌入同构。
4. 场景实战:视觉检测、遥感影像与三维重建
4.1 目标检测 YOLO——从原理到训练自己的数据集
进入第三章,系列从图像分类正式跨入目标检测。YOLO 是这个领域绕不开的名字,从 v5 到 v8,每一代都有人争论哪个最好用。我的建议是:入门阶段选 YOLOv8,因为官方代码维护最活跃、文档最完善、推理部署生态也最好;如果要在嵌入式设备上部署,再看 YOLOv5 的小模型版本。
YOLO 的核心思想一句话就能说清:把目标检测问题建模成回归问题——直接回归每个目标的类别和边界框坐标。实现上,图像被分成 S×S 的网格,每个网格负责预测中心点落在该格内的目标。每个网格输出一定数量的候选框,每个候选框包含位置信息 (x, y, w, h)、置信度和每个类别的概率。这就是 YOLO 速度和精度能同时优秀的原因:一次前向传播全搞定,不需要两阶段网络那种“先提区域再分类”的串行流程。
训练自己的数据集时,我总结了一个三步走的流程。第一步,制作数据集。用 LabelImg 或者 X-AnyLabeling 打标签,生成 YOLO 格式的 txt 文件(每行是 类别id x_center y_center width height,坐标归一化到 0-1)。第二步,修改配置文件。用 YOLOv8 的 CLI 工具写一个 data.yaml,指定 train/val 路径和类别列表。第三步,选择预训练权重。新手一定要用官方预训练权重做初始化,从零训练检测头收敛特别慢,还容易崩——“迁移学习”在检测领域的作用立竿见影。
bash复制yolo detect train data=data.yaml model=yolov8m.pt epochs=100 imgsz=640 batch=16
这里有一个实操细节必须提醒:数据集的标注质量比数量更重要。我见过有人拿几万张自动标注质量很差的图训练,效果还不如别人手动精标的三千张。标签框的位置偏移一个像素可能没问题,但如果大量框要么多包背景、要么切掉目标一大块,模型学到的边界就会混乱,最直接的表现是预测框在目标周围乱晃,精度上不去。
4.2 图像分割与遥感影像——多类别任务的工程化思路
分割任务和检测任务的区别在于粒度:检测输出框,分割输出每个像素的类别。在遥感领域,分割几乎是必备技能——建筑物提取、水体识别、农田分类,全是像素级的判断。
我选了 U-Net 作为这一章的主模型。U-Net 的架构非常优雅:左边是编码器,逐步下采样提取语义信息;右边是解码器,逐步上采样恢复空间分辨率;中间用 skip connection 把浅层细节和深层语义拼接在一起。为什么遥感分割特别适合 U-Net?因为遥感图像里目标边界往往很细(比如道路延伸、建筑物边缘),skip connection 能保留这些精细的空间信息,避免深层网络丢细节。
实操中,遥感影像还有一个特殊步骤:影像预处理。原始遥感影像太大(比如 10000×10000),直接丢进网络显存肯定炸。标准做法是滑窗裁剪,切成 512×512 或 256×256 的图块训练,预测时再拼接回来。这里有一个技巧:切块时要有一定的重叠率(overlap),比如 10% 到 15%,不然在拼接边界处会出现明显的条带效应。我自己踩过这个坑,第一次做分割预测时没有设置重叠,结果输出图像上一道一道的边界痕迹,看起来非常丑,排查了半天才找到原因。
ENVI 的深度学习模块我也在系列里提过。它的定位是面向遥感图像处理人员的“无代码”方案,但从我实测的经验看,调试灵活性远不如直接用 PyTorch 写。如果你本来就要用 Python 处理遥感数据,建议直接用 GDAL + torch 自己搭 pipeline,不仅能玩得更细,踩坑之后排查问题的能力也完全在你自己手里。
4.3 三维重建与 tiny-cuda-nn——Windows 下的编译实战
三维重建这块内容,是系列里技术密度最大、读者惊呼“最多坑”的章节。核心内容是神经辐射场(NeRF)和即时神经图形基元。前者通过神经网络把三维场景编码成连续辐射场,从任意视角渲染出新视图;后者是 NVIDIA 提出的一套高效实现方案,其中 tiny-cuda-nn 库依赖 CUDA 自定义算子,在 Linux 下编译很容易,到了 Windows 下就成了大型教做人现场。
我整理了一套在 Win11 下配置 tiny-cuda-nn 的避坑流程,核心是版本对齐。第一,确保 Visual Studio 安装了 C++ 桌面开发组件。第二,确保安装了匹配的 CUDA Toolkit,不是 PyTorch 内置那种,是独立的完整工具包。第三,选中正确的 PyTorch 版本与 CUDA 版本对齐,比如 PyTorch 2.0 配 CUDA 11.8,编译时的 -DCMAKE_CUDA_ARCHITECTURES 参数要填你的显卡算力,比如 RTX 3090 是 86,RTX 4060 是 89。第四,Git 克隆仓库后执行构建脚本时,建议设 TORCH_CUDA_ARCH_LIST="8.6"(按你的显卡算力填),否则它会尝试编译一堆架构支持,耗时且容易失败。
bash复制$env:TORCH_CUDA_ARCH_LIST = "8.6"
python setup.py build_ext --inplace
这套流程走通之后,三维重建的核心代码反而相对直接。读取一组多视角图像,对每个像素生成对应的射线条目,输入 MLP 得到颜色和密度,再用体积渲染公式合成像素颜色,最终以渲染图和真实图的像素差作为 loss 反向传播。整个过程像教一个盲人摸象——输入是相机的位姿,输出是每个点的颜色值和不透明度,大量迭代后模型就把整个场景的“体积”记住了。
5. 进阶方向与工程化落地
5.1 深度强化学习——决策类任务的基础框架
强化学习与前面所有内容最大的不同在于:前面都处理“识别”类问题,强化学习处理的是“决策”类问题。用无人机飞行做例子:视觉模型负责判断前方有没有障碍物、障碍物在哪,强化学习模型负责决定怎么调整飞行姿态和航线去避开它。
强化学习的核心框架包含四个要素:状态、动作、奖励、策略。智能体不断与环境交互(无人机传感器感知环境得到状态,策略网络决定动作,飞控执行动作后返回新的状态和奖励),目标是从交互经验中学习到一个最优策略——让累积奖励最大化。这个逻辑很像训练宠物:做对了给零食(正奖励),做错了轻微处罚(负奖励),次数多了,宠物就知道怎么表现能获得更多零食。
系列里我用 OpenAI Gym 的经典环境 CartPole 作为入门案例,教读者实现基础的策略梯度方法和 DQN,然后把同样一套代码扩展到无人机路径规划任务。这里有个关键教训:强化学习对随机种子极其敏感。同样的代码,换了随机种子可能从收敛变成发散。跑实验时务必固定 random.seed()、np.random.seed()、torch.manual_seed(),否则你会怀疑是自己的算法出了问题还是纯粹运气不好。
5.2 模型部署——从 PyTorch 到 ONNX 与推理优化
可能有读者觉得,模型能训完、精度够了就结束了。但在实际业务里,训练完成只是第一步。把 PyTorch 模型部署到生产环境(比如服务器 API 或者边缘设备)时,会遇到全新的问题——推理速度、内存占用、框架兼容性。这个环节我单独用一章来讲。
模型部署最常用的中间格式是 ONNX(Open Neural Network Exchange)。它相当于不同深度学习框架之间的“通用语言”——PyTorch 训练好的模型导出成 ONNX,再用 ONNX Runtime 加载,可以脱离 PyTorch 环境独立运行,而且推理速度更快。导出代码非常简单:
python复制model.eval()
dummy_input = torch.randn(1, 3, 640, 640).to(device)
torch.onnx.export(
model, dummy_input, "model.onnx",
input_names=["input"], output_names=["output"],
dynamic_axes={"input": {0: "batch"}, "output": {0: "batch"}},
opset_version=17
)
dynamic_axes 这个参数很关键,它允许输入 batch 大小可变,否则导出的模型只支持固定 batch,上线时遇到并发请求会非常尴尬。导出后建议用 netron 可视化检查一下模型的网络结构,再用 ONNX Runtime 跑一遍推理,对比 PyTorch 的结果是否一致。遇到算子不兼容的情况,优先尝试升级 opset_version,或者回到 PyTorch 侧把对应模型换成更通用的实现。
5.3 PointNeXt、Pointcept 与 Transformer 架构的新进展
如果不了解 PointNeXt 和 Pointcept,可能会以为点云处理是非常小众的方向。实际上,自动驾驶的激光雷达点云、机器人抓取的三维场景理解、工业零件的三维缺陷检测,全部依赖这类算法。我从 2023 年开始在系列里加入了 Pointcept(一个点云分割工具箱)的章节,因为单纯讲 PointNet++ 的原理太干巴巴,没有工程工具配合,读者很难在短时间内处理真实的点云数据。
Pointcept 基于 PyTorch,内置了多种主流点云分割模型和训练策略,开箱即用。使用方式有点像 MMDetection 在二维目标检测里的地位——配置化、模块化、可扩展。我在系列里用 S3DIS 数据集演示了室内场景的分割流程:加载点云、体素降采样、训练分割模型、可视化分割结果。这套流程熟练后,扩展到自定义数据只需替换数据加载器和配置文件的类别数。
Transformer 在点云和视觉领域的新架构我也在持续追踪,系列里会跟着更新一些有代表性的工作,比如 Swin Transformer 的滑动窗口注意力是如何控制计算复杂度的,Deformable Attention 又是如何让注意力聚焦在稀疏的预测结果周围的。
6. 常见问题排查与系列使用心得
6.1 我遇到过的高频报错与 Debug 思路
这个系列每章末尾都附带了一份报错速查表,总结下来,最高频的问题集中在三个方面:维度不匹配、设备不统一、梯度异常。
维度不匹配是新手最常碰到的。报错信息通常是 Expected input batch_size (32) to match target batch_size (16)。解决方法分两步:打印当前张量维度,逐层核对 x.shape;修改网络某一层输出维度,让它和下一层的输入维度对得上。设备不统一的报错是 Expected all tensors to be on the same device,这是因为部分参数在 CPU、部分在 GPU。解决方法是统一 model.to(device) 和 x.to(device),注意确保你的数据加载器也在同一设备下运行。梯度异常包括 loss 为 NaN 和梯度为 0 两种情况,前者一般是学习率太大或数据未归一化,后者常见原因是 ReLU 死了或网络层数太深梯度消失。
我还建议所有读者从一开始就养成“最小化复现”的 Debug 习惯。遇到问题,把数据集拆到最小、把 batch 设成 2、把模型换成一个线性层,先确认代码框架没有错,再逐步加复杂度。这样定位问题的速度,比在完整模型里瞎猜快十倍。
6.2 如果只能记住三件事
写到这里,我回顾整个系列最想强调的三件事。第一,环境配置没你想象中难,但也没网上说的那么简单。版本对齐是唯一真理——Python 版本、PyTorch 版本、CUDA 版本、显卡驱动四者之间必须匹配,任何一环不匹配都会以奇怪的方式出问题,所以先把基础环境一次性配好,能省下后面大量时间。第二,读懂 loss 变化比记住十个模型结构更顶用。模型调参的本质就是读懂 loss 曲线的“语言”——它在告诉你学习率太大还是太小、模型过拟合还是欠拟合、数据有没有问题。你越早能读懂这种语言,遇到的每个模型都只是换个玩具而已。第三,遇到报错尽量自己动手查。不要一报错就截图问人,先看报错堆栈、定位到具体行、理解为什么报错。这个过程虽然痛苦,但积累下来解决问题的能力才是这个系列真正想让你带走的。
我在带人的时候发现一个规律:前期越“笨”的人——愿意一遍遍手敲代码、逐行 debug、读官方文档——后期的爆发力越强。反倒是那些“聪明”的、总想走捷径的,遇到一次卡点就容易放弃。深度学习这条路没有什么银弹,所谓“实战”,说白了就是把每一步都踩实,踩得足够多,就成了经验。希望这个系列能陪你走完最核心的这一段路。
