1. 深度学习中的卷积操作基础
作为一名刚接触深度学习的初学者，我最初对卷积神经网络(CNN)中的填充(padding)和步幅(stride)概念感到非常困惑。直到在实际项目中遇到图像尺寸不断缩小的问题，才真正理解它们的重要性。让我们从一个具体例子开始：假设我们有一张240×240像素的输入图像，经过10层5×5卷积后，输出会缩小到200×200像素——这意味着我们丢失了大量边缘信息。
卷积操作的本质是通过滑动窗口（卷积核）在输入数据上提取特征。但这里存在两个关键问题：
- 每次卷积后特征图尺寸会缩小
- 边缘像素的利用率远低于中心像素
2. 填充(padding)的详细解析
2.1 为什么需要填充
当使用3×3卷积核时，每次卷积会使特征图长宽各减少2像素。对于多层CNN，这种尺寸缩减会累积，最终可能导致特征图变得过小。填充就是在输入数据的边缘添加额外的"虚拟像素"（通常为0），以保持输出尺寸。
数学表达式：
- 无填充时输出尺寸：(n_h - k_h + 1) × (n_w - k_w + 1)
- 有填充时输出尺寸：(n_h - k_h + p_h + 1) × (n_w - k_w + p_w + 1)
其中n是输入尺寸，k是卷积核尺寸，p是填充量。
2.2 填充的常见策略
最常用的两种填充方式：
- Valid卷积（无填充）：p=0
- Same卷积（完全填充）：p=(k-1)/2，保持输入输出尺寸相同
实际代码示例（PyTorch）：
python复制# Same填充的3×3卷积
conv_same = nn.Conv2d(in_channels=1, out_channels=1, kernel_size=3, padding=1)
# Valid填充的3×3卷积
conv_valid = nn.Conv2d(1, 1, kernel_size=3, padding=0)
2.3 填充的视觉化理解
想象在一张照片周围加上相框：
- 黑色相框（零填充）：最常用，不影响原始内容
- 镜像填充：复制边缘像素，适合图像处理
- 重复填充：延续最后一个像素值
3. 步幅(stride)的深入探讨
3.1 步幅的基本概念
步幅控制卷积核滑动的步长。默认stride=1，即逐个像素滑动。增大步幅可以：
- 减少计算量
- 降低特征图尺寸（下采样）
- 扩大感受野
输出尺寸公式：
⌊(n + 2p - k)/s⌋ + 1
3.2 步幅的实际应用
常见使用场景：
- 高分辨率图像：使用较大步幅快速降采样
- 浅层网络：常用stride=2替代池化层
- 时间序列：垂直stride=1，水平stride=2
代码示例：
python复制# 步幅为2的卷积
conv_stride2 = nn.Conv2d(1, 1, kernel_size=3, stride=2, padding=1)
# 不对称步幅
conv_asym = nn.Conv2d(1, 1, kernel_size=(3,5), stride=(2,3), padding=(1,2))
3.3 步幅的注意事项
- 过大步幅会导致信息丢失
- 通常与填充配合使用
- 可能导致输出尺寸计算出现分数，需要向下取整
4. 填充与步幅的组合应用
4.1 经典组合方案
-
保持尺寸：
- kernel=3, padding=1, stride=1
- kernel=5, padding=2, stride=1
-
尺寸减半：
- kernel=3, padding=1, stride=2
- kernel=5, padding=2, stride=2
4.2 实际案例对比
输入尺寸8×8时的不同配置：
| 配置 | 卷积核 | 填充 | 步幅 | 输出尺寸 | 参数数量 |
|---|---|---|---|---|---|
| A | 3×3 | 1 | 1 | 8×8 | 9 |
| B | 3×3 | 0 | 1 | 6×6 | 9 |
| C | 3×3 | 1 | 2 | 4×4 | 9 |
| D | 5×5 | 2 | 1 | 8×8 | 25 |
4.3 计算过程详解
以7×7输入，3×3卷积，padding=1，stride=2为例：
- 填充后尺寸：7 + 2×1 = 9×9
- 输出尺寸：(9-3)/2 + 1 = 4×4
- 感受野计算：3 (第一层)
5. 下采样的替代方案
除了使用带步幅的卷积，下采样还有：
5.1 池化层
python复制# 最大池化
pool = nn.MaxPool2d(kernel_size=2, stride=2)
# 平均池化
pool_avg = nn.AvgPool2d(2, stride=2)
5.2 空洞卷积
python复制# 空洞卷积(dilation=2)
conv_dilated = nn.Conv2d(1, 1, kernel_size=3, dilation=2)
5.3 性能对比
| 方法 | 保持位置信息 | 计算效率 | 参数数量 |
|---|---|---|---|
| 带步幅卷积 | 中等 | 高 | 不变 |
| 最大池化 | 差 | 最高 | 无 |
| 平均池化 | 最差 | 最高 | 无 |
| 空洞卷积 | 最好 | 低 | 不变 |
6. 实际应用中的经验技巧
-
奇数卷积核优势：
- 对称填充方便
- 自然有中心位置
- 主流框架优化更好
-
尺寸计算工具函数：
python复制def calc_output_size(input_size, kernel, padding, stride):
return (input_size + 2*padding - kernel) // stride + 1
-
调试建议：
- 打印每层特征图尺寸
- 使用
torchsummary查看网络结构 - 可视化中间特征
-
常见错误：
- 忘记padding导致尺寸意外缩小
- stride过大导致信息丢失
- 不对称参数造成尺寸计算错误
7. 不同框架的实现差异
虽然概念相同，但各框架参数略有不同：
| 框架 | 参数名 | 默认值 | 备注 |
|---|---|---|---|
| PyTorch | padding, stride | 0, 1 | 支持非对称参数 |
| TensorFlow | padding, strides | 'valid' | 'same'自动计算padding |
| Keras | padding, strides | 'valid' | 类似TensorFlow |
| MXNet | pad, stride | 0, 1 | 类似PyTorch |
8. 高级应用场景
8.1 转置卷积中的步幅
python复制# 转置卷积（步幅用于上采样）
conv_trans = nn.ConvTranspose2d(1, 1, kernel_size=3, stride=2, padding=1)
8.2 可变形卷积
python复制# 可变形卷积(DCNv2)
from mmcv.ops import DeformConv2d
conv_def = DeformConv2d(1, 1, kernel_size=3, padding=1)
8.3 分组卷积
python复制# 分组卷积
conv_group = nn.Conv2d(4, 8, kernel_size=3, groups=2)
9. 数学原理深入
9.1 互相关运算公式
对于输入X∈R^(H×W)，卷积核K∈R^(k×k)：
Y[i,j] = ∑{a=0}^{k-1}∑^{k-1} X[i+a,j+b]·K[a,b]
9.2 感受野计算
第n层的感受野：
RF_n = RF_{n-1} + (k_n - 1) × ∏_{i=1}^{n-1} s_i
9.3 计算复杂度分析
FLOPs = H_out × W_out × C_in × C_out × K × K
10. 最新研究进展
- 动态卷积：根据输入调整卷积参数
- Octave卷积：同时处理高低频信息
- 注意力卷积：结合注意力机制
- 神经架构搜索：自动优化参数组合
理解填充和步幅是掌握CNN的关键第一步。在实际项目中，我建议：
- 先用简单配置验证模型
- 逐步尝试不同组合
- 注意特征图尺寸变化
- 可视化中间结果辅助理解
记住，没有绝对的最优配置，需要根据具体任务和数据特点进行调整。随着经验积累，你会逐渐发展出对参数设置的直觉。