ResNet18残差连接实现与优化实践

1. 项目背景与核心价值

残差网络（ResNet）作为计算机视觉领域的里程碑式架构，其核心创新点"残差连接"（Residual Connection）彻底解决了深层神经网络训练中的梯度消失问题。2015年ImageNet竞赛中，152层的ResNet以3.57%的错误率首次超越人类水平（5%），而传统的34层plain网络错误率高达7.5%。这种跨层连接设计使得网络深度不再成为性能瓶颈，为现代深度学习模型奠定了重要基础。

手动复现ResNet18的残差连接结构，是理解现代深度神经网络设计思想的绝佳实践。不同于直接调用现成框架的torchvision.models.resnet18()，从零实现能让你：

1. 透彻掌握残差块（Residual Block）的两种基本结构（BasicBlock与Bottleneck）
2. 深入理解跳跃连接（Skip Connection）如何通过恒等映射（Identity Mapping）传递梯度
3. 亲手实现下采样（Downsample）时通道数匹配的多种处理方案
4. 体验批归一化（BatchNorm）与残差连接的协同作用机制

通过本次实践，你将获得对以下核心概念的直观认知：

• 残差学习公式：$H(x) = F(x) + x$
• 梯度传播路径：$\frac{\partial loss}{\partial x} = \frac{\partial loss}{\partial H} \cdot (1 + \frac{\partial F}{\partial x})$
• 特征复用机制：浅层特征直接参与深层计算

2. 残差块结构解析

2.1 BasicBlock设计原理

ResNet18采用BasicBlock作为基础构建单元，其结构如下图所示（图示为两个3x3卷积的堆叠）：

python复制class BasicBlock(nn.Module):
    expansion = 1  # 通道数扩展系数
    
    def __init__(self, in_channels, out_channels, stride=1, downsample=None):
        super().__init__()
        self.conv1 = nn.Conv2d(in_channels, out_channels, kernel_size=3, 
                              stride=stride, padding=1, bias=False)
        self.bn1 = nn.BatchNorm2d(out_channels)
        self.conv2 = nn.Conv2d(out_channels, out_channels, kernel_size=3,
                              stride=1, padding=1, bias=False)
        self.bn2 = nn.BatchNorm2d(out_channels)
        self.downsample = downsample
        self.relu = nn.ReLU(inplace=True)

关键设计要点：
1