告别Anchor和NMS：用DETR和Transformer重新理解目标检测（附PyTorch代码）

当目标检测领域还在为Anchor尺寸的调参和NMS阈值的选择争论不休时，Facebook AI Research团队在2020年抛出了一枚"技术炸弹"——DETR（Detection Transformer）。这个看似简单的缩写背后，隐藏着对传统检测范式的大胆颠覆：用Transformer的全局建模能力替代手工设计的Anchor机制，用二分图匹配的集合预测思维取代NMS后处理。作为第一批在实际项目中部署DETR的工程师，我想分享这场变革背后的技术细节与实战心得。

1. 传统检测的"历史包袱"与DETR的破局思路

在Faster R-CNN和YOLO统治目标检测的五年间，开发者们已经习惯了这样的工作流程：设计多尺度Anchor→生成候选框→执行NMS去重。这套机制虽然有效，却存在三个本质缺陷：

1. Anchor敏感性问题：检测性能高度依赖预设Anchor的尺寸、长宽比等超参数，COCO数据集常用的9组Anchor在无人机航拍场景可能完全失效
2. 后处理不可微：NMS作为离散算法无法参与梯度传播，导致训练与推理流程割裂
3. 冗余计算：典型的RPN网络会产生数千个候选框，但最终可能只保留个位数检测结果

DETR的解决方案堪称优雅——将目标检测重构为集合预测问题。具体来说：

• 输入：任意尺寸的图像
• 输出：固定长度的预测集合（如100个预测框），每个元素包含类别和坐标
• 关键创新：通过Transformer的全局注意力机制隐式学习空间关系，利用二分图匹配（匈牙利算法）直接建立预测与真值的对应关系

python复制# DETR的核心输出结构示例
predictions = {
    'pred_logits':  torch.randn(8, 100, 92),  # batch_size=8, 100个预测, 92个类别
    'pred_boxes':   torch.randn(8, 100, 4)    # 归一化的cxcywh格式坐标
}

2. Transformer如何重塑检测流程

2.1 从CNN到Transformer的特征编码革命

传统检测器依赖C