YOLOv5s模型在SpringBoot中的高效部署与优化实战

1. 项目背景与核心挑战

在计算机视觉工程化领域，YOLO系列算法因其优异的实时性能成为工业界首选。但将PyTorch/TensorFlow训练的模型部署到Java生产环境时，开发者常面临三大痛点：框架兼容性差导致模型转换损耗、JVM内存管理机制与原生推理库的冲突、多线程环境下吞吐量不达预期。本文将分享我在金融安防项目中，将YOLOv5s模型部署到SpringBoot服务的完整实战经验，最终实现1080P视频流35ms/frame的推理速度。

关键指标：Intel Xeon 8255C服务器，BatchSize=4时，TensorRT加速的YOLOv5s模型达到98.2%的原始精度保留，内存占用稳定在1.2GB以内。

2. 技术选型与工具链搭建

2.1 跨框架模型转换方案

原始PyTorch模型需经过两次转换：

1. PyTorch → ONNX：使用torch.onnx.export时需特别注意动态轴设置

python复制torch.onnx.export(
    model,
    dummy_input,
    "yolov5s.onnx",
    opset_version=12,
    input_names=["images"],
    output_names=["output"],
    dynamic_axes={
        "images": {0: "batch", 2: "height", 3: "width"},
        "output": {0: "batch"}
    }
)

2. ONNX → TensorRT：通过trtexec工具生成优化后的引擎

bash复制trtexec --onnx=yolov5s.onnx \
        --saveEngine=yolov5s.plan \
        --fp16 \
        --workspace=2048 \
        --minShapes=images:1x3x640x640 \
        --optShapes=images:4x3x640x640 \
        --maxShapes=images:8x3x640x640

2.2 Java推