深度学习的车辆检测毕设：从模型选型到推理优化的效率提升实战-编程阁

背景痛点：毕设场景下的“慢”与“贵”

做车辆检测毕设，最怕的不是调不出 mAP，而是**“跑不动”**：

实验室只给一张 6 GB 显存的 3060，YOLOv5x 一上就直接 OOM，batch=1 都撑不住。
导师要求“实时演示”，1080p 视频一播，FPS 掉到 5，现场翻车。
部署环节更闹心：PyTorch 环境 + CUDA + Python 解释器，拷过去就是 4 GB，答辩电脑没显卡，当场社死。

一句话：精度可以妥协，速度必须稳住，资源必须可控。下面把我自己踩坑总结的效率提升路线完整摊开，从选型到落地，全部可复现。

技术选型：YOLO 全家桶横向 PK

在 UA-DETRAC（训练集 60 k 张、测试集 25 k 张）上，我固定输入 640×640，统一 FP16，测了三款“学生友好”模型：

模型	mAP@0.5	GPU 显存	TensorRT FP16 FPS	权重体积
YOLOv5s	82.1 %	1.6 GB	118	14 MB
YOLOv8n	80.9 %	1.5 GB	135	6.3 MB
PP-YOLOE+ t	83.4 %	1.	98	8.7 MB

结论一目了然：

YOLOv8n速度最快、体积最小，适合嵌入式或老笔记本。
PP-YOLOE+ t精度最高，但 TensorRT 插件层多，编译易踩坑。
YOLOv5s社区资料最丰富，毕设报告可引用的参考文献最多。

权衡后我选YOLOv8n做 baseline，后续优化全部基于它展开。

核心实现：PyTorch → ONNX → TensorRT 一条龙

下面代码全部单文件可跑，Clean Code 原则：函数不超 40 行、变量见名知意、魔法数字收进 config。

1. 训练阶段：冻结 backbone 首层，加速收敛

# yolov8n_train.py from ultralytics import YOLO model = YOLO('yolov8n.yaml') model.load('yolov8n.pt') # 迁移学习 model.train(data='uadetrac.yaml', epochs=80, imgsz=640, freeze=10, # 只调后段，提速 17 % batch=32, device='0')

80 epoch 在 3060 上 1.5 h 收工，mAP 80.9 % → 83.7 %，满足毕设“精度提升”故事线。

2. 导出 ONNX：动态维度开关一次搞定

# export_onnx.py model = YOLO('runs/detect/exp/weights/best.pt') model.export(format='onnx', imgsz=640, half=True, simplify=True, dynamic=False) # 先关动态，TensorRT 编译更快

生成best.onnx6.3 MB，节点 216 个，无 DLPack 冗余。

3. TensorRT 引擎构建：INT8 校准省显存

# build_engine.py import tensorrt as trt from calibrator import Calibrator # 自己写 1024 张校准集 logger = trt.Logger(trt.Logger.INFO) builder = trt.OnnxParser(builder, logger) config.set_flag(trt.BuilderFlag.FP16) config.set_flag(trt.BuilderFlag.INT8) config.int8_calibrator = Calibrator('calib_images/', batch=32) engine = builder.build_serialized_network(network, config) open('yolov8n_int8.trt', 'wb').write(engine)

INT8 后显存占用再降 34 %，FPS 从 135 → 182，mAP 掉 0.6 %，完全可接受。

4. 推理封装：一次批处理、零拷贝

# trt_inference.py import tensorrt as trt, pycuda.driver as cuda import numpy as np from utils import preprocess, nms class TrtYOLO: def __init__(self, engine_path, max_batch=8): self.ctx = cuda.Device(0).make_context() with open(engine_path, 'rb') as f: self.engine = trt.Runtime(logger).deserialize_cuda_engine(f.read()) self.context = self.engine.create_execution_context() # 预分配零拷贝 self.d_input = cuda.mem_alloc(max_batch*3*640*640*2) self.d_output = cuda.mem_alloc(max_batch*8400*6*2) def infer(self, imgs): # imgs: List[np.ndarray] pre = [preprocess(i, (640,640)) for i in imgs] batch = np.stack(pre) cuda.memcpy_htod(self.d_input, batch) self.context.execute(batch.shape[0], [self.d_input, self.d_output]) out = cuda.memcpy_dtoh(self.d_output) return nms(out, conf=0.45, iou=0.5)

关键注释：

preprocess里 Letterbox 保持纵横比，避免形变。
nms用 TensorRT 插件版，CPU 回退仅做兜底，延迟 < 0.3 ms。

性能测试：实验室“老机器”实测数据

硬件：i5-10400 + RTX 3060 6 GB + PCIe3.0×16
软件：CUDA 11.8 + TensorRT 8.6 + OpenCV 4.8

配置	输入尺寸	Batch	FPS	显存	CPU 占用
PyTorch FP32	640	1	48	2.8 GB	35 %
TensorRT FP16	640	1	135	1.5 GB	18 %
TensorRT INT8	640	1	182	1.0 GB	16 %
TensorRT INT8	640	4	210	2.1 GB	20 %
TensorRT INT8	640	8	223	3.6 GB	23 %

吞吐量提升 2.3 倍，延迟从 20.8 ms 降到 4.5 ms，1080p 视频实时无压力。

生产环境避坑指南

模型版本兼容
- TensorRT 8.5 与 8.6 对 Slice 层解析差异大，引擎文件必须同版本编译，换机器就重编。
动态批处理配置
- 答辩现场可能一次推 1 帧也可能 8 帧，建引擎时opt_profile=1,4,8，避免重新 malloc。
冷启动延迟缓解
- 第一次context.execute会懒加载 CUDA kernel，提前推 10 张 dummy 图片，把 kernel 载入显存，实测可把首帧延迟从 600 ms 压到 80 ms。
OpenCV DNN 兜底方案
- 有的答辩机没 NVIDIA 驱动，提前把best.onnx留好，OpenCV 4.8 以上可直接readNetFromONNX，CPU 模式 FPS 25，能跑能演示。
INT8 校准集分布
- 别偷懒用 COCO 校准，车辆颜色、角度差异大，用 UA-DETRAC 训练集随机 1 k 张，否则 mAP 会掉 2 % 以上。