深度学习部署指南：基于Docker与TensorRT的人体检测实现（YOLO）

往期文章
RK3588+docker+YOLOv5部署：https://blog.csdn.net/FJN110/article/details/149673049
RK3588测试NPU和RKNN函数包装https://blog.csdn.net/FJN110/article/details/149669753
RK3588刷机：https://blog.csdn.net/FJN110/article/details/149669404
以及深度学习部署工程师1~31主要学习tensorRT、cmake、docker、C++基础、语义分割、目标检测、关键点识别、RTSP推流、3D模型部署、车牌检测于识别项目、人脸属性分析（年龄、性别、名称、是否佩戴口罩）等知识
好的进入本节课程：
你需要查看自己的根目录还有没有30GB空间
用df -h查看目前的空间情况
首先需要获得一个pt权重文件，我们才能部署，如果你不想要重新训练，你可以直接用我的pt文件进行TensorRT部署，跳过yolo安装、训练这些过程
代码在文章底部。
int8量化+TensoRT：200FPS
TensoRT：166FPS
CUDA：147FPS
CPU：93FPS
都是在batch为1的情况下运行，如果batch拉满可能差距会更大！！！
最后效果：
int8量化+TensorRT

TensoRT：