往期文章
RK3588+docker+YOLOv5部署:https://blog.csdn.net/FJN110/article/details/149673049
RK3588测试NPU和RKNN函数包装https://blog.csdn.net/FJN110/article/details/149669753
RK3588刷机:https://blog.csdn.net/FJN110/article/details/149669404
以及深度学习部署工程师1~31主要学习tensorRT、cmake、docker、C++基础、语义分割、目标检测、关键点识别、RTSP推流、3D模型部署、车牌检测于识别项目、人脸属性分析(年龄、性别、名称、是否佩戴口罩)等知识
好的进入本节课程:
你需要查看自己的根目录还有没有30GB空间
用df -h查看目前的空间情况
首先需要获得一个pt权重文件,我们才能部署,如果你不想要重新训练,你可以直接用我的pt文件进行TensorRT部署,跳过yolo安装、训练这些过程
代码在文章底部。
int8量化+TensoRT:200FPS
TensoRT:166FPS
CUDA:147FPS
CPU:93FPS
都是在batch为1的情况下运行,如果batch拉满可能差距会更大!!!
最后效果:
int8量化+TensorRT
TensoRT:
Docker+TensorRT:YOLO人体检测部署与推理教程
张小明
前端开发工程师
Open-AutoGLM会议提醒助手:日程同步执行代理部署案例
Open-AutoGLM会议提醒助手:日程同步执行代理部署案例 你有没有过这样的经历:开会前五分钟才想起没设置提醒,手忙脚乱翻日历、点通知、切App,结果还是迟到了?或者明明在日历里写了“下午3点项目复盘”,却因…
踩过这些坑才懂:SGLang使用中的那些陷阱
踩过这些坑才懂:SGLang使用中的那些陷阱 SGLang-v0.5.6镜像作为当前主流的结构化大模型推理框架,凭借RadixAttention缓存复用、正则约束解码和DSL编程抽象等特性,确实在吞吐量和易用性上带来了显著提升。但真实工程落地远非文档里几行命令那…
Qwen-Image-2512如何快速出图?‘1键启动’脚本真香
Qwen-Image-2512如何快速出图?‘1键启动’脚本真香 本文由 源码七号站 原创整理,转载请注明出处。如果你已经厌倦了反复配置环境、手动下载模型、调试节点连线,只想打开电脑就生成高质量图片——那这篇专为“懒人工程师”和“效率优先型创作…
告别手动配置!JDK一键安装效率提升300%
快速体验 打开 InsCode(快马)平台 https://www.inscode.net输入框内输入如下内容: 开发一个跨平台JDK自动化安装工具,功能要求:1. 支持OpenJDK/OracleJDK多版本选择;2. 自动识别系统环境(Windows/macOS/Linux&#x…
用AI自动生成橙色RGB配色方案的前端工具
快速体验 打开 InsCode(快马)平台 https://www.inscode.net输入框内输入如下内容: 创建一个基于橙色RGB(255,165,0)的前端配色方案生成器。要求:1. 主色调使用橙色RGB(255,165,0) 2. 自动生成3种深浅变化的辅助色 3. 提供对比色建议 4. 输出完整的CSS变…
IDEA新建SPRINGBOOT项目开发效率提升秘籍
快速体验 打开 InsCode(快马)平台 https://www.inscode.net输入框内输入如下内容: 构建一个IDEA新建SPRINGBOOT项目应用,重点展示快速开发流程和效率优势。点击项目生成按钮,等待项目生成完整后预览效果 作为一名Java开发者,我经…