位置: IT常识 - 正文

Jetson AGX Orin上部署YOLOv5_v5.0+TensorRT8(jetson b01 a02)

编辑:rootadmin
Jetson AGX Orin上部署YOLOv5_v5.0+TensorRT8 一.首先是捋请思路

推荐整理分享Jetson AGX Orin上部署YOLOv5_v5.0+TensorRT8(jetson b01 a02),希望有所帮助,仅作参考,欢迎阅读内容。

文章相关热门搜索词:jetson nano a01,jetson nano a02,jetson nano deepsort,jetson nano deepsort,jetson project,jetson nano a01,jetson project,jetson nano a01,内容如对您有帮助,希望把文章链接给更多的朋友!

  ①刷机后的Orin上环境是:CUDA11.4+CUDNN8.3.2使得后续需要的部署环境只能为TensorRT8.x(这是根据cuda和cudnn的版本确定的,安装见:三.TensorRT加速优化(1))

  ②TensorRT部署这里需要一个版本对应可以看到tensorrtx的最高yolov5支持的是v5.0模型,所以第③步最高选择是到YOLOv5_v5.0.下载:(GitHub - wang-xinyu/tensorrtx at yolov5-v5.0)

  ③ YOLOv5_v5.0下载:(https://github.com/ultralytics/yolov5/tree/v5.0)

  ④ 下载.pt文件,有yolov5s.pt / yolov5l.pt / yolov5m.pt ....等,这里下载yolov5s.pt(对应上面的YOLOv5_v5.0)下载:https://github.com/ultralytics/yolov5/releases/download/v5.0/yolov5s.pt

  ⑤ 需要有OpenCV,我安装的是opencv-4.6.0 : 安装OpenCV4.6.0简洁过程--Jetson AGX Orin

 二.参考Github上的步骤流程

1. generate .wts from pytorch with .pt, or download .wts from model zoo

git clone -b v5.0 https://github.com/ultralytics/yolov5.gitgit clone https://github.com/wang-xinyu/tensorrtx.git// download https://github.com/ultralytics/yolov5/releases/download/v5.0/yolov5s.ptcp {tensorrtx}/yolov5/gen_wts.py {ultralytics}/yolov5cd {ultralytics}/yolov5python gen_wts.py -w yolov5s.pt -o yolov5s.wts// a file 'yolov5s.wts' will be generated.

2. build tensorrtx/yolov5 and run

cd {tensorrtx}/yolov5/// update CLASS_NUM in yololayer.h if your model is trained on custom datasetmkdir buildcd buildcp {ultralytics}/yolov5/yolov5s.wts {tensorrtx}/yolov5/buildcmake ..makesudo ./yolov5 -s [.wts] [.engine] [s/m/l/x/s6/m6/l6/x6 or c/c6 gd gw] // serialize model to plan filesudo ./yolov5 -d [.engine] [image folder] // deserialize and run inference, the images in [image folder] will be processed.// For example yolov5ssudo ./yolov5 -s yolov5s.wts yolov5s.engine ssudo ./yolov5 -d yolov5s.engine ../samples// For example Custom model with depth_multiple=0.17, width_multiple=0.25 in yolov5.yamlsudo ./yolov5 -s yolov5_custom.wts yolov5.engine c 0.17 0.25sudo ./yolov5 -d yolov5.engine ../samples

3. check the images generated, as follows. _zidane.jpg and _bus.jpg

4. optional, load and run the tensorrt model in python

// install python-tensorrt, pycuda, etc.// ensure the yolov5s.engine and libmyplugins.so have been builtpython yolov5_trt.py 三.实际部署过程

1. 根据前面的第一点准备好所需要的三个文件,分别是:

① tensorrtx/yolov5(准备tensorrtx文件下的yolov5文件)

② yolov5s.pt

③ yolov5-5.0.zip解压为yolov5-5.0

2. 将yolov5s.pt文件放到yolov5-5.0/weights文件下,如:

3. 打开之前实现yolov5模型检查的虚拟环境(参考:第一大点的(2)/(3)/(4))

4. 将tenorrtx/yolov5/gen_wts.py复制到yolov5-5.0文件中,并运行下面的代码,生成yolov5s.wts

python gen_wts.py --weight weights/yolov5s.pt

5. 然后进入tensorrtx/yolov5进行如下操作:

mkdir buildcd buildcmake ..make

可见这步执行完会生成一个yolov5的文件

6. 将上面第4点生成的yolov5s.wts文件复制到tensorrtx/yolov5/build

7. 执行下面代码生成引擎文件

sudo ./yolov5 -s yolov5s.wts yolov5s.engine sJetson AGX Orin上部署YOLOv5_v5.0+TensorRT8(jetson b01 a02)

8. 部署后测试

sudo ./yolov5 -d yolov5s.engine ../samples

9. 最后来对比一下是否加速了

 选择3张待检测的图片,放在tensorrtx/yolov5/examples/下

用于检测的3张图片

 ① 首先是测试没有经过训练直接检测yolov5模型

直接检测yolov5_v5.0模型结果

      000001.jpg :91ms

      bus.jpg :90ms

      zidane.jpg :93ms

② TensorRT部署后的结果

TensorRT部署后检查结果

      000001.jpg :10ms

      bus.jpg :15ms

      zidane.jpg :12ms

000001.jpg部署后的图片

       可见经过TensoRT部署后在检查时间上有所提升!

10. 训练

11. 训练后会得到一个best.pt模型,用这个模型再进行TensorRT部署结果又是如何?

 过程与上面相同,结果如下:

000001.jpg :10ms

bus.jpg :10ms

zidane.jpg :8ms

12. 最后关于yolov5_trt.py(可选,在 python 中加载并运行 tensorrt 模型)

 这里要确保执行了前面的过程tensorrtx/yolov5/build/中有yolov5s.engine and libmyplugins.so

 安装pycuda(大概十多分钟)

pip install pycuda# cd ../tensorrtx/yolov5python yolov5_trt.py

input->['samples/zidane.jpg'], time->12.71ms, saving into output/ input->['samples/bus.jpg'], time->8.90ms, saving into output/ 

bus.jpg(output/)-->8.9ms 完 结 !
本文链接地址:https://www.jiuchutong.com/zhishi/289640.html 转载请保留说明!

上一篇:HTML+CSS实现搜索框(css搜索框代码怎么写)

下一篇:YOLOv5部署到web端(flask+js简单易懂)(yolo部署到服务器)

  • 计提税费如何写分录
  • 企业纳税信用等级评定标准
  • 预缴增值税附加税费申报明细表
  • 什么公司不可以上市
  • 居民转供电收费标准
  • 税款状态已缴款未入库
  • 利润分配未分配利润借贷方表示什么
  • 新会计准则下接会计科目
  • 房产税和城市房地产税
  • 资产减值损失借贷方向
  • 生产企业出口退税
  • 商品削价准备怎么算
  • 转账支票背书有时间限制吗
  • 给企业供货都有哪些渠道
  • 厂开办期间的工作有哪些
  • 资产负债表越来越少了是怎么回事
  • 租赁费交税税率是多少
  • 哪些行为违反法律但不违反道德
  • 税务登记五证合一是哪五证
  • 小规模纳税人减征额怎么计算
  • 什么情况下企业不能辞退员工
  • 工资薪金中的误餐补助,征收个人所得税
  • 所得税预缴资产怎么计算
  • 计提工资当月要结转吗?
  • 哪些凭证可以抵扣
  • php编写
  • php初始化会话
  • mac系统怎么添加网络映射
  • 总结关于现金清查的会计核算分录
  • 外汇收入情况说明
  • 深度优先python
  • 稿酬特许权使用费的预扣率是多少
  • laravel实战教程
  • 通讯费补贴如何入账
  • consul框架
  • h5 画图
  • Vue3通透教程【一】Vue3现状—必然趋势?
  • 十大经典排序算法(动图演示C 实现)
  • 猿创部落是干什么的
  • 小程序微信认证
  • 装修公司管理费是什么
  • 用友t6模块
  • 企业改制资产整合过程中涉及的土地增值税
  • mongodb数据查询
  • 公司给部分员工长期停工怎么办
  • 纳税人提供不动产经营租赁服务增值税征收管理暂行办法
  • 月底资产负债表怎么填
  • 怎么计算土地增值税收入
  • 人力资源外包服务企业
  • 如何调整以前年度库存
  • 研发费用加计扣除的条件
  • 总公司费用能分摊到分公司吗
  • 大修和维修怎样定义
  • 进口形式发票能证明商品是进口的吗
  • 员工的报销
  • 高新企业研发项目规定几个
  • 进项票是服务费怎么做会计分录
  • 经营性应付项目减少对经营活动现金
  • 存货与总账对账
  • 设备管理器xp系统
  • win8.1系统HDMI高清线连接电视后没有声音的原因及解决办法
  • wps文字打印不清楚怎么办
  • windows xp windows
  • linux命令行在哪
  • 电脑跳出windows 许可
  • 产品密钥需要购买吗
  • Win7系统打开D盘文件后怎么没有后退箭头
  • win7正版提示
  • jquery浮动窗口
  • 分享一下什么
  • angularjs2
  • jquery选择器的优势有哪些
  • eclipse安转
  • android获取设备输出声音
  • android数据存储与访问的方式有
  • 你家预收租金到哪里去了
  • 医保报销是按自然年计算吗
  • 外地户口在绍兴读小学
  • 贵州省地方税务局公告2016年第13号
  • 包装物押金的计算
  • 免责声明:网站部分图片文字素材来源于网络,如有侵权,请及时告知,我们会第一时间删除,谢谢! 邮箱:opceo@qq.com

    鄂ICP备2023003026号

    网站地图: 企业信息 工商信息 财税知识 网络常识 编程技术

    友情链接: 武汉网站建设