位置: IT常识 - 正文

Jetson AGX Orin上部署YOLOv5_v5.0+TensorRT8(jetson b01 a02)

编辑:rootadmin
Jetson AGX Orin上部署YOLOv5_v5.0+TensorRT8 一.首先是捋请思路

推荐整理分享Jetson AGX Orin上部署YOLOv5_v5.0+TensorRT8(jetson b01 a02),希望有所帮助,仅作参考,欢迎阅读内容。

文章相关热门搜索词:jetson nano a01,jetson nano a02,jetson nano deepsort,jetson nano deepsort,jetson project,jetson nano a01,jetson project,jetson nano a01,内容如对您有帮助,希望把文章链接给更多的朋友!

  ①刷机后的Orin上环境是:CUDA11.4+CUDNN8.3.2使得后续需要的部署环境只能为TensorRT8.x(这是根据cuda和cudnn的版本确定的,安装见:三.TensorRT加速优化(1))

  ②TensorRT部署这里需要一个版本对应可以看到tensorrtx的最高yolov5支持的是v5.0模型,所以第③步最高选择是到YOLOv5_v5.0.下载:(GitHub - wang-xinyu/tensorrtx at yolov5-v5.0)

  ③ YOLOv5_v5.0下载:(https://github.com/ultralytics/yolov5/tree/v5.0)

  ④ 下载.pt文件,有yolov5s.pt / yolov5l.pt / yolov5m.pt ....等,这里下载yolov5s.pt(对应上面的YOLOv5_v5.0)下载:https://github.com/ultralytics/yolov5/releases/download/v5.0/yolov5s.pt

  ⑤ 需要有OpenCV,我安装的是opencv-4.6.0 : 安装OpenCV4.6.0简洁过程--Jetson AGX Orin

 二.参考Github上的步骤流程

1. generate .wts from pytorch with .pt, or download .wts from model zoo

git clone -b v5.0 https://github.com/ultralytics/yolov5.gitgit clone https://github.com/wang-xinyu/tensorrtx.git// download https://github.com/ultralytics/yolov5/releases/download/v5.0/yolov5s.ptcp {tensorrtx}/yolov5/gen_wts.py {ultralytics}/yolov5cd {ultralytics}/yolov5python gen_wts.py -w yolov5s.pt -o yolov5s.wts// a file 'yolov5s.wts' will be generated.

2. build tensorrtx/yolov5 and run

cd {tensorrtx}/yolov5/// update CLASS_NUM in yololayer.h if your model is trained on custom datasetmkdir buildcd buildcp {ultralytics}/yolov5/yolov5s.wts {tensorrtx}/yolov5/buildcmake ..makesudo ./yolov5 -s [.wts] [.engine] [s/m/l/x/s6/m6/l6/x6 or c/c6 gd gw] // serialize model to plan filesudo ./yolov5 -d [.engine] [image folder] // deserialize and run inference, the images in [image folder] will be processed.// For example yolov5ssudo ./yolov5 -s yolov5s.wts yolov5s.engine ssudo ./yolov5 -d yolov5s.engine ../samples// For example Custom model with depth_multiple=0.17, width_multiple=0.25 in yolov5.yamlsudo ./yolov5 -s yolov5_custom.wts yolov5.engine c 0.17 0.25sudo ./yolov5 -d yolov5.engine ../samples

3. check the images generated, as follows. _zidane.jpg and _bus.jpg

4. optional, load and run the tensorrt model in python

// install python-tensorrt, pycuda, etc.// ensure the yolov5s.engine and libmyplugins.so have been builtpython yolov5_trt.py 三.实际部署过程

1. 根据前面的第一点准备好所需要的三个文件,分别是:

① tensorrtx/yolov5(准备tensorrtx文件下的yolov5文件)

② yolov5s.pt

③ yolov5-5.0.zip解压为yolov5-5.0

2. 将yolov5s.pt文件放到yolov5-5.0/weights文件下,如:

3. 打开之前实现yolov5模型检查的虚拟环境(参考:第一大点的(2)/(3)/(4))

4. 将tenorrtx/yolov5/gen_wts.py复制到yolov5-5.0文件中,并运行下面的代码,生成yolov5s.wts

python gen_wts.py --weight weights/yolov5s.pt

5. 然后进入tensorrtx/yolov5进行如下操作:

mkdir buildcd buildcmake ..make

可见这步执行完会生成一个yolov5的文件

6. 将上面第4点生成的yolov5s.wts文件复制到tensorrtx/yolov5/build

7. 执行下面代码生成引擎文件

sudo ./yolov5 -s yolov5s.wts yolov5s.engine sJetson AGX Orin上部署YOLOv5_v5.0+TensorRT8(jetson b01 a02)

8. 部署后测试

sudo ./yolov5 -d yolov5s.engine ../samples

9. 最后来对比一下是否加速了

 选择3张待检测的图片,放在tensorrtx/yolov5/examples/下

用于检测的3张图片

 ① 首先是测试没有经过训练直接检测yolov5模型

直接检测yolov5_v5.0模型结果

      000001.jpg :91ms

      bus.jpg :90ms

      zidane.jpg :93ms

② TensorRT部署后的结果

TensorRT部署后检查结果

      000001.jpg :10ms

      bus.jpg :15ms

      zidane.jpg :12ms

000001.jpg部署后的图片

       可见经过TensoRT部署后在检查时间上有所提升!

10. 训练

11. 训练后会得到一个best.pt模型,用这个模型再进行TensorRT部署结果又是如何?

 过程与上面相同,结果如下:

000001.jpg :10ms

bus.jpg :10ms

zidane.jpg :8ms

12. 最后关于yolov5_trt.py(可选,在 python 中加载并运行 tensorrt 模型)

 这里要确保执行了前面的过程tensorrtx/yolov5/build/中有yolov5s.engine and libmyplugins.so

 安装pycuda(大概十多分钟)

pip install pycuda# cd ../tensorrtx/yolov5python yolov5_trt.py

input->['samples/zidane.jpg'], time->12.71ms, saving into output/ input->['samples/bus.jpg'], time->8.90ms, saving into output/ 

bus.jpg(output/)-->8.9ms 完 结 !
本文链接地址:https://www.jiuchutong.com/zhishi/289640.html 转载请保留说明!

上一篇:HTML+CSS实现搜索框(css搜索框代码怎么写)

下一篇:YOLOv5部署到web端(flask+js简单易懂)(yolo部署到服务器)

  • vivox80pro怎么开启超广角夜景(vivox80pro怎么开空调)

    vivox80pro怎么开启超广角夜景(vivox80pro怎么开空调)

  • 抖音买家可以自己买运费险(抖音买家自提)

    抖音买家可以自己买运费险(抖音买家自提)

  • beatsx充电白灯一直亮

    beatsx充电白灯一直亮

  • 苹果手机换了电板是不是和新的一样(苹果手机换了电池会不会影响到什么)

    苹果手机换了电板是不是和新的一样(苹果手机换了电池会不会影响到什么)

  • 电脑死机按f几键恢复(电脑死机按f1)

    电脑死机按f几键恢复(电脑死机按f1)

  • vivox50pro与pro+区别(vivox50poro和pro+)

    vivox50pro与pro+区别(vivox50poro和pro+)

  • 抖音退货上传凭证是什么意思(抖音退货上传凭证,照片怎么传不上去?)

    抖音退货上传凭证是什么意思(抖音退货上传凭证,照片怎么传不上去?)

  • oppor11相机快门声音怎么关(oppor11s相机快门声怎么开关)

    oppor11相机快门声音怎么关(oppor11s相机快门声怎么开关)

  • oppoa57t是全网通手机吗

    oppoa57t是全网通手机吗

  • 小爱音响没有声音怎么回事(小爱音响没有声音怎么修理)

    小爱音响没有声音怎么回事(小爱音响没有声音怎么修理)

  • 千兆口和itv通用吗(千兆口 itv)

    千兆口和itv通用吗(千兆口 itv)

  • ip协议又称为什么协议(ip协议是用于什么的协议)

    ip协议又称为什么协议(ip协议是用于什么的协议)

  • 微型运算器主要功能是进行(微型计算机运算器)

    微型运算器主要功能是进行(微型计算机运算器)

  • 高德地图如何查看海拔(高德地图如何查海拔高度)

    高德地图如何查看海拔(高德地图如何查海拔高度)

  • 携程订票怎么取消附加产品(携程订票怎么取消全能保障服务)

    携程订票怎么取消附加产品(携程订票怎么取消全能保障服务)

  • n3手机是什么牌子手机(n3手机是什么牌子的)

    n3手机是什么牌子手机(n3手机是什么牌子的)

  • 乘车码可以用花呗吗(乘车码可以用来刷公交吗)

    乘车码可以用花呗吗(乘车码可以用来刷公交吗)

  • 华为手机怎么开启定位功能(华为手机怎么开启无线充电功能)

    华为手机怎么开启定位功能(华为手机怎么开启无线充电功能)

  • 微信删除评论对方知道吗(微信删除评论对方还能看到吗)

    微信删除评论对方知道吗(微信删除评论对方还能看到吗)

  • 如何在硬件不受支持的 PC 上安装 Windows11(如何让电脑硬件损坏)

    如何在硬件不受支持的 PC 上安装 Windows11(如何让电脑硬件损坏)

  • 电脑出现iexplore.exe应用程序错误怎么办?如何解决(电脑出现一堆英文无法开机)

    电脑出现iexplore.exe应用程序错误怎么办?如何解决(电脑出现一堆英文无法开机)

  • 苹果电脑进入安全模式教程(苹果电脑进入安全模式按什么键)

    苹果电脑进入安全模式教程(苹果电脑进入安全模式按什么键)

  • 【HTML】HTML网页设计----动漫网站设计(html的网址)

    【HTML】HTML网页设计----动漫网站设计(html的网址)

  • CORS跨域资源共享问题(CORS跨域资源共享漏洞)

    CORS跨域资源共享问题(CORS跨域资源共享漏洞)

  • 补缴的社保可以报销吗
  • 什么叫风险纳税人员
  • 采用现金支付
  • 国库券利息收入计入利润总额吗
  • 如何区分追索权和付款请求权的区别
  • 一般纳税人净利润如何计算
  • 第一次购买税控盘
  • 小微企业季报
  • 其他债权投资减值准备影响账面价值吗
  • 甲方代扣水电费怎么做账
  • 专票当月认证后什么时候抵扣
  • 取得增值税专用发票要算税吗
  • 流动性比率小于3说明什么
  • 开发间接费用是指
  • 委托加工物资加工费怎么结转
  • 增值税电子发票怎么开具流程
  • 个人独资企业需要公司章程吗
  • 个人独资所得税税率表最新
  • 请问哪些福利费不用交税
  • 预提怎么写会计分录
  • 办公室购买绿植违规吗
  • 免抵税额增值税主表体现到哪里的
  • 旧房转让土地增值税核定
  • 提供服务的发票可以抵扣税款吗?
  • 工会经费的开支必须取得发票么
  • 公司技术服务部是干嘛的
  • 1697509310
  • 支付股息如何做账务处理
  • 危险废物处置是冶金行业吗
  • linux虚拟机在哪里输入命令
  • 0x00000024蓝屏怎样解决
  • PHP:session_unset()的用法_Session函数
  • 期末坏账准备的计算
  • PHP:imagetypes()的用法_GD库图像处理函数
  • 在建工程减值准备
  • 享受小型微利企业税收优惠的条件
  • 布列塔尼岛屿
  • api接口长什么样
  • 如何修改python
  • 人工智能ai软件免费版app
  • uniapp 手写识别
  • iframe之间通信
  • 消费税购置税价格一样
  • 借入资金用于生产经营
  • 原财政补助结余对应新账
  • phpcms插件
  • 完美ui
  • 三代手续费操作流程
  • 存货跌价准备借减贷增吗
  • mysql查询在什么之间
  • 享受残疾人增值服务的是
  • 应收账款全额计提的条件
  • 从农民手中购买粮食税率
  • 税金及附加的核算范围
  • 融资方式股权融资
  • 处理报废的固定资产账务处理
  • 差旅费包干管理办法
  • mysql与sqlyog
  • mysql连接查询和子查询效率
  • win10有三个系统
  • win8系统界面切换成win7
  • win8如何快速启动
  • windows模拟
  • win7看视频黑屏有声音
  • win10更新后自动锁定
  • apache2.4.46配置
  • mac系统教程
  • linux oracle 01034
  • Win10怎么添加游戏
  • cocos2d教程
  • 事件委托实现
  • vue实现标签页效果
  • 在线视频爬取工具
  • python的math模块只有pass
  • 如何利用百度地图定位
  • python不同进制的整数之间可以直接运算
  • python编程简单案例
  • 税务局上班吗今天
  • 湖南增值税普通发票查询系统官网
  • 河南12306区号
  • 免责声明:网站部分图片文字素材来源于网络,如有侵权,请及时告知,我们会第一时间删除,谢谢! 邮箱:opceo@qq.com

    鄂ICP备2023003026号

    网站地图: 企业信息 工商信息 财税知识 网络常识 编程技术

    友情链接: 武汉网站建设