位置: IT常识 - 正文

Jetson AGX Orin上部署YOLOv5_v5.0+TensorRT8(jetson b01 a02)

编辑：rootadmin

Jetson AGX Orin上部署YOLOv5_v5.0+TensorRT8 一．首先是捋请思路

推荐整理分享Jetson AGX Orin上部署YOLOv5_v5.0+TensorRT8(jetson b01 a02)，希望有所帮助，仅作参考，欢迎阅读内容。

文章相关热门搜索词:jetson nano a01,jetson nano a02,jetson nano deepsort,jetson nano deepsort,jetson project,jetson nano a01,jetson project,jetson nano a01,内容如对您有帮助，希望把文章链接给更多的朋友！

　　①刷机后的Orin上环境是：CUDA11.4+CUDNN8.3.2使得后续需要的部署环境只能为TensorRT8.x（这是根据cuda和cudnn的版本确定的，安装见：三．TensorRT加速优化（１））

　　②TensorRT部署这里需要一个版本对应可以看到tensorrtx的最高yolov5支持的是v5.0模型，所以第③步最高选择是到YOLOv5_v5.0．下载：（GitHub - wang-xinyu/tensorrtx at yolov5-v5.0）

　　③ YOLOv5_v5.0下载：（https://github.com/ultralytics/yolov5/tree/v5.0）

　　④ 下载.pt文件，有yolov5s.pt / yolov5l.pt / yolov5m.pt ....等，这里下载yolov5s.pt（对应上面的YOLOv5_v5.0）下载：https://github.com/ultralytics/yolov5/releases/download/v5.0/yolov5s.pt

　　⑤ 需要有OpenCV，我安装的是opencv-4.6.0 : 安装OpenCV4.6.0简洁过程--Jetson AGX Orin

二．参考Github上的步骤流程

1. generate .wts from pytorch with .pt, or download .wts from model zoo

git clone -b v5.0 https://github.com/ultralytics/yolov5.gitgit clone https://github.com/wang-xinyu/tensorrtx.git// download https://github.com/ultralytics/yolov5/releases/download/v5.0/yolov5s.ptcp {tensorrtx}/yolov5/gen_wts.py {ultralytics}/yolov5cd {ultralytics}/yolov5python gen_wts.py -w yolov5s.pt -o yolov5s.wts// a file 'yolov5s.wts' will be generated.

2. build tensorrtx/yolov5 and run

cd {tensorrtx}/yolov5/// update CLASS_NUM in yololayer.h if your model is trained on custom datasetmkdir buildcd buildcp {ultralytics}/yolov5/yolov5s.wts {tensorrtx}/yolov5/buildcmake ..makesudo ./yolov5 -s [.wts] [.engine] [s/m/l/x/s6/m6/l6/x6 or c/c6 gd gw] // serialize model to plan filesudo ./yolov5 -d [.engine] [image folder] // deserialize and run inference, the images in [image folder] will be processed.// For example yolov5ssudo ./yolov5 -s yolov5s.wts yolov5s.engine ssudo ./yolov5 -d yolov5s.engine ../samples// For example Custom model with depth_multiple=0.17, width_multiple=0.25 in yolov5.yamlsudo ./yolov5 -s yolov5_custom.wts yolov5.engine c 0.17 0.25sudo ./yolov5 -d yolov5.engine ../samples

3. check the images generated, as follows. _zidane.jpg and _bus.jpg

4. optional, load and run the tensorrt model in python

// install python-tensorrt, pycuda, etc.// ensure the yolov5s.engine and libmyplugins.so have been builtpython yolov5_trt.py 三．实际部署过程

1. 根据前面的第一点准备好所需要的三个文件，分别是：

① tensorrtx/yolov5（准备tensorrtx文件下的yolov5文件）

② yolov5s.pt

③ yolov5-5.0.zip解压为yolov5-5.0

2. 将yolov5s.pt文件放到yolov5-5.0/weights文件下，如：

3. 打开之前实现yolov5模型检查的虚拟环境（参考：第一大点的（２）/（３）/（４））

4. 将tenorrtx/yolov5/gen_wts.py复制到yolov5-5.0文件中，并运行下面的代码，生成yolov5s.wts

python gen_wts.py --weight weights/yolov5s.pt

5. 然后进入tensorrtx/yolov5进行如下操作：