位置: IT常识 - 正文

深度学习部署(十九): CUDA RunTime API YOLOV5后处理cpu解码以及gpu解码

编辑:rootadmin
深度学习部署(十九): CUDA RunTime API YOLOV5后处理cpu解码以及gpu解码

推荐整理分享深度学习部署(十九): CUDA RunTime API YOLOV5后处理cpu解码以及gpu解码,希望有所帮助,仅作参考,欢迎阅读内容。

深度学习部署(十九): CUDA RunTime API YOLOV5后处理cpu解码以及gpu解码

文章相关热门搜索词:,内容如对您有帮助,希望把文章链接给更多的朋友!

跟着杜老师学AI

看看我们干了什么, 就是把bouding box恢复成框而已

1.1 知识点和先验知识对于模型推理后的后处理,可以直接使用cuda核函数进行解码,效率比较高nms也可以在核函数里面实现这里演示了一个yolov5的实际案例,后续其他的操作都是类似的gpu_decoder难度较大,一般先写一个cpu的decoder, 再写个gpu_decoder.注意: yolov5 中的detect.py是对一张图片做推理, 推理用的信息是(n x num_classes + 5)yolov5的输出tensor(n x 85), n 是 n个bounding box其中85是cx, cy, width, height, objness, classification * 80objctness(物体检测)的意思是当前这个Bounding Box是否包含检测目标class_confidence条件概率的意思是当前Bounding Box的对于是否包含这个类别目标的概率, 并且每一个bounding box里面有全类别的class_confidence。当前bounding box的 confidence(置信度) = objectness(物体概率) x class_confidence(条件概率)最后拿来计算置信度的confidence是最大的class_confidence总之, 无论是CPU解码还是GPU解码, 都是两步走, 置信度过滤后NMS过滤, 把一张图多余的框去掉。但是NMS操作之前需要先把Box信息恢复成框在GPU解码输出中,[count, box1, box2, box3] 因为GPU解码是多线程的, 所以需要用count记录已经处理了多少个bounding box。CPU单线程不需要, GPU需要确保不会将一个检测框重复输出或者漏掉。在深度学习部署中,通常使用单精度浮点数(float)来存储数据。单精度浮点数占用4个字节,相比于双精度浮点数(double)占用的8个字节,可以减少存储空间和计算时间,同时也可以更好地利用GPU的计算资源。不过,在某些特殊情况下,可能需要使用双精度浮点数来更准确地表示数据。代码中看到f要知道为什么在CPU和GPU用box信息回复bounding box的时候需要知道, 图像的左上角才是原点下图是NMS流程图 1.2 kernel函数的简单了解kernel函数可以理解为是对线程的模板, 写好了一个模板其他线程都可以用这个模板高性能计算这里面怎么知道是哪一个呢? 用position索引就行了在CUDA中,静态修饰符static用于限制变量、函数、结构体等在当前文件中的作用范围。在Kernel函数中,使用静态修饰符可以避免编译器为每个线程重新创建一份变量,提高代码的效率。通常情况下,我们会将Kernel函数
本文链接地址:https://www.jiuchutong.com/zhishi/299615.html 转载请保留说明!

上一篇:Python+chatGPT编程5分钟快速上手,强烈推荐!!!(python编程100例)

下一篇:二维码基本原理(二维码的实现原理和实现过程)

  • 安徽增值税发票查询系统
  • 亏损属于什么科目
  • 预缴增值税的销售额怎么填
  • 企业新成立,何种情况下需要开始记账报税
  • 缴纳上月附加税会计科目
  • 9个点的发票跟6个点区别
  • 非税收入一般缴款书一式几联
  • 公司代缴个税分录
  • 企业所得税预缴计算方法
  • 资产负债表日后调整事项与非调整事项的区别
  • 所得税汇算清缴表在哪里打印
  • 保障房异地建设费缴纳契税吗?
  • 公司房产税如何征收税率
  • 承兑汇票兑现怎么填写
  • 一个工程项目多次收款怎样预交增值税
  • 建筑施工外包
  • 金蝶软件开发服务费入什么科目?
  • 营改增后小规模纳税人
  • 个人去税务局开劳务票 税点是多少
  • 计提增值税电费怎么算
  • 商业保险可以报税吗
  • 新办企业国税报税时间
  • 2017年7月1日开始实施的税法新规
  • 增值税扣税凭证抵减销项税额
  • 盈余公积可以发放工资吗
  • 销项负数票需要把之前的票退回吗
  • 公司奖励员工旅游怎么做账
  • 机会成本怎么计量
  • 员工报销现在用什么软件
  • 固定资产计算折旧时用扣除减值吗
  • 成本核算核算要素有哪些
  • 异地增值税预交可以网上缴纳吗
  • php数组可以使用哪些键名
  • 国税的个税手续怎么办理
  • Windows11如何使用管理员账号登录
  • 发财树的养殖方法和浇水时间
  • 公司怎么查已报销发票
  • php7.4配置
  • php两个等号和三个的区别
  • 实用的开源软件
  • html零基础入门教程
  • opencv官方教程
  • excel2016添加指定行数
  • 收到生育津贴入什么科目
  • 未交增值税借方余额怎么调整
  • access 运行sql
  • 培训学校收入如何确认
  • 一个人可以有两张同一个银行的卡吗
  • 应付账款会计分录怎么写
  • 对方多开票账务会怎么样
  • 应收账款多出来的钱记到什么科目
  • 虚开发票但是没有成本如何做账?
  • 餐饮业可以开具免税发票吗
  • 外经证预交税款可以以后月份抵扣吗
  • 如何判断企业处于什么阶段
  • 个人社保缴纳会不会自动扣款
  • mysql8.0环境配置
  • mysql的日志
  • windows8命令提示符命令大全
  • win8.1升级到win10
  • iis w3svc
  • secbizsrv.exe是什么程序
  • win10系统无法打开这个应用
  • 升级win10系统后鼠标键盘无法用什么原因
  • mac个性定制在哪
  • windows为什么会成功
  • 微软推出windows1
  • nginx sbin目录
  • win7如何删除网络上的其它计算机
  • 删除滑动解锁图片
  • Android之Android apk动态加载机制的研究
  • dos 批处理
  • Android使用领域是什么
  • javascript数学函数
  • 用nodejs做的项目
  • 咪咕游戏包括什么
  • javascript编程基础
  • 商铺缴纳契税需要复印件吗
  • 银行扣账户维护费会计分录
  • 3.5排量的车船税多少钱
  • 免责声明:网站部分图片文字素材来源于网络,如有侵权,请及时告知,我们会第一时间删除,谢谢! 邮箱:opceo@qq.com

    鄂ICP备2023003026号

    网站地图: 企业信息 工商信息 财税知识 网络常识 编程技术

    友情链接: 武汉网站建设