位置: IT常识 - 正文

[YOLOv7/YOLOv5系列算法改进NO.11]主干网络C3替换为轻量化网络MobileNetV3(yolov5m)

编辑:rootadmin

推荐整理分享[YOLOv7/YOLOv5系列算法改进NO.11]主干网络C3替换为轻量化网络MobileNetV3(yolov5m),希望有所帮助,仅作参考,欢迎阅读内容。

文章相关热门搜索词:yolov5 ciou,yolov5 c,yolov5简介,yolo v5详解,yolov5tiny,yolov5m,yolov5s,yolov5s,内容如对您有帮助,希望把文章链接给更多的朋友!

​前 言:作为当前先进的深度学习目标检测算法YOLOv5,已经集合了大量的trick,但是还是有提高和改进的空间,针对具体应用场景下的检测难点,可以不同的改进方法。此后的系列文章,将重点对YOLOv5的如何改进进行详细的介绍,目的是为了给那些搞科研的同学需要创新点或者搞工程项目的朋友需要达到更好的效果提供自己的微薄帮助和参考。

解决问题:YOLOv5主干特征提取网络采用C3结构,带来较大的参数量,检测速度较慢,应用受限,在某些真实的应用场景如移动或者嵌入式设备,如此大而复杂的模型时难以被应用的。首先是模型过于庞大,面临着内存不足的问题,其次这些场景要求低延迟,或者说响应速度要快,想象一下自动驾驶汽车的行人检测系统如果速度很慢会发生什么可怕的事情。所以,研究小而高效的CNN模型在这些场景至关重要,至少目前是这样,尽管未来硬件也会越来越快。本文尝试将主干特征提取网络替换为更轻量的MobileNet网络,以实现网络模型的轻量化,平衡速度和精度。

原理:

论文地址:https://arxiv.org/abs/1905.02244.pdf

代 码:https://github.com/LeBron-Jian/DeepLearningNote

MobileNet V3 相关技术如下:

1,用 MnasNet 搜索网络结构

2,用 V1 的深度可分离

3,用 V2 的倒置残差线性瓶颈结构

[YOLOv7/YOLOv5系列算法改进NO.11]主干网络C3替换为轻量化网络MobileNetV3(yolov5m)

4,引入 SE模块

5,新的激活函数 h-swish(x)

6,网络搜索中利用两个策略:资源受限的 NAS 和 NetAdapt

7,修改 V2 最后部分减小计算

方 法:

第一步修改common.py,增加MobileNetV3模块。部分代码如下。

class StemBlock(nn.Module): def __init__(self, c1, c2, k=3, s=2, p=None, g=1, act=True): super(StemBlock, self).__init__() self.stem_1 = Conv(c1, c2, k, s, p, g, act) self.stem_2a = Conv(c2, c2 // 2, 1, 1, 0) self.stem_2b = Conv(c2 // 2, c2, 3, 2, 1) self.stem_2p = nn.MaxPool2d(kernel_size=2, stride=2, ceil_mode=True) self.stem_3 = Conv(c2 * 2, c2, 1, 1, 0) def forward(self, x): stem_1_out = self.stem_1(x) stem_2a_out = self.stem_2a(stem_1_out) stem_2b_out = self.stem_2b(stem_2a_out) stem_2p_out = self.stem_2p(stem_1_out) out = self.stem_3(torch.cat((stem_2b_out, stem_2p_out), 1)) return outclass h_swish(nn.Module): def __init__(self, inplace=True): super(h_swish, self).__init__() self.sigmoid = h_sigmoid(inplace=inplace) def forward(self, x): y = self.sigmoid(x) return x * yclass SELayer(nn.Module): def __init__(self, channel, reduction=4): super(SELayer, self).__init__() self.avg_pool = nn.AdaptiveAvgPool2d(1) self.fc = nn.Sequential( nn.Linear(channel, channel // reduction), nn.ReLU(inplace=True), nn.Linear(channel // reduction, channel), h_sigmoid() ) def forward(self, x): b, c, _, _ = x.size() y = self.avg_pool(x) y = y.view(b, c) y = self.fc(y).view(b, c, 1, 1) return x * yclass conv_bn_hswish(nn.Module): """ This equals to def conv_3x3_bn(inp, oup, stride): return nn.Sequential( nn.Conv2d(inp, oup, 3, stride, 1, bias=False), nn.BatchNorm2d(oup), h_swish() ) """ def __init__(self, c1, c2, stride): super(conv_bn_hswish, self).__init__() self.conv = nn.Conv2d(c1, c2, 3, stride, 1, bias=False) self.bn = nn.BatchNorm2d(c2) self.act = h_swish() def forward(self, x): return self.act(self.bn(self.conv(x))) def fuseforward(self, x): return self.act(self.conv(x))class MobileNetV3_InvertedResidual(nn.Module): def __init__(self, inp, oup, hidden_dim, kernel_size, stride, use_se, use_hs): super(MobileNetV3_InvertedResidual, self).__init__() assert stride in [1, 2] self.identity = stride == 1 and inp == oup if inp == hidden_dim: self.conv = nn.Sequential( # dw nn.Conv2d(hidden_dim, hidden_dim, kernel_size, stride, (kernel_size - 1) // 2, groups=hidden_dim, bias=False), nn.BatchNorm2d(hidden_dim), h_swish() if use_hs else nn.ReLU(inplace=True), # Squeeze-and-Excite SELayer(hidden_dim) if use_se else nn.Sequential(), # Eca_layer(hidden_dim) if use_se else nn.Sequential(),#1.13.2022 # pw-linear nn.Conv2d(hidden_dim, oup, 1, 1, 0, bias=False), nn.BatchNorm2d(oup), ) else: self.conv = nn.Sequential( # pw nn.Conv2d(inp, hidden_dim, 1, 1, 0, bias=False), nn.BatchNorm2d(hidden_dim), h_swish() if use_hs else nn.ReLU(inplace=True), # dw nn.Conv2d(hidden_dim, hidden_dim, kernel_size, stride, (kernel_size - 1) // 2, groups=hidden_dim, bias=False), nn.BatchNorm2d(hidden_dim), # Squeeze-and-Excite SELayer(hidden_dim) if use_se else nn.Sequential(), # Eca_layer(hidden_dim) if use_se else nn.Sequential(), # 1.13.2022 h_swish() if use_hs else nn.ReLU(inplace=True), # pw-linear nn.Conv2d(hidden_dim, oup, 1, 1, 0, bias=False), nn.BatchNorm2d(oup), ) def forward(self, x): y = self.conv(x) if self.identity: return x + y else: return y

第二步:将yolo.py中注册模块。

if m in [Conv,MobileNetV3_InvertedResidual,ShuffleNetV2_InvertedResidual, ]:

第三步:修改yaml文件

backbone: # MobileNetV3-large # [from, number, module, args] [[-1, 1, conv_bn_hswish, [16, 2]], # 0-p1/2 [-1, 1, MobileNetV3_InvertedResidual, [ 16, 16, 3, 1, 0, 0]], # 1-p1/2 [-1, 1, MobileNetV3_InvertedResidual, [ 24, 64, 3, 2, 0, 0]], # 2-p2/4 [-1, 1, MobileNetV3_InvertedResidual, [ 24, 72, 3, 1, 0, 0]], # 3-p2/4 [-1, 1, MobileNetV3_InvertedResidual, [ 40, 72, 5, 2, 1, 0]], # 4-p3/8 [-1, 1, MobileNetV3_InvertedResidual, [ 40, 120, 5, 1, 1, 0]], # 5-p3/8 [-1, 1, MobileNetV3_InvertedResidual, [ 40, 120, 5, 1, 1, 0]], # 6-p3/8 [-1, 1, MobileNetV3_InvertedResidual, [ 80, 240, 3, 2, 0, 1]], # 7-p4/16 [-1, 1, MobileNetV3_InvertedResidual, [ 80, 200, 3, 1, 0, 1]], # 8-p4/16 [-1, 1, MobileNetV3_InvertedResidual, [ 80, 184, 3, 1, 0, 1]], # 9-p4/16 [-1, 1, MobileNetV3_InvertedResidual, [ 80, 184, 3, 1, 0, 1]], # 10-p4/16 [-1, 1, MobileNetV3_InvertedResidual, [112, 480, 3, 1, 1, 1]], # 11-p4/16 [-1, 1, MobileNetV3_InvertedResidual, [112, 672, 3, 1, 1, 1]], # 12-p4/16 [-1, 1, MobileNetV3_InvertedResidual, [160, 672, 5, 1, 1, 1]], # 13-p4/16 [-1, 1, MobileNetV3_InvertedResidual, [160, 960, 5, 2, 1, 1]], # 14-p5/32 原672改为原算法960 [-1, 1, MobileNetV3_InvertedResidual, [160, 960, 5, 1, 1, 1]], # 15-p5/32 ]

结 果:本人在多个数据集上做了大量实验,针对不同的数据集效果不同,map值有所下降,但是权值模型大小降低,参数量下降。

预告一下:下一篇内容将继续分享网络轻量化方法的分享。有兴趣的朋友可以关注一下我,有问题可以留言或者私聊我哦

PS:干网络的替换不仅仅是适用改进YOLOv5,也可以改进其他的YOLO网络以及目标检测网络,比如YOLOv4、v3等。

最后,希望能互粉一下,做个朋友,一起学习交流。

本文链接地址:https://www.jiuchutong.com/zhishi/293745.html 转载请保留说明!

上一篇:uniapp制作pc端响应式布局——带开源前端【伸手党福利】【持续更新】(uniapp实战视频教程)

下一篇:麒麟Linux操作系统磁盘策略永久调整为deadline(麒麟软件的linux桌面操作系统)

  • mate30pro微信视频带美颜功能吗

    mate30pro微信视频带美颜功能吗

  • 抖音金卡是啥(抖音金卡合成了还算集齐吗)

    抖音金卡是啥(抖音金卡合成了还算集齐吗)

  • vivox23多久充满电(正常vivox23手机充满电能用多久)

    vivox23多久充满电(正常vivox23手机充满电能用多久)

  • 淘宝淘金币金主兑换日是哪天(淘宝淘金币金主为什么取消)

    淘宝淘金币金主兑换日是哪天(淘宝淘金币金主为什么取消)

  • 在word中如果当前光标在表格中某行(在word中如果当前光标在表格最后单元格外如何取消)

    在word中如果当前光标在表格中某行(在word中如果当前光标在表格最后单元格外如何取消)

  • 荣耀x10的呼吸灯在哪(荣耀x10的呼吸灯怎么设置)

    荣耀x10的呼吸灯在哪(荣耀x10的呼吸灯怎么设置)

  • 华为nova7是不是曲面屏(华为nova7是不是快充)

    华为nova7是不是曲面屏(华为nova7是不是快充)

  • 微信关注公众号安全吗(微信关注公众号给佣金的是什么套路)

    微信关注公众号安全吗(微信关注公众号给佣金的是什么套路)

  • 诺基亚220 4g手机在国内上市了吗(诺基亚220 4g手机怎么下载音乐)

    诺基亚220 4g手机在国内上市了吗(诺基亚220 4g手机怎么下载音乐)

  • 荣耀20可以双击亮屏吗(荣耀20可以双击截图吗)

    荣耀20可以双击亮屏吗(荣耀20可以双击截图吗)

  • word怎么只把一页横向(word怎么只把一页转成pdf)

    word怎么只把一页横向(word怎么只把一页转成pdf)

  • 怎样移动软件(怎样移动软件到别的盘里?)

    怎样移动软件(怎样移动软件到别的盘里?)

  • huawei share关不掉(huawei share没反应)

    huawei share关不掉(huawei share没反应)

  • 京东怎么清空评价中心(京东怎么清空评价的东西)

    京东怎么清空评价中心(京东怎么清空评价的东西)

  • 抖音视频怎么唱歌(抖音视频怎么唱完整首歌)

    抖音视频怎么唱歌(抖音视频怎么唱完整首歌)

  • 电脑ie浏览器怎么升级(电脑IE浏览器怎么看什么版本)

    电脑ie浏览器怎么升级(电脑IE浏览器怎么看什么版本)

  • 高通骁龙710和712有什么区别(高通骁龙710和660处理器哪个好)

    高通骁龙710和712有什么区别(高通骁龙710和660处理器哪个好)

  • 联想y7000p键盘灯怎么开(联想y7000p键盘灯怎么变色)

    联想y7000p键盘灯怎么开(联想y7000p键盘灯怎么变色)

  • 红米k20pro有nfc吗(红米k20pro有nfc吗?)

    红米k20pro有nfc吗(红米k20pro有nfc吗?)

  • 小米手环4nfc区别(小米智能手环4nfc)

    小米手环4nfc区别(小米智能手环4nfc)

  • ps对比度快捷键(ps调对比度快捷键)

    ps对比度快捷键(ps调对比度快捷键)

  • 马瑙斯附近的亚马逊河流域鸟瞰图,巴西 (© Art Wolfe/Danita Delimont)(马瑙斯市)

    马瑙斯附近的亚马逊河流域鸟瞰图,巴西 (© Art Wolfe/Danita Delimont)(马瑙斯市)

  • 语谱图(一) Spectrogram 的定义与机理(语谱图生成)

    语谱图(一) Spectrogram 的定义与机理(语谱图生成)

  • 企业所得税会计分录怎么做
  • 经营所得和企业所得
  • 专用发票只能公对公吗
  • 高铁票丢失了可以二次打印吗
  • 砖厂开票员的工作流程
  • 开具银行资信证明
  • 会计核算差错
  • 自产的不同产品有哪些
  • 免税企业开了含税发票
  • 公司租用土地
  • 燃气在建工程要怎么转固定资产呢?
  • 进的货没有入库怎么处理
  • 餐饮发票忘记作废也没冲红怎么处理?
  • 股权转让流程详解
  • 小规模纳税人需要建账吗
  • 视同销售行为怎么进行财税处理?
  • 报销员工午餐费怎么入账
  • 餐饮业现金流
  • 华为鸿蒙系统耗电量快吗
  • neotrace.exe - neotrace是什么进程 有什么用
  • kali linux怎么修改用户名
  • 进口商品增值税可以抵扣吗
  • linux如何管理进程
  • PHP:pg_connection_busy()的用法_PostgreSQL函数
  • 敬老院利润分析
  • umi ts
  • 盘亏固定资产累计折旧
  • 应退税款抵扣欠税款的账务处理
  • 个体工商户生产经营所得税税率表2023
  • 公司报销额度是什么意思
  • bcdboot命令怎么用
  • python删除nan
  • 政府补贴收入确认政策
  • ps使用背景橡皮擦的时候需要按住什么键
  • 企业缴纳职工社保需要每月去社保局吗
  • 与取得收入无关的费用支出可以扣除吗
  • 企业合并的定义是什么
  • 长期股权投资入账
  • 企业之间的借款计入什么科目
  • 定金罚则可以约定吗
  • 小规模纳税人自行开具增值税专用发票税率
  • 行政事业单位资产报废账务处理
  • 发票必须包含什么内容
  • 无形资产如何摊销 当月还是下月
  • 安装调试费计入
  • 企业没有工会的需要计提嘛
  • 企业筹办费计入什么科目
  • 其他应收款对应的预算会计
  • 公司清算后能不能转让
  • 电商刷单的成本如何处理?
  • 员工入股会计分录
  • 房地产企业收到政府补助
  • 消费税什么时候计入成本
  • 出口退税勾选后电子税务局查不到发票
  • 应税销售行为如何处理
  • 企业收付实现制还是权责发生制
  • sqlserver数据库怎么导出
  • windows注册表简单应用
  • ubuntu简单的命令
  • windows 2000 server系统安装图解
  • qplus.exe是什么进程
  • centos dvd安装
  • 360安全卫士windows7
  • 电脑迅雷影音在哪个文件夹
  • drawcalls2000多
  • extjs grid设置某列背景颜色和字体颜色的实现方法
  • 处理判断字符串是否相等
  • android保存文件到本地
  • dos 删除文件夹下所有文件
  • Python中random模块
  • jquery有自定义选择器吗
  • jquery实现原理
  • jquery22插件网
  • jquery form validate
  • 缴纳个人所得税怎么计算
  • 电子税务局财务报表利润表本期金额
  • 以房产作价投资入股如何处理
  • 浅谈新时代劳动教育答案
  • 国际税务处岗位职责
  • 保税区企业会有两个海关编码吗
  • 免责声明:网站部分图片文字素材来源于网络,如有侵权,请及时告知,我们会第一时间删除,谢谢! 邮箱:opceo@qq.com

    鄂ICP备2023003026号

    网站地图: 企业信息 工商信息 财税知识 网络常识 编程技术

    友情链接: 武汉网站建设