位置: IT常识 - 正文

改进YOLO:YOLOv5结合swin transformer(改进的拼音)

编辑:rootadmin
改进YOLO:YOLOv5结合swin transformer 文章参考于芒果大神,在自己的数据集上跑了一下,改了一些出现的错误。一、配置yolov5_swin_transfomrer.yaml# Parametersnc: 10 # number of classesdepth_multiple: 0.33 # model depth multiplewidth_multiple: 0.50 # layer channel multipleanchors: - [10,13, 16,30, 33,23] # P3/8 - [30,61, 62,45, 59,119] # P4/16 - [116,90, 156,198, 373,326] # P5/32# YOLOv5 v6.0 backbone by yoloairbackbone: # [from, number, module, args] [[-1, 1, Conv, [64, 6, 2, 2]], # 0-P1/2 [-1, 1, Conv, [128, 3, 2]], # 1-P2/4 [-1, 3, C3STR, [128]], [-1, 1, Conv, [256, 3, 2]], # 3-P3/8 [-1, 6, C3STR, [256]], [-1, 1, Conv, [512, 3, 2]], # 5-P4/16 [-1, 9, C3STR, [512]], [-1, 1, Conv, [1024, 3, 2]], # 7-P5/32 [-1, 3, C3STR, [1024]], # 9 <--- ST2CSPB() Transformer module [-1, 1, SPPF, [512, 512]], # 9 ]# YOLOv5 v6.0 headhead: [[-1, 1, Conv, [512, 1, 1]], [-1, 1, nn.Upsample, [None, 2, 'nearest']], [[-1, 6], 1, Concat, [1]], # cat backbone P4 [-1, 3, C3, [512, False]], # 13 [-1, 1, Conv, [256, 1, 1]], [-1, 1, nn.Upsample, [None, 2, 'nearest']], [[-1, 4], 1, Concat, [1]], # cat backbone P3 [-1, 3, C3, [256, False]], # 17 (P3/8-small) [-1, 1, Conv, [256, 3, 2]], [[-1, 14], 1, Concat, [1]], # cat head P4 [-1, 3, C3, [512, False]], # 20 (P4/16-medium) [-1, 1, Conv, [512, 3, 2]], [[-1, 10], 1, Concat, [1]], # cat head P5 [-1, 3, C3, [1024, False]], # 23 (P5/32-large) [[17, 20, 23], 1, Detect, [nc, anchors]], # Detect(P3, P4, P5) ]二、配置common.py文件

推荐整理分享改进YOLO:YOLOv5结合swin transformer(改进的拼音),希望有所帮助,仅作参考,欢迎阅读内容。

文章相关热门搜索词:改进英语,改进英语,改进工作作风 增强工作实效,改进工作作风 增强工作实效,改进什么,改进的近义词,改进英语,改进英语,内容如对您有帮助,希望把文章链接给更多的朋友!

在common.py中增加以下下代码:

class SwinTransformerBlock(nn.Module): def __init__(self, c1, c2, num_heads, num_layers, window_size=8): super().__init__() self.conv = None if c1 != c2: self.conv = Conv(c1, c2) # remove input_resolution self.blocks = nn.Sequential(*[SwinTransformerLayer(dim=c2, num_heads=num_heads, window_size=window_size, shift_size=0 if (i % 2 == 0) else window_size // 2) for i in range(num_layers)]) def forward(self, x): if self.conv is not None: x = self.conv(x) x = self.blocks(x) return xclass WindowAttention(nn.Module): def __init__(self, dim, window_size, num_heads, qkv_bias=True, qk_scale=None, attn_drop=0., proj_drop=0.): super().__init__() self.dim = dim self.window_size = window_size # Wh, Ww self.num_heads = num_heads head_dim = dim // num_heads self.scale = qk_scale or head_dim ** -0.5 # define a parameter table of relative position bias self.relative_position_bias_table = nn.Parameter( torch.zeros((2 * window_size[0] - 1) * (2 * window_size[1] - 1), num_heads)) # 2*Wh-1 * 2*Ww-1, nH # get pair-wise relative position index for each token inside the window coords_h = torch.arange(self.window_size[0]) coords_w = torch.arange(self.window_size[1]) coords = torch.stack(torch.meshgrid([coords_h, coords_w])) # 2, Wh, Ww coords_flatten = torch.flatten(coords, 1) # 2, Wh*Ww relative_coords = coords_flatten[:, :, None] - coords_flatten[:, None, :] # 2, Wh*Ww, Wh*Ww relative_coords = relative_coords.permute(1, 2, 0).contiguous() # Wh*Ww, Wh*Ww, 2 relative_coords[:, :, 0] += self.window_size[0] - 1 # shift to start from 0 relative_coords[:, :, 1] += self.window_size[1] - 1 relative_coords[:, :, 0] *= 2 * self.window_size[1] - 1 relative_position_index = relative_coords.sum(-1) # Wh*Ww, Wh*Ww self.register_buffer("relative_position_index", relative_position_index) self.qkv = nn.Linear(dim, dim * 3, bias=qkv_bias) self.attn_drop = nn.Dropout(attn_drop) self.proj = nn.Linear(dim, dim) self.proj_drop = nn.Dropout(proj_drop) nn.init.normal_(self.relative_position_bias_table, std=.02) self.softmax = nn.Softmax(dim=-1) def forward(self, x, mask=None): B_, N, C = x.shape qkv = self.qkv(x).reshape(B_, N, 3, self.num_heads, C // self.num_heads).permute(2, 0, 3, 1, 4) q, k, v = qkv[0], qkv[1], qkv[2] # make torchscript happy (cannot use tensor as tuple) q = q * self.scale attn = (q @ k.transpose(-2, -1)) relative_position_bias = self.relative_position_bias_table[self.relative_position_index.view(-1)].view( self.window_size[0] * self.window_size[1], self.window_size[0] * self.window_size[1], -1) # Wh*Ww,Wh*Ww,nH relative_position_bias = relative_position_bias.permute(2, 0, 1).contiguous() # nH, Wh*Ww, Wh*Ww attn = attn + relative_position_bias.unsqueeze(0) if mask is not None: nW = mask.shape[0] attn = attn.view(B_ // nW, nW, self.num_heads, N, N) + mask.unsqueeze(1).unsqueeze(0) attn = attn.view(-1, self.num_heads, N, N) attn = self.softmax(attn) else: attn = self.softmax(attn) attn = self.attn_drop(attn) # print(attn.dtype, v.dtype) try: x = (attn @ v).transpose(1, 2).reshape(B_, N, C) except: #print(attn.dtype, v.dtype) x = (attn.half() @ v).transpose(1, 2).reshape(B_, N, C) x = self.proj(x) x = self.proj_drop(x) return xclass Mlp(nn.Module): def __init__(self, in_features, hidden_features=None, out_features=None, act_layer=nn.SiLU, drop=0.): super().__init__() out_features = out_features or in_features hidden_features = hidden_features or in_features self.fc1 = nn.Linear(in_features, hidden_features) self.act = act_layer() self.fc2 = nn.Linear(hidden_features, out_features) self.drop = nn.Dropout(drop) def forward(self, x): x = self.fc1(x) x = self.act(x) x = self.drop(x) x = self.fc2(x) x = self.drop(x) return xclass SwinTransformerLayer(nn.Module): def __init__(self, dim, num_heads, window_size=8, shift_size=0, mlp_ratio=4., qkv_bias=True, qk_scale=None, drop=0., attn_drop=0., drop_path=0., act_layer=nn.SiLU, norm_layer=nn.LayerNorm): super().__init__() self.dim = dim self.num_heads = num_heads self.window_size = window_size self.shift_size = shift_size self.mlp_ratio = mlp_ratio # if min(self.input_resolution) <= self.window_size: # # if window size is larger than input resolution, we don't partition windows # self.shift_size = 0 # self.window_size = min(self.input_resolution) assert 0 <= self.shift_size < self.window_size, "shift_size must in 0-window_size" self.norm1 = norm_layer(dim) self.attn = WindowAttention( dim, window_size=(self.window_size, self.window_size), num_heads=num_heads, qkv_bias=qkv_bias, qk_scale=qk_scale, attn_drop=attn_drop, proj_drop=drop) self.drop_path = DropPath(drop_path) if drop_path > 0. else nn.Identity() self.norm2 = norm_layer(dim) mlp_hidden_dim = int(dim * mlp_ratio) self.mlp = Mlp(in_features=dim, hidden_features=mlp_hidden_dim, act_layer=act_layer, drop=drop) def create_mask(self, H, W): # calculate attention mask for SW-MSA img_mask = torch.zeros((1, H, W, 1)) # 1 H W 1 h_slices = (slice(0, -self.window_size), slice(-self.window_size, -self.shift_size), slice(-self.shift_size, None)) w_slices = (slice(0, -self.window_size), slice(-self.window_size, -self.shift_size), slice(-self.shift_size, None)) cnt = 0 for h in h_slices: for w in w_slices: img_mask[:, h, w, :] = cnt cnt += 1 mask_windows = window_partition(img_mask, self.window_size) # nW, window_size, window_size, 1 mask_windows = mask_windows.view(-1, self.window_size * self.window_size) attn_mask = mask_windows.unsqueeze(1) - mask_windows.unsqueeze(2) attn_mask = attn_mask.masked_fill(attn_mask != 0, float(-100.0)).masked_fill(attn_mask == 0, float(0.0)) return attn_mask def forward(self, x): # reshape x[b c h w] to x[b l c] _, _, H_, W_ = x.shape Padding = False if min(H_, W_) < self.window_size or H_ % self.window_size!=0 or W_ % self.window_size!=0: Padding = True # print(f'img_size {min(H_, W_)} is less than (or not divided by) window_size {self.window_size}, Padding.') pad_r = (self.window_size - W_ % self.window_size) % self.window_size pad_b = (self.window_size - H_ % self.window_size) % self.window_size x = F.pad(x, (0, pad_r, 0, pad_b)) # print('2', x.shape) B, C, H, W = x.shape L = H * W x = x.permute(0, 2, 3, 1).contiguous().view(B, L, C) # b, L, c # create mask from init to forward if self.shift_size > 0: attn_mask = self.create_mask(H, W).to(x.device) else: attn_mask = None shortcut = x x = self.norm1(x) x = x.view(B, H, W, C) # cyclic shift if self.shift_size > 0: shifted_x = torch.roll(x, shifts=(-self.shift_size, -self.shift_size), dims=(1, 2)) else: shifted_x = x # partition windows x_windows = window_partition(shifted_x, self.window_size) # nW*B, window_size, window_size, C x_windows = x_windows.view(-1, self.window_size * self.window_size, C) # nW*B, window_size*window_size, C # W-MSA/SW-MSA attn_windows = self.attn(x_windows, mask=attn_mask) # nW*B, window_size*window_size, C # merge windows attn_windows = attn_windows.view(-1, self.window_size, self.window_size, C) shifted_x = window_reverse(attn_windows, self.window_size, H, W) # B H' W' C # reverse cyclic shift if self.shift_size > 0: x = torch.roll(shifted_x, shifts=(self.shift_size, self.shift_size), dims=(1, 2)) else: x = shifted_x x = x.view(B, H * W, C) # FFN x = shortcut + self.drop_path(x) x = x + self.drop_path(self.mlp(self.norm2(x))) x = x.permute(0, 2, 1).contiguous().view(-1, C, H, W) # b c h w if Padding: x = x[:, :, :H_, :W_] # reverse padding return xclass C3STR(C3): # C3 module with SwinTransformerBlock() def __init__(self, c1, c2, n=1, shortcut=True, g=1, e=0.5): super().__init__(c1, c2, n, shortcut, g, e) c_ = int(c2 * e) num_heads = c_ // 32 self.m = SwinTransformerBlock(c_, c_, num_heads, n)三、yolo.py文件配置

在parse_model(d, ch)函数中增加C3STR

四、train.py文件配置

在if __name__ == '__main__':中更改cfg

改进YOLO:YOLOv5结合swin transformer(改进的拼音)

五、一些问题

1.NameError: name 'F' is not defined

在common.py中增加以下代码:

import torch.nn.functional as F

2.File "D:\Projects\yoloair-main\models\common.py", line 1519, in __init__ super().__init__(c1, c2, c2, n, shortcut, g, e) TypeError: __init__() takes from 3 to 7 positional arguments but 8 were given

去掉一个c2。

3.NameError: name 'window_partition' is not defined

def window_partition(x, window_size): """ Args: x: (B, H, W, C) window_size (int): window size Returns: windows: (num_windows*B, window_size, window_size, C) """ B, H, W, C = x.shape x = x.view(B, H // window_size, window_size, W // window_size, window_size, C) windows = x.permute(0, 1, 3, 2, 4, 5).contiguous().view(-1, window_size, window_size, C) return windows

4.NameError: name 'window_reverse' is not defined

ef window_reverse(windows, window_size, H, W): """ Args: windows: (num_windows*B, window_size, window_size, C) window_size (int): Window size H (int): Height of image W (int): Width of image Returns: x: (B, H, W, C) """ B = int(windows.shape[0] / (H * W / window_size / window_size)) x = windows.view(B, H // window_size, W // window_size, window_size, window_size, -1) x = x.permute(0, 1, 3, 2, 4, 5).contiguous().view(B, H, W, -1) return x
本文链接地址:https://www.jiuchutong.com/zhishi/298904.html 转载请保留说明!

上一篇:unplugin-auto-import 和 unplugin-vue-components(unplugin-auto-import/vite)

下一篇:使用Axios前后端交互(超详细)建议点赞收藏(前端axios请求怎么中断)

  • 畅玩7C怎么截屏(华为荣耀畅玩7怎么截图怎么截)

    畅玩7C怎么截屏(华为荣耀畅玩7怎么截图怎么截)

  • win7屏幕休眠时间怎么调(win7屏幕休眠时间不生效)

    win7屏幕休眠时间怎么调(win7屏幕休眠时间不生效)

  • 如何恢复微信支付通知(如何恢复微信支付功能设置)

    如何恢复微信支付通知(如何恢复微信支付功能设置)

  • hp1020plus为什么还卖这么贵(惠普1020plus为什么那么贵)

    hp1020plus为什么还卖这么贵(惠普1020plus为什么那么贵)

  • 华为音乐怎么卸载(怎么能把华为音乐卸载)

    华为音乐怎么卸载(怎么能把华为音乐卸载)

  • 笔记本摄像头多少像素(笔记本摄像头多少万像素)

    笔记本摄像头多少像素(笔记本摄像头多少万像素)

  • 淘宝商品已下单是什么意思(淘宝商品已下单,但未发货,能退款吗)

    淘宝商品已下单是什么意思(淘宝商品已下单,但未发货,能退款吗)

  • 爱奇艺怎么两人共用(爱奇艺怎么两人一起同步看)

    爱奇艺怎么两人共用(爱奇艺怎么两人一起同步看)

  • 算法基本结构(算法基本结构的特点)

    算法基本结构(算法基本结构的特点)

  • 蓝牙耳机用什么充电器充电(蓝牙耳机用什么传递信息)

    蓝牙耳机用什么充电器充电(蓝牙耳机用什么传递信息)

  • 为什么抖音不能绑定QQ(为什么抖音不能连续点赞)

    为什么抖音不能绑定QQ(为什么抖音不能连续点赞)

  • oppor系列是不是取消了(oppor系列是高端机吗)

    oppor系列是不是取消了(oppor系列是高端机吗)

  • 苹果手机频繁跳出中国移动(苹果手机频繁跳出欢迎使用中国移动)

    苹果手机频繁跳出中国移动(苹果手机频繁跳出欢迎使用中国移动)

  • 快手里退款关闭怎么办(快手退款关闭是什么意思)

    快手里退款关闭怎么办(快手退款关闭是什么意思)

  • 为什么qq不能给别人点赞了(为什么qq不能给自己发文件)

    为什么qq不能给别人点赞了(为什么qq不能给自己发文件)

  • 小米5c 会是全网通吗(小米5c现在还值得入手吗)

    小米5c 会是全网通吗(小米5c现在还值得入手吗)

  • 快手附近人是在附近吗(快手附近人在线是真的吗)

    快手附近人是在附近吗(快手附近人在线是真的吗)

  • 新的华为p30pro屏幕需要贴膜吗(p30 p30pro屏幕)

    新的华为p30pro屏幕需要贴膜吗(p30 p30pro屏幕)

  • 打电话显示未网络注册(打电话显示无网络服务是怎么回事)

    打电话显示未网络注册(打电话显示无网络服务是怎么回事)

  • 苹果xs怎么放两张卡(苹果xs怎么用两张卡)

    苹果xs怎么放两张卡(苹果xs怎么用两张卡)

  • 手机上怎么注销手机号(手机上怎么注销etc)

    手机上怎么注销手机号(手机上怎么注销etc)

  • sos在哪里设置(sos怎样设置)

    sos在哪里设置(sos怎样设置)

  • 扫描仪如何扫描文件(扫描仪如何扫描彩色)

    扫描仪如何扫描文件(扫描仪如何扫描彩色)

  • 华为lnd一al20是什么型号(华为ldn-al20参数)

    华为lnd一al20是什么型号(华为ldn-al20参数)

  • 支付宝怎么关闭人脸支付(支付宝怎么关闭自动扣款)

    支付宝怎么关闭人脸支付(支付宝怎么关闭自动扣款)

  • 苹果手机为什么没有9和10(苹果手机为什么无线局域网打不开)

    苹果手机为什么没有9和10(苹果手机为什么无线局域网打不开)

  • 飞猪怎么绑定12306(飞猪怎么绑定信用卡)

    飞猪怎么绑定12306(飞猪怎么绑定信用卡)

  • corei3与i5有什么区别(intelcorei3和i5处理器的区别)

    corei3与i5有什么区别(intelcorei3和i5处理器的区别)

  • 滴滴好评在哪里看(滴滴车结束了怎么给评价)

    滴滴好评在哪里看(滴滴车结束了怎么给评价)

  • Vue.js笔记------事件(vue.js.)

    Vue.js笔记------事件(vue.js.)

  • 消费税的计算方法有什么
  • 固定资产出售如何申报增值税
  • 有形动产租赁服务属于现代服务吗
  • 平台收取的佣金开具什么发票
  • 出口企业免抵税额在增值税申报表填写附表5
  • 生产企业出口货物会计分录
  • 设备租赁公司是干嘛的
  • 付给其他公司的利息怎么做账
  • 付给供应商远期延期支票怎么做账?
  • 过路费占运费比例
  • 房产证没有可以补办吗
  • 纳税人首次办税补充信息表怎么填
  • 固定资产无形资产折旧时间起始
  • 出售固定资产未收款账务处理
  • 其他业务支出和其他业务成本的区别
  • 国际收款产生的手续费账务处理
  • 赠票视同销售,借方计入什么科目?
  • 2019年出租车
  • 生产成本中的电费计入制造费用吗
  • win11压缩文件
  • win10电脑键盘灵敏度怎么调
  • 医药批发行业增值税税负率
  • 以产品对外投资需要进项税额转出吗
  • 企业发行股票的溢价收入应计入
  • PHP:Memcached::setOption()的用法_Memcached类
  • 会计账簿的登记
  • 新英格兰的秋天
  • php验证码显示不出来
  • php xml转字符串
  • 施工企业成本费用有哪些方面构成
  • 基建项目招标流程
  • 阿里什么
  • 基于Java+SpringBoot+vue+elementui药品商城采购系统详细设计实现
  • 扣发工资是发还是不发
  • 事业单位收到银行利息如何记账
  • 营业收入为什么不包括营业外收入
  • 固定资产租赁费属于什么费用
  • 合伙企业需要做工商吗
  • 应收票据贴现的会计处理
  • 小规模纳税人增值税计算公式
  • 个人所得税如何扣税
  • 关联表的作用
  • 无票收入是怎么算的
  • 什么情况纳税
  • 会计账簿登记错误
  • 低值易耗品费用计入产品成本的方式有哪几种
  • 企业转让固定资产发生的费用可扣除吗
  • 承租方承担的税费有哪些
  • 新成立公司实收资本没到位该怎么做账
  • 什么叫摊销
  • 个体工商户是否要交税
  • 库存商品与存货总额之比
  • 红冲上一年度销售收入
  • 间接费用的分配公式
  • 普通发票作废如何操作
  • 管理费用增加记贷方还是借方
  • 数据库表的查询学会了什么
  • igs文件是什么文件
  • linux0.01编译
  • mblme是什么进程
  • cocoscreator lua
  • textview可以点击吗
  • require jquery
  • 拦截器 aop
  • python抓取软件界面数据
  • Host 'admin-PC' is not allowed to connect to this MySQL server
  • JavaScript window.document的属性、方法和事件小结
  • jquery中的css方法
  • Javascript & DHTML 实例编程(教程)(四)初级实例篇2—动画
  • jQuery实现Select左右复制移动内容
  • java learning
  • javascript的含义和作用
  • android网络访问异常提示有哪些
  • 常规巡察和专项巡察相结合
  • 以划拨方式取得的土地使用权
  • 江苏电子税务局网站官网
  • 税控发票开票软件提示非征期不得抄报税?是什么意思?
  • blueerdos和鄂尔多斯区别
  • 增值税纳税申报表附列资料(三)
  • 营改增后如何纳税
  • 免责声明:网站部分图片文字素材来源于网络,如有侵权,请及时告知,我们会第一时间删除,谢谢! 邮箱:opceo@qq.com

    鄂ICP备2023003026号

    网站地图: 企业信息 工商信息 财税知识 网络常识 编程技术

    友情链接: 武汉网站建设