位置: IT常识 - 正文

改进YOLO:YOLOv5结合swin transformer(改进的拼音)

编辑:rootadmin
改进YOLO:YOLOv5结合swin transformer 文章参考于芒果大神,在自己的数据集上跑了一下,改了一些出现的错误。一、配置yolov5_swin_transfomrer.yaml# Parametersnc: 10 # number of classesdepth_multiple: 0.33 # model depth multiplewidth_multiple: 0.50 # layer channel multipleanchors: - [10,13, 16,30, 33,23] # P3/8 - [30,61, 62,45, 59,119] # P4/16 - [116,90, 156,198, 373,326] # P5/32# YOLOv5 v6.0 backbone by yoloairbackbone: # [from, number, module, args] [[-1, 1, Conv, [64, 6, 2, 2]], # 0-P1/2 [-1, 1, Conv, [128, 3, 2]], # 1-P2/4 [-1, 3, C3STR, [128]], [-1, 1, Conv, [256, 3, 2]], # 3-P3/8 [-1, 6, C3STR, [256]], [-1, 1, Conv, [512, 3, 2]], # 5-P4/16 [-1, 9, C3STR, [512]], [-1, 1, Conv, [1024, 3, 2]], # 7-P5/32 [-1, 3, C3STR, [1024]], # 9 <--- ST2CSPB() Transformer module [-1, 1, SPPF, [512, 512]], # 9 ]# YOLOv5 v6.0 headhead: [[-1, 1, Conv, [512, 1, 1]], [-1, 1, nn.Upsample, [None, 2, 'nearest']], [[-1, 6], 1, Concat, [1]], # cat backbone P4 [-1, 3, C3, [512, False]], # 13 [-1, 1, Conv, [256, 1, 1]], [-1, 1, nn.Upsample, [None, 2, 'nearest']], [[-1, 4], 1, Concat, [1]], # cat backbone P3 [-1, 3, C3, [256, False]], # 17 (P3/8-small) [-1, 1, Conv, [256, 3, 2]], [[-1, 14], 1, Concat, [1]], # cat head P4 [-1, 3, C3, [512, False]], # 20 (P4/16-medium) [-1, 1, Conv, [512, 3, 2]], [[-1, 10], 1, Concat, [1]], # cat head P5 [-1, 3, C3, [1024, False]], # 23 (P5/32-large) [[17, 20, 23], 1, Detect, [nc, anchors]], # Detect(P3, P4, P5) ]二、配置common.py文件

推荐整理分享改进YOLO:YOLOv5结合swin transformer(改进的拼音),希望有所帮助,仅作参考,欢迎阅读内容。

文章相关热门搜索词:改进英语,改进英语,改进工作作风 增强工作实效,改进工作作风 增强工作实效,改进什么,改进的近义词,改进英语,改进英语,内容如对您有帮助,希望把文章链接给更多的朋友!

在common.py中增加以下下代码:

class SwinTransformerBlock(nn.Module): def __init__(self, c1, c2, num_heads, num_layers, window_size=8): super().__init__() self.conv = None if c1 != c2: self.conv = Conv(c1, c2) # remove input_resolution self.blocks = nn.Sequential(*[SwinTransformerLayer(dim=c2, num_heads=num_heads, window_size=window_size, shift_size=0 if (i % 2 == 0) else window_size // 2) for i in range(num_layers)]) def forward(self, x): if self.conv is not None: x = self.conv(x) x = self.blocks(x) return xclass WindowAttention(nn.Module): def __init__(self, dim, window_size, num_heads, qkv_bias=True, qk_scale=None, attn_drop=0., proj_drop=0.): super().__init__() self.dim = dim self.window_size = window_size # Wh, Ww self.num_heads = num_heads head_dim = dim // num_heads self.scale = qk_scale or head_dim ** -0.5 # define a parameter table of relative position bias self.relative_position_bias_table = nn.Parameter( torch.zeros((2 * window_size[0] - 1) * (2 * window_size[1] - 1), num_heads)) # 2*Wh-1 * 2*Ww-1, nH # get pair-wise relative position index for each token inside the window coords_h = torch.arange(self.window_size[0]) coords_w = torch.arange(self.window_size[1]) coords = torch.stack(torch.meshgrid([coords_h, coords_w])) # 2, Wh, Ww coords_flatten = torch.flatten(coords, 1) # 2, Wh*Ww relative_coords = coords_flatten[:, :, None] - coords_flatten[:, None, :] # 2, Wh*Ww, Wh*Ww relative_coords = relative_coords.permute(1, 2, 0).contiguous() # Wh*Ww, Wh*Ww, 2 relative_coords[:, :, 0] += self.window_size[0] - 1 # shift to start from 0 relative_coords[:, :, 1] += self.window_size[1] - 1 relative_coords[:, :, 0] *= 2 * self.window_size[1] - 1 relative_position_index = relative_coords.sum(-1) # Wh*Ww, Wh*Ww self.register_buffer("relative_position_index", relative_position_index) self.qkv = nn.Linear(dim, dim * 3, bias=qkv_bias) self.attn_drop = nn.Dropout(attn_drop) self.proj = nn.Linear(dim, dim) self.proj_drop = nn.Dropout(proj_drop) nn.init.normal_(self.relative_position_bias_table, std=.02) self.softmax = nn.Softmax(dim=-1) def forward(self, x, mask=None): B_, N, C = x.shape qkv = self.qkv(x).reshape(B_, N, 3, self.num_heads, C // self.num_heads).permute(2, 0, 3, 1, 4) q, k, v = qkv[0], qkv[1], qkv[2] # make torchscript happy (cannot use tensor as tuple) q = q * self.scale attn = (q @ k.transpose(-2, -1)) relative_position_bias = self.relative_position_bias_table[self.relative_position_index.view(-1)].view( self.window_size[0] * self.window_size[1], self.window_size[0] * self.window_size[1], -1) # Wh*Ww,Wh*Ww,nH relative_position_bias = relative_position_bias.permute(2, 0, 1).contiguous() # nH, Wh*Ww, Wh*Ww attn = attn + relative_position_bias.unsqueeze(0) if mask is not None: nW = mask.shape[0] attn = attn.view(B_ // nW, nW, self.num_heads, N, N) + mask.unsqueeze(1).unsqueeze(0) attn = attn.view(-1, self.num_heads, N, N) attn = self.softmax(attn) else: attn = self.softmax(attn) attn = self.attn_drop(attn) # print(attn.dtype, v.dtype) try: x = (attn @ v).transpose(1, 2).reshape(B_, N, C) except: #print(attn.dtype, v.dtype) x = (attn.half() @ v).transpose(1, 2).reshape(B_, N, C) x = self.proj(x) x = self.proj_drop(x) return xclass Mlp(nn.Module): def __init__(self, in_features, hidden_features=None, out_features=None, act_layer=nn.SiLU, drop=0.): super().__init__() out_features = out_features or in_features hidden_features = hidden_features or in_features self.fc1 = nn.Linear(in_features, hidden_features) self.act = act_layer() self.fc2 = nn.Linear(hidden_features, out_features) self.drop = nn.Dropout(drop) def forward(self, x): x = self.fc1(x) x = self.act(x) x = self.drop(x) x = self.fc2(x) x = self.drop(x) return xclass SwinTransformerLayer(nn.Module): def __init__(self, dim, num_heads, window_size=8, shift_size=0, mlp_ratio=4., qkv_bias=True, qk_scale=None, drop=0., attn_drop=0., drop_path=0., act_layer=nn.SiLU, norm_layer=nn.LayerNorm): super().__init__() self.dim = dim self.num_heads = num_heads self.window_size = window_size self.shift_size = shift_size self.mlp_ratio = mlp_ratio # if min(self.input_resolution) <= self.window_size: # # if window size is larger than input resolution, we don't partition windows # self.shift_size = 0 # self.window_size = min(self.input_resolution) assert 0 <= self.shift_size < self.window_size, "shift_size must in 0-window_size" self.norm1 = norm_layer(dim) self.attn = WindowAttention( dim, window_size=(self.window_size, self.window_size), num_heads=num_heads, qkv_bias=qkv_bias, qk_scale=qk_scale, attn_drop=attn_drop, proj_drop=drop) self.drop_path = DropPath(drop_path) if drop_path > 0. else nn.Identity() self.norm2 = norm_layer(dim) mlp_hidden_dim = int(dim * mlp_ratio) self.mlp = Mlp(in_features=dim, hidden_features=mlp_hidden_dim, act_layer=act_layer, drop=drop) def create_mask(self, H, W): # calculate attention mask for SW-MSA img_mask = torch.zeros((1, H, W, 1)) # 1 H W 1 h_slices = (slice(0, -self.window_size), slice(-self.window_size, -self.shift_size), slice(-self.shift_size, None)) w_slices = (slice(0, -self.window_size), slice(-self.window_size, -self.shift_size), slice(-self.shift_size, None)) cnt = 0 for h in h_slices: for w in w_slices: img_mask[:, h, w, :] = cnt cnt += 1 mask_windows = window_partition(img_mask, self.window_size) # nW, window_size, window_size, 1 mask_windows = mask_windows.view(-1, self.window_size * self.window_size) attn_mask = mask_windows.unsqueeze(1) - mask_windows.unsqueeze(2) attn_mask = attn_mask.masked_fill(attn_mask != 0, float(-100.0)).masked_fill(attn_mask == 0, float(0.0)) return attn_mask def forward(self, x): # reshape x[b c h w] to x[b l c] _, _, H_, W_ = x.shape Padding = False if min(H_, W_) < self.window_size or H_ % self.window_size!=0 or W_ % self.window_size!=0: Padding = True # print(f'img_size {min(H_, W_)} is less than (or not divided by) window_size {self.window_size}, Padding.') pad_r = (self.window_size - W_ % self.window_size) % self.window_size pad_b = (self.window_size - H_ % self.window_size) % self.window_size x = F.pad(x, (0, pad_r, 0, pad_b)) # print('2', x.shape) B, C, H, W = x.shape L = H * W x = x.permute(0, 2, 3, 1).contiguous().view(B, L, C) # b, L, c # create mask from init to forward if self.shift_size > 0: attn_mask = self.create_mask(H, W).to(x.device) else: attn_mask = None shortcut = x x = self.norm1(x) x = x.view(B, H, W, C) # cyclic shift if self.shift_size > 0: shifted_x = torch.roll(x, shifts=(-self.shift_size, -self.shift_size), dims=(1, 2)) else: shifted_x = x # partition windows x_windows = window_partition(shifted_x, self.window_size) # nW*B, window_size, window_size, C x_windows = x_windows.view(-1, self.window_size * self.window_size, C) # nW*B, window_size*window_size, C # W-MSA/SW-MSA attn_windows = self.attn(x_windows, mask=attn_mask) # nW*B, window_size*window_size, C # merge windows attn_windows = attn_windows.view(-1, self.window_size, self.window_size, C) shifted_x = window_reverse(attn_windows, self.window_size, H, W) # B H' W' C # reverse cyclic shift if self.shift_size > 0: x = torch.roll(shifted_x, shifts=(self.shift_size, self.shift_size), dims=(1, 2)) else: x = shifted_x x = x.view(B, H * W, C) # FFN x = shortcut + self.drop_path(x) x = x + self.drop_path(self.mlp(self.norm2(x))) x = x.permute(0, 2, 1).contiguous().view(-1, C, H, W) # b c h w if Padding: x = x[:, :, :H_, :W_] # reverse padding return xclass C3STR(C3): # C3 module with SwinTransformerBlock() def __init__(self, c1, c2, n=1, shortcut=True, g=1, e=0.5): super().__init__(c1, c2, n, shortcut, g, e) c_ = int(c2 * e) num_heads = c_ // 32 self.m = SwinTransformerBlock(c_, c_, num_heads, n)三、yolo.py文件配置

在parse_model(d, ch)函数中增加C3STR

四、train.py文件配置

在if __name__ == '__main__':中更改cfg

改进YOLO:YOLOv5结合swin transformer(改进的拼音)

五、一些问题

1.NameError: name 'F' is not defined

在common.py中增加以下代码:

import torch.nn.functional as F

2.File "D:\Projects\yoloair-main\models\common.py", line 1519, in __init__ super().__init__(c1, c2, c2, n, shortcut, g, e) TypeError: __init__() takes from 3 to 7 positional arguments but 8 were given

去掉一个c2。

3.NameError: name 'window_partition' is not defined

def window_partition(x, window_size): """ Args: x: (B, H, W, C) window_size (int): window size Returns: windows: (num_windows*B, window_size, window_size, C) """ B, H, W, C = x.shape x = x.view(B, H // window_size, window_size, W // window_size, window_size, C) windows = x.permute(0, 1, 3, 2, 4, 5).contiguous().view(-1, window_size, window_size, C) return windows

4.NameError: name 'window_reverse' is not defined

ef window_reverse(windows, window_size, H, W): """ Args: windows: (num_windows*B, window_size, window_size, C) window_size (int): Window size H (int): Height of image W (int): Width of image Returns: x: (B, H, W, C) """ B = int(windows.shape[0] / (H * W / window_size / window_size)) x = windows.view(B, H // window_size, W // window_size, window_size, window_size, -1) x = x.permute(0, 1, 3, 2, 4, 5).contiguous().view(B, H, W, -1) return x
本文链接地址:https://www.jiuchutong.com/zhishi/298904.html 转载请保留说明!

上一篇:unplugin-auto-import 和 unplugin-vue-components(unplugin-auto-import/vite)

下一篇:使用Axios前后端交互(超详细)建议点赞收藏(前端axios请求怎么中断)

  • 抖音获取微信登录失败(抖音获取微信登录的权限在哪里)

    抖音获取微信登录失败(抖音获取微信登录的权限在哪里)

  • usb-c接口什么意思(usb c接口是什么)

    usb-c接口什么意思(usb c接口是什么)

  • 红米k20闪存规格(红米k20闪存规格参数)

    红米k20闪存规格(红米k20闪存规格参数)

  • 什么直播软件不用实名认证(什么直播软件不用实名认证就能直播)

    什么直播软件不用实名认证(什么直播软件不用实名认证就能直播)

  • 抖音怎么不让人看到自己在线(抖音怎么不让人关注)

    抖音怎么不让人看到自己在线(抖音怎么不让人关注)

  • qq扩列为啥这么多的机器人(qq扩列为啥这么多小妹妹)

    qq扩列为啥这么多的机器人(qq扩列为啥这么多小妹妹)

  • 微信群删了如何恢复(微信群删了如何恢复回来聊天记录)

    微信群删了如何恢复(微信群删了如何恢复回来聊天记录)

  • oppo手机突然像警报一样响了(oppo手机突然像来电铃声一样,又找不到哪里有来电)

    oppo手机突然像警报一样响了(oppo手机突然像来电铃声一样,又找不到哪里有来电)

  • 苹果抖音评论颜色为什么是黑色的(苹果抖音评论怎么变黑色)

    苹果抖音评论颜色为什么是黑色的(苹果抖音评论怎么变黑色)

  • 手机摔了之后晃动有声音(手机摔了之后晃了一下)

    手机摔了之后晃动有声音(手机摔了之后晃了一下)

  • 路由器上的网线可以直接插电脑上吗(路由器上的网线是哪一根)

    路由器上的网线可以直接插电脑上吗(路由器上的网线是哪一根)

  • oppo电池寿命查看代码(oppo电池寿命查看)

    oppo电池寿命查看代码(oppo电池寿命查看)

  • 百姓网交易地点创建不了(百姓网交易地点一直创建中)

    百姓网交易地点创建不了(百姓网交易地点一直创建中)

  • 电子书怎么下载到kindle(电子书怎么下载阅读免费)

    电子书怎么下载到kindle(电子书怎么下载阅读免费)

  • 读卡器可以当u盘给电脑做系统吗(读卡器可以当u盘用能放车上用吗)

    读卡器可以当u盘给电脑做系统吗(读卡器可以当u盘用能放车上用吗)

  • ipadair支持二代笔吗(ipadair3能用二代笔吗)

    ipadair支持二代笔吗(ipadair3能用二代笔吗)

  • qq扩列怎么加好友(qq添加扩列)

    qq扩列怎么加好友(qq添加扩列)

  • ip地址相同如何解释(ip地址相同怎么解决)

    ip地址相同如何解释(ip地址相同怎么解决)

  • word表格删除指定内容(word删除表格中内容)

    word表格删除指定内容(word删除表格中内容)

  • 怎样将尾注10后加圈(如何将尾注设置为[1])

    怎样将尾注10后加圈(如何将尾注设置为[1])

  • 怎么查美团的总消费(怎么查美团总账单)

    怎么查美团的总消费(怎么查美团总账单)

  • 小米MDE6手机怎么截屏(小米mde6s手机)

    小米MDE6手机怎么截屏(小米mde6s手机)

  • 国际抖音怎么登录(国际抖音怎么登不上去)

    国际抖音怎么登录(国际抖音怎么登不上去)

  • 淘宝pc端是什么意思(淘宝pc版是什么)

    淘宝pc端是什么意思(淘宝pc版是什么)

  • qq邮箱扫描功能怎么用(qq邮箱扫描功能怎么开启)

    qq邮箱扫描功能怎么用(qq邮箱扫描功能怎么开启)

  • s10是曲面屏吗(s10三星是曲面屏吗)

    s10是曲面屏吗(s10三星是曲面屏吗)

  • 韦尔瓦奥迪尔湿地起飞的三只大红鹳,西班牙安达卢西亚 (© Óscar Díez/Minden Pictures)(奥维尔的瓦兹河岸)

    韦尔瓦奥迪尔湿地起飞的三只大红鹳,西班牙安达卢西亚 (© Óscar Díez/Minden Pictures)(奥维尔的瓦兹河岸)

  • 最小的U盘是什么(体积最小的u盘)

    最小的U盘是什么(体积最小的u盘)

  • kafka详解(一)--kafka是什么及怎么用(kafka gui)

    kafka详解(一)--kafka是什么及怎么用(kafka gui)

  • 保险公司支付的赔款计入什么科目
  • 车船税是否每年都交
  • 不动产租赁税率9%
  • 个税是按照实发工资计算吗
  • 城镇土地使用税的征税范围
  • 资产负债表里的应收账款怎么取数
  • 职工受到工伤后应该怎么办
  • 一般纳税人印花税是季报还是月报
  • 租金没有发票可以入账吗
  • 工会经费支出无效怎么办
  • 社保多交了一份怎么办
  • 应付账款多付了
  • 职工伙食团食谱
  • 企业所得税如何申报操作
  • 公司成立多久费用可进开办费
  • 一般纳税人哪些项目可以简易征收
  • 当期应税销售收入是含税还是不含税
  • 雇员个人所得税
  • 空白发票丢失怎么写说明
  • 美团扣点怎么做凭证
  • 委外开发费用可以加计扣除吗
  • 服装具有什么性
  • 修缮房屋的防水工程的账务处理?
  • 打开网页时显示无法获取属性
  • 工业企业增值税负率一般控制在多少
  • 无形资产入股注意事项
  • 债权人和债务人未经保证人同意变更
  • 投资长期溢价债券,容易获取投资收益
  • windows11怎么安装iis
  • win11怎么安装CAD2008
  • 常见的四种POST 提交数据方式(小总结)
  • win11怎么录屏游戏
  • 特许权使用费税前扣除标准
  • csinsmnt.exe进程的作用介绍 csinsmnt是什么进程
  • 增值税专用发票和普通发票的区别
  • 没报关的货物还需要开发票嘛
  • 小规模纳税人超标认定一般纳税人
  • 浏览器windows下载
  • PHP模拟http请求的方法详解
  • 固定资产清理应交增值税怎么算
  • 农民专业合作社法
  • 富文本功能
  • 股东退股怎么入账
  • 购买固定资产未入账
  • 金税盘登录密码和口令从哪查
  • 合并资产负债表图片
  • 即征即退增值税怎么申报
  • 政府补助的内容
  • 小规模减免附加税会计分录怎么做
  • 长期待摊费用会计分录
  • 固定资产报废的账务处理
  • 在建工程什么时候用
  • 复利现值系数表怎么算
  • 税控盘服务费怎么填增值税申报表
  • 网上报税流程演示2019
  • 净资产=资产-负债
  • 预提费用怎么做凭证
  • 非营利医疗机构由谁批准
  • windows电脑设置
  • win8.1无法连接wifi
  • win7启动应用程序的方式
  • win8 cmd在哪
  • shell 子函数
  • win8如何更改用户名字?
  • 239mbps是多少兆网速
  • 手机屏幕尺寸测量工具
  • Android: Receiving Data from the Send Intent,将自己的app注册系统分享
  • 圣食颐年
  • jQuery+JSON实现AJAX二级联动实例分析
  • nodejs实现HTTPS发起POST请求
  • 深入理解两个大计重要论断心得体会
  • javascript高级程序设计第五版 pdf下载
  • unity3ds
  • js window.screen
  • jquery easyui开发指南
  • 深圳市税务审批中心电话
  • 掌上12333怎么交社保卡费用
  • 出口退税需要哪些单据
  • 国税总局北京税务局
  • 税务局风险防控工作总结
  • 免责声明:网站部分图片文字素材来源于网络,如有侵权,请及时告知,我们会第一时间删除,谢谢! 邮箱:opceo@qq.com

    鄂ICP备2023003026号

    网站地图: 企业信息 工商信息 财税知识 网络常识 编程技术

    友情链接: 武汉网站建设