位置: IT常识 - 正文

改进YOLO:YOLOv5结合swin transformer(改进的拼音)

编辑:rootadmin
改进YOLO:YOLOv5结合swin transformer 文章参考于芒果大神,在自己的数据集上跑了一下,改了一些出现的错误。一、配置yolov5_swin_transfomrer.yaml# Parametersnc: 10 # number of classesdepth_multiple: 0.33 # model depth multiplewidth_multiple: 0.50 # layer channel multipleanchors: - [10,13, 16,30, 33,23] # P3/8 - [30,61, 62,45, 59,119] # P4/16 - [116,90, 156,198, 373,326] # P5/32# YOLOv5 v6.0 backbone by yoloairbackbone: # [from, number, module, args] [[-1, 1, Conv, [64, 6, 2, 2]], # 0-P1/2 [-1, 1, Conv, [128, 3, 2]], # 1-P2/4 [-1, 3, C3STR, [128]], [-1, 1, Conv, [256, 3, 2]], # 3-P3/8 [-1, 6, C3STR, [256]], [-1, 1, Conv, [512, 3, 2]], # 5-P4/16 [-1, 9, C3STR, [512]], [-1, 1, Conv, [1024, 3, 2]], # 7-P5/32 [-1, 3, C3STR, [1024]], # 9 <--- ST2CSPB() Transformer module [-1, 1, SPPF, [512, 512]], # 9 ]# YOLOv5 v6.0 headhead: [[-1, 1, Conv, [512, 1, 1]], [-1, 1, nn.Upsample, [None, 2, 'nearest']], [[-1, 6], 1, Concat, [1]], # cat backbone P4 [-1, 3, C3, [512, False]], # 13 [-1, 1, Conv, [256, 1, 1]], [-1, 1, nn.Upsample, [None, 2, 'nearest']], [[-1, 4], 1, Concat, [1]], # cat backbone P3 [-1, 3, C3, [256, False]], # 17 (P3/8-small) [-1, 1, Conv, [256, 3, 2]], [[-1, 14], 1, Concat, [1]], # cat head P4 [-1, 3, C3, [512, False]], # 20 (P4/16-medium) [-1, 1, Conv, [512, 3, 2]], [[-1, 10], 1, Concat, [1]], # cat head P5 [-1, 3, C3, [1024, False]], # 23 (P5/32-large) [[17, 20, 23], 1, Detect, [nc, anchors]], # Detect(P3, P4, P5) ]二、配置common.py文件

推荐整理分享改进YOLO:YOLOv5结合swin transformer(改进的拼音),希望有所帮助,仅作参考,欢迎阅读内容。

文章相关热门搜索词:改进英语,改进英语,改进工作作风 增强工作实效,改进工作作风 增强工作实效,改进什么,改进的近义词,改进英语,改进英语,内容如对您有帮助,希望把文章链接给更多的朋友!

在common.py中增加以下下代码:

class SwinTransformerBlock(nn.Module): def __init__(self, c1, c2, num_heads, num_layers, window_size=8): super().__init__() self.conv = None if c1 != c2: self.conv = Conv(c1, c2) # remove input_resolution self.blocks = nn.Sequential(*[SwinTransformerLayer(dim=c2, num_heads=num_heads, window_size=window_size, shift_size=0 if (i % 2 == 0) else window_size // 2) for i in range(num_layers)]) def forward(self, x): if self.conv is not None: x = self.conv(x) x = self.blocks(x) return xclass WindowAttention(nn.Module): def __init__(self, dim, window_size, num_heads, qkv_bias=True, qk_scale=None, attn_drop=0., proj_drop=0.): super().__init__() self.dim = dim self.window_size = window_size # Wh, Ww self.num_heads = num_heads head_dim = dim // num_heads self.scale = qk_scale or head_dim ** -0.5 # define a parameter table of relative position bias self.relative_position_bias_table = nn.Parameter( torch.zeros((2 * window_size[0] - 1) * (2 * window_size[1] - 1), num_heads)) # 2*Wh-1 * 2*Ww-1, nH # get pair-wise relative position index for each token inside the window coords_h = torch.arange(self.window_size[0]) coords_w = torch.arange(self.window_size[1]) coords = torch.stack(torch.meshgrid([coords_h, coords_w])) # 2, Wh, Ww coords_flatten = torch.flatten(coords, 1) # 2, Wh*Ww relative_coords = coords_flatten[:, :, None] - coords_flatten[:, None, :] # 2, Wh*Ww, Wh*Ww relative_coords = relative_coords.permute(1, 2, 0).contiguous() # Wh*Ww, Wh*Ww, 2 relative_coords[:, :, 0] += self.window_size[0] - 1 # shift to start from 0 relative_coords[:, :, 1] += self.window_size[1] - 1 relative_coords[:, :, 0] *= 2 * self.window_size[1] - 1 relative_position_index = relative_coords.sum(-1) # Wh*Ww, Wh*Ww self.register_buffer("relative_position_index", relative_position_index) self.qkv = nn.Linear(dim, dim * 3, bias=qkv_bias) self.attn_drop = nn.Dropout(attn_drop) self.proj = nn.Linear(dim, dim) self.proj_drop = nn.Dropout(proj_drop) nn.init.normal_(self.relative_position_bias_table, std=.02) self.softmax = nn.Softmax(dim=-1) def forward(self, x, mask=None): B_, N, C = x.shape qkv = self.qkv(x).reshape(B_, N, 3, self.num_heads, C // self.num_heads).permute(2, 0, 3, 1, 4) q, k, v = qkv[0], qkv[1], qkv[2] # make torchscript happy (cannot use tensor as tuple) q = q * self.scale attn = (q @ k.transpose(-2, -1)) relative_position_bias = self.relative_position_bias_table[self.relative_position_index.view(-1)].view( self.window_size[0] * self.window_size[1], self.window_size[0] * self.window_size[1], -1) # Wh*Ww,Wh*Ww,nH relative_position_bias = relative_position_bias.permute(2, 0, 1).contiguous() # nH, Wh*Ww, Wh*Ww attn = attn + relative_position_bias.unsqueeze(0) if mask is not None: nW = mask.shape[0] attn = attn.view(B_ // nW, nW, self.num_heads, N, N) + mask.unsqueeze(1).unsqueeze(0) attn = attn.view(-1, self.num_heads, N, N) attn = self.softmax(attn) else: attn = self.softmax(attn) attn = self.attn_drop(attn) # print(attn.dtype, v.dtype) try: x = (attn @ v).transpose(1, 2).reshape(B_, N, C) except: #print(attn.dtype, v.dtype) x = (attn.half() @ v).transpose(1, 2).reshape(B_, N, C) x = self.proj(x) x = self.proj_drop(x) return xclass Mlp(nn.Module): def __init__(self, in_features, hidden_features=None, out_features=None, act_layer=nn.SiLU, drop=0.): super().__init__() out_features = out_features or in_features hidden_features = hidden_features or in_features self.fc1 = nn.Linear(in_features, hidden_features) self.act = act_layer() self.fc2 = nn.Linear(hidden_features, out_features) self.drop = nn.Dropout(drop) def forward(self, x): x = self.fc1(x) x = self.act(x) x = self.drop(x) x = self.fc2(x) x = self.drop(x) return xclass SwinTransformerLayer(nn.Module): def __init__(self, dim, num_heads, window_size=8, shift_size=0, mlp_ratio=4., qkv_bias=True, qk_scale=None, drop=0., attn_drop=0., drop_path=0., act_layer=nn.SiLU, norm_layer=nn.LayerNorm): super().__init__() self.dim = dim self.num_heads = num_heads self.window_size = window_size self.shift_size = shift_size self.mlp_ratio = mlp_ratio # if min(self.input_resolution) <= self.window_size: # # if window size is larger than input resolution, we don't partition windows # self.shift_size = 0 # self.window_size = min(self.input_resolution) assert 0 <= self.shift_size < self.window_size, "shift_size must in 0-window_size" self.norm1 = norm_layer(dim) self.attn = WindowAttention( dim, window_size=(self.window_size, self.window_size), num_heads=num_heads, qkv_bias=qkv_bias, qk_scale=qk_scale, attn_drop=attn_drop, proj_drop=drop) self.drop_path = DropPath(drop_path) if drop_path > 0. else nn.Identity() self.norm2 = norm_layer(dim) mlp_hidden_dim = int(dim * mlp_ratio) self.mlp = Mlp(in_features=dim, hidden_features=mlp_hidden_dim, act_layer=act_layer, drop=drop) def create_mask(self, H, W): # calculate attention mask for SW-MSA img_mask = torch.zeros((1, H, W, 1)) # 1 H W 1 h_slices = (slice(0, -self.window_size), slice(-self.window_size, -self.shift_size), slice(-self.shift_size, None)) w_slices = (slice(0, -self.window_size), slice(-self.window_size, -self.shift_size), slice(-self.shift_size, None)) cnt = 0 for h in h_slices: for w in w_slices: img_mask[:, h, w, :] = cnt cnt += 1 mask_windows = window_partition(img_mask, self.window_size) # nW, window_size, window_size, 1 mask_windows = mask_windows.view(-1, self.window_size * self.window_size) attn_mask = mask_windows.unsqueeze(1) - mask_windows.unsqueeze(2) attn_mask = attn_mask.masked_fill(attn_mask != 0, float(-100.0)).masked_fill(attn_mask == 0, float(0.0)) return attn_mask def forward(self, x): # reshape x[b c h w] to x[b l c] _, _, H_, W_ = x.shape Padding = False if min(H_, W_) < self.window_size or H_ % self.window_size!=0 or W_ % self.window_size!=0: Padding = True # print(f'img_size {min(H_, W_)} is less than (or not divided by) window_size {self.window_size}, Padding.') pad_r = (self.window_size - W_ % self.window_size) % self.window_size pad_b = (self.window_size - H_ % self.window_size) % self.window_size x = F.pad(x, (0, pad_r, 0, pad_b)) # print('2', x.shape) B, C, H, W = x.shape L = H * W x = x.permute(0, 2, 3, 1).contiguous().view(B, L, C) # b, L, c # create mask from init to forward if self.shift_size > 0: attn_mask = self.create_mask(H, W).to(x.device) else: attn_mask = None shortcut = x x = self.norm1(x) x = x.view(B, H, W, C) # cyclic shift if self.shift_size > 0: shifted_x = torch.roll(x, shifts=(-self.shift_size, -self.shift_size), dims=(1, 2)) else: shifted_x = x # partition windows x_windows = window_partition(shifted_x, self.window_size) # nW*B, window_size, window_size, C x_windows = x_windows.view(-1, self.window_size * self.window_size, C) # nW*B, window_size*window_size, C # W-MSA/SW-MSA attn_windows = self.attn(x_windows, mask=attn_mask) # nW*B, window_size*window_size, C # merge windows attn_windows = attn_windows.view(-1, self.window_size, self.window_size, C) shifted_x = window_reverse(attn_windows, self.window_size, H, W) # B H' W' C # reverse cyclic shift if self.shift_size > 0: x = torch.roll(shifted_x, shifts=(self.shift_size, self.shift_size), dims=(1, 2)) else: x = shifted_x x = x.view(B, H * W, C) # FFN x = shortcut + self.drop_path(x) x = x + self.drop_path(self.mlp(self.norm2(x))) x = x.permute(0, 2, 1).contiguous().view(-1, C, H, W) # b c h w if Padding: x = x[:, :, :H_, :W_] # reverse padding return xclass C3STR(C3): # C3 module with SwinTransformerBlock() def __init__(self, c1, c2, n=1, shortcut=True, g=1, e=0.5): super().__init__(c1, c2, n, shortcut, g, e) c_ = int(c2 * e) num_heads = c_ // 32 self.m = SwinTransformerBlock(c_, c_, num_heads, n)三、yolo.py文件配置

在parse_model(d, ch)函数中增加C3STR

四、train.py文件配置

在if __name__ == '__main__':中更改cfg

改进YOLO:YOLOv5结合swin transformer(改进的拼音)

五、一些问题

1.NameError: name 'F' is not defined

在common.py中增加以下代码:

import torch.nn.functional as F

2.File "D:\Projects\yoloair-main\models\common.py", line 1519, in __init__ super().__init__(c1, c2, c2, n, shortcut, g, e) TypeError: __init__() takes from 3 to 7 positional arguments but 8 were given

去掉一个c2。

3.NameError: name 'window_partition' is not defined

def window_partition(x, window_size): """ Args: x: (B, H, W, C) window_size (int): window size Returns: windows: (num_windows*B, window_size, window_size, C) """ B, H, W, C = x.shape x = x.view(B, H // window_size, window_size, W // window_size, window_size, C) windows = x.permute(0, 1, 3, 2, 4, 5).contiguous().view(-1, window_size, window_size, C) return windows

4.NameError: name 'window_reverse' is not defined

ef window_reverse(windows, window_size, H, W): """ Args: windows: (num_windows*B, window_size, window_size, C) window_size (int): Window size H (int): Height of image W (int): Width of image Returns: x: (B, H, W, C) """ B = int(windows.shape[0] / (H * W / window_size / window_size)) x = windows.view(B, H // window_size, W // window_size, window_size, window_size, -1) x = x.permute(0, 1, 3, 2, 4, 5).contiguous().view(B, H, W, -1) return x
本文链接地址:https://www.jiuchutong.com/zhishi/298904.html 转载请保留说明!

上一篇:unplugin-auto-import 和 unplugin-vue-components(unplugin-auto-import/vite)

下一篇:使用Axios前后端交互(超详细)建议点赞收藏(前端axios请求怎么中断)

  • 抖音开通商品橱窗需要满足哪些条件(抖音开通商品橱窗需要交保证金吗)

    抖音开通商品橱窗需要满足哪些条件(抖音开通商品橱窗需要交保证金吗)

  • word出现红色波浪线(word出现红色波浪线是语法问题吗)

    word出现红色波浪线(word出现红色波浪线是语法问题吗)

  • 英特尔驱动程序和支持助理一直正在初始化(英特尔驱动程序和支持助理有必要安装吗)

    英特尔驱动程序和支持助理一直正在初始化(英特尔驱动程序和支持助理有必要安装吗)

  • 拼多多签到金提现后有效期是多久(拼多多签到金提现失败变成1000减50的劵)

    拼多多签到金提现后有效期是多久(拼多多签到金提现失败变成1000减50的劵)

  • 美团众包没单子怎么办(美团众包没单子跑步下去了)

    美团众包没单子怎么办(美团众包没单子跑步下去了)

  • 华为wlzal10什么型号(华为wlzal10是5g手机吗)

    华为wlzal10什么型号(华为wlzal10是5g手机吗)

  • 自拍杆充电一直亮红灯(自拍杆充电一直亮红灯怎么回事)

    自拍杆充电一直亮红灯(自拍杆充电一直亮红灯怎么回事)

  • 微信语音功能无法使用怎么办(微信语音功能无法发送)

    微信语音功能无法使用怎么办(微信语音功能无法发送)

  • qq更换手机号好友还在吗(qq更换手机号好友辅助验证成功后怎么操作)

    qq更换手机号好友还在吗(qq更换手机号好友辅助验证成功后怎么操作)

  • 手机好久没用了无法充电无法开机怎么办(手机好久没用了充不进电)

    手机好久没用了无法充电无法开机怎么办(手机好久没用了充不进电)

  • 微信发送消息声音怎么设置(微信发送消息声音咻怎么关)

    微信发送消息声音怎么设置(微信发送消息声音咻怎么关)

  • 苹果11有回音怎么解决(iphone11pro有回音)

    苹果11有回音怎么解决(iphone11pro有回音)

  • 笔记本和台式机性能差多少(笔记本和台式机哪个性价比高)

    笔记本和台式机性能差多少(笔记本和台式机哪个性价比高)

  • 高清视频格式有哪几种(高清无误视频格式)

    高清视频格式有哪几种(高清无误视频格式)

  • 淘宝招商二维码付款怎么弄(淘宝招商二维码代付怎么操作)

    淘宝招商二维码付款怎么弄(淘宝招商二维码代付怎么操作)

  • 小米mix2s可以息屏显示吗(小米mix2s怎么设置屏幕熄灭的时间)

    小米mix2s可以息屏显示吗(小米mix2s怎么设置屏幕熄灭的时间)

  • mate30有没有5g(mate30有没有防窥功能)

    mate30有没有5g(mate30有没有防窥功能)

  • 用wps怎么抠图非纯色(wps这么抠图)

    用wps怎么抠图非纯色(wps这么抠图)

  • qq二级密码在哪里设置(qq二级密码在哪里关闭)

    qq二级密码在哪里设置(qq二级密码在哪里关闭)

  • 硬件系统由什么组成(硬件系统由什么和外部设备组成)

    硬件系统由什么组成(硬件系统由什么和外部设备组成)

  • c语言中main函数是什么(C语言中main函数的位置可以任意吗)

    c语言中main函数是什么(C语言中main函数的位置可以任意吗)

  • 汇算清缴研发费用加计扣除优惠明细表
  • 货品调拨的意义
  • 开民工工资专户
  • 增值税发票税控开票软件打不开
  • 服务收入属于什么会计要素
  • 委托收款背书和转让背书
  • 存在上期留抵税额怎么计算即征即退
  • 验资资金转出如何做账
  • 抵债的货物按什么算增值税
  • 存货自然灾害损失进项税
  • 工程预付款需要监理审批吗
  • 变更法人税务怎么变更
  • 去税务局增加税目需要带什么资料
  • 办房产证要交什么税,哪里交?
  • 航天开票系统清单流程
  • 高新技术企业怎么申报企业所得税
  • 小微企业销售已按固定资产入账的办公家具也享受免税政策吗?
  • 所得税季报季末从业人数怎么填
  • 旧设备投资的账务处理
  • 小规模纳税人增值税超过30万怎么纳税
  • 购入的商品用于捐赠怎么做分录
  • 污水处理服务费用交印花税吗
  • 用人单位逾期未缴纳社会保险费可能会使用的文书
  • 公司租房可以抵扣个人所得税吗
  • 购买烟酒送人是否需要纳税
  • php ftp功能
  • 应纳税所得税计算公式
  • 托收账款属于什么会计科目
  • 转出固定资产账务处理
  • 非货币资金包括哪些科目
  • 职工教育经费会计账务处理
  • 水獭冬眠吗?
  • Ubuntu server 11.04安装memcache及php使用memcache来存储session的方法
  • 微信小程序完整授权
  • source命令怎么用
  • laravel enum
  • 固定资产改造更新
  • 公司向法人借款会计分录
  • 保理融资费用账务处理
  • 帝国cms使用手册
  • 生产企业免抵退税实例
  • 小微企业所得税优惠政策最新2023
  • 餐饮业税务申报
  • 背书的行为
  • 个体工商户生产经营所得税税率表2023
  • 公司出售子公司股权
  • 会计中管理费用和制造费用的区别
  • 短期理财会计处理
  • 公司交的养老保险的钱可以取出来吗
  • 没有计提坏账如何做账
  • 购买车辆的进项税怎么勾选
  • 物业公司预收的物业费怎么做账
  • 已经认证的进项票销售方冲红了
  • 企业无形资产入账标准
  • 应收账款管理办法
  • linux中安装软件可使用哪些方式
  • win7安装sqlserver2000没反应
  • win10动态磁贴照片如何删除
  • win10相机模糊
  • ubuntu集成开发环境
  • windows自带软件有哪些
  • win 10 ie浏览器
  • 天气8.2.0.308版本
  • 如何开启金山毒霸
  • win7能装coreldraw2020吗
  • win8上不了网
  • [置顶] clauvio,Twitter小老鼠
  • 置顶聊天折叠怎么开启
  • css设置段落
  • shell中echo命令详解
  • 会用python
  • socket.io与pm2(cluster)集群搭配的解决方案
  • javascript怎么学
  • jQuery+Ajax+PHP弹出层异步登录效果(附源码下载)
  • android多个dex
  • 国家税务局级别排名
  • 国税税控开票系统
  • 冲减多计提的坏账准备
  • 税务网上申报怎样操作
  • 如何理解新时代新征程党的使命任务
  • 免责声明:网站部分图片文字素材来源于网络,如有侵权,请及时告知,我们会第一时间删除,谢谢! 邮箱:opceo@qq.com

    鄂ICP备2023003026号

    网站地图: 企业信息 工商信息 财税知识 网络常识 编程技术

    友情链接: 武汉网站建设