位置: IT常识 - 正文

全局平均池化(Global Average Pooling)(全局平均池化(GAP)层)

编辑:rootadmin
全局平均池化(Global Average Pooling)

推荐整理分享全局平均池化(Global Average Pooling)(全局平均池化(GAP)层),希望有所帮助,仅作参考,欢迎阅读内容。

文章相关热门搜索词:全局平均池化和平均池化区别,全局平均池化代替全连接层,全局平均池化层的作用,全局平均池化层,全局平均池化层,全局平均池化和平均池化区别,全局平均池化层,全局平均池化,内容如对您有帮助,希望把文章链接给更多的朋友!

最近看论文,看到了全局平均池化,之间见过这东西,但是没有仔细了解,今天学习一下,并记录下来,方便以后查阅。

全局平均池化(Global Average Pooling)概念概述torch实现参考资料概念概述

出处:Lin M, Chen Q, Yan S. Network in network[J]. arXiv preprint arXiv:1312.4400, 2013.

定义:将特征图所有像素值相加求平局,得到一个数值,即用该数值表示对应特征图。

目的:替代全连接层

效果:减少参数数量,减少计算量,减少过拟合

思路:如下图所示。假设最终分成10类,则最后卷积层应该包含10个滤波器(即输出10个特征图),然后按照全局池化平均定义,分别对每个特征图,累加所有像素值并求平均,最后得到10个数值,将这10个数值输入到softmax层中,得到10个概率值,即这张图片属于每个类别的概率值。

全局平均池化(Global Average Pooling)(全局平均池化(GAP)层)

在原文这样描述全局平均值池化:

作用:如果要预测K个类别,在卷积特征抽取部分的最后一层卷积层,就会生成K个特征图,然后通过全局平均池化就可以得到 K个1×1的特征图,将这些1×1的特征图输入到softmax layer之后,每一个输出结果代表着这K个类别的概率(或置信度 confidence),起到取代全连接层的效果。 优点:

和全连接层相比,使用全局平均池化技术,对于建立特征图和类别之间的关系,是一种更朴素的卷积结构选择。全局平均池化层不需要参数,避免在该层产生过拟合。全局平均池化对空间信息进行求和,对输入的空间变化的鲁棒性更强。torch实现import torcha = torch.rand([4,3,4,4])a.size()

输出:

torch.Size([4, 3, 4, 4])b = torch.nn.functional.adaptive_avg_pool2d(a, (1,1)) # 自适应池化,指定池化输出尺寸为 1 * 1b.size()

输出:

torch.Size([4, 3, 1, 1])参考资料

Global Average Pooling Layers for Object Localization

Comparison of the fully connected layer and global average pooling layer.

全局平均池化(Global Average Pooling)

pytorch 学习 | 全局平均池化 global average pooling 实现 和作用优点解析

本文链接地址:https://www.jiuchutong.com/zhishi/298623.html 转载请保留说明!

上一篇:勒索软件、网络钓鱼、零信任和网络安全的新常态(勒索软件,网络不稳定)

下一篇:Vue3中的pinia使用(收藏版)

免责声明:网站部分图片文字素材来源于网络,如有侵权,请及时告知,我们会第一时间删除,谢谢! 邮箱:opceo@qq.com

鄂ICP备2023003026号

网站地图: 企业信息 工商信息 财税知识 网络常识 编程技术

友情链接: 武汉网站建设 电脑维修 湖南楚通运网络