位置: IT常识 - 正文

Pytorch优化器全总结(一)SGD、ASGD、Rprop、Adagrad(pytorch sgd优化器)

编辑:rootadmin
Pytorch优化器全总结(一)SGD、ASGD、Rprop、Adagrad

目录

写在前面

一、 torch.optim.SGD 随机梯度下降

SGD代码

SGD算法解析

1.MBGD(Mini-batch Gradient Descent)小批量梯度下降法

 2.Momentum动量

3.NAG(Nesterov accelerated gradient)

SGD总结

二、torch.optim.ASGD随机平均梯度下降

三、torch.optim.Rprop

四、torch.optim.Adagrad 自适应梯度

Adagrad 代码

Adagrad 算法解析

AdaGrad总结


推荐整理分享Pytorch优化器全总结(一)SGD、ASGD、Rprop、Adagrad(pytorch sgd优化器),希望有所帮助,仅作参考,欢迎阅读内容。

文章相关热门搜索词:scipy优化器,python优化工具箱,pytorch adam优化器参数,scipy优化器,pytorch sgd优化器,pytorch sgd优化器,pytorch adam优化器参数,pytorch sgd优化器,内容如对您有帮助,希望把文章链接给更多的朋友!

优化器系列文章列表

Pytorch优化器全总结(一)SGD、ASGD、Rprop、Adagrad

Pytorch优化器全总结(二)Adadelta、RMSprop、Adam、Adamax、AdamW、NAdam、SparseAdam

Pytorch优化器全总结(三)牛顿法、BFGS、L-BFGS 含代码

Pytorch优化器全总结(四)常用优化器性能对比 含代码

写在前面

        优化器时深度学习中的重要组件,在深度学习中有举足轻重的地位。在实际开发中我们并不用亲手实现一个优化器,很多框架都帮我们实现好了,但如果不明白各个优化器的特点,就很难选择适合自己任务的优化器。接下来我会开一个系列,以Pytorch为例,介绍所有主流的优化器,如果都搞明白了,对优化器算法的掌握也就差不多了。

        作为系列的第一篇文章,本文介绍Pytorch中的SGD、ASGD、Rprop、Adagrad,其中主要介绍SGD和Adagrad。因为这四个优化器出现的比较早,都存在一些硬伤,而作为现在主流优化器的基础又跳不过,所以作为开端吧。

        我们定义一个通用的思路框架,方便在后面理解各算法之间的关系和改进。首先定义待优化参数 ,目标函数,学习率为  ,然后我们进行迭代优化,假设当前的epoch为,参数更新步骤如下:

1. 计算目标函数关于当前参数的梯度: 

                               (1)

 2. 根据历史梯度计算一阶动量和二阶动量:

                (2)

                 (3)

 3. 计算当前时刻的下降梯度: 

                           (4)

4. 根据下降梯度进行更新:  

                        (5)

        下面介绍的所有优化算法基本都能套用这个流程,只是式子(4)的形式会有变化。

一、 torch.optim.SGD 随机梯度下降

        该类可实现 SGD 优化算法,带动量 的SGD 优化算法和带 NAG(Nesterov accelerated gradient)的 SGD 优化算法,并且均可拥有 weight_decay(权重衰减) 项。

SGD代码'''params(iterable)- 参数组,优化器要优化的那部分参数。lr(float)- 初始学习率,可按需随着训练过程不断调整学习率。momentum(float)- 动量,通常设置为 0.9,0.8dampening(float)- dampening for momentum ,暂时不了其功能,在源码中是这样用的:buf.mul_(momentum).add_(1 - dampening, d_p),值得注意的是,若采用nesterov,dampening 必须为 0.weight_decay(float)- 权值衰减系数,也就是 L2 正则项的系数nesterov(bool)- bool 选项,是否使用 NAG(Nesterov accelerated gradient)'''class torch.optim.SGD(params, lr=<object object>, momentum=0, dampening=0, weight_decay=0, nesterov=False)SGD算法解析1.MBGD(Mini-batch Gradient Descent)小批量梯度下降法

        明明类名是SGD,为什么介绍MBGD呢,因为在Pytorch中,torch.optim.SGD其实是实现的MBGD,要想使用SGD,只要将batch_size设成1就行了。

        MBGD就是结合BGD和SGD的折中,对于含有 n个训练样本的数据集,每次参数更新,选择一个大小为 m(m<n) 的mini-batch数据样本计算其梯度,其参数更新公式如下,其中是一个batch的开始:

                (6)

优点:使用mini-batch的时候,可以收敛得很快,有一定摆脱局部最优的能力。

缺点:a.在随机选择梯度的同时会引入噪声,使得权值更新的方向不一定正确

           b.不能解决局部最优解的问题

 2.Momentum动量

         动量是一种有助于在相关方向上加速SGD并抑制振荡的方法,通过将当前梯度与过去梯度加权平均,来获取即将更新的梯度。如下图b图所示。它通过将过去时间步长的更新向量的一小部分添加到当前更新向量来实现这一点:

 动量项通常设置为0.9或类似值。

参数更新公式如下,其中ρ 是动量衰减率,m是速率(即一阶动量):

                         (7)

                (8)

                   (9)

3.NAG(Nesterov accelerated gradient)

        NAG的思想是在动量法的基础上展开的。动量法是思想是,将当前梯度与过去梯度加权平均,来获取即将更新的梯度。在知道梯度之后,更新自变量到新的位置。也就是说我们其实在每一步,是知道下一时刻位置的。这时Nesterov就说了:那既然这样的话,我们何不直接采用下一时刻的梯度来和上一时刻梯度进行加权平均呢?下面两张图看明白,就理解NAG了:

Pytorch优化器全总结(一)SGD、ASGD、Rprop、Adagrad(pytorch sgd优化器)

        

 

NAG和经典动量法的差别就在B点和C点梯度的不同。 

 参数更新公式:

                (10)

                        (11)

                           (12)

        上式中的就是图中的B到C那一段向量,就是C点坐标(参数)。可以看到NAG除了式子(10)与式子(7)有所不同,其余公式和Momentum是一样的。

        一般情况下NAG方法相比Momentum收敛速度快、波动也小。实际上NAG方法用到了二阶信息,所以才会有这么好的结果。

         Nesterov动量梯度的计算在模型参数施加当前速度之后,因此可以理解为往标准动量中添加了一个校正因子。在凸批量梯度的情况下,Nesterov动量将额外误差收敛率从(k步后)改进到  ,然而,在随机梯度情况下,Nesterov动量对收敛率的作用却不是很大。

SGD总结

使用了Momentum或NAG的MBGD有如下特点:

优点:加快收敛速度,有一定摆脱局部最优的能力,一定程度上缓解了没有动量的时候的问题

缺点:a.仍然继承了一部分SGD的缺点

          b.在随机梯度情况下,NAG对收敛率的作用不是很大

          c.Momentum和NAG都是为了使梯度更新更灵活。但是人工设计的学习率总是有些生硬,下面介绍几种自适应学习率的方法。

推荐程度:带Momentum的torch.optim.SGD 可以一试。

二、torch.optim.ASGD随机平均梯度下降

        ASGD 也称为 SAG,表示随机平均梯度下降(Averaged Stochastic Gradient Descent),简单地说 ASGD 就是用空间换时间的一种 SGD,因为很少使用,所以不详细介绍,详情可参看论文: http://riejohnson.com/rie/stograd_nips.pdf

'''params(iterable)- 参数组,优化器要优化的那些参数。lr(float)- 初始学习率,可按需随着训练过程不断调整学习率。lambd(float)- 衰减项,默认值 1e-4。alpha(float)- power for eta update ,默认值 0.75。t0(float)- point at which to start averaging,默认值 1e6。weight_decay(float)- 权值衰减系数,也就是 L2 正则项的系数。'''class torch.optim.ASGD(params, lr=0.01, lambd=0.0001, alpha=0.75, t0=1000000.0, weight_decay=0)

 推荐程度:不常见

三、torch.optim.Rprop

        该类实现 Rprop 优化方法(弹性反向传播),适用于 full-batch,不适用于 mini-batch,因而在 mini-batch 大行其道的时代里,很少见到。

'''params - 参数组,优化器要优化的那些参数。lr - 学习率etas (Tuple[float, float])- 乘法增减因子step_sizes (Tuple[float, float]) - 允许的最小和最大步长'''class torch.optim.Rprop(params, lr=0.01, etas=(0.5, 1.2), step_sizes=(1e-06, 50))

优点:它可以自动调节学习率,不需要人为调节

缺点:仍依赖于人工设置一个全局学习率,随着迭代次数增多,学习率会越来越小,最终会趋近于0

推荐程度:不推荐

四、torch.optim.Adagrad 自适应梯度

        该类可实现 Adagrad 优化方法(Adaptive Gradient),Adagrad 是一种自适应优化方法,是自适应的为各个参数分配不同的学习率。这个学习率的变化,会受到梯度的大小和迭代次数的影响。梯度越大,学习率越小;梯度越小,学习率越大。

Adagrad 代码'''params (iterable) – 待优化参数的iterable或者是定义了参数组的dictlr (float, 可选) – 学习率(默认: 1e-2)lr_decay (float, 可选) – 学习率衰减(默认: 0)weight_decay (float, 可选) – 权重衰减(L2惩罚)(默认: 0)initial_accumulator_value - 累加器的起始值,必须为正。'''class torch.optim.Adagrad(params, lr=0.01, lr_decay=0, weight_decay=0, initial_accumulator_value=0)Adagrad 算法解析

        AdaGrad对学习率进行了一个约束,对于经常更新的参数,我们已经积累了大量关于它的知识,不希望被单个样本影响太大,希望学习速率慢一些;对于偶尔更新的参数,我们了解的信息太少,希望能从每个偶然出现的样本身上多学一些,即学习速率大一些。这样大大提高梯度下降的鲁棒性。而该方法中开始使用二阶动量,才意味着“自适应学习率”优化算法时代的到来。         在SGD中,我们每次迭代对所有参数进行更新,因为每个参数使用相同的学习率。而AdaGrad在每个时间步长对每个参数使用不同的学习率。AdaGrad消除了手动调整学习率的需要。AdaGrad在迭代过程中不断调整学习率,并让目标函数中的每个参数都分别拥有自己的学习率。大多数实现使用学习率默认值为0.01,开始设置一个较大的学习率。

        AdaGrad引入了二阶动量。二阶动量是迄今为止所有梯度值的平方和,即它是用来度量历史更新频率的。也就是说,我们的学习率现在是,从这里我们就会发现 是恒大于0的,而且参数更新越频繁,二阶动量越大,学习率就越小,这一方法在稀疏数据场景下表现非常好,参数更新公式如下: 

                                                            (13)

                                (14)

AdaGrad总结

        AdaGrad在每个时间步长对每个参数使用不同的学习率。并且引入了二阶动量,二阶动量是迄今为止所有梯度值的平方和。

优点:AdaGrad消除了手动调整学习率的需要。AdaGrad在迭代过程中不断调整学习率,并让目标函数中的每个参数都分别拥有自己的学习率。

缺点:a.仍需要手工设置一个全局学习率  , 如果  设置过大的话,会使regularizer过于敏感,对梯度的调节太大

        b.在分母中累积平方梯度,由于每个添加项都是正数,因此在训练过程中累积和不断增长。这导致学习率不断变小并最终变得无限小,此时算法不再能够获得额外的知识即导致模型不会再次学习。

 推荐程度:不推荐

优化器系列文章列表

Pytorch优化器全总结(一)SGD、ASGD、Rprop、Adagrad

Pytorch优化器全总结(二)Adadelta、RMSprop、Adam、Adamax、AdamW、NAdam、SparseAdam

Pytorch优化器全总结(三)牛顿法、BFGS、L-BFGS 含代码

Pytorch优化器全总结(四)常用优化器性能对比 含代码

本文链接地址:https://www.jiuchutong.com/zhishi/298759.html 转载请保留说明!

上一篇:【原创】基于JavaWeb的医院预约挂号系统(医院挂号管理系统毕业设计)

下一篇:〖大前端 - 基础入门三大核心之JS篇㉓〗- JavaScript 的「数组」(大前端入门指南)

  • 华为p50怎么复制门禁卡(华为手机如何复制手机)

    华为p50怎么复制门禁卡(华为手机如何复制手机)

  • 抖音作品审核中是怎么回事(抖音作品审核中别人能看到吗)

    抖音作品审核中是怎么回事(抖音作品审核中别人能看到吗)

  • 怎么取消芒果会员(怎么取消芒果会员自动续费)

    怎么取消芒果会员(怎么取消芒果会员自动续费)

  • 微信存储空间权限在哪(微信存储空间权限是什么)

    微信存储空间权限在哪(微信存储空间权限是什么)

  • 网络运营商不小心关闭(网络运营商问题)

    网络运营商不小心关闭(网络运营商问题)

  • 微信怎么开启人脸登录(微信怎么开启人脸识别验证登录)

    微信怎么开启人脸登录(微信怎么开启人脸识别验证登录)

  • 抖音号如何注销(抖音号如何注销实名认证)

    抖音号如何注销(抖音号如何注销实名认证)

  • 电脑打字底下有一横线(电脑打字底下有横杠怎么去掉)

    电脑打字底下有一横线(电脑打字底下有横杠怎么去掉)

  • 微信找不到密码了手机号也换了怎么办(微信找不到密码怎么办手机号不用了)

    微信找不到密码了手机号也换了怎么办(微信找不到密码怎么办手机号不用了)

  • 华为手机安全与隐私在哪里(华为手机安全与隐私里没有地震预警)

    华为手机安全与隐私在哪里(华为手机安全与隐私里没有地震预警)

  • 充电时手机发热怎么回事(14promax充电时手机发热)

    充电时手机发热怎么回事(14promax充电时手机发热)

  • 荣耀20和荣耀20s手机壳通用吗(荣耀20和荣耀20s手机壳一样吗)

    荣耀20和荣耀20s手机壳通用吗(荣耀20和荣耀20s手机壳一样吗)

  • 华为nova7解锁方式(华为nova7se解锁)

    华为nova7解锁方式(华为nova7se解锁)

  • xr能用18w快充吗(xr支持十八瓦快充吗)

    xr能用18w快充吗(xr支持十八瓦快充吗)

  • 不想看到微信好友发来的信息怎么办(不想看到微信好友的朋友圈怎么办)

    不想看到微信好友发来的信息怎么办(不想看到微信好友的朋友圈怎么办)

  • 华为荣耀play4t什么时候出的(荣耀play4t手机怎么样百度知道)

    华为荣耀play4t什么时候出的(荣耀play4t手机怎么样百度知道)

  • 苹果x音量小怎么办(苹果x音量怎么调到最大)

    苹果x音量小怎么办(苹果x音量怎么调到最大)

  • 淘宝购物可以退换货几次(淘宝购物可以退款不退货吗)

    淘宝购物可以退换货几次(淘宝购物可以退款不退货吗)

  • 手机如何虚拟定位(手机如何虚拟定位到北京)

    手机如何虚拟定位(手机如何虚拟定位到北京)

  • lin总线电压是多少(lin总线的作用)

    lin总线电压是多少(lin总线的作用)

  • 快手作品等待上传中是什么意思(快手作品等待上传中要多久)

    快手作品等待上传中是什么意思(快手作品等待上传中要多久)

  • 第一次用苹果手机怎么激活(第一次用苹果手机电池怎么充电)

    第一次用苹果手机怎么激活(第一次用苹果手机电池怎么充电)

  • 投屏为什么只有声音没有图像(投屏为什么只有声音没有视频)

    投屏为什么只有声音没有图像(投屏为什么只有声音没有视频)

  • 华为bacal00是什么型号(华为手机bacal00是什么型号)

    华为bacal00是什么型号(华为手机bacal00是什么型号)

  • SQL Server2005、2008如何彻底删除卸载并重新安装?

    SQL Server2005、2008如何彻底删除卸载并重新安装?

  • java泛型类型的调用和实例化(java泛型类和泛型方法)

    java泛型类型的调用和实例化(java泛型类和泛型方法)

  • 海关进口增值税专用缴款书图片
  • 提足折旧是指
  • 合伙企业所得税怎么征收
  • 纳税额是指
  • 会计凭证销毁方法
  • 公司的现金收入可以直接发工资吗
  • 增值税普票税额怎么算出来的
  • 单一窗口报关单
  • 应交增值税账面和申报表不符
  • 发票几个月内可以红冲作废
  • 个税app抵扣多少钱怎么查询
  • 运输企业印花税按什么缴纳
  • 黑盘报税流程视频教程
  • 预付账款在贷方是谁欠谁
  • 小企业无形资产有
  • 交以前年度所得税怎么算
  • 承兑汇票私人贴现账务怎么处理
  • 学校有税号可以收专票吗
  • 长期零申报有什么影响
  • 利息收入 开票
  • 印花税多计提如何冲回
  • 企业所得税纳税标准
  • 企业帐薄包括哪些
  • 职工薪酬核算的内容
  • Linux中RedHat CentOS Ubuntu Fedora的区别详解
  • office2016安全模式
  • 苹果14
  • 青岛酒店式公寓出租
  • 应付票据到期怎么处理
  • 生育津贴如何做账
  • php返回函数值的关键字
  • 代扣代缴企业所得税账务处理
  • 结转代销成本
  • 姆科马齐国家公园
  • linux+php
  • vue生命周期钩子函数
  • 发现新大陆的是麦哲伦还是哥伦布
  • php curl_init
  • php date()
  • 员工加班餐费该怎么算
  • 快递破损后赔偿还能把东西拿走吗
  • 如何检查文件是否有毒
  • 员工回家探亲的文案
  • 饭店招牌发光字
  • mysql客户端程序的功能是什么
  • 存货的计税基础公式
  • 增值税进项发票是什么意思
  • 一般纳税人购销合同印花税怎么算
  • 城建税和教育附加税怎么算
  • 土地使用税如何计算缴纳
  • 印花税账务处理
  • 申购费从哪里扣
  • 超期应收款管控
  • 独立核算的单位是什么意思
  • 商业企业的营业成本包括
  • 注册资本实缴制改为认缴制
  • 民办学校学费收入
  • 彻底删除sql server2019
  • 让Windows XP、2003、2008自动登录的设置
  • win8系统出现蓝屏怎样处理
  • 恢复已删除的聊天记录微信
  • win7在开始菜单右击
  • win8系统电脑卡
  • jsp验证邮箱格式
  • sublime text配置node.js调试(图文教程)
  • 安卓笔记软件squid使用方法
  • rd命令是什么
  • 在微信支付宝借贷会影响征信吗
  • 象棋软件编程
  • 百度地图api报错502
  • js获取上传文件的文件名
  • jquery 设置css
  • jqueryw3c
  • python字符有哪些
  • 车船税多少钱一辆
  • 深圳电动车怎么注册登记
  • 消费税的征收范围是如何规定的
  • 南通买房首付规定
  • 个人社保缴纳年限怎么算
  • 税收优惠政策有没有政府补助
  • 免责声明:网站部分图片文字素材来源于网络,如有侵权,请及时告知,我们会第一时间删除,谢谢! 邮箱:opceo@qq.com

    鄂ICP备2023003026号

    网站地图: 企业信息 工商信息 财税知识 网络常识 编程技术

    友情链接: 武汉网站建设