位置: IT常识 - 正文

Pytorch优化器全总结(一)SGD、ASGD、Rprop、Adagrad(pytorch sgd优化器)

编辑:rootadmin
Pytorch优化器全总结(一)SGD、ASGD、Rprop、Adagrad

目录

写在前面

一、 torch.optim.SGD 随机梯度下降

SGD代码

SGD算法解析

1.MBGD(Mini-batch Gradient Descent)小批量梯度下降法

 2.Momentum动量

3.NAG(Nesterov accelerated gradient)

SGD总结

二、torch.optim.ASGD随机平均梯度下降

三、torch.optim.Rprop

四、torch.optim.Adagrad 自适应梯度

Adagrad 代码

Adagrad 算法解析

AdaGrad总结


推荐整理分享Pytorch优化器全总结(一)SGD、ASGD、Rprop、Adagrad(pytorch sgd优化器),希望有所帮助,仅作参考,欢迎阅读内容。

文章相关热门搜索词:scipy优化器,python优化工具箱,pytorch adam优化器参数,scipy优化器,pytorch sgd优化器,pytorch sgd优化器,pytorch adam优化器参数,pytorch sgd优化器,内容如对您有帮助,希望把文章链接给更多的朋友!

优化器系列文章列表

Pytorch优化器全总结(一)SGD、ASGD、Rprop、Adagrad

Pytorch优化器全总结(二)Adadelta、RMSprop、Adam、Adamax、AdamW、NAdam、SparseAdam

Pytorch优化器全总结(三)牛顿法、BFGS、L-BFGS 含代码

Pytorch优化器全总结(四)常用优化器性能对比 含代码

写在前面

        优化器时深度学习中的重要组件,在深度学习中有举足轻重的地位。在实际开发中我们并不用亲手实现一个优化器,很多框架都帮我们实现好了,但如果不明白各个优化器的特点,就很难选择适合自己任务的优化器。接下来我会开一个系列,以Pytorch为例,介绍所有主流的优化器,如果都搞明白了,对优化器算法的掌握也就差不多了。

        作为系列的第一篇文章,本文介绍Pytorch中的SGD、ASGD、Rprop、Adagrad,其中主要介绍SGD和Adagrad。因为这四个优化器出现的比较早,都存在一些硬伤,而作为现在主流优化器的基础又跳不过,所以作为开端吧。

        我们定义一个通用的思路框架,方便在后面理解各算法之间的关系和改进。首先定义待优化参数 ,目标函数,学习率为  ,然后我们进行迭代优化,假设当前的epoch为,参数更新步骤如下:

1. 计算目标函数关于当前参数的梯度: 

                               (1)

 2. 根据历史梯度计算一阶动量和二阶动量:

                (2)

                 (3)

 3. 计算当前时刻的下降梯度: 

                           (4)

4. 根据下降梯度进行更新:  

                        (5)

        下面介绍的所有优化算法基本都能套用这个流程,只是式子(4)的形式会有变化。

一、 torch.optim.SGD 随机梯度下降

        该类可实现 SGD 优化算法,带动量 的SGD 优化算法和带 NAG(Nesterov accelerated gradient)的 SGD 优化算法,并且均可拥有 weight_decay(权重衰减) 项。

SGD代码'''params(iterable)- 参数组,优化器要优化的那部分参数。lr(float)- 初始学习率,可按需随着训练过程不断调整学习率。momentum(float)- 动量,通常设置为 0.9,0.8dampening(float)- dampening for momentum ,暂时不了其功能,在源码中是这样用的:buf.mul_(momentum).add_(1 - dampening, d_p),值得注意的是,若采用nesterov,dampening 必须为 0.weight_decay(float)- 权值衰减系数,也就是 L2 正则项的系数nesterov(bool)- bool 选项,是否使用 NAG(Nesterov accelerated gradient)'''class torch.optim.SGD(params, lr=<object object>, momentum=0, dampening=0, weight_decay=0, nesterov=False)SGD算法解析1.MBGD(Mini-batch Gradient Descent)小批量梯度下降法

        明明类名是SGD,为什么介绍MBGD呢,因为在Pytorch中,torch.optim.SGD其实是实现的MBGD,要想使用SGD,只要将batch_size设成1就行了。

        MBGD就是结合BGD和SGD的折中,对于含有 n个训练样本的数据集,每次参数更新,选择一个大小为 m(m<n) 的mini-batch数据样本计算其梯度,其参数更新公式如下,其中是一个batch的开始:

                (6)

优点:使用mini-batch的时候,可以收敛得很快,有一定摆脱局部最优的能力。

缺点:a.在随机选择梯度的同时会引入噪声,使得权值更新的方向不一定正确

           b.不能解决局部最优解的问题

 2.Momentum动量

         动量是一种有助于在相关方向上加速SGD并抑制振荡的方法,通过将当前梯度与过去梯度加权平均,来获取即将更新的梯度。如下图b图所示。它通过将过去时间步长的更新向量的一小部分添加到当前更新向量来实现这一点:

 动量项通常设置为0.9或类似值。

参数更新公式如下,其中ρ 是动量衰减率,m是速率(即一阶动量):

                         (7)

                (8)

                   (9)

3.NAG(Nesterov accelerated gradient)

        NAG的思想是在动量法的基础上展开的。动量法是思想是,将当前梯度与过去梯度加权平均,来获取即将更新的梯度。在知道梯度之后,更新自变量到新的位置。也就是说我们其实在每一步,是知道下一时刻位置的。这时Nesterov就说了:那既然这样的话,我们何不直接采用下一时刻的梯度来和上一时刻梯度进行加权平均呢?下面两张图看明白,就理解NAG了:

Pytorch优化器全总结(一)SGD、ASGD、Rprop、Adagrad(pytorch sgd优化器)

        

 

NAG和经典动量法的差别就在B点和C点梯度的不同。 

 参数更新公式:

                (10)

                        (11)

                           (12)

        上式中的就是图中的B到C那一段向量,就是C点坐标(参数)。可以看到NAG除了式子(10)与式子(7)有所不同,其余公式和Momentum是一样的。

        一般情况下NAG方法相比Momentum收敛速度快、波动也小。实际上NAG方法用到了二阶信息,所以才会有这么好的结果。

         Nesterov动量梯度的计算在模型参数施加当前速度之后,因此可以理解为往标准动量中添加了一个校正因子。在凸批量梯度的情况下,Nesterov动量将额外误差收敛率从(k步后)改进到  ,然而,在随机梯度情况下,Nesterov动量对收敛率的作用却不是很大。

SGD总结

使用了Momentum或NAG的MBGD有如下特点:

优点:加快收敛速度,有一定摆脱局部最优的能力,一定程度上缓解了没有动量的时候的问题

缺点:a.仍然继承了一部分SGD的缺点

          b.在随机梯度情况下,NAG对收敛率的作用不是很大

          c.Momentum和NAG都是为了使梯度更新更灵活。但是人工设计的学习率总是有些生硬,下面介绍几种自适应学习率的方法。

推荐程度:带Momentum的torch.optim.SGD 可以一试。

二、torch.optim.ASGD随机平均梯度下降

        ASGD 也称为 SAG,表示随机平均梯度下降(Averaged Stochastic Gradient Descent),简单地说 ASGD 就是用空间换时间的一种 SGD,因为很少使用,所以不详细介绍,详情可参看论文: http://riejohnson.com/rie/stograd_nips.pdf

'''params(iterable)- 参数组,优化器要优化的那些参数。lr(float)- 初始学习率,可按需随着训练过程不断调整学习率。lambd(float)- 衰减项,默认值 1e-4。alpha(float)- power for eta update ,默认值 0.75。t0(float)- point at which to start averaging,默认值 1e6。weight_decay(float)- 权值衰减系数,也就是 L2 正则项的系数。'''class torch.optim.ASGD(params, lr=0.01, lambd=0.0001, alpha=0.75, t0=1000000.0, weight_decay=0)

 推荐程度:不常见

三、torch.optim.Rprop

        该类实现 Rprop 优化方法(弹性反向传播),适用于 full-batch,不适用于 mini-batch,因而在 mini-batch 大行其道的时代里,很少见到。

'''params - 参数组,优化器要优化的那些参数。lr - 学习率etas (Tuple[float, float])- 乘法增减因子step_sizes (Tuple[float, float]) - 允许的最小和最大步长'''class torch.optim.Rprop(params, lr=0.01, etas=(0.5, 1.2), step_sizes=(1e-06, 50))

优点:它可以自动调节学习率,不需要人为调节

缺点:仍依赖于人工设置一个全局学习率,随着迭代次数增多,学习率会越来越小,最终会趋近于0

推荐程度:不推荐

四、torch.optim.Adagrad 自适应梯度

        该类可实现 Adagrad 优化方法(Adaptive Gradient),Adagrad 是一种自适应优化方法,是自适应的为各个参数分配不同的学习率。这个学习率的变化,会受到梯度的大小和迭代次数的影响。梯度越大,学习率越小;梯度越小,学习率越大。

Adagrad 代码'''params (iterable) – 待优化参数的iterable或者是定义了参数组的dictlr (float, 可选) – 学习率(默认: 1e-2)lr_decay (float, 可选) – 学习率衰减(默认: 0)weight_decay (float, 可选) – 权重衰减(L2惩罚)(默认: 0)initial_accumulator_value - 累加器的起始值,必须为正。'''class torch.optim.Adagrad(params, lr=0.01, lr_decay=0, weight_decay=0, initial_accumulator_value=0)Adagrad 算法解析

        AdaGrad对学习率进行了一个约束,对于经常更新的参数,我们已经积累了大量关于它的知识,不希望被单个样本影响太大,希望学习速率慢一些;对于偶尔更新的参数,我们了解的信息太少,希望能从每个偶然出现的样本身上多学一些,即学习速率大一些。这样大大提高梯度下降的鲁棒性。而该方法中开始使用二阶动量,才意味着“自适应学习率”优化算法时代的到来。         在SGD中,我们每次迭代对所有参数进行更新,因为每个参数使用相同的学习率。而AdaGrad在每个时间步长对每个参数使用不同的学习率。AdaGrad消除了手动调整学习率的需要。AdaGrad在迭代过程中不断调整学习率,并让目标函数中的每个参数都分别拥有自己的学习率。大多数实现使用学习率默认值为0.01,开始设置一个较大的学习率。

        AdaGrad引入了二阶动量。二阶动量是迄今为止所有梯度值的平方和,即它是用来度量历史更新频率的。也就是说,我们的学习率现在是,从这里我们就会发现 是恒大于0的,而且参数更新越频繁,二阶动量越大,学习率就越小,这一方法在稀疏数据场景下表现非常好,参数更新公式如下: 

                                                            (13)

                                (14)

AdaGrad总结

        AdaGrad在每个时间步长对每个参数使用不同的学习率。并且引入了二阶动量,二阶动量是迄今为止所有梯度值的平方和。

优点:AdaGrad消除了手动调整学习率的需要。AdaGrad在迭代过程中不断调整学习率,并让目标函数中的每个参数都分别拥有自己的学习率。

缺点:a.仍需要手工设置一个全局学习率  , 如果  设置过大的话,会使regularizer过于敏感,对梯度的调节太大

        b.在分母中累积平方梯度,由于每个添加项都是正数,因此在训练过程中累积和不断增长。这导致学习率不断变小并最终变得无限小,此时算法不再能够获得额外的知识即导致模型不会再次学习。

 推荐程度:不推荐

优化器系列文章列表

Pytorch优化器全总结(一)SGD、ASGD、Rprop、Adagrad

Pytorch优化器全总结(二)Adadelta、RMSprop、Adam、Adamax、AdamW、NAdam、SparseAdam

Pytorch优化器全总结(三)牛顿法、BFGS、L-BFGS 含代码

Pytorch优化器全总结(四)常用优化器性能对比 含代码

本文链接地址:https://www.jiuchutong.com/zhishi/298759.html 转载请保留说明!

上一篇:【原创】基于JavaWeb的医院预约挂号系统(医院挂号管理系统毕业设计)

下一篇:〖大前端 - 基础入门三大核心之JS篇㉓〗- JavaScript 的「数组」(大前端入门指南)

  • 重新认识新媒体形式下的QQ营销 仍然是主流营销方式(重新认识新媒体的意义)

    重新认识新媒体形式下的QQ营销 仍然是主流营销方式(重新认识新媒体的意义)

  • 手机上怎么查九价疫苗接种记录(手机怎么查九价疫苗记录)

    手机上怎么查九价疫苗接种记录(手机怎么查九价疫苗记录)

  • 苹果短信怎么开启已读功能(苹果短信怎么开启通知)

    苹果短信怎么开启已读功能(苹果短信怎么开启通知)

  • vivos1防不防水(vivos5手机防不防水)

    vivos1防不防水(vivos5手机防不防水)

  • 手机qq背景是黑色怎么变成白色(手机qq背景黑色怎么恢复白色)

    手机qq背景是黑色怎么变成白色(手机qq背景黑色怎么恢复白色)

  • 笔记本电脑进水黑屏还有救吗(笔记本电脑进水维修大概多少钱)

    笔记本电脑进水黑屏还有救吗(笔记本电脑进水维修大概多少钱)

  • 淘宝相册读取照片权限怎么打开(淘宝相册读取照片怎么弄)

    淘宝相册读取照片权限怎么打开(淘宝相册读取照片怎么弄)

  • 手机屏幕tp是什么意思

    手机屏幕tp是什么意思

  • iphone11关机充电不显示电量(iphone11关机充电状态)

    iphone11关机充电不显示电量(iphone11关机充电状态)

  • 在excel中,单元格地址绝对引用的方法是(在excel中,单元格a8的绝对引用应写为( ))

    在excel中,单元格地址绝对引用的方法是(在excel中,单元格a8的绝对引用应写为( ))

  • 为什么苹果11的面部突然用不了(为什么苹果11的网络老是特别差)

    为什么苹果11的面部突然用不了(为什么苹果11的网络老是特别差)

  • 局域网常用的网络设备是(局域网常用的网络设备)

    局域网常用的网络设备是(局域网常用的网络设备)

  • 鼠标左侧两个键有什么用(鼠标左侧两个键是宏吗)

    鼠标左侧两个键有什么用(鼠标左侧两个键是宏吗)

  • 京东开店需要什么条件(京东开店需要什么资质)

    京东开店需要什么条件(京东开店需要什么资质)

  • 苹果7一直闪退(苹果7一直闪退怎么办,什么原因)

    苹果7一直闪退(苹果7一直闪退怎么办,什么原因)

  • 小米9能不能反向充电(小米9可以反冲吗)

    小米9能不能反向充电(小米9可以反冲吗)

  • 华为jatal00是什么型号(华为jat—al00)

    华为jatal00是什么型号(华为jat—al00)

  • Apple Watch S5怎么充电(苹果s5手表怎么用)

    Apple Watch S5怎么充电(苹果s5手表怎么用)

  • 苹果a1602什么版本(苹果型号a1602)

    苹果a1602什么版本(苹果型号a1602)

  • 联想笔记本怎么重装系统(联想笔记本怎么进入bios)

    联想笔记本怎么重装系统(联想笔记本怎么进入bios)

  • 无权拨打该号码是什么意思(无权拨打该号码是警察的号码)

    无权拨打该号码是什么意思(无权拨打该号码是警察的号码)

  • 苹果x锁屏手电筒怎么开(苹果x锁屏手电筒按了没反应)

    苹果x锁屏手电筒怎么开(苹果x锁屏手电筒按了没反应)

  • oppok3怎么隐藏应用(oppok3怎么隐藏应用图标)

    oppok3怎么隐藏应用(oppok3怎么隐藏应用图标)

  • vivox27有nfc吗(vivox27有nfc嘛)

    vivox27有nfc吗(vivox27有nfc嘛)

  • 全民k歌怎么调音好听(全民k歌怎么调伴奏)

    全民k歌怎么调音好听(全民k歌怎么调伴奏)

  • ps中能把图像的像素增加吗(ps怎么把图像放在另一个图像里)

    ps中能把图像的像素增加吗(ps怎么把图像放在另一个图像里)

  • 每个月发工资扣个税扣的肉疼
  • 应收往来会计是做什么工作的
  • 公司车转个人名下要交多少税
  • 一般纳税人拿到小规模的专票
  • 索赔怎么开票
  • 贸易公司没有仓库需要做入库
  • 前期差错更正会引起所有者权益总额变动吗
  • 第三方佣金及成本还是费用
  • 发票限额是多少
  • 房地产开发企业土地增值税清算
  • 商场超市印花税怎么样
  • 逃避缴纳税款是税收法多少条
  • 普通发票离线限额为0
  • 企业所得税汇算交所得税如何做账务处理
  • 从事非学历教育的学校提供的教育服务免征增值税吗
  • 资本公积盈余公积区别
  • 委托加工物资的消费税
  • 股权变更之后税务变更
  • 购房时收取的卖方费用
  • 管理费用明细是什么意思
  • 接受捐赠固定资产存货等有相关凭据的其成本按什么确定
  • 医疗卫生机构可以向其他单位或者个人分发第一类疫苗
  • 当月的销项税额要转入哪里
  • 谨慎性原则的具体体现有哪些
  • 小规模纳税人减征额怎么计算
  • 如何查询公司有没有报个税
  • win11中文安装包
  • 企业间无偿借款涉税
  • framework7教程
  • 收到外汇货款
  • 炫酷登录注册教程
  • vue3动态路由权限
  • php忘记密码
  • 可供出售金融资产的会计处理
  • 土地使用税的征税范围有哪些
  • 印花税的税率变动
  • 哪些合同必须签订书面合同
  • 场地租赁需要注意什么
  • 一般纳税人购入需要安装的生产设备,其入账价值包括
  • 职工薪酬包括哪几类
  • 财务费用的科目类别是什么
  • 利润与利润率之差公式
  • 金税盘维护费发票
  • 企业计提五险一金会计分录怎么写
  • 小规模纳税人未开票收入如何申报增值税
  • 促销费会计分录怎么写
  • 技术服务费怎么交税
  • 现销方式
  • 会计账簿按用途分类分为
  • 商业企业可将商品分为哪三类
  • 资金会计应当设置的科目
  • vs2015无法启动程序exe
  • server2008开机启动项设置
  • 清华同方bios通用密码(thtfpc)
  • ghost硬盘对拷反了
  • windows7文件夹选项在哪里
  • 如何设置桌面背景颜色
  • mac如何预览字体大小
  • imapi.exe
  • linux批量处理
  • nodejs和mysql
  • perl use of uninitialized
  • perl 获取参数
  • cocos2dx4.0教程
  • jquery自定义组件
  • jquery常用操作
  • unity3d模型怎么制作
  • cmd新建
  • 蓝色的css代码
  • jquery的过滤器用于指定什么东西
  • unity 设置物体角度
  • Developing for Android, III: The Rules: Performance
  • 1、Android Studio创建android项目
  • Python3使用requests发闪存的方法
  • googlevoice使用教程
  • 甘肃国家税务局兰州专用章图片
  • 甘肃车船使用税
  • 北京通个人认证
  • 社保ukey怎么使用
  • 开地税发票的操作流程
  • 免责声明:网站部分图片文字素材来源于网络,如有侵权,请及时告知,我们会第一时间删除,谢谢! 邮箱:opceo@qq.com

    鄂ICP备2023003026号

    网站地图: 企业信息 工商信息 财税知识 网络常识 编程技术

    友情链接: 武汉网站建设