位置: IT常识 - 正文

最优化理论笔记及期末复习(《数值最优化》——高立)(最优化理论pdf)

编辑:rootadmin
最优化理论笔记及期末复习(《数值最优化》——高立) 目录一、预备知识二、无约束最优化方法的基本结构三、凸集和凸函数四、负梯度方法和Newton型方法五、共轭梯度法六、约束最优化问题的最优性理论七、罚函数方法八、期末复习8.1 知识点复习8.2 习题复习8.3 大实验代码8.3.1实验内容8.3.2实验目的8.3.3算法描述8.3.4程序中的参数设置、终止准则、关键技术(语句)等说明8.3.5实验代码8.3.5.1 目标函数8.3.5.2 计算梯度8.3.5.3 Armijo准则更新步长8.3.5.4最速下降法8.3.5.5 BFGS法8.3.5.6 FR共轭梯度法8.3.5.7 主程序九、总结一、预备知识

推荐整理分享最优化理论笔记及期末复习(《数值最优化》——高立)(最优化理论pdf),希望有所帮助,仅作参考,欢迎阅读内容。

文章相关热门搜索词:最优化理论笔记PDFCSDN,最优化理论课后答案,最优化理论课后答案,最优化理论pdf,最优化理论与方法视频,最优化理论笔记怎么写,最优化理论pdf,最优化理论pdf,内容如对您有帮助,希望把文章链接给更多的朋友!

二、无约束最优化方法的基本结构

三、凸集和凸函数

四、负梯度方法和Newton型方法

五、共轭梯度法

六、约束最优化问题的最优性理论最优化理论笔记及期末复习(《数值最优化》——高立)(最优化理论pdf)

七、罚函数方法

八、期末复习8.1 知识点复习

8.2 习题复习

8.3 大实验代码8.3.1实验内容

利用Matlab编程,实现采用简单Armijo非精确线搜索求步长的三种方法:负梯度法、BFGS法及FR共轭梯度法,并求解如下无约束优化问题: minf(x)=10(x13−x2)2+(x1−1)2min f(x) =10(x_1^3-x_2)^2+(x_1-1)^2minf(x)=10(x13​−x2​)2+(x1​−1)2 通过实验过程进一步理解三种方法的原理和步骤,并对实验结果进行分析比较。

8.3.2实验目的

掌握无约束最优化算法的基本架构,并能熟练使用Matlab软件实现一些基本实用的算法并进行数值试验分析。

8.3.3算法描述

8.3.4程序中的参数设置、终止准则、关键技术(语句)等说明

8.3.5实验代码8.3.5.1 目标函数%%计算函数值function f=func(X)f=10.*(X(1).3-X(2)).2+(X(1)-1).2;end8.3.5.2 计算梯度%计算梯度值function g=grd(X)%计算梯度表达式% syms x1 x2;% f=10*(x13-x2)2+(x1-1)2;% diff(f,x1)% diff(f,x2)% ans = 2*x1 - 60*x12*(- x13 + x2) - 2% ans = - 20*x13 + 20*x2g=[2*X(1) - 60*X(1).2*(- X(1).3 + X(2)) - 2;- 20*X(1).3 + 20*X(2)];end8.3.5.3 Armijo准则更新步长function x=armijo(func,xk,dk,gk)m=0;max_m=1000;rho=0.001;alpha=1;belta=0.618;gd=gk'*dk;fk=feval(func,xk);%初始化条件while m<max_m x=xk+alpha*dk;%试探点 f=feval(func,x);%试探点的函数值 if f<=fk+alpha*rho*gd%终止条件 break; end alpha=alpha*belta;%修改alpha的值 m=m+1;end8.3.5.4最速下降法function [x1 fval1 k1]=fd(x0,func,gfunc,eps,kmax)k1 = 0;x1 = x0;%设置初始条件while k1 < kmax g = feval(gfunc,x1);%计算梯度,x改变时更新梯度 if norm(g)<eps%迭代终止条件 break; end d=-g;%更新方向 x1=armijo(func,x1,d,g);%采用Armijo搜索计算当前点x,最终找到近似最优解 k1=k1+1;endfval1=feval(func,x1);%计算目标函数值8.3.5.5 BFGS法function [x2,fval2,k2]=bfgs(x0,func,grd,H0,eps,kmax)k2=0;H=H0;x2=x0;g=feval(grd,x2);%设置初始条件while k2<kmax if norm(g)<eps%终止条件 break; end d=-H*g;%更新方向 x_=x2;%原来的x x2=armijo(func,x2,d,g);%更新后的x g_=g;%原来的g g=feval(grd, x2);%更新后的梯度 s=x2-x_; y=g-g_; if s'*y>0 v=y'*s; H=H+(1+(y'*H*y)/v)*(s*s')/v-(s*y'*H+H*y*s')/v; %采用BFGS方法更新H end k2=k2+1;endfval2=feval(func,x2);%计算目标函数值8.3.5.6 FR共轭梯度法function [x3,fval3,k3]=FR(x0,func,gfunc,eps,kmax)n=9;k3=0;x3=x0;%设置初始条件while k3<kmax g=feval(gfunc,x3);%更新g m=g'*g;%更新后的g*g if norm(g)<eps%终止条件 break; end if mod(k3,n)==0%n步重新开始策略 d=-g; else belta=m/q;%belta的计算 d=-g+belta*d;%更新d的值 if g'*d>=0 d=-g; end end x3=armijo(func,x3,d,g);%采用Armijo搜索计算当前点,最终找到近似最优解 q=g'*g;%更新前的g*g k3=k3+1;endfval3=feval(func,x3);%计算目标函数值8.3.5.7 主程序clear;clcx0=unifrnd(-5,5,2,1);%产生满足[-5, 5]均匀分布的初始点%x0=[3.4913;-1.0777];%[-5,5]均匀分布产生的初始点...x0=[0.2753;-0.1224];x0=[0.1232;1.1167];x0=[-1.1955;0.6782];x0=[-3.7301;4.1338];x0=[1.3236;-4.0246];...x0=[2.9221;4.3399];x0=[4.5949;1.7874];x0=[1.5574;2.5774];x0=[-4.6429;2.4313];x0=[3.4913;-1.0777]eps=1.e-8;%设置精度1.e-4,1.e-5;1.e-6;1.e-7;1.e-8;kmax=100000;%设置迭代上限H0=eye(2);%H初始为一个2×2的单位矩阵%%采用Armijo搜索的负梯度法程序tic[x1,fval1,k1]=fd(x0,'func','grd',eps,kmax);t1=toc;%%采用Armijo搜索的BFGS法程序tic[x2,fval2,k2]=bfgs(x0,'func','grd',H0,eps,kmax)t2=toc;%%采用Armijo搜索的FR共轭梯度法程序tic[x3,fval3,k3]=FR(x0,'func','grd',eps,kmax);t3=toc;SSE1=sqrt(sum((x1-[1;1]).2,1));%负梯度法下近似解与精确解的2范数下的误差SSE2=sqrt(sum((x2-[1;1]).2,1));%BFGS法下近似解与精确解的2范数下的误差SSE3=sqrt(sum((x3-[1;1]).2,1));%FR共轭梯度法下近似解与精确解的2范数下的误差A=[SSE1 fval1 k1 t1;SSE2 fval2 k2 t2;SSE3 fval3 k3 t3]'%分别记录【误差,函数值,迭代次数,运行时间】

九、总结

本篇文章详细的讲解最优化理论的一些常见方法,有了这些基础的最优化知识,方便我们以后深入学习最优化理论以及人工智能方面的知识。

本文链接地址:https://www.jiuchutong.com/zhishi/299929.html 转载请保留说明!

上一篇:vue3 销毁组件方法(vue destroyed销毁组件)

下一篇:【相机标定】相机内参(什么叫相机标定)

  • 九种微信推广常用方法和技巧(微信推广是啥意思)

    九种微信推广常用方法和技巧(微信推广是啥意思)

  • 红米note11pro有耳机孔吗(红米note11pro有耳机设置吗)

    红米note11pro有耳机孔吗(红米note11pro有耳机设置吗)

  • 华为荣耀10青春版有没有指纹(华为荣耀10青春版拆机视频)

    华为荣耀10青春版有没有指纹(华为荣耀10青春版拆机视频)

  • 苹果x怎么录入门禁卡(苹果x怎么录入nfc电梯卡)

    苹果x怎么录入门禁卡(苹果x怎么录入nfc电梯卡)

  • 苹果平板键盘在中间怎么回事(苹果平板键盘在上面)

    苹果平板键盘在中间怎么回事(苹果平板键盘在上面)

  • b站历史记录在哪(b站历史记录有没看过的视频)

    b站历史记录在哪(b站历史记录有没看过的视频)

  • mx350显卡是gtx1050吗

    mx350显卡是gtx1050吗

  • 为啥我发的抖音作品没人点赞(为啥我发的抖音上面显示搜索)

    为啥我发的抖音作品没人点赞(为啥我发的抖音上面显示搜索)

  • 编辑栏中的公式栏中显示的是(编辑栏中的公式怎么用)

    编辑栏中的公式栏中显示的是(编辑栏中的公式怎么用)

  • qq群不小心解散了该怎么恢复(qq群不小心解散了还能恢复吗)

    qq群不小心解散了该怎么恢复(qq群不小心解散了还能恢复吗)

  • qq开启幸运字符对方能看见吗(qq开启幸运字符对方会收到通知吗)

    qq开启幸运字符对方能看见吗(qq开启幸运字符对方会收到通知吗)

  • 苹果手机闹钟响多久会自己停止(苹果手机闹钟响一下就不响了)

    苹果手机闹钟响多久会自己停止(苹果手机闹钟响一下就不响了)

  • 电池分为哪三大类(电池分几大类)

    电池分为哪三大类(电池分几大类)

  • 墨卡托投影和高斯投影区别(墨卡托投影和高斯投影)

    墨卡托投影和高斯投影区别(墨卡托投影和高斯投影)

  • vivos5可以升5g吗(vivos5可不可以用5g)

    vivos5可以升5g吗(vivos5可不可以用5g)

  • 网易云怎么取消下载(网易云怎么取消一起听)

    网易云怎么取消下载(网易云怎么取消一起听)

  • procreate怎么复制图形(procreate怎么复制画出来的图案)

    procreate怎么复制图形(procreate怎么复制画出来的图案)

  • 库乐队里的歌怎么删除(库乐队里的歌怎么发给别人)

    库乐队里的歌怎么删除(库乐队里的歌怎么发给别人)

  • 苹果的原彩显示是什么意思(苹果的原彩显示为什么感觉发黄)

    苹果的原彩显示是什么意思(苹果的原彩显示为什么感觉发黄)

  • 怎么删除访问记录(怎么删除访问记录qq空间)

    怎么删除访问记录(怎么删除访问记录qq空间)

  • 无线快充原理(手机无线充电原理)

    无线快充原理(手机无线充电原理)

  • 同步发光萤火虫照亮了大烟山国家公园中的森林 (© Floris van Breugel/Minden Pictures)(萤火虫发光器的用途)

    同步发光萤火虫照亮了大烟山国家公园中的森林 (© Floris van Breugel/Minden Pictures)(萤火虫发光器的用途)

  • 2023美国大学数学建模美赛春季赛Z题思路详细代码(美国大学数学系排名)

    2023美国大学数学建模美赛春季赛Z题思路详细代码(美国大学数学系排名)

  • 应交税金指什么意思
  • 报税怎么操作流程图
  • 固定资产到期账务处理
  • 撤回或减少投资同撤资减资的区别
  • 合并成本是
  • 投资款转账没备案怎么办
  • 滞留票怎么做账务处理
  • 民办职业技能培训学校办学许可证
  • 长期投资计提减值准则
  • 汽车销售公司办公室周末上班吗知乎
  • 办公室租赁合同需要交那些税?
  • 停车场增加收入
  • 新公司领取营业执照后的流程
  • 存货跌价准备会影响利润总额吗
  • 损益类科目的借方表示
  • 已付款无法收到发票怎么处理
  • 跨月发票冲红账怎么做
  • 房地产销售广告是要约还是要约邀请?原因是什么?
  • 预提税和企业所得税
  • 未抵扣的固定资产处理
  • win11怎么用户改名
  • 辅助生产成本如何结转
  • 库存现金总分类账怎么登记
  • 个税收入额是什么意思
  • ci框架中新建的控制器取不到session
  • 餐饮管理公司开发票
  • php数组的类型有哪些
  • html 提交表单
  • redis两种持久化方式的优缺点
  • 计算机视觉竞赛很重要吗
  • 全连接神经网络是什么意思
  • vue全家桶学多久能上手项目
  • ssh -o命令
  • php多维数组合并相同key
  • 报销单跨月怎么记账
  • 对方代垫保险费算不算入账价值
  • 收到承兑汇票怎么操作
  • 销售旧货和销售使用过的固定资产
  • 打车费计入哪个科目
  • pandas模块的主要特点
  • python正态分布采样
  • 递延收益的影响
  • 减免税款借贷方表示
  • 公司交1500五险一金是什么水平
  • 土地摊销年限是什么意思
  • 日记总账的适用范围
  • 小规模纳税人税率1%政策到什么时候
  • 小规模纳税人出租不动产优惠政策
  • 季度所得税计提分录
  • 暂估入库需要入什么科目
  • 开红字发票做账时记账凭证上如何写摘要?
  • 公司向外借款给个人怎么做账
  • 装修费用摊销计入什么科目
  • 暂估出库需要确认收入吗
  • 跨年度冲红字发票怎么冲
  • 公司员工聚餐属于什么费用
  • 测绘费如何入账
  • 应收账款坏账的说明
  • 综合所得的个人所得税有哪些筹划技巧
  • 提高sql执行效率的方法
  • 注册表出错打不开程序
  • windows保护电脑
  • xp系统光盘读不出来
  • 写出10个linux系统操作命令和用法
  • qq空间好友评论别人看不到
  • win1020th2
  • win 8系统怎么样
  • linux挂载文件步骤
  • 如何解决windows副本不是正版
  • 网页收集数据
  • 用来检测程序小错误的测试方法
  • [置顶]从lv2开始开挂的原勇者候悠闲的异世界生活
  • vue $route $router
  • nodejs快速入门
  • windows and android
  • shell脚本遍历
  • python文件操作方法
  • jquery和js能混着用吗
  • jquery 滑动显示
  • 锐志2.5新车报价
  • 免责声明:网站部分图片文字素材来源于网络,如有侵权,请及时告知,我们会第一时间删除,谢谢! 邮箱:opceo@qq.com

    鄂ICP备2023003026号

    网站地图: 企业信息 工商信息 财税知识 网络常识 编程技术

    友情链接: 武汉网站建设