位置: IT常识 - 正文

超参数调优框架optuna(可配合pytorch)(超参数设置)

编辑:rootadmin
超参数调优框架optuna(可配合pytorch) 目录前言一、optuna的使用流程二、结果可视化三、pytorch代码使用optuna前言

推荐整理分享超参数调优框架optuna(可配合pytorch)(超参数设置),希望有所帮助,仅作参考,欢迎阅读内容。

文章相关热门搜索词:超参数设置,模型超参数调整,参数调优方法,超参数调优的作用,超参数选择,超参数调节,超参数优化算法,超参数优化,内容如对您有帮助,希望把文章链接给更多的朋友!

在深度学习快速发展的今天,对于不同深度学习模型的超参数优化(hyperparameter optimization),始终是一个比较头痛的问题。在超参较少的情况下,grid search是比较常见的方式,但是随着超参数量的不断增多,特别是对于神经网络而言,训练过程的超参和NN本身的超参组成的参数空间是巨大的,grid search方法会消耗巨大的资源,而且效果很差,因此寻找一个“机器炼丹”的框架十分必要。

optuna 是一个十分常用的超参数调优框架,具有操作简单,嵌入式强和动态调整参数空间等优点。另外还有其他框架也可以进行超参优化,如李沐老师提到的automl等。

一、optuna的使用流程

首先需要在命令行 pip install optuna 载入这个第三方库,载入之后import即可。

optuna中需要注意几个关键的名词: trail::一次实验 study::一次学习过程(包括多次实验)

import optunadef obj(trail):x = trail.suggest_float('x',1,5)return (x-3)*(x-3)stu = optuna.creat_study(study_name = 'test', direction = 'minimize')stu.optimize(obj, n_trials = 50)print(study.best_params)print(study.best_trial)print(study.best_trial.value)超参数调优框架optuna(可配合pytorch)(超参数设置)

该段实例代码中,函数obj定义一个含参数的需要优化的模块,带调整的超参数为 ‘x’ ,返回值为该模块的 objective value。超参x的类型为float,可调整空间为 [1,5] 左右都闭区间,常用的还有suggest_int表示整型,suggest_categorical表示字符串集合。

trail.suggest_int('name', 10, 50)trail.suggest_categorical('active', ['relu', 'sigmoid', 'tanh'])

study表示一个学习过程,direction参数为“minimize”表示对函数obj 的返回值(同时也是每次trial的objective value)向最小的方向优化。

二、结果可视化

optuna.visualization中包含了丰富的可视化工具。比较推荐使用的是以下三个:

optuna.visualization.plot_param_importances(stu).show()optuna.visualization.plot_optimization_history(stu).show()optuna.visualization.plot_slice(stu).show()

plot_param_importances 展示各个超参数对结果影响的重要性

plot_optimization_history 展示在n_trail 个trail中每次的objective value和当前的最优解

plot_slice 展示每个超参数在所有trail中取值的分布,以散点图的形式

三、pytorch代码使用optuna

在pytorch构建的MLP中进行使用,可以看到该调参框架是十分灵活的,可以设置训练参数,如batchsize,learning rate,也可也设置NN的参数,如隐藏层数目,激活函数类型等。

import torchfrom torch import nn, optimfrom torch.utils.data import DataLoaderfrom torch.autograd import Variable # 获取变量import optunadef train(batch_size, learning_rate, lossfunc, opt, hidden_layer, activefunc, weightdk,momentum): # 选出一些超参数 trainset_num = 800 testset_num = 50 train_dataset = myDataset(trainset_num) test_dataset = myDataset(testset_num) train_loader = DataLoader(train_dataset, batch_size=batch_size, shuffle=True) test_loader = DataLoader(test_dataset, batch_size=batch_size, shuffle=True) # 创建CNN模型, 并设置损失函数及优化器 model = MLP(hidden_layer, activefunc).cuda() # print(model) if lossfunc == 'MSE': criterion = nn.MSELoss().cuda() elif lossfunc == 'MAE': criterion = nn.L1Loss() # optimizer = optim.Adam(model.parameters(), lr=learning_rate, weight_decay=weightdk) optimizer =optim.RMSprop(model.parameters(),lr=learning_rate,weight_decay=weightdk, momentum=momentum) # 训练过程 for epoch in range(num_epoches): # 训练模式 model.train() for i, data in enumerate(train_loader): inputs, labels, _ = data inputs = Variable(inputs).float().cuda() labels = Variable(labels).float().cuda() # 前向传播 out = model(inputs) # 可以考虑加正则项 train_loss = criterion(out, labels) optimizer.zero_grad() train_loss.backward() optimizer.step() model.eval() testloss = test() #返回测试集合上的MAE print('Test MAE = ', resloss) return reslossdef objective(trail): batchsize = trail.suggest_int('batchsize', 1, 16) lr = trail.suggest_float('lr', 1e-4, 1e-2,step=0.0001) lossfunc = trail.suggest_categorical('loss', ['MSE', 'MAE']) opt = trail.suggest_categorical('opt', ['Adam', 'SGD']) hidden_layer = trail.suggest_int('hiddenlayer', 20, 1200) activefunc = trail.suggest_categorical('active', ['relu', 'sigmoid', 'tanh']) weightdekey = trail.suggest_float('weight_dekay', 0, 1,step=0.01) momentum= trail.suggest_float('momentum',0,1,step=0.01) loss = train(batchsize, lr, lossfunc, opt, hidden_layer, activefunc, weightdekey,momentum) return lossif __name__ == '__main__': st=time.time() study = optuna.create_study(study_name='test', direction='minimize') study.optimize(objective, n_trials=500) print(study.best_params) print(study.best_trial) print(study.best_trial.value) print(time.time()-st) optuna.visualization.plot_param_importances(study).show() optuna.visualization.plot_optimization_history(study).show() optuna.visualization.plot_slice(study).show()
本文链接地址:https://www.jiuchutong.com/zhishi/298419.html 转载请保留说明!

上一篇:Transformer 中的mask(transformer add norm)

下一篇:SSD训练数据集流程(学习记录)(ssd训练自己的数据集pytorch)

  • 企业增值税必须退税吗?
  • 利润表第二季度本期金额填4-6月还是1-6月数
  • 固定资产怎么进账
  • 外资企业撤退
  • 发票领购簿遗失怎么办
  • 企业合并相关舞弊风险有哪些
  • 公益性捐赠可以结转几个年度
  • 存货的加工成本指的是加工过程中发生的追加费用
  • 材料验收入库并结转差异记账凭证
  • 银行内部转账会计分录
  • 互联网企业资产负债表特征
  • 软件维护费可以出维护人员工资吗?
  • 计提营业账簿印花税怎么做账
  • 不是办税员可以去税局办事吗
  • 公司与银行签订的远期合约汇率是什么
  • 每个行业都能赚钱吗
  • 豪华小汽车消费税
  • 机票保险可以报销入账吗
  • 怎么区分汇总原始凭证与累计原始凭证?
  • 商业承兑汇票适用于
  • 工业企业成本结转金额怎么确定
  • t3不能增加二级科目
  • 当月没有进项税额抵扣怎么办
  • 中介公司收取中介费过高违法吗
  • macos big sur正式版
  • 已认证的发票退货怎么处理
  • 不发工资先去劳动局投诉还是仲裁
  • 如何防止别人蹭热点
  • 个人签订的出租协议
  • php异常处理和错误处理
  • laravel 5.4中实现无限级分类的方法示例
  • echarts bi
  • 广告费与业务宣传费范围
  • 资产处置损益计算公式
  • php类型约束用法有哪些
  • 已缴纳增值税还可以退吗
  • kppw源码
  • 本年利润在借方代表亏损吗
  • 社保费怎么做记账凭证
  • 公司代扣代缴个人所得税是怎么算的
  • 小规模印花税可以按次申报吗
  • 收回以前年度多发奖金分录
  • 股权激励税务处理方案
  • SQL server 2008中的数据库能否只包含数据文件
  • 只有收入没有成本怎么做账
  • 一般纳税人账务不健全是否处罚
  • 在创业板上市公司首次公开发行股票的条件
  • 工程材料费发票没拿到是否能预提费用?
  • 小规模减免附加税会计分录怎么做
  • 建筑工程人工费包括哪些内容
  • 环境检测费账务处理
  • 企业债务重组业务
  • 银行汇票转入银行分录
  • 一般纳税人主表中的25是怎么来的
  • 物流货到付款可以吗
  • windows下mysql 5.7版本中修改编码为utf-8的方法步骤
  • php+mysql prepare 与普通查询的性能对比实例讲解
  • win升级失败 导致无法启动
  • debian10.6安装教程
  • linux lv扩容
  • windows.exe
  • 安装空调
  • 用U盘安装系统重启后进不去
  • mac隐藏菜单栏
  • centos开机grub
  • win7无网激活
  • nodejs安装express-g报错
  • 彻底弄懂js中的this指向
  • android开发范例实战宝典
  • python用装饰器自动注册Tornado路由详解
  • radio js取值
  • JavaScript jquery及AJAX小结
  • JavaScript、tab切换完整版(自动切换、鼠标移入停止、移开运行)
  • 安卓白屏问题有哪些
  • javascript 类
  • 住宿发票税率1%怎么回事
  • 广东电子税务局报税操作流程视频
  • 合伙企业取得的专利权属于合伙企业财产吗
  • 车船使用税是什么样的单子
  • 用于直接销售消费品的消费税计入
  • 免责声明:网站部分图片文字素材来源于网络,如有侵权,请及时告知,我们会第一时间删除,谢谢! 邮箱:opceo@qq.com

    鄂ICP备2023003026号

    网站地图: 企业信息 工商信息 财税知识 网络常识 编程技术

    友情链接: 武汉网站建设