位置: IT常识 - 正文

【Pytorch】torch.nn.init.xavier_uniform_()(pytorch torch)

编辑:rootadmin
【Pytorch】torch.nn.init.xavier_uniform_() 目录简介torch.nn.init.xavier_uniform_()语法作用举例参考结语

推荐整理分享【Pytorch】torch.nn.init.xavier_uniform_()(pytorch torch),希望有所帮助,仅作参考,欢迎阅读内容。

文章相关热门搜索词:pytorch torchscript,pytorch torch.load,pytorch totensor,pytorch totensor,pytorch totensor,pytorch torchscript,pytorch torchscript,pytorch torch,内容如对您有帮助,希望把文章链接给更多的朋友!

简介

Hello! 非常感谢您阅读海轰的文章,倘若文中有错误的地方,欢迎您指出~   ଘ(੭ˊᵕˋ)੭ 昵称:海轰 标签:程序猿|C++选手|学生 简介:因C语言结识编程,随后转入计算机专业,获得过国家奖学金,有幸在竞赛中拿过一些国奖、省奖…已保研 学习经验:扎实基础 + 多做笔记 + 多敲代码 + 多思考 + 学好英语!   唯有努力💪   本文仅记录自己感兴趣的内容

torch.nn.init.xavier_uniform_()语法

torch.nn.init.xavier_uniform_(tensor, gain=1.0)

作用

根据了解训练深度前馈神经网络的难度 - Glorot, X. & Bengio, Y. (2010) 中描述的方法

使用均匀分布 用值填充输入张量

结果张量将具有从 U(−a,a)\mathcal{U}(-a, a)U(−a,a) 采样的值,其中

也称为Glorot初始化

【Pytorch】torch.nn.init.xavier_uniform_()(pytorch torch)

举例w = torch.empty(3, 5)print('w : \n', w)nn.init.xavier_uniform_(w, gain=nn.init.calculate_gain('relu'))print('w : \n', w)

w = torch.Tensor([[1.0,2,3],[2.0,3,4]])print('w : \n', w)nn.init.xavier_uniform_(w, gain=nn.init.calculate_gain('relu'))print('w : \n', w)

注:w不能为1维

为什么需要Xavier 初始化?

所以论文提出,在每一层网络保证输入和输出的方差相同

参考:https://blog.csdn.net/dss_dssssd/article/details/83959474

个人感觉使用Xavier的作用就是预防一些参数过大或过小的情况,再保证方差一样的情况下进行缩放,便于计算

参考https://pytorch.org/docs/stable/nn.init.htmlhttps://blog.csdn.net/dss_dssssd/article/details/83959474结语

文章仅作为个人学习笔记记录,记录从0到1的一个过程

希望对您有一点点帮助,如有错误欢迎小伙伴指正

本文链接地址:https://www.jiuchutong.com/zhishi/300320.html 转载请保留说明!

上一篇:四轮电磁------电磁循迹位置式PID(四轮电车电机价格)

下一篇:【node.js从入门到精通】使用express创建web服务器,路由,进行中间件的创建链接路由及其他中间件(node.js快速入门)

  • 如何解除浏览器限制(如何解除浏览器拦截)

    如何解除浏览器限制(如何解除浏览器拦截)

  • 健康云二维码怎么弄(健康云二维码怎么扫)

    健康云二维码怎么弄(健康云二维码怎么扫)

  • 一张身份证可以认证几个微信(一张身份证可以绑定几个抖音账号)

    一张身份证可以认证几个微信(一张身份证可以绑定几个抖音账号)

  • 微信怎么交养老保险(微信怎么交养老保险网上怎么交费)

    微信怎么交养老保险(微信怎么交养老保险网上怎么交费)

  • 小米9黑屏打不开(小米9手机黑屏打不开怎么办 四个方法解决)

    小米9黑屏打不开(小米9手机黑屏打不开怎么办 四个方法解决)

  • 苹果耳机无法验证购买日期(苹果耳机无法验证购买信息)

    苹果耳机无法验证购买日期(苹果耳机无法验证购买信息)

  • 华为屏幕多久保修(华为手机屏幕多久保修)

    华为屏幕多久保修(华为手机屏幕多久保修)

  • 拼多多解除微信的步骤(拼多多解除微信绑定还自动扣费吗)

    拼多多解除微信的步骤(拼多多解除微信绑定还自动扣费吗)

  • 现在微信评论可以被别人看到吗(微信评论可以被删除吗)

    现在微信评论可以被别人看到吗(微信评论可以被删除吗)

  • 显示器闪屏是哪里坏了(显示器闪屏是怎么回事)

    显示器闪屏是哪里坏了(显示器闪屏是怎么回事)

  • opporeno充电要多久(opporeno4充电多久)

    opporeno充电要多久(opporeno4充电多久)

  • 笔记本切换屏幕快捷键(笔记本切换屏幕快捷键是什么)

    笔记本切换屏幕快捷键(笔记本切换屏幕快捷键是什么)

  • 小米8手机用打开双4g吗(小米8手机打电话接电话闪屏)

    小米8手机用打开双4g吗(小米8手机打电话接电话闪屏)

  • 抖音测年龄道具在哪里(抖音测年龄道具是什么)

    抖音测年龄道具在哪里(抖音测年龄道具是什么)

  • 计算机中运算器的主要功能(计算机中运算器的主要功能是完成算术和逻辑运算判断题)

    计算机中运算器的主要功能(计算机中运算器的主要功能是完成算术和逻辑运算判断题)

  • 华为p9plus支不支持nfc(华为p9plus支持5g网络吗)

    华为p9plus支不支持nfc(华为p9plus支持5g网络吗)

  • 手机主板坏了有什么症状(手机主板坏了有办法拿到资料吗)

    手机主板坏了有什么症状(手机主板坏了有办法拿到资料吗)

  • 手机64g内存实际多大

    手机64g内存实际多大

  • 58如何看到真实号码(58如何看到真实号码信息)

    58如何看到真实号码(58如何看到真实号码信息)

  • 企查查怎么导出数据(企查查怎么导出一万多)

    企查查怎么导出数据(企查查怎么导出一万多)

  • vivox9备份在哪(vivox9备份在哪里找到)

    vivox9备份在哪(vivox9备份在哪里找到)

  • 网易考拉红卡和黑卡区别(网易考拉海购红卡会员)

    网易考拉红卡和黑卡区别(网易考拉海购红卡会员)

  • p30 pro支持5g吗(p30pro支不支持5g)

    p30 pro支持5g吗(p30pro支不支持5g)

  • 快手提示身份证信息已经认证怎么办(快手提示身份证过期)

    快手提示身份证信息已经认证怎么办(快手提示身份证过期)

  • 淘宝如何用微信支付(淘宝如何用微信零钱支付)

    淘宝如何用微信支付(淘宝如何用微信零钱支付)

  • 前后端分离式交互(前后端分离弊端)

    前后端分离式交互(前后端分离弊端)

  • 财务软件和报税软件区别
  • 企业实收资本与股本区别
  • 企业增资会计处理流程
  • 预付款可以抵扣进度款吗
  • 车辆保险车船税怎么做会计分录
  • 收到政府土地补偿,用于种植农作物
  • 调整多计提所得税的分录
  • 房地产企业借款过多的原因
  • 采购是进项还是销项
  • 平销返利如何开红字发票
  • 开票方没缴税咋办
  • 发行长期债券会计分录例题
  • 库存现金存入银行怎么记账
  • 不能抵扣的进项发票怎么做分录
  • 公司借别的公司的钱再借给别的公司
  • 商场积分兑换现金怎么用
  • 不动产发票如何开具
  • 远洋船员如何征收个人所得税?
  • 发票丢失后可以冲红吗
  • 存货跌价准备转销
  • 代理费是指
  • 现金日记账有哪几种
  • 1697510024
  • 认缴制度下实收资本确认条件
  • 发票已入账未认证怎么办
  • 如何在excel中自动筛选
  • 电脑开机无启动
  • won11更新
  • 小规模纳税人免征增值税的账务处理
  • linux和windows的区别和联系
  • 再次研究下cache_lite
  • php数组函数题目
  • PHP:pg_fetch_array()的用法_PostgreSQL函数
  • 外币交易犯法吗
  • 股东分红如何缴纳企业所得税
  • 只有收据没有发票是不是逃税
  • 资产提前报废需要什么资料
  • laravel添加数据
  • zend framework手册
  • 委托贷款业务是资产业务吗
  • centos安装php环境
  • 金税盘如何使用流程
  • csdn创作激励
  • yolov3图像识别
  • yolo系列的优缺点
  • 其他应付款的项目
  • win11安卓子系统教程
  • update命令怎么用
  • 进口付汇操作
  • 每个月工资扣的税为什么不一样
  • 坏账损失的会计分录小企业会计准则
  • 个税手续费返还计入哪个科目
  • 工业企业库存商品的初始入账成本
  • 同在一个单位
  • 办公室搬迁工作
  • 非预算类专用账户
  • 外汇收入需要缴纳增值税吗
  • 现金存入银行的会计凭证
  • 股权转让的账务怎么处理 会计分录
  • 实收资本可以大过注册资本吗
  • 预收账款是否要交说
  • 高新技术企业福利
  • sql需要哪些基础
  • sql server字段
  • mac下安装python
  • ubuntu vnc远程
  • linux的awk命令大全
  • win7系统如何更改默认浏览器
  • centos7rz
  • 批处理在windows中的典型应用
  • windos8怎么样
  • node.js环境搭建
  • 查看系统网络连接数
  • javascript面向对象编程指南
  • unity的shader用法
  • unity中assets文件夹的作用
  • 工资6200要交多少个人所得税
  • 国家税务局几号上班
  • 国税局政审审考生什么
  • 免责声明:网站部分图片文字素材来源于网络,如有侵权,请及时告知,我们会第一时间删除,谢谢! 邮箱:opceo@qq.com

    鄂ICP备2023003026号

    网站地图: 企业信息 工商信息 财税知识 网络常识 编程技术

    友情链接: 武汉网站建设