位置: IT常识 - 正文

Pytorch中的广播机制(Broadcast)(pytorch广播相乘)

编辑:rootadmin
Pytorch中的广播机制(Broadcast) 1. Pytorch中的广播机制

推荐整理分享Pytorch中的广播机制(Broadcast)(pytorch广播相乘),希望有所帮助,仅作参考,欢迎阅读内容。

文章相关热门搜索词:pytorch broadcast,pytorch audio,python 广播函数,pytorch 广播,pytorch broadcasting,python的广播运算,python的广播运算,pytorch 广播,内容如对您有帮助,希望把文章链接给更多的朋友!

如果一个Pytorch运算支持广播的话,那么就意味着传给这个运算的参数会被自动扩张成相同的size,在不复制数据的情况下就能进行运算,整个过程可以做到避免无用的复制,达到更高效的运算。 广播机制实际上是在运算过程中,去处理两个形状不同向量的一种手段。 pytorch中的广播机制和numpy中的广播机制一样, 因为都是数组的广播机制。

2. 广播机制的理解

以数组A和数组B的相加为例, 其余数学运算同理 核心:如果相加的两个数组的shape不同, 就会触发广播机制:       1)程序会自动执行操作使得A.shape==B.shape;       2)对应位置进行相加运算,结果的shape是:A.shape和B.shape对应位置的最大值,比如:A.shape=(1,9,4),B.shape=(15,1,4),那么A+B的shape是(15,9,4)

3. 两个张量进行广播机制的条件

3.1 两个张量都至少有一个维度

#像下面这种情况下就不行,因为x不满足这个条件。x=torch.empty((0,))y=torch.empty(2,2)Pytorch中的广播机制(Broadcast)(pytorch广播相乘)

3.2 按从右往左顺序看两个张量的每一个维度,x和y每个对应着的两个维度都需要能够匹配上。什么情况下算是匹配上了?满足下面的条件就可以:       a.这两个维度的大小相等       b. 某个维度 一个张量有,一个张量没有       c.某个维度 一个张量有,一个张量也有但大小是1 如下举例:

x=torch.empty(5,3,4,1)y=torch.empty( 3,1,1)

如上面代码中,首先将两个张量维度向右靠齐,从右往左看,两个张量第四维大小相等,都为1,满足上面条件a;第三个维度大小不相等,但第二个张量第三维大小为1,满足上面条件b;第二个维度大小相等都为3,满足上面条件a;第一个维度第一个张量有,第二个张量没有,满足上面条件b,因此两个张量每个维度都符合上面广播条件,因此可以进行广播。 两个张量维度从右往左看,如果出现两个张量在某个维度位置上面,维度大小不相等,且两个维度大小没有一个是1,那么这两个张量一定不能进行广播。

4 当两个张量满足可广播条件后,具体怎么进行广播x=torch.empty(5,3,4,1)y=torch.empty( 3,1,1)

如上面代码所示:      a. 首先第一步,将上面条件b的类型变成条件c的类型,也即是把第二个张量在缺失维度的位置上新增一个维度,维度大小为1,新增的维度如下面所示。

统一前:x=torch.empty(5,3,4,1)y=torch.empty( 3,1,1)统一后:x=torch.empty(5,3,4,1)y=torch.empty(1,3,1,1)

     b. 第二步,x、y对应维度不等的位置,把size为1的维度会被广播得和对应维度一样大,比如y中0维的1会变成5,y中2维的1会变成4,最后两个张量的维度大小变成一样,然后再进行张量运算,转变的维度如下所示。

统一前:x=torch.empty(5,3,4,1)y=torch.empty(1,3,1,1)统一后:x=torch.empty(5,3,4,1)y=torch.empty(5,3,4,1)5. 从空间上理解广播机制

5.1 一维张量进行广播,b被自动广播得和a一样的维度大小,完成了张量相乘运算,如下图所示。

a = torch.tensor([1,2,3])b = torch.tensor([2])c = a*ba,a.shape,b,b.shape,c,c.shape输出结果如下:(tensor([1, 2, 3]), torch.Size([3]), tensor([2]), torch.Size([1]), tensor([2, 4, 6]), torch.Size([3]))

5.1 二维张量进行广播,b被自动广播得和a一样的维度大小,完成了张量相加运算,如下图所示。

a = torch.tensor([[0],[10],[20],[30]])b = torch.tensor([1,2,3])c = a+ba,a.shape,b,b.shape,c,c.shape输出结果如下:(tensor([[ 0], [10], [20], [30]]), torch.Size([4, 1]), tensor([1, 2, 3]), torch.Size([3]), tensor([[ 1, 2, 3], [11, 12, 13], [21, 22, 23], [31, 32, 33]]), torch.Size([4, 3]))

上面二维张量和一维张量相加运算进行广播过程为:a的形状是(4,1),b的形状是(3),如果a和b要匹配上,第一步给b新添一个维度,我们有:a的形状是(4,1),b的形状是(1,3);第二步二者各自把为1的维度进行广播,就如上图中那样进行广播,最后运算完成。

本文链接地址:https://www.jiuchutong.com/zhishi/300164.html 转载请保留说明!

上一篇:Vue懒加载(vue懒加载机构树刷新)

下一篇:https是如何保证安全的

  • 个人所得税可以退吗
  • 初级会计计划成本法例题
  • 股东购买自己公司产品
  • 支付办公楼维修费
  • 购车增值税可以抵扣多少
  • 培训费发票开具的要求
  • 个体工商户网上注销
  • 自己可以缴纳社保吗
  • 公司收到一次性吸纳就业补贴款怎么分录
  • 子公司注销是利空吗
  • 管理费用和财务费用算营业成本吗
  • 现金流量表本月数和本年累计数不一致
  • 购买户外用品的app
  • 2020退税时间超过了怎么办
  • 小规模纳税人季度申报表怎么填
  • 本期免税收入是什么
  • 企业发给员工的福利要交税吗
  • 应付质保金到期怎么办
  • 统一社会信用代码查询官网
  • 现金流量表的编制原则为( ),是( )的概念
  • 民间非营利组织会计制度最新版
  • 苹果6plus自带软件有哪些
  • 电脑在线测速的软件
  • 怎么用苹果电脑查找苹果手机
  • 物流公司支付运费怎么做账
  • 认证超时什么意思
  • 品牌转让怎么写
  • windows11 微软
  • windows10如何清理磁盘碎片
  • php怎么连接服务器
  • 小规模纳税人免征增值税的账务处理
  • 分红个人所得税在哪里查询
  • 把原材料给别人加工怎么入账
  • 充值会员卡送的营销秘诀
  • 税控设备购买
  • linux怎么打开makefile
  • 睿因无线路由器怎么设置
  • php 提交表单
  • 国家规定发票多久之内可以开
  • php img
  • 1.启动前端项目怎么做
  • 管理费用销售费用
  • 浅谈php中的错误处理方法
  • ajax跨域请求的原理是什么
  • 推荐几个比较好用的
  • 客户购买商品的条件?
  • SQL server 2008安装程序遇到以下错误 sku
  • python最小正整数
  • 事务所的账务处理
  • 收到现金投资计入什么科目
  • 同一控制下合并报表恢复留存收益
  • 资产减值损失是什么意思
  • 货物抵货款的账务处理
  • 跨年发生退货
  • 服装公司的会计怎么做账
  • 防伪系统制作
  • 异地工程可以在公司所在地缴纳税款吗
  • 进货没有发票怎么做账
  • 长期股权投资出售时其他权益变动
  • 企业支付宝提现到对公账户要交税吗
  • 独立董事需要入股吗
  • 国企背书是什么意思
  • 结账前要做哪些准备工作
  • Advanced Pagination for MySQL(mysql高级分页)
  • windows资源管理器停止工作怎么办
  • 如何通过mac找到具体地址
  • win8如何升级到win10系统版本
  • 在Linux上优化Mysql运行环境让你对Mysql更多了解
  • 如何更改忘记密码中的问题
  • 如何短时间内学会打字
  • 菜鸟教程安卓下载
  • linux chmod s
  • javascript教程完整版
  • 关于jquery的描述错误的是
  • python中time模块源代码
  • 宝鸡税务局长
  • 地方税收包含哪些
  • 收到发票需要代签吗
  • 云旅游存在的问题及解决措施
  • 税务发票定额
  • 免责声明:网站部分图片文字素材来源于网络,如有侵权,请及时告知,我们会第一时间删除,谢谢! 邮箱:opceo@qq.com

    鄂ICP备2023003026号

    网站地图: 企业信息 工商信息 财税知识 网络常识 编程技术

    友情链接: 武汉网站建设