位置: IT常识 - 正文
推荐整理分享Pytorch 2.0来了!来看看新特性怎么应用到自己的代码里(pytorch1.9.0),希望有所帮助,仅作参考,欢迎阅读内容。
文章相关热门搜索词:pytorch1.6,pytorch1.0.1,pytorch1.9.0,pytorch1.0.1,pytorch1.6,pytorch 1.2,pytorch0.3.0,pytorch0.3.0,内容如对您有帮助,希望把文章链接给更多的朋友!
Pytorch2.0和GPT4、文心一言同一时间段发布,可谓是热闹至极,我看了看Pytorch 2.0的文档,一句话概括下,2.0的功能介绍,核心就是torch.compile:
opt_module = torch.Compile(module)加入这行代码就能优化你的模型,优化后的模型和往常使用方式一样,推理速度会提升,比较重要的一点是,可以用于训练或者部署,训练可以传梯度,这次是带有AOTautograd的。然而需要注意的是,这行代码(编译)本身会消耗不少时间。
Pytorch官方在A100上测试了三个模型仓库的模型,加速比如下:
Speedups for torch.compile against eager mode on an NVIDIA A100 GPU
看起来很不错。那废话不多说,来看看怎么用。
2. 安装和使用Pytorch 2.0要安装pytorch2.0首先得上pytorch官网: 需要注意的是,Pytorch 2.0只支持python3.8以上的版本,老环境记得升级一下。
按照官方提供的渠道安装完torch之后,就可以应用到自己的代码里了。这里我简单写一个用来做图像分类的神经网络。
import torchimport torch.nn as nnimport torch._dynamo# ------ 加入这行,查看编译步骤 ------ #torch._dynamo.config.verbose=True# ------ 加入这行,跳过异常 ------ #torch._dynamo.config.suppress_errors = Trueclass ThdCNN(nn.Module):# 网络结构def fit(**args):# 训练和测试model= ThdCNN(image_size, num_classes) #下一篇:Vue2 Element description组件 列合并
友情链接: 武汉网站建设