位置: IT常识 - 正文

Pytorch实现MLP(基于PyTorch实现)(pytorch m1)

编辑:rootadmin
Pytorch实现MLP(基于PyTorch实现) 文章目录前言一、导入相关库二、加载Cora数据集三、定义MLP网络3.1 定义MLP层3.1.1 定义参数 WWW 和 bbb3.1.2 定义传播函数3.1.3 MLP层3.2 定义MLP网络四、定义模型五、模型训练六、模型验证七、结果完整代码前言

推荐整理分享Pytorch实现MLP(基于PyTorch实现)(pytorch m1),希望有所帮助,仅作参考,欢迎阅读内容。

文章相关热门搜索词:pytorch maml,pytorch mkldnn,mpi pytorch,pytorch mlp,mpi pytorch,pytorch mlp,mpi pytorch,pytorch maml,内容如对您有帮助,希望把文章链接给更多的朋友!

大家好,我是阿光。

本专栏整理了《图神经网络代码实战》,内包含了不同图神经网络的相关代码实现(PyG以及自实现),理论与实践相结合,如GCN、GAT、GraphSAGE等经典图网络,每一个代码实例都附带有完整的代码。

正在更新中~ ✨

🚨 我的项目环境:

平台:Windows10语言环境:python3.7编译器:PyCharmPyTorch版本:1.11.0PyG版本:2.1.0

💥 项目专栏:【图神经网络代码实战目录】

本文我们将使用PyTorch来简易实现一个MLP网络,不使用PyG库,让新手可以理解如何PyTorch来搭建一个简易的图网络实例demo。

一、导入相关库

本项目是采用自己实现的MLP,并没有使用 PyG 库,原因是为了帮助新手朋友们能够对MLP的原理有个更深刻的理解,如果熟悉之后可以尝试使用PyG库直接调用 MLP 这个图层即可。

import torchimport torch.nn as nnimport torch.nn.functional as Ffrom torch_geometric.utils import scatterfrom torch_geometric.datasets import Planetoidimport torch_geometric.nn as pyg_nn二、加载Cora数据集

本文使用的数据集是比较经典的Cora数据集,它是一个根据科学论文之间相互引用关系而构建的Graph数据集合,论文分为7类,共2708篇。

Genetic_AlgorithmsNeural_NetworksProbabilistic_MethodsReinforcement_LearningRule_LearningTheory

这个数据集是一个用于图节点分类的任务,数据集中只有一张图,这张图中含有2708个节点,10556条边,每个节点的特征维度为1433。

# 1.加载Cora数据集dataset = Planetoid(root='./data/Cora', name='Cora')三、定义MLP网络3.1 定义MLP层

这里我们就不重点介绍MLP网络了,相信大家能够掌握基本原理,本文我们使用的是PyTorch定义网络层。

Pytorch实现MLP(基于PyTorch实现)(pytorch m1)

对于MLP的常用参数:

in_channels:每个样本的输入维度,就是每个节点的特征维度out_channels:经过注意力机制后映射成的新的维度,就是经过GAT后每个节点的维度长度bias:训练一个偏置b

我们在实现时也是考虑这几个常见参数,对于PyG的内置MLP层的参数可能有点复杂,它可以传入一个列表进行多层特征映射,这里为了简单就是实现一个最基本的单层MLP

对于MLP的传播公式为: H′=HW+bH'=HW+bH′=HW+b

上式子中的 HHH 代表每个层的输入特征,也就是每个节点的特征矩阵,如果是第一层,则 H=XH_0=XH0​=X,对于 WWW 代表每个 MLP 层的可学习参数,bbb 代表偏置参数。

所以我们的任务无非就是获取这几个变量,然后进行传播计算即可

3.1.1 定义参数 WWW 和 bbb

这里为了方便实现,直接利用了 Linear() 函数,如果可以的话可以利用最原始的方法使用 w = nn.Parameter(torch.randn(in_channels, out_channels)) 这种方式来定义参数 WWW

# 线性层self.linear = pyg_nn.dense.linear.Linear(in_channels, out_channels, weight_initializer='glorot', , bias=False)# 偏置if bias: self.bias = nn.Parameter(torch.Tensor(out_channels, 1)) self.bias = pyg_nn.inits.glorot(self.bias)else: self.register_parameter('bias', None)3.1.2 定义传播函数

对于MLP来说,就是一个简单的特征映射,实现一个简单的矩阵乘法而已,所以实现起来较为容易,直接调用定义好的线性层即可,最终加上偏置。

def forward(self, x):# 1.特征映射out = self.linear(x)# 2.添加偏置if self.bias != None: out += self.biasreturn out3.1.3 MLP层

接下来就可以定义MLP层了,该层实现了1个函数,分别是forward()

forward():这个函数定义模型的传播过程,也就是上面公式的 HWHWHW,如果设置了偏置在加上偏置返回即可# 2.定义MLP层class MLP(nn.Module): def __init__(self, in_channels, out_channels, bias=True): super(MLP, self).__init__() self.in_channels = in_channels # 输入图节点的特征数 self.out_channels = out_channels # 输出图节点的特征数 # 线性层 self.linear = pyg_nn.dense.linear.Linear(in_channels, out_channels, weight_initializer='glorot', bias=False) # 偏置 if bias: self.bias = nn.Parameter(torch.Tensor(out_channels, 1)) self.bias = pyg_nn.inits.glorot(self.bias) else: self.register_parameter('bias', None) def forward(self, x): # 1.特征映射 out = self.linear(x) # 2.添加偏置 if self.bias != None: out += self.bias return out

对于我们实现这个网络的实现效率上来讲比PyG框架内置的 MLP 层稍差一点,因为我们是按照公式来一步一步利用矩阵计算得到,没有对矩阵计算以及算法进行优化,不然初学者可能看不太懂,不利于理解MLP公式的传播过程,有能力的小伙伴可以看下官方源码学习一下。

3.2 定义MLP网络

上面我们已经实现好了 MLP 的网络层,之后就可以调用这个层来搭建 MLP 网络。

# 3.定义MLP网络class Model(nn.Module): def __init__(self, num_node_features, num_classes): super(Model, self).__init__() self.lin_1 = MLP(num_node_features, 16) self.lin_2 = MLP(16, num_classes) def forward(self, data): x = data.x x = self.lin_1(x) x = F.relu(x) x = F.dropout(x, training=self.training) x = self.lin_2(x) return F.log_softmax(x, dim=1)

上面网络我们定义了两个 MLP 层,第一层的参数的输入维度就是初始每个节点的特征维度,输出维度是16。

第二个层的输入维度为16,输出维度为分类个数,因为我们需要对每个节点进行分类,最终加上softmax操作。

四、定义模型

下面就是定义了一些模型需要的参数,像学习率、迭代次数这些超参数,然后是模型的定义以及优化器及损失函数的定义,和pytorch定义网络是一样的。

device = torch.device('cuda' if torch.cuda.is_available() else 'cpu') # 设备epochs = 10 # 学习轮数lr = 0.003 # 学习率num_node_features = dataset.num_node_features # 每个节点的特征数num_classes = dataset.num_classes # 每个节点的类别数data = dataset[0].to(device) # Cora的一张图# 3.定义模型model = Model(num_node_features, num_classes).to(device)optimizer = torch.optim.Adam(model.parameters(), lr=lr) # 优化器loss_function = nn.NLLLoss() # 损失函数五、模型训练

模型训练部分也是和pytorch定义网络一样,因为都是需要经过前向传播、反向传播这些过程,对于损失、精度这些指标可以自己添加。

# 训练模式model.train()for epoch in range(epochs): optimizer.zero_grad() pred = model(data) loss = loss_function(pred[data.train_mask], data.y[data.train_mask]) # 损失 correct_count_train = pred.argmax(axis=1)[data.train_mask].eq(data.y[data.train_mask]).sum().item() # epoch正确分类数目 acc_train = correct_count_train / data.train_mask.sum().item() # epoch训练精度 loss.backward() optimizer.step() if epoch % 20 == 0: print("【EPOCH: 】%s" % str(epoch + 1)) print('训练损失为:{:.4f}'.format(loss.item()), '训练精度为:{:.4f}'.format(acc_train))print('【Finished Training!】')六、模型验证

下面就是模型验证阶段,在训练时我们是只使用了训练集,测试的时候我们使用的是测试集,注意这和传统网络测试不太一样,在图像分类一些经典任务中,我们是把数据集分成了两份,分别是训练集、测试集,但是在Cora这个数据集中并没有这样,它区分训练集还是测试集使用的是掩码机制,就是定义了一个和节点长度相同纬度的数组,该数组的每个位置为True或者False,标记着是否使用该节点的数据进行训练。

# 模型验证model.eval()pred = model(data)# 训练集(使用了掩码)correct_count_train = pred.argmax(axis=1)[data.train_mask].eq(data.y[data.train_mask]).sum().item()acc_train = correct_count_train / data.train_mask.sum().item()loss_train = loss_function(pred[data.train_mask], data.y[data.train_mask]).item()# 测试集correct_count_test = pred.argmax(axis=1)[data.test_mask].eq(data.y[data.test_mask]).sum().item()acc_test = correct_count_test / data.test_mask.sum().item()loss_test = loss_function(pred[data.test_mask], data.y[data.test_mask]).item()print('Train Accuracy: {:.4f}'.format(acc_train), 'Train Loss: {:.4f}'.format(loss_train))print('Test Accuracy: {:.4f}'.format(acc_test), 'Test Loss: {:.4f}'.format(loss_test))七、结果【EPOCH: 】1训练损失为:1.9460 训练精度为:0.2071【EPOCH: 】21训练损失为:1.8583 训练精度为:0.2714【EPOCH: 】41训练损失为:1.7751 训练精度为:0.3643【EPOCH: 】61训练损失为:1.7049 训练精度为:0.4357【EPOCH: 】81训练损失为:1.5710 训练精度为:0.5929【EPOCH: 】101训练损失为:1.4686 训练精度为:0.6214【EPOCH: 】121训练损失为:1.3101 训练精度为:0.7286【EPOCH: 】141训练损失为:1.2317 训练精度为:0.7143【EPOCH: 】161训练损失为:1.2142 训练精度为:0.7571【EPOCH: 】181训练损失为:1.0434 训练精度为:0.8214【Finished Training!】>>>Train Accuracy: 0.9929 Train Loss: 0.8560>>>Test Accuracy: 0.3910 Test Loss: 1.7350训练集测试集Accuracy0.99290.3910Loss0.85601.7350完整代码import torchimport torch.nn as nnimport torch.nn.functional as Ffrom torch_geometric.utils import scatterfrom torch_geometric.datasets import Planetoidimport torch_geometric.nn as pyg_nn# 1.加载Cora数据集dataset = Planetoid(root='../data/Cora', name='Cora')# 2.定义MLP层class MLP(nn.Module): def __init__(self, in_channels, out_channels, bias=True): super(MLP, self).__init__() self.in_channels = in_channels # 输入图节点的特征数 self.out_channels = out_channels # 输出图节点的特征数 # 线性层 self.linear = pyg_nn.dense.linear.Linear(in_channels, out_channels, weight_initializer='glorot', bias=False) # 偏置 if bias: self.bias = nn.Parameter(torch.Tensor(out_channels, 1)) self.bias = pyg_nn.inits.glorot(self.bias) else: self.register_parameter('bias', None) def forward(self, x): # 1.特征映射 out = self.linear(x) # 2.添加偏置 if self.bias != None: out += self.bias return out# 3.定义MLP网络class Model(nn.Module): def __init__(self, num_node_features, num_classes): super(Model, self).__init__() self.lin_1 = MLP(num_node_features, 16) self.lin_2 = MLP(16, num_classes) def forward(self, data): x = data.x x = self.lin_1(x) x = F.relu(x) x = F.dropout(x, training=self.training) x = self.lin_2(x) return F.log_softmax(x, dim=1)device = torch.device('cuda' if torch.cuda.is_available() else 'cpu') # 设备epochs = 200 # 学习轮数lr = 0.0003 # 学习率num_node_features = dataset.num_node_features # 每个节点的特征数num_classes = dataset.num_classes # 每个节点的类别数data = dataset[0].to(device) # Cora的一张图# 4.定义模型model = Model(num_node_features, num_classes).to(device)optimizer = torch.optim.Adam(model.parameters(), lr=lr) # 优化器loss_function = nn.NLLLoss() # 损失函数# 训练模式model.train()for epoch in range(epochs): optimizer.zero_grad() pred = model(data) loss = loss_function(pred[data.train_mask], data.y[data.train_mask]) # 损失 correct_count_train = pred.argmax(axis=1)[data.train_mask].eq(data.y[data.train_mask]).sum().item() # epoch正确分类数目 acc_train = correct_count_train / data.train_mask.sum().item() # epoch训练精度 loss.backward() optimizer.step() if epoch % 20 == 0: print("【EPOCH: 】%s" % str(epoch + 1)) print('训练损失为:{:.4f}'.format(loss.item()), '训练精度为:{:.4f}'.format(acc_train))print('【Finished Training!】')# 模型验证model.eval()pred = model(data)# 训练集(使用了掩码)correct_count_train = pred.argmax(axis=1)[data.train_mask].eq(data.y[data.train_mask]).sum().item()acc_train = correct_count_train / data.train_mask.sum().item()loss_train = loss_function(pred[data.train_mask], data.y[data.train_mask]).item()# 测试集correct_count_test = pred.argmax(axis=1)[data.test_mask].eq(data.y[data.test_mask]).sum().item()acc_test = correct_count_test / data.test_mask.sum().item()loss_test = loss_function(pred[data.test_mask], data.y[data.test_mask]).item()print('Train Accuracy: {:.4f}'.format(acc_train), 'Train Loss: {:.4f}'.format(loss_train))print('Test Accuracy: {:.4f}'.format(acc_test), 'Test Loss: {:.4f}'.format(loss_test))
本文链接地址:https://www.jiuchutong.com/zhishi/300652.html 转载请保留说明!

上一篇:【ChatGPT】中国支付清算协会倡议支付行业从业人员谨慎使用ChatGPT(ChatGPT中国电话不能注册)

下一篇:若依框架前端Vue项目分析实战(若依框架前端发请求)

  • oppopdpmoo是什么型号(oppopdhmoo是啥牌子手机)

    oppopdpmoo是什么型号(oppopdhmoo是啥牌子手机)

  • 短信已存入草稿如何找(短信已存入草稿怎么删除)

    短信已存入草稿如何找(短信已存入草稿怎么删除)

  • 笔记本不用的时候要拔掉电源吗(笔记本不用的时候一直插着电源好吗)

    笔记本不用的时候要拔掉电源吗(笔记本不用的时候一直插着电源好吗)

  • 拉黑了短信服务能发送吗(拉黑已用短信服务发送)

    拉黑了短信服务能发送吗(拉黑已用短信服务发送)

  • iphone微信字体怎么改(iphone微信字体怎么变大)

    iphone微信字体怎么改(iphone微信字体怎么变大)

  • 苹果手机用多久会卡(苹果手机用多久会掉到80以下)

    苹果手机用多久会卡(苹果手机用多久会掉到80以下)

  • ios13.4.1怎么降级(苹果13.4怎么降级到13.3)

    ios13.4.1怎么降级(苹果13.4怎么降级到13.3)

  • 小米8note pro是什么处理器(小米8note pro参数)

    小米8note pro是什么处理器(小米8note pro参数)

  • a2197是ipad几代几寸(ipad a2197是第几代)

    a2197是ipad几代几寸(ipad a2197是第几代)

  • 手机一直来验证码短信怎么回事(手机一直来验证信息)

    手机一直来验证码短信怎么回事(手机一直来验证信息)

  • 快手为啥有特别关注(为什么快手最近这么严)

    快手为啥有特别关注(为什么快手最近这么严)

  • 支付宝语音提醒服务怎么关闭(支付宝语音提醒服务是什么意思)

    支付宝语音提醒服务怎么关闭(支付宝语音提醒服务是什么意思)

  • 电脑end键作用(电脑键盘上end键的作用)

    电脑end键作用(电脑键盘上end键的作用)

  • 淘宝店铺怎么参加双十一(淘宝店铺怎么参加618活动)

    淘宝店铺怎么参加双十一(淘宝店铺怎么参加618活动)

  • 目前最大的处理器生产厂商是(最大处理器状态是什么)

    目前最大的处理器生产厂商是(最大处理器状态是什么)

  • 陌陌注销后好友还在吗(陌陌注销后好友看到的样子)

    陌陌注销后好友还在吗(陌陌注销后好友看到的样子)

  • 被对方拒收是什么意思(被对方拒收是怎么回事)

    被对方拒收是什么意思(被对方拒收是怎么回事)

  • kindle怎么下载免费书籍(kindle怎么下载免费)

    kindle怎么下载免费书籍(kindle怎么下载免费)

  • kindle掉电很快怎么办(kindle耗电突然巨快)

    kindle掉电很快怎么办(kindle耗电突然巨快)

  • surface pro7何时发布(微软surface pro7发布时间)

    surface pro7何时发布(微软surface pro7发布时间)

  • 小米6x发烫怎么处理(小米6x发烫怎么解决)

    小米6x发烫怎么处理(小米6x发烫怎么解决)

  • 手机系统内存占用过高怎么办(手机系统内存占多少)

    手机系统内存占用过高怎么办(手机系统内存占多少)

  • qq怎么关闭兴趣部落(新版本qq兴趣爱好关闭在哪里)

    qq怎么关闭兴趣部落(新版本qq兴趣爱好关闭在哪里)

  • Win10系统中,电脑经常自动掉线或断网怎么办?(window10的点在哪里)

    Win10系统中,电脑经常自动掉线或断网怎么办?(window10的点在哪里)

  • powerkey.exe是什么进程 powerkey进程查询(powerremind.exe)

    powerkey.exe是什么进程 powerkey进程查询(powerremind.exe)

  • 欧罗巴山Los Argaos山脉上的日落,西班牙阿斯图里亚斯 (© jregueiro/Getty Images)(欧罗巴山脉自驾)

    欧罗巴山Los Argaos山脉上的日落,西班牙阿斯图里亚斯 (© jregueiro/Getty Images)(欧罗巴山脉自驾)

  • idea连接SQL Server数据库(idea连接sqlserver数据库教程)

    idea连接SQL Server数据库(idea连接sqlserver数据库教程)

  • 一般纳税人机电安装服务费税率是多少
  • 公司租房代房东缴纳租房税金
  • 普通发票被作废的话财务会发现吗
  • 增值税免税是否计入营业外收入
  • 工程结算与工程施工如何结转
  • 代扣公积金会计怎么做账
  • 长期待摊费用摊出来钱去哪里了
  • 公司注销固定资产交什么税
  • 蜜枣税收分类编码
  • 企业恢复生产经营方案
  • 买卖投资证券基金怎么进行财税处理?
  • 什么人可以领购房补贴怎么领取
  • 股东其他应付款可以转为实收资本文本格式
  • 水电费的增值税计入什么科目
  • 免征的税款每月几号申报
  • 其他应付款和其他应交款区别
  • 进料进口
  • 新公司能先用别人的钱吗
  • 经营费用与营业收入区别
  • 推荐几个优秀的电影
  • 质押已至票据到期日
  • 行政划拨无偿取得的土地使用权属于什么资产
  • 收到稳岗补贴计入哪个科目
  • 没有车船税可以检车吗
  • 报销冲销借款
  • PHP:iterator_count()的用法_spl函数
  • PHP:pg_connection_status()的用法_PostgreSQL函数
  • msoicons.exe是什么文件
  • php img
  • PHP:iconv_mime_encode()的用法_iconv函数
  • php运用的技术php开发有哪些实用的技术
  • vue二级菜单的隐藏与显示
  • php操作mysql数据库
  • 小程序从入门到精通
  • 企业已开出的成本怎么算
  • yolo系列算法比较
  • laravel日志管理系统
  • 客户多付款不要了,多出这部分是哪种收入
  • 股东向公司借款超过一年不还
  • 哪些收入需缴纳增值税
  • 会计常用分录
  • 不用交社保的几种情况
  • 私车公用费用报销是否违规
  • 实收资本未到位
  • 应交税费借方如何计算
  • 收到免税发票会计分录
  • 长期挂账其他应付款
  • 月末一次加权平均和移动加权平均的区别
  • 企业外购的固定资产应该怎样进行会计核算
  • 民营企业固定资产管理规定
  • sqlite迁移到mysql脚本的方法
  • 科普知识大全
  • 2008r2数据库备份
  • linux系统的介绍
  • solaris 安装
  • xp系统访问局域网
  • ghost到一半报错
  • 三种方法完美解决问题
  • 在linux中使用ssh远程调试后目标板的输出在哪里
  • 红石id
  • java语言的解释器是什么
  • nodejs常用api
  • 浅析js动态创建方法
  • jquery简单例子
  • android fragmentation
  • js设计模式书
  • python tkinter tabview
  • shell脚本怎么写循环
  • shell脚本位置变量
  • js中dom的用法
  • javascript语言基础
  • jquery轮播图代码
  • 编写python程序的步骤
  • webpack循环引用
  • 打印个人住房信息查询记录需要什么资料
  • 农产品进项税额核定扣除
  • 拆迁房抵税政策
  • 公司完税证明去哪里打
  • 浪潮报销软件安装
  • 收心归位经典语录短句
  • 免责声明:网站部分图片文字素材来源于网络,如有侵权,请及时告知,我们会第一时间删除,谢谢! 邮箱:opceo@qq.com

    鄂ICP备2023003026号

    网站地图: 企业信息 工商信息 财税知识 网络常识 编程技术

    友情链接: 武汉网站建设