位置: IT常识 - 正文

Pytorch+PyG实现GraphSAGE(pytorch with no grad)

编辑:rootadmin
Pytorch+PyG实现GraphSAGE 文章目录前言一、导入相关库二、加载Cora数据集三、定义GraphSAGE网络四、定义模型五、模型训练六、模型验证七、结果完整代码前言

推荐整理分享Pytorch+PyG实现GraphSAGE(pytorch with no grad),希望有所帮助,仅作参考,欢迎阅读内容。

文章相关热门搜索词:pytorch autograd.grad,pytorch grad,pytorch autograd.grad,pytorch gym,pytorch grad,pytorch autograd.grad,pytorch grad,pytorch vgg,内容如对您有帮助,希望把文章链接给更多的朋友!

大家好,我是阿光。

本专栏整理了《图神经网络代码实战》,内包含了不同图神经网络的相关代码实现(PyG以及自实现),理论与实践相结合,如GCN、GAT、GraphSAGE等经典图网络,每一个代码实例都附带有完整的代码。

正在更新中~ ✨

🚨 我的项目环境:

平台:Windows10语言环境:python3.7编译器:PyCharmPyTorch版本:1.11.0PyG版本:2.1.0

💥 项目专栏:【图神经网络代码实战目录】

本文我们将使用Pytorch + Pytorch Geometric来简易实现一个GraphSAGE,让新手可以理解如何PyG来搭建一个简易的图网络实例demo。

一、导入相关库Pytorch+PyG实现GraphSAGE(pytorch with no grad)

本项目我们需要结合两个库,一个是Pytorch,因为还需要按照torch的网络搭建模型进行书写,第二个是PyG,因为在torch中并没有关于图网络层的定义,所以需要torch_geometric这个库来定义一些图层。

import torchimport torch.nn.functional as Fimport torch.nn as nnimport torch_geometric.nn as pyg_nnfrom torch_geometric.datasets import Planetoid二、加载Cora数据集

本文使用的数据集是比较经典的Cora数据集,它是一个根据科学论文之间相互引用关系而构建的Graph数据集合,论文分为7类,共2708篇。

Genetic_AlgorithmsNeural_NetworksProbabilistic_MethodsReinforcement_LearningRule_LearningTheory

这个数据集是一个用于图节点分类的任务,数据集中只有一张图,这张图中含有2708个节点,10556条边,每个节点的特征维度为1433。

# 1.加载Cora数据集dataset = Planetoid(root='./data/Cora', name='Cora')三、定义GraphSAGE网络

这里我们就不重点介绍GraphSAGE网络了,相信大家能够掌握基本原理,本文我们使用的是PyG定义网络层,在PyG中已经定义好了SAGEConv这个层,该层采用的就是GraphSAGE机制。

对于SAGEConv的常用参数:

in_channels:每个样本的输入维度,就是每个节点的特征维度out_channels:经过注意力机制后映射成的新的维度,就是经过GAT后每个节点的维度长度normalize:是否添加自环,并且是否归一化,默认为Trueadd_self_loops:为图添加自环,是否考虑自身节点的信息bias:训练一个偏置b# 2.定义GraphSAGE网络class GraphSAGE(nn.Module): def __init__(self, num_node_features, num_classes): super(GraphSAGE, self).__init__() self.conv1 = pyg_nn.SAGEConv(num_node_features, 16) self.conv2 = pyg_nn.SAGEConv(16, num_classes) def forward(self, data): x, edge_index = data.x, data.edge_index x = self.conv1(x, edge_index) x = F.relu(x) x = F.dropout(x, training=self.training) x = self.conv2(x, edge_index) return F.log_softmax(x, dim=1)

上面网络我们定义了两个SAGEConv层,第一层的参数的输入维度就是初始每个节点的特征维度,输出维度是16。

第二个层的输入维度为16,输出维度为分类个数,因为我们需要对每个节点进行分类,最终加上softmax操作。

四、定义模型

下面就是定义了一些模型需要的参数,像学习率、迭代次数这些超参数,然后是模型的定义以及优化器及损失函数的定义,和pytorch定义网络是一样的。

device = torch.device('cuda' if torch.cuda.is_available() else 'cpu') # 设备epochs = 200 # 学习轮数lr = 0.0003 # 学习率num_node_features = dataset.num_node_features # 每个节点的特征数num_classes = dataset.num_classes # 每个节点的类别数data = dataset[0].to(device) # Cora的一张图# 3.定义模型model = GraphSAGE(num_node_features, num_classes).to(device)optimizer = torch.optim.Adam(model.parameters(), lr=lr) # 优化器loss_function = nn.NLLLoss() # 损失函数五、模型训练

模型训练部分也是和pytorch定义网络一样,因为都是需要经过前向传播、反向传播这些过程,对于损失、精度这些指标可以自己添加。

# 训练模式model.train()for epoch in range(epochs): optimizer.zero_grad() pred = model(data) loss = loss_function(pred[data.train_mask], data.y[data.train_mask]) # 损失 correct_count_train = pred.argmax(axis=1)[data.train_mask].eq(data.y[data.train_mask]).sum().item() # epoch正确分类数目 acc_train = correct_count_train / data.train_mask.sum().item() # epoch训练精度 loss.backward() optimizer.step() if epoch % 20 == 0: print("【EPOCH: 】%s" % str(epoch + 1)) print('训练损失为:{:.4f}'.format(loss.item()), '训练精度为:{:.4f}'.format(acc_train))print('【Finished Training!】')六、模型验证

下面就是模型验证阶段,在训练时我们是只使用了训练集,测试的时候我们使用的是测试集,注意这和传统网络测试不太一样,在图像分类一些经典任务中,我们是把数据集分成了两份,分别是训练集、测试集,但是在Cora这个数据集中并没有这样,它区分训练集还是测试集使用的是掩码机制,就是定义了一个和节点长度相同纬度的数组,该数组的每个位置为True或者False,标记着是否使用该节点的数据进行训练。

# 模型验证model.eval()pred = model(data)# 训练集(使用了掩码)correct_count_train = pred.argmax(axis=1)[data.train_mask].eq(data.y[data.train_mask]).sum().item()acc_train = correct_count_train / data.train_mask.sum().item()loss_train = loss_function(pred[data.train_mask], data.y[data.train_mask]).item()# 测试集correct_count_test = pred.argmax(axis=1)[data.test_mask].eq(data.y[data.test_mask]).sum().item()acc_test = correct_count_test / data.test_mask.sum().item()loss_test = loss_function(pred[data.test_mask], data.y[data.test_mask]).item()print('Train Accuracy: {:.4f}'.format(acc_train), 'Train Loss: {:.4f}'.format(loss_train))print('Test Accuracy: {:.4f}'.format(acc_test), 'Test Loss: {:.4f}'.format(loss_test))七、结果【EPOCH: 】1训练损失为:1.9547 训练精度为:0.1429【EPOCH: 】21训练损失为:1.8378 训练精度为:0.2143【EPOCH: 】41训练损失为:1.6961 训练精度为:0.3929【EPOCH: 】61训练损失为:1.4987 训练精度为:0.6857【EPOCH: 】81训练损失为:1.3121 训练精度为:0.7714【EPOCH: 】101训练损失为:1.1580 训练精度为:0.9143【EPOCH: 】121训练损失为:0.9903 训练精度为:0.8643【EPOCH: 】141训练损失为:0.8326 训练精度为:0.9286【EPOCH: 】161训练损失为:0.7429 训练精度为:0.9571【EPOCH: 】181训练损失为:0.6505 训练精度为:0.9571【Finished Training!】>>>Train Accuracy: 1.0000 Train Loss: 0.4065>>>Test Accuracy: 0.7060 Test Loss: 1.2712训练集测试集Accuracy1.00000.7060Loss0.40651.2712完整代码import torchimport torch.nn.functional as Fimport torch.nn as nnimport torch_geometric.nn as pyg_nnfrom torch_geometric.datasets import Planetoid# 1.加载Cora数据集dataset = Planetoid(root='./data/Cora', name='Cora')# 2.定义GraphSAGE网络class GraphSAGE(nn.Module): def __init__(self, num_node_features, num_classes): super(GraphSAGE, self).__init__() self.conv1 = pyg_nn.SAGEConv(num_node_features, 16) self.conv2 = pyg_nn.SAGEConv(16, num_classes) def forward(self, data): x, edge_index = data.x, data.edge_index x = self.conv1(x, edge_index) x = F.relu(x) x = F.dropout(x, training=self.training) x = self.conv2(x, edge_index) return F.log_softmax(x, dim=1)device = torch.device('cuda' if torch.cuda.is_available() else 'cpu') # 设备epochs = 200 # 学习轮数lr = 0.0003 # 学习率num_node_features = dataset.num_node_features # 每个节点的特征数num_classes = dataset.num_classes # 每个节点的类别数data = dataset[0].to(device) # Cora的一张图# 3.定义模型model = GraphSAGE(num_node_features, num_classes).to(device)optimizer = torch.optim.Adam(model.parameters(), lr=lr) # 优化器loss_function = nn.NLLLoss() # 损失函数# 训练模式model.train()for epoch in range(epochs): optimizer.zero_grad() pred = model(data) loss = loss_function(pred[data.train_mask], data.y[data.train_mask]) # 损失 correct_count_train = pred.argmax(axis=1)[data.train_mask].eq(data.y[data.train_mask]).sum().item() # epoch正确分类数目 acc_train = correct_count_train / data.train_mask.sum().item() # epoch训练精度 loss.backward() optimizer.step() if epoch % 20 == 0: print("【EPOCH: 】%s" % str(epoch + 1)) print('训练损失为:{:.4f}'.format(loss.item()), '训练精度为:{:.4f}'.format(acc_train))print('【Finished Training!】')# 模型验证model.eval()pred = model(data)# 训练集(使用了掩码)correct_count_train = pred.argmax(axis=1)[data.train_mask].eq(data.y[data.train_mask]).sum().item()acc_train = correct_count_train / data.train_mask.sum().item()loss_train = loss_function(pred[data.train_mask], data.y[data.train_mask]).item()# 测试集correct_count_test = pred.argmax(axis=1)[data.test_mask].eq(data.y[data.test_mask]).sum().item()acc_test = correct_count_test / data.test_mask.sum().item()loss_test = loss_function(pred[data.test_mask], data.y[data.test_mask]).item()print('Train Accuracy: {:.4f}'.format(acc_train), 'Train Loss: {:.4f}'.format(loss_train))print('Test Accuracy: {:.4f}'.format(acc_test), 'Test Loss: {:.4f}'.format(loss_test))
本文链接地址:https://www.jiuchutong.com/zhishi/298676.html 转载请保留说明!

上一篇:GPT-4重磅发布,它究竟厉害在哪?(gpt40)

下一篇:Typescript 全栈最值得学习的技术栈 TRPC(typescript完全解读)

  • 微信情侣空间开通后别人可以看到吗(微信情侣空间开通后会怎么样)

    微信情侣空间开通后别人可以看到吗(微信情侣空间开通后会怎么样)

  • iphone11多大内存(苹果11多大内存好)

    iphone11多大内存(苹果11多大内存好)

  • 快手关注人数怎么隐藏(快手关注人数怎么变成1)

    快手关注人数怎么隐藏(快手关注人数怎么变成1)

  • 淘宝保证金解冻后钱到哪里(淘宝保证金解冻后多久到账)

    淘宝保证金解冻后钱到哪里(淘宝保证金解冻后多久到账)

  • 笔记本电脑以太网网络电缆被拔出是什么意思(笔记本电脑以太网不见了怎么办)

    笔记本电脑以太网网络电缆被拔出是什么意思(笔记本电脑以太网不见了怎么办)

  • 电脑为什么会频繁黑屏(电脑为什么会频繁黑屏几秒)

    电脑为什么会频繁黑屏(电脑为什么会频繁黑屏几秒)

  • oppo手机怎样发朋友圈不折叠(oppo手机怎样发定位)

    oppo手机怎样发朋友圈不折叠(oppo手机怎样发定位)

  • 流量用的太快是什么原因(流量用的太快是怎么回事)

    流量用的太快是什么原因(流量用的太快是怎么回事)

  • 微信分身别人看得到吗(微信分身后别人能看得到分身吗)

    微信分身别人看得到吗(微信分身后别人能看得到分身吗)

  • 内存条接触不良的表现(内存条接触不良会导致蓝屏吗)

    内存条接触不良的表现(内存条接触不良会导致蓝屏吗)

  • xr通话时不能录音吗(苹果xr打电话录屏怎么没声音)

    xr通话时不能录音吗(苹果xr打电话录屏怎么没声音)

  • 完整的计算机系统由什么组成(完整的计算机系统包括哪两大部分)

    完整的计算机系统由什么组成(完整的计算机系统包括哪两大部分)

  • 域名地址和ip地址转换的系统是(域名地址和ip地址转换的协议)

    域名地址和ip地址转换的系统是(域名地址和ip地址转换的协议)

  • 手机文件管理中的文档可以删除吗(手机文件管理中哪些文件可以删除掉)

    手机文件管理中的文档可以删除吗(手机文件管理中哪些文件可以删除掉)

  • 微信黑脸表情在哪(微信黑脸表情在哪苹果)

    微信黑脸表情在哪(微信黑脸表情在哪苹果)

  • 怎么看有没有固态硬盘(怎么看有没有固态)

    怎么看有没有固态硬盘(怎么看有没有固态)

  • 收音机air是什么频道(收音机ir是什么意思)

    收音机air是什么频道(收音机ir是什么意思)

  • IE是什么(ie是什么意思医学)

    IE是什么(ie是什么意思医学)

  • 电脑开始菜单不见了(电脑开始菜单不见了没法关机)

    电脑开始菜单不见了(电脑开始菜单不见了没法关机)

  • 剪映怎么提取音乐文字(剪映怎么提取音频文字内容)

    剪映怎么提取音乐文字(剪映怎么提取音频文字内容)

  • iphone激活时远程管理(苹果激活的时候远程管理是什么意思)

    iphone激活时远程管理(苹果激活的时候远程管理是什么意思)

  • 苹果8怎么控制空调(苹果8怎么控制屏幕旋转)

    苹果8怎么控制空调(苹果8怎么控制屏幕旋转)

  • 美团邀请新人奖励在哪看(美团邀请新人奖励怎么提现)

    美团邀请新人奖励在哪看(美团邀请新人奖励怎么提现)

  • 微信和ipad不兼容怎么办(微信与ipad不兼容是怎么回事)

    微信和ipad不兼容怎么办(微信与ipad不兼容是怎么回事)

  • vivoz3有屏幕指纹吗(vivoz3屏幕指纹版)

    vivoz3有屏幕指纹吗(vivoz3屏幕指纹版)

  • 帝国CMS灵动标签怎么实现标签无限嵌套(帝国cms灵动标签调用外表)

    帝国CMS灵动标签怎么实现标签无限嵌套(帝国cms灵动标签调用外表)

  • 纳税调整减少额是什么意思
  • 疫情期间发生的费用进什么科目
  • 三项经费包括在哪些内容
  • 小规模出租不动产免税吗
  • 旅游的合同
  • 企业总资产是否包含累积折旧
  • 销售费用包括哪些二级科目
  • 一般纳税人税种认定有几个增值税要怎么申报呀
  • 开公司财务流程
  • 税控系统服务
  • 银行贷款利息从几点计算
  • 网银转账手续费标准
  • 保险公司多赔付的钱需要退还吗
  • 房地产开发企业预缴增值税
  • 境外单位向境内单位提供咨询
  • 公司拆迁安置所得的补偿款税务怎么处理
  • 买金税盘怎么做账,抵扣的时候
  • 增值税税负最终由谁承担
  • 剪头开发票
  • 药用植物所
  • 购买材料,材料未验收入库,货款未付会计分录
  • 工业企业采购原材料
  • 应收账款质押账户被冻结
  • 收到上年度企业所得税退税款
  • 印花税是按开票金额还是收入
  • 股东个人财产转让流程
  • 房地产转让的条件
  • 苹果6手机锁屏
  • 浏览器显示英语怎么设置成中文
  • php过滤emoji
  • 二手房过户需要哪些手续和费用2023
  • 零基础java从入门到精通
  • h5调用海康摄像头
  • 秋分日的时间意义庆祝方式
  • 收取增值税一般是多少
  • php验证电子邮件格式
  • 北海道的鱼
  • 营改增后酒店行业有哪些税种
  • 自产应税消费品用于在建工程要交增值税吗
  • 增值税退税要准备什么资料
  • jupyter用法
  • 前端处理map
  • wordpress建立数据库错误
  • 公司内部现金管理制度
  • 城建税要计入税金及附加吗
  • 政府补助的相关法律法规
  • 应付账款坏账损失的会计分录
  • 投资性房地产对外出租的账务处理
  • 经营范围变更银行变更需要什么资料
  • 小企业会计准则调整以前年度费用分录
  • 农产品加工会计分录
  • 职工辞退福利是否要申报个税
  • 销售产品的软件平台
  • 企业计提任意盈余公积的比例
  • 飞机票电子发票可以抵扣进项税吗
  • 财务费用和应付利息都在借方
  • 企业购手机的发票在哪里
  • 旅游费用如何记账科目
  • 增加委托代理人
  • mysql安装出问题
  • 如何抛弃七情六欲
  • 系统如何修改
  • 交换机操作系统版本
  • 在linux系统中添加用户的命令
  • windows search进程
  • win7破解版和正版的区别
  • win2008个性化
  • layui nodejs
  • node.js的概念
  • android按钮点击效果的实验报告
  • perl中的$_
  • c#的程序集
  • unity转盘游戏
  • jquery实战
  • js原生dialog
  • nodejs Assert中equal(),strictEqual(),deepEqual(),strictDeepEqual()比较
  • android开源app
  • qrcode怎么生成
  • jquery去重复数组
  • 新疆税务服务网
  • 免责声明:网站部分图片文字素材来源于网络,如有侵权,请及时告知,我们会第一时间删除,谢谢! 邮箱:opceo@qq.com

    鄂ICP备2023003026号

    网站地图: 企业信息 工商信息 财税知识 网络常识 编程技术

    友情链接: 武汉网站建设