位置: IT常识 - 正文

Pytorch+PyG实现GraphSAGE(pytorch with no grad)

编辑:rootadmin
Pytorch+PyG实现GraphSAGE 文章目录前言一、导入相关库二、加载Cora数据集三、定义GraphSAGE网络四、定义模型五、模型训练六、模型验证七、结果完整代码前言

推荐整理分享Pytorch+PyG实现GraphSAGE(pytorch with no grad),希望有所帮助,仅作参考,欢迎阅读内容。

文章相关热门搜索词:pytorch autograd.grad,pytorch grad,pytorch autograd.grad,pytorch gym,pytorch grad,pytorch autograd.grad,pytorch grad,pytorch vgg,内容如对您有帮助,希望把文章链接给更多的朋友!

大家好,我是阿光。

本专栏整理了《图神经网络代码实战》,内包含了不同图神经网络的相关代码实现(PyG以及自实现),理论与实践相结合,如GCN、GAT、GraphSAGE等经典图网络,每一个代码实例都附带有完整的代码。

正在更新中~ ✨

🚨 我的项目环境:

平台:Windows10语言环境:python3.7编译器:PyCharmPyTorch版本:1.11.0PyG版本:2.1.0

💥 项目专栏:【图神经网络代码实战目录】

本文我们将使用Pytorch + Pytorch Geometric来简易实现一个GraphSAGE,让新手可以理解如何PyG来搭建一个简易的图网络实例demo。

一、导入相关库Pytorch+PyG实现GraphSAGE(pytorch with no grad)

本项目我们需要结合两个库,一个是Pytorch,因为还需要按照torch的网络搭建模型进行书写,第二个是PyG,因为在torch中并没有关于图网络层的定义,所以需要torch_geometric这个库来定义一些图层。

import torchimport torch.nn.functional as Fimport torch.nn as nnimport torch_geometric.nn as pyg_nnfrom torch_geometric.datasets import Planetoid二、加载Cora数据集

本文使用的数据集是比较经典的Cora数据集,它是一个根据科学论文之间相互引用关系而构建的Graph数据集合,论文分为7类,共2708篇。

Genetic_AlgorithmsNeural_NetworksProbabilistic_MethodsReinforcement_LearningRule_LearningTheory

这个数据集是一个用于图节点分类的任务,数据集中只有一张图,这张图中含有2708个节点,10556条边,每个节点的特征维度为1433。

# 1.加载Cora数据集dataset = Planetoid(root='./data/Cora', name='Cora')三、定义GraphSAGE网络

这里我们就不重点介绍GraphSAGE网络了,相信大家能够掌握基本原理,本文我们使用的是PyG定义网络层,在PyG中已经定义好了SAGEConv这个层,该层采用的就是GraphSAGE机制。

对于SAGEConv的常用参数:

in_channels:每个样本的输入维度,就是每个节点的特征维度out_channels:经过注意力机制后映射成的新的维度,就是经过GAT后每个节点的维度长度normalize:是否添加自环,并且是否归一化,默认为Trueadd_self_loops:为图添加自环,是否考虑自身节点的信息bias:训练一个偏置b# 2.定义GraphSAGE网络class GraphSAGE(nn.Module): def __init__(self, num_node_features, num_classes): super(GraphSAGE, self).__init__() self.conv1 = pyg_nn.SAGEConv(num_node_features, 16) self.conv2 = pyg_nn.SAGEConv(16, num_classes) def forward(self, data): x, edge_index = data.x, data.edge_index x = self.conv1(x, edge_index) x = F.relu(x) x = F.dropout(x, training=self.training) x = self.conv2(x, edge_index) return F.log_softmax(x, dim=1)

上面网络我们定义了两个SAGEConv层,第一层的参数的输入维度就是初始每个节点的特征维度,输出维度是16。

第二个层的输入维度为16,输出维度为分类个数,因为我们需要对每个节点进行分类,最终加上softmax操作。

四、定义模型

下面就是定义了一些模型需要的参数,像学习率、迭代次数这些超参数,然后是模型的定义以及优化器及损失函数的定义,和pytorch定义网络是一样的。

device = torch.device('cuda' if torch.cuda.is_available() else 'cpu') # 设备epochs = 200 # 学习轮数lr = 0.0003 # 学习率num_node_features = dataset.num_node_features # 每个节点的特征数num_classes = dataset.num_classes # 每个节点的类别数data = dataset[0].to(device) # Cora的一张图# 3.定义模型model = GraphSAGE(num_node_features, num_classes).to(device)optimizer = torch.optim.Adam(model.parameters(), lr=lr) # 优化器loss_function = nn.NLLLoss() # 损失函数五、模型训练

模型训练部分也是和pytorch定义网络一样,因为都是需要经过前向传播、反向传播这些过程,对于损失、精度这些指标可以自己添加。

# 训练模式model.train()for epoch in range(epochs): optimizer.zero_grad() pred = model(data) loss = loss_function(pred[data.train_mask], data.y[data.train_mask]) # 损失 correct_count_train = pred.argmax(axis=1)[data.train_mask].eq(data.y[data.train_mask]).sum().item() # epoch正确分类数目 acc_train = correct_count_train / data.train_mask.sum().item() # epoch训练精度 loss.backward() optimizer.step() if epoch % 20 == 0: print("【EPOCH: 】%s" % str(epoch + 1)) print('训练损失为:{:.4f}'.format(loss.item()), '训练精度为:{:.4f}'.format(acc_train))print('【Finished Training!】')六、模型验证

下面就是模型验证阶段,在训练时我们是只使用了训练集,测试的时候我们使用的是测试集,注意这和传统网络测试不太一样,在图像分类一些经典任务中,我们是把数据集分成了两份,分别是训练集、测试集,但是在Cora这个数据集中并没有这样,它区分训练集还是测试集使用的是掩码机制,就是定义了一个和节点长度相同纬度的数组,该数组的每个位置为True或者False,标记着是否使用该节点的数据进行训练。

# 模型验证model.eval()pred = model(data)# 训练集(使用了掩码)correct_count_train = pred.argmax(axis=1)[data.train_mask].eq(data.y[data.train_mask]).sum().item()acc_train = correct_count_train / data.train_mask.sum().item()loss_train = loss_function(pred[data.train_mask], data.y[data.train_mask]).item()# 测试集correct_count_test = pred.argmax(axis=1)[data.test_mask].eq(data.y[data.test_mask]).sum().item()acc_test = correct_count_test / data.test_mask.sum().item()loss_test = loss_function(pred[data.test_mask], data.y[data.test_mask]).item()print('Train Accuracy: {:.4f}'.format(acc_train), 'Train Loss: {:.4f}'.format(loss_train))print('Test Accuracy: {:.4f}'.format(acc_test), 'Test Loss: {:.4f}'.format(loss_test))七、结果【EPOCH: 】1训练损失为:1.9547 训练精度为:0.1429【EPOCH: 】21训练损失为:1.8378 训练精度为:0.2143【EPOCH: 】41训练损失为:1.6961 训练精度为:0.3929【EPOCH: 】61训练损失为:1.4987 训练精度为:0.6857【EPOCH: 】81训练损失为:1.3121 训练精度为:0.7714【EPOCH: 】101训练损失为:1.1580 训练精度为:0.9143【EPOCH: 】121训练损失为:0.9903 训练精度为:0.8643【EPOCH: 】141训练损失为:0.8326 训练精度为:0.9286【EPOCH: 】161训练损失为:0.7429 训练精度为:0.9571【EPOCH: 】181训练损失为:0.6505 训练精度为:0.9571【Finished Training!】>>>Train Accuracy: 1.0000 Train Loss: 0.4065>>>Test Accuracy: 0.7060 Test Loss: 1.2712训练集测试集Accuracy1.00000.7060Loss0.40651.2712完整代码import torchimport torch.nn.functional as Fimport torch.nn as nnimport torch_geometric.nn as pyg_nnfrom torch_geometric.datasets import Planetoid# 1.加载Cora数据集dataset = Planetoid(root='./data/Cora', name='Cora')# 2.定义GraphSAGE网络class GraphSAGE(nn.Module): def __init__(self, num_node_features, num_classes): super(GraphSAGE, self).__init__() self.conv1 = pyg_nn.SAGEConv(num_node_features, 16) self.conv2 = pyg_nn.SAGEConv(16, num_classes) def forward(self, data): x, edge_index = data.x, data.edge_index x = self.conv1(x, edge_index) x = F.relu(x) x = F.dropout(x, training=self.training) x = self.conv2(x, edge_index) return F.log_softmax(x, dim=1)device = torch.device('cuda' if torch.cuda.is_available() else 'cpu') # 设备epochs = 200 # 学习轮数lr = 0.0003 # 学习率num_node_features = dataset.num_node_features # 每个节点的特征数num_classes = dataset.num_classes # 每个节点的类别数data = dataset[0].to(device) # Cora的一张图# 3.定义模型model = GraphSAGE(num_node_features, num_classes).to(device)optimizer = torch.optim.Adam(model.parameters(), lr=lr) # 优化器loss_function = nn.NLLLoss() # 损失函数# 训练模式model.train()for epoch in range(epochs): optimizer.zero_grad() pred = model(data) loss = loss_function(pred[data.train_mask], data.y[data.train_mask]) # 损失 correct_count_train = pred.argmax(axis=1)[data.train_mask].eq(data.y[data.train_mask]).sum().item() # epoch正确分类数目 acc_train = correct_count_train / data.train_mask.sum().item() # epoch训练精度 loss.backward() optimizer.step() if epoch % 20 == 0: print("【EPOCH: 】%s" % str(epoch + 1)) print('训练损失为:{:.4f}'.format(loss.item()), '训练精度为:{:.4f}'.format(acc_train))print('【Finished Training!】')# 模型验证model.eval()pred = model(data)# 训练集(使用了掩码)correct_count_train = pred.argmax(axis=1)[data.train_mask].eq(data.y[data.train_mask]).sum().item()acc_train = correct_count_train / data.train_mask.sum().item()loss_train = loss_function(pred[data.train_mask], data.y[data.train_mask]).item()# 测试集correct_count_test = pred.argmax(axis=1)[data.test_mask].eq(data.y[data.test_mask]).sum().item()acc_test = correct_count_test / data.test_mask.sum().item()loss_test = loss_function(pred[data.test_mask], data.y[data.test_mask]).item()print('Train Accuracy: {:.4f}'.format(acc_train), 'Train Loss: {:.4f}'.format(loss_train))print('Test Accuracy: {:.4f}'.format(acc_test), 'Test Loss: {:.4f}'.format(loss_test))
本文链接地址:https://www.jiuchutong.com/zhishi/298676.html 转载请保留说明!

上一篇:GPT-4重磅发布,它究竟厉害在哪?(gpt40)

下一篇:Typescript 全栈最值得学习的技术栈 TRPC(typescript完全解读)

  • 华为Mate40是曲面屏手机吗

    华为Mate40是曲面屏手机吗

  • 华为p40pro可以支持无线反向充电吗(华为p40pro可以刷卡吗)

    华为p40pro可以支持无线反向充电吗(华为p40pro可以刷卡吗)

  • 荣耀语音助手怎么唤醒(荣耀语音助手怎么设置)

    荣耀语音助手怎么唤醒(荣耀语音助手怎么设置)

  • b站收藏的视频失效找回(B站收藏的视频为啥会失效)

    b站收藏的视频失效找回(B站收藏的视频为啥会失效)

  • 红米note7发烫处理方法(红米note7pro异常发热,特别热,烫的很!)

    红米note7发烫处理方法(红米note7pro异常发热,特别热,烫的很!)

  • 有没有不用充钱的视频网站(有没有不用充钱的随身wifi)

    有没有不用充钱的视频网站(有没有不用充钱的随身wifi)

  • vivoy3怎样开启视频美颜功能(vivoy3怎么设置视频的时候可以美颜)

    vivoy3怎样开启视频美颜功能(vivoy3怎么设置视频的时候可以美颜)

  • .abc是什么文件(文件abc是的是)

    .abc是什么文件(文件abc是的是)

  • 微信的图片怎么转发到QQ(微信的图片怎么做成表情包)

    微信的图片怎么转发到QQ(微信的图片怎么做成表情包)

  • 小红书阅读量为什么上不去(小红书阅读量为什么会减少)

    小红书阅读量为什么上不去(小红书阅读量为什么会减少)

  • 优酷电视软件叫什么(优酷电视软件叫啥名字)

    优酷电视软件叫什么(优酷电视软件叫啥名字)

  • word默认保存文件名(word文档默认保存路径是什么)

    word默认保存文件名(word文档默认保存路径是什么)

  • 主板bios坏了是什么现象(主板bios坏了能开机吗)

    主板bios坏了是什么现象(主板bios坏了能开机吗)

  • 什么是设计水线长(设计线是什么意思)

    什么是设计水线长(设计线是什么意思)

  • 华为mate30 5g和4g有什么区别(华为mate30 5g和4g价格)

    华为mate30 5g和4g有什么区别(华为mate30 5g和4g价格)

  • 手机怎么改图片底色(手机怎么改图片的kb大小)

    手机怎么改图片底色(手机怎么改图片的kb大小)

  • 快手个人主页链接在哪复制(快手个人主页链接)

    快手个人主页链接在哪复制(快手个人主页链接)

  • 微信订票怎么改签不了(微信订票怎么改签不了日期)

    微信订票怎么改签不了(微信订票怎么改签不了日期)

  • 微信怎么显示对方已读(微信怎么显示对方正在输入怎么设置)

    微信怎么显示对方已读(微信怎么显示对方正在输入怎么设置)

  • 淘宝蓝冠和金冠的区别(淘宝皇冠蓝冠区别)

    淘宝蓝冠和金冠的区别(淘宝皇冠蓝冠区别)

  • excel表如何自动更新(Excel表如何自动调整列宽)

    excel表如何自动更新(Excel表如何自动调整列宽)

  • 苹果6合6plus有什么区别(苹果6plus手机怎么样好吗)

    苹果6合6plus有什么区别(苹果6plus手机怎么样好吗)

  • 百度地图如何看实景(百度地图如何看人流量)

    百度地图如何看实景(百度地图如何看人流量)

  • iphone8短信拦截设置(苹果手机短息拦截)

    iphone8短信拦截设置(苹果手机短息拦截)

  • 下厨房怎么开店(下厨房怎么开店铺)

    下厨房怎么开店(下厨房怎么开店铺)

  • 税局退回附加税账务处理办法
  • 印花税的计税依据为各种应税凭证上所记载的计税金额
  • 印花税减免优惠政策2020
  • 地产企业预缴增值税政策
  • 本月缴纳增值税和上个月账本金额不对
  • 票面3个点的增值税发票是交几个点的税金
  • 清产核资账务处理方法
  • 售后回租涉税
  • 进口代收业务
  • 会计分录怎么确认借贷方向
  • 公司转让房产如何交税
  • 暂估入库发票差额怎么办
  • 管理费用现金流量表中属于
  • 不开发票的收入如何申报纳税
  • 低值易耗品是成本吗
  • 跨省的分公司亏损需要缴纳所得税吗?
  • 企业会主动对税吗
  • 城镇土地使用税减免税政策
  • 印花税计入股票成本吗
  • 风险纳税人原因查询
  • 适用简易计税方法的口诀
  • 小规模季报利润表本月金额和本年累计金额
  • 固定资产一次性计入费用的账务处理
  • 在建工程科目的借方余额表示
  • 对方用房子抵债会计怎么记账
  • 跨年度所得税多怎么办
  • 跨年的物业费如何记账
  • 纳税人识别号和税号一样吗
  • 专项资金支出时能直接转出吗
  • 王者荣耀中白起的台词
  • macOS Big Sur 11.2 RC 3(版本号20D64)预览版正式发布(附更新内容)
  • rk3328 sdk
  • 吸收合并会计处理举例
  • 固定资产原值,净值,价值的区别
  • 企业销售商品怎么做分录
  • 优酷路由宝还有用吗
  • 支付的招标代理费计入成本还是费用
  • thinkphp 模块
  • 音频的时域波形
  • ai图片生成矢量图
  • program status
  • php项目怎么打包
  • 出口退税哪些税不退
  • 外地预交的企业所得税如何在季度企业所得税申报
  • python生成器定义
  • phpstudy修改php版本
  • 支付税审费用怎么做账
  • 物业收取停车费需要业主同意吗
  • phpcms视频教程
  • 工程发票预缴是什么意思
  • 残保金是什么单位收的
  • 企业银行流水可以不给税务吗
  • 财务费用报销流程最后环节出纳
  • 个贷系统平账专户怎么做分录
  • 固定资产汽车折旧年限是多少年
  • 车船税手续费返还时间
  • 付款金额与收到款的关系
  • 还银行贷款如何计算利息
  • 已付款未认证发票怎么做账
  • 发现以前年度假期不满
  • 保理融资的费用由谁承担
  • 固定资产售后回购
  • 发票验旧后才能领新发票吗
  • 2021年财务报表申报
  • mysql基本介绍
  • winxp出现应用程序错误
  • 系统磁盘碎片整理
  • linux文件与目录
  • win7系统设置鼠标灵敏度
  • g++编译debug
  • windows 10 开始菜单
  • cocos2dx 3.3 quick lua 实现返回键退出程序
  • javascript教程完整版
  • jq倒计时代码
  • Android 判断是否打开了微信
  • 每天一篇小练笔主题
  • 你知道必要的意思吗英文
  • 补税务登记证报税要钱吗
  • 广东省税务总局官网
  • 税控盘开票怎么赋码的教程
  • 免责声明:网站部分图片文字素材来源于网络,如有侵权,请及时告知,我们会第一时间删除,谢谢! 邮箱:opceo@qq.com

    鄂ICP备2023003026号

    网站地图: 企业信息 工商信息 财税知识 网络常识 编程技术

    友情链接: 武汉网站建设