位置: IT常识 - 正文
推荐整理分享Pytorch:手把手教你搭建简单的卷积神经网络(CNN),实现MNIST数据集分类任务(pytorch教程),希望有所帮助,仅作参考,欢迎阅读内容。
文章相关热门搜索词:pytorch官方教程,pytorch入门教程(非常详细),pytorch 60分钟教程,pytorch 入门教程,pytorch 快速入门,pytorch 60分钟教程,pytorch怎么入门,pytorch 60分钟教程,内容如对您有帮助,希望把文章链接给更多的朋友!
下载之后利用DataLoader实例化为适合遍历的训练集和测试集,我们把其中的某一批数据进行可视化,下面是可视化的代码,其实就是利用subplot画了子图。
#可视化某一批数据train_img,train_label=next(iter(trainloader)) #iter迭代器,可以用来便利trainloader里面每一个数据,这里只迭代一次来进行可视化fig, axes = plt.subplots(10, 10, figsize=(10, 10))axes_list = []#输入到网络的图像for i in range(axes.shape[0]): for j in range(axes.shape[1]): axes[i, j].imshow(train_img[i*10+j,0,:,:],cmap="gray") #这里画出来的就是我们想输入到网络里训练的图像,与之对应的标签用来进行最后分类结果损失函数的计算 axes[i, j].axis("off")#对应的标签print(train_label) 第三步:用pytorch搭建简单的卷积神经网络(CNN)这里把卷积模块单独拿出来作为一个类,看上去会舒服一点。
#卷积模块,由卷积核和激活函数组成class conv_block(nn.Module): def __init__(self,ks,ch_in,ch_out): super(conv_block,self).__init__() self.conv = nn.Sequential( nn.Conv2d(ch_in, ch_out, kernel_size=ks,stride=1,padding=1,bias=True), #二维卷积核,用于提取局部的图像信息 nn.ReLU(inplace=True), #这里用ReLU作为激活函数 nn.Conv2d(ch_out, ch_out, kernel_size=ks,stride=1,padding=1,bias=True), nn.ReLU(inplace=True), ) def forward(self,x): return self.conv(x)下面是CNN主体部分,由上面的卷积模块和全连接分类器组合而成。这里只用了简单的几个卷积块进行堆叠,没有采用池化以及dropout的操作。主要目的是给大家简单搭建一下以便学习。
#常规CNN模块(由几个卷积模块堆叠而成)class CNN(nn.Module): def __init__(self,kernel_size,in_ch,out_ch): super(CNN, self).__init__() feature_list = [16,32,64,128,256] #代表每一层网络的特征数,扩大特征空间有助于挖掘更多的局部信息 self.conv1 = conv_block(kernel_size,in_ch,feature_list[0]) self.conv2 = conv_block(kernel_size,feature_list[0],feature_list[1]) self.conv3 = conv_block(kernel_size,feature_list[1],feature_list[2]) self.conv4 = conv_block(kernel_size,feature_list[2],feature_list[3]) self.conv5 = conv_block(kernel_size,feature_list[3],feature_list[4]) self.fc = nn.Sequential( #全连接层主要用来进行分类,整合采集的局部信息以及全局信息 nn.Linear(feature_list[4] * 28 * 28, 1024), #此处28为MINST一张图片的维度 nn.ReLU(), nn.Linear(1024, 512), nn.ReLU(), nn.Linear(512, 10) ) def forward(self,x): device = x.device x1 = self.conv1(x ) x2 = self.conv2(x1) x3 = self.conv3(x2) x4 = self.conv4(x3) x5 = self.conv5(x4) x5 = x5.view(x5.size()[0], -1) #全连接层相当于做了矩阵乘法,所以这里需要将维度降维来实现矩阵的运算 out = self.fc(x5) return out第四步:训练以及模型保存先是一些网络参数的定义,包括优化器,迭代轮数,学习率,运行硬件等等的确定。
#网络参数定义device = torch.device("cuda:4") #此处根据电脑配置进行选择,如果没有cuda就用cpu#device = torch.device("cpu")net = CNN(3,1,1).to(device = device,dtype = torch.float32)epochs = 50 #训练轮次optimizer = torch.optim.Adam(net.parameters(), lr=1e-4, weight_decay=1e-8) #使用Adam优化器criterion = nn.CrossEntropyLoss() #分类任务常用的交叉熵损失函数train_loss = []然后是每一轮训练的主体:
# Begin trainingMinTrainLoss = 999for epoch in range(1,epochs+1): total_train_loss = [] net.train() start = time.time() for input_img,label in trainloader: input_img = input_img.to(device = device,dtype=torch.float32) #我们同样地,需要将我们取出来的训练集数据进行torch能够运算的格式转换 label = label.to(device = device,dtype=torch.float32) #输入和输出的格式都保持一致才能进行运算 optimizer.zero_grad() #每一次算loss前需要将之前的梯度清零,这样才不会影响后面的更新 pred_img = net(input_img) loss = criterion(pred_img,label.long()) loss.backward() optimizer.step() total_train_loss.append(loss.item()) train_loss.append(np.mean(total_train_loss)) #将一个minibatch里面的损失取平均作为这一轮的loss end = time.time() #打印当前的loss print("epochs[%3d/%3d] current loss: %.5f, time: %.3f"%(epoch,epochs,train_loss[-1],(end-start))) #打印每一轮训练的结果 if train_loss[-1]<MinTrainLoss: torch.save(net.state_dict(), "./model_min_train.pth") #保存loss最小的模型 MinTrainLoss = train_loss[-1]以下是迭代过程:
第五步:导入网络模型,输入某一批测试数据,查看结果我们先来看某一批测试数据
#测试机某一批数据test_img,test_label=next(iter(testloader))fig, axes = plt.subplots(10, 10, figsize=(10, 10))axes_list = []#输入到网络的图像for i in range(axes.shape[0]): for j in range(axes.shape[1]): axes[i, j].imshow(test_img[i*10+j,0,:,:],cmap="gray") axes[i, j].axis("off")然后将其输入到训练好的模型进行预测
#预测我拿出来的那一批数据进行展示cnn = CNN(3,1,1).to(device = device,dtype = torch.float32)cnn.load_state_dict(torch.load("./model_min_train.pth", map_location=device)) #导入我们之前已经训练好的模型cnn.eval() #评估模式test_img = test_img.to(device = device,dtype = torch.float32)test_label = test_label.to(device = device,dtype = torch.float32)pred_test = cnn(test_img) #记住,输出的结果是一个长度为10的tensortest_pred = np.argmax(pred_test.cpu().data.numpy(), axis=1) #所以我们需要对其进行最大值对应索引的处理,从而得到我们想要的预测结果#预测结果以及标签print("预测结果")print(test_pred)print("标签")print(test_label.cpu().data.numpy())
从预测的结果我们可以看到,整体上这么一个简单的CNN搭配全连接分类器对MNIST这一批数据分类的效果还不错。当然,我这里只用了交叉熵损失函数,并且没有计算准确率,仅供大家对于CNN学习和参考。
上一篇:【GPT-3】第2章 使用 OpenAI API(gpt3 transformer)
友情链接: 武汉网站建设