CNN的Pytorch實現(LeNet)
上次寫了一篇CNN的詳解，可是累壞了老僧我。寫完後拿給朋友看，朋友說你這Pytorch的實現方式對於新人來講會很不友好，然後反問我說裡面所有的細節你都明白了嗎。我想想，的確如此。那個原始碼是我當時《動手學pytorch》的時候整理的，裡面有很多包裝過的函式，對於新入門的人來講，的確是個大問題。於是，痛定思痛的我決定重新寫Pytorch實現這一部分，理論部分我就不多講了，我們們直接分析程式碼，此程式碼是來自Pytorch官方給出的LeNet Model。你可以使用Jupyter Notebook一行一行的學習，也可以使用Pycharm進行斷點訓練和Debug來學習。
沒有看過理論部分的同學可以看我上篇部落格：CNN卷積神經網路詳解。
為了這篇文章易懂，我把分成以下幾個模組：
-
任務目標
-
庫匯入
-
模型定義
-
資料載入、處理
-
模型訓練
-
程式碼彙總
在整個講解的過程中，其中的一些比較重要的程式碼我會引入一些例子來進行解釋它的功能，如果你想先直接跑通程式碼，可以直接跳到程式碼彙總部分，Here we go~
1. 任務目標
這是一個對於彩色圖的10分類的問題，具體種類有：'plane', 'car', 'bird', 'cat','deer', 'dog', 'frog', 'horse', 'ship', 'truck'，訓練一個能夠對其進行分類的分類器。
2. 庫的匯入
這一部分我們們就不說太多了吧，直接上code：
import torch # 張量的有關運算，如建立、索引、連線、轉置....和numpy的操作很像
import torch.nn as nn # 八廓搭建神經網路層的模組、loss等等
import torch.nn.functional as F # 常用的啟用函式都在這裡面
import torchvision # 專門處理影像的庫
import torch.optim as optim # 各種引數優化方法，SGD、Adam...
import torchvision.transforms as transforms # 提供了一般的影像轉換操作的類，也可以用於影像增強
import matplotlib.pyplot as plt
import numpy as np
3. 模型定義
我們在定義自己網路的時候，需要繼承nn.Module類，並重新實現建構函式__init__和forward兩個方法。forward方法是必須要重寫的，它是實現模型的功能，實現各個層之間的連線關係的核心。如果你是用我下面的這個方法來定義的模型，在forward中要去連線它們之間的關係；如果你是用Sequential的方法來定義的模型，一般來講可以直接在建構函式定義好後，在foward函式中return就行了（如果模型比較複雜就另當別論）。
class LeNet(nn.Module):
"""
下面這個模型定義沒有用Sequential來定義，Sequential的定義方法能夠在init中就給出各個層
之間的關係，我這裡是根據是否有可學習的引數。我將可學習引數的層（如全連線、卷積）放在建構函式
中（其實你想把不具有引數的層放在裡面也可以），把不具有學習引數的層(如dropout，
ReLU等啟用函式、BN層)放在forward。
"""
def __init__(self):
super(LeNet,self).__init__()
# 第一個卷積塊，這裡輸入的是3通道，彩色圖。
self.conv1 = nn.Conv2d(3,16,5)
self.pool1 = nn.MaxPool2d(2,2)
# 第二個卷積塊
self.conv2 = nn.Conv2d(16,32,5)
self.pool2 = nn.MaxPool2d(2,2)
# 稠密塊，包含三個全連線層
self.fc1 = nn.Linear(32*5*5,120)
self.fc2 = nn.Linear(120,84)
self.fc3 = nn.Linear(84,10)
pass
def forward(self,x):
# x是輸入資料，是一個tensor
# 正向傳播
x = F.relu(self.conv1(x)) # input(3, 32, 32) output(16, 28, 28)
x = self.pool1(x) # output(16, 14, 14)
x = F.relu(self.conv2(x)) # output(32, 10, 10)
x = self.pool2(x) # output(32, 5, 5)
x = x.view(-1, 32*5*5) # output(32*5*5)
# 資料通過view展成一維向量，第一個引數-1是batch，自動推理；32x5x5是展平後的個數
x = F.relu(self.fc1(x)) # output(120)
x = F.relu(self.fc2(x)) # output(84)
x = self.fc3(x) # output(10)
# 為什麼沒有用softmax函式 --- 在網路模型中已經計算交叉熵以及概率
return x
我們還可以隨便看一下可訓練引數：
model = LeNet()
for name,parameters in model.named_parameters():
if param.requires_grad:
print(name,':',parameters.size())
看一下例項化的模型：
import torch
input1 = torch.rand([32,3,32,32])
model = LeNet() # 模式例項化
print(model) # 看一下模型結構
output = model(input1)
這裡就不再擴充了，我發4我發4，我會專門再寫一篇使用pytorch檢視特徵矩陣 和卷積核引數的文章。
4. 資料載入、處理
# 呼叫裝置內的GPU並列印出來
device = torch.device("cuda:0" if torch.cuda.is_available() else "cpu")
print("using {} device.".format(device))
# 定義影像資料的資料預處理方式
transform = transforms.Compose(
[transforms.ToTensor(),
transforms.Normalize((0.5, 0.5, 0.5), (0.5, 0.5, 0.5))])
# 如果是第一次執行程式碼，沒有下載資料集，則將download調製為True進行下載，並載入訓練集
# transform是選擇資料預處理的方式，我們已經提前定義
train_set = torchvision.datasets.CIFAR10(root='./data', train=True,
download=False,transform=transform)
# 如果你是windows系統，一定要記得把num_workers設定為0，不然會報錯。
# 這個是將資料集劃為為n個批次，每個批次的資料集有batchSize張圖片，shuffle是打亂資料集
train_loader = torch.utils.data.DataLoader(train_set, batch_size=36,
shuffle=True, num_workers=0)
# 上面已經下載過的話，download設定為False
val_set = torchvision.datasets.CIFAR10(root='./data', train=False,
download=False, transform=transform)
# 驗證集不用打亂，把batchsize設定為1，每次拿出1張來驗證
val_loader = torch.utils.data.DataLoader(val_set, batch_size=1
shuffle=False, num_workers=0)
# 定義classes類別
classes = ('plane', 'car', 'bird', 'cat',
'deer', 'dog', 'frog', 'horse', 'ship', 'truck')
val_data_iter = iter(val_loader) # 轉換成可迭代的迭代器
val_image, val_label = val_data_iter.next()
# 定義imshow函式顯示影像
def imshow(img):
img = img / 2 + 0.5 # unnormalize -> 反標準化處理
npimg = img.numpy() # numpy和tensor的通道順序不同 tensor是通道度、寬度，numpy是高、寬、通
# 使用transpose調整維度
plt.imshow(np.transpose(npimg, (1, 2, 0))) #（1,2,0）-> 代表高度、寬度 通道
plt.show()
imshow(torchvision.utils.make_grid(val_image))
# 顯示影像結果：
在這個影像載入部分，我做了些其它的嘗試，想要去發現train_set和train_loader之間的不同。這裡你可以逐行取消我註釋的程式碼，然後去觀察，去對比，你就知道有哪些不一樣了。
"""
train_set:
總結：經過多次嘗試，發現train_set是用一個Dataset包裝起來，用索引來提取第n個資料，提出的資料是一個元組。
元組的第一個索引是Tensor的影像資料，(channel,height,width)，索引的第二個資料是標籤 int型別。
可以選擇用enumerate迭代器，也可以直接進行索引，這裡因為沒有batchsize的維度，所以可以直接呼叫自己寫的
imshow函式來顯示圖片
"""
for i,data in enumerate(train_set):
if i == 7:
# imshow(data[0])
# print(data[0])
# print(train_set[i][0]) # 檢視train-set第七張圖元組 的 索引0
print(train_set[i][0].shape)
print(train_set[i][1]) # 檢視train-set第七張圖元組 的 索引1
# imshow(train_set[i][0])
print(type(train_set[i][1]))
# print(train_set[i].shape)
print(data[0])
print(data[0].shape)
# print(type(data[i]))
"""
train_loader
總結：和Dataset型別不一樣,DataLoader不能夠直接用索引獲取資料。需要用enumerate迭代器來獲取 或者 iter.
經過enumerate索引後，得到的data型別是擁有兩個變數的列表型別。第一個變數是Tensor型別，用[batchSize,channel,height,width]表示
批影像資料，裡面是有batchsize張圖的。第二個變數也是Tensor型別，是代表每張影像的標籤,是個一維torch
"""
for i,data in enumerate(train_loader):
if i == 7:
print(type(data))
print(len(data))
print(type(data[0]))
print(type(data[1]))
print(data[0].shape)
print(data[1].shape)
print(type(data[1]))
# print(data[0])
print(data[1])
# print(type(data[2]))
5. 模型訓練
# 用GPU訓練
import time
torch.cuda.synchronize()
start = time.time()
net = LeNet()
net.to(device) #使用GPU時把網路分配到指定的device中
loss_function = nn.CrossEntropyLoss()
optimizer = optim.Adam(net.parameters(),lr=0.001) # Adam優化器
Loss = []
for epoch in range(5):
# 這裡就只訓練5個epoch，你可以試試多個
running_loss = 0.0
for step,data in enumerate(train_loader,start=0):
inputs,labels = data # data是一個列表，[資料，標籤]
# 清除歷史梯度，加快訓練
optimizer.zero_grad()
outputs = net(inputs.to(device)) # 將輸入的資料分配到指定的GPU中
loss = loss_function(outputs,labels.to(device)) # 將labels分配到指定的device
loss.backward() # loss進行反向傳播
optimizer.step() # step進行引數更新
# 列印資料
running_loss += loss.item() # 每次計算完loss後加入到running_loss中
if step % 500 == 499: # 每500個mini-batches 就列印一次
with torch.no_grad():
outputs = net(val_image.to(device))
# outputs的shape = [32,10]
# dim是max函式索引的維度，0是每列最大值，1是每行最大值
predict_y = torch.max(outputs,dim=1)[1] # max函式返回的每個batchSize的最大值 + 索引。獲取索引[1]
# == 來比較每個batchSize中的訓練結果標籤和原標籤是否相同，如果預測正確就返回1，否則返回0，並累計正確的數量。
# 得到的是tensor，用item轉成數字，CPU時使用
accuracy = (predict_y == val_label.to(device)).sum().item()/val_label.size(0)
# val_label.size是驗證集中batchSize的大小
print('[%d %5d] train_loss: %.3f test_accuracy:%.3f' % (epoch+1,step+1,
running_loss/500,accuracy))
Loss.append(running_loss)
running_loss = 0.0
print('Finished Training')
torch.cuda.synchronize()
end = time.time()
print("訓練用時:",end-start,'s')
五個epoch在我的GPU上訓練了68s。
整個程式碼
model.py
import torch.nn as nn
import torch.nn.functional as F
class LeNet(nn.Module):
# 要繼承於nn.Moudule父類
def __init__(self):
# 初始化函式
super(LeNet, self).__init__()
# 使用super函式，解決多繼承可能遇到的一些問題；呼叫基類的建構函式
self.conv1 = nn.Conv2d(3, 16, 5) # 呼叫卷積層 （in_channels,out_channels(也是卷積核個數。輸出的通道數),kernel_size（卷積核大小）,stride）
self.pool1 = nn.MaxPool2d(2, 2) # 最大池化層，進行下采樣
self.conv2 = nn.Conv2d(16, 32, 5) # 輸出的通道數為32
self.pool2 = nn.MaxPool2d(2, 2)
self.fc1 = nn.Linear(32*5*5, 120) # 全連線層輸入是一維向量，這裡是32x5x5，我們要展平，120是節點的個數
# 32是通道數
# Linear(input_features,output_features)
self.fc2 = nn.Linear(120, 84)
self.fc3 = nn.Linear(84, 10)
def forward(self, x):
# x是輸入資料，是一個tensor
# 正向傳播
x = F.relu(self.conv1(x)) # input(3, 32, 32) output(16, 28, 28)
x = self.pool1(x) # output(16, 14, 14)
x = F.relu(self.conv2(x)) # output(32, 10, 10)
x = self.pool2(x) # output(32, 5, 5)
x = x.view(-1, 32*5*5) # output(32*5*5)
# 資料通過view展成一維向量，第一個引數-1是batch，自動推理；32x5x5是展平後的個數
x = F.relu(self.fc1(x)) # output(120)
x = F.relu(self.fc2(x)) # output(84)
x = self.fc3(x) # output(10)
# 為什麼沒有用softmax函式 --- 在網路模型中已經計算交叉熵以及概率
return x
import torch
input1 = torch.rand([32,3,32,32])
model = LeNet() # 模式例項化
print(model) # 看一下模型結構
output = model(input1)
train.py
import torch
import torchvision
import torch.nn as nn
from model import LeNet
import torch.optim as optim
import torchvision.transforms as transforms
import matplotlib.pyplot as plt
import numpy as np
def main():
device = torch.device("cuda:0" if torch.cuda.is_available() else "cpu")
print("using {} device.".format(device))
transform = transforms.Compose(
[transforms.ToTensor(),
transforms.Normalize((0.5, 0.5, 0.5), (0.5, 0.5, 0.5))])
# 50000張訓練圖片
# 第一次使用時要將download設定為True才會自動去下載資料集
train_set = torchvision.datasets.CIFAR10(root='./data', train=True,
download=False, transform=transform)
train_loader = torch.utils.data.DataLoader(train_set, batch_size=36,
shuffle=True, num_workers=0)
# 把訓練集讀取，別分成一個一個批次的，shuffle可用於隨機打亂；batch_size是一次處理36張影像
# num_worker在windows下只能設定成0
# 10000張驗證圖片
# 第一次使用時要將download設定為True才會自動去下載資料集
val_set = torchvision.datasets.CIFAR10(root='./data', train=False,
download=False, transform=transform)
val_loader = torch.utils.data.DataLoader(val_set, batch_size=5000,
shuffle=False, num_workers=0)
# 驗證集 一次拿出5000張1出來驗證，不用打亂
val_data_iter = iter(val_loader) # 轉換成可迭代的迭代器
val_image, val_label = val_data_iter.next()
# 轉換成迭代器後，用next方法可以得到測試的影像和影像的標籤值
classes = ('plane', 'car', 'bird', 'cat',
'deer', 'dog', 'frog', 'horse', 'ship', 'truck')
# 這一部分用來看資料集
# def imshow(img):
# img = img / 2 + 0.5 # unnormalize -> 反標準化處理
# npimg = img.numpy()
# plt.imshow(np.transpose(npimg, (1, 2, 0))) #（1,2,0）-> 代表高度、寬度 通道
# plt.show()
#
# # print labels
# print(' '.join('%5s' % classes[val_label[j]] for j in range(4)))
# imshow(torchvision.utils.make_grid(val_image))
net = LeNet()
net.to(device) # 使用GPU時將網路分配到指定的device中，不使用GPU註釋
loss_function = nn.CrossEntropyLoss() # 已經包含了softmax函式
optimizer = optim.Adam(net.parameters(), lr=0.001) #Adam優化器
for epoch in range(5): # loop over the dataset multiple times
running_loss = 0.0
for step, data in enumerate(train_loader, start=0):
# get the inputs; data is a list of [inputs, labels]
inputs, labels = data
# zero the parameter gradients
optimizer.zero_grad()
# 一般batch_size根據硬體裝置來設定的，這個清楚歷史梯度，不讓梯度累計，可以讓配置低的使用者加快訓練
# forward + backward + optimize 、、、、、CPU
# outputs = net(inputs)
# loss = loss_function(outputs, labels)
# GPU使用時新增，不使用時註釋
outputs = net(inputs.to(device)) # 將inputs分配到指定的device中
loss = loss_function(outputs, labels.to(device)) # 將labels分配到指定的device中
loss.backward() # loss進行反向傳播
optimizer.step() # step進行引數更新
# print statistics
running_loss += loss.item() # m每次計算完後就加入到running_loss中
if step % 500 == 499: # print every 500 mini-batches
with torch.no_grad(): # 在測試、預測過程中，這個函式可以優化記憶體，防止爆記憶體
# outputs = net(val_image) # [batch, 10]
outputs = net(val_image.to(device)) # 使用GPU時用這行將test_image分配到指定的device中
predict_y = torch.max(outputs, dim=1)[1] #dim=1，因為dim=0是batch；[1]是索引，最大值在哪個位置
# accuracy = torch.eq(predict_y, val_label).sum().item() / val_label.size(0)
# eq用來比較，如果預測正確返回1，錯誤返回0 -> 得到的是tensor，要用item轉成數值 CPU時使用
accuracy = (predict_y==val_label.to(device)).sum().item() / val_label.size(0)
print('[%d, %5d] train_loss: %.3f test_accuracy: %.3f' %
(epoch + 1, step + 1, running_loss / 500, accuracy))
running_loss = 0.0
print('Finished Training')
save_path = './Lenet.pth'
torch.save(net.state_dict(), save_path)
if __name__ == '__main__':
main()
Tips：資料集在當前目錄下建立一個data資料夾，然後在train_set匯入資料那裡的download設定為True就可以下載了。如果你沒有GPU的話，你可以使用CPU訓練，只需要把程式碼中標記的GPU部分註釋，註釋掉的CPU部分取消註釋就ok了。有條件還是GPU吧，CPU太慢了。