總結一下使用pytorch搭建神經網路的一般步驟

intookm發表於2020-11-02

總結一下使用pytorch搭建神經網路的一般步驟

(1)第一步:處理輸入資料

2)第二步:搭建網路結構,得到一個model。網路的結構可以是這種最簡單的序貫模型,當然還可以是多輸入-單輸出模型、單輸入-多輸出模型、多輸入-多輸出模型、跨層連線的模型等。

(2)第三步:定義損失函式。

loss = torch.nn.MSELoss(reduction='sum')

4)第四步:定義優化方式。構造一個optimizer物件

optimizer = torch.optim.Adam(model.parameters(), lr=learning_rate)

上面是模型以及模型相關的配置,下面是訓練

(1)第一步:計算預測值,前向傳播;

(2)第二步:根據損失函式計算loss

(3)第三步:梯度歸零

    optimizer.zero_grad()

(4)第四步:反向傳播誤差

    loss.backward()

(5)更新引數,使用step()

    optimizer.step()

相關文章