resnet到底是個啥

weixin_33935777發表於2019-02-20

resnet其實最主要的一點就是他裡面的殘差塊。殘差網路其實是由多種路徑組合的一個網路,直白了說,殘差網路其實是很多並行子網路的組合,整個殘差網路其實相當於一個多人投票系統(Ensembling)。下面來說明為什麼可以這樣理解。網路的一部分就相當於少一些投票的人,如果只是刪除一個基本的殘差單元,對最後的分類結果應該影響很小;而最後的分類錯誤率應該適合刪除的殘差單元的個數成正比的,論文裡的結論也印證了這個猜測。
具體這篇文章會多少帶來一些啟發。

相關文章