卷積步長
文章目錄
卷積中的步長是構建卷積神經網路的一個基本操作
前幾篇的部落格都是步長為1的卷積神經網路例子,現在以步長為2的例子來說明步長不為1的情況。
下面是一個7x7的灰度影像的矩陣,以及一個3x3的過濾器,卷積運算之後的輸出結果應該為3x3的矩陣。
具體計算過程:
還和之前一樣取左上方的3×3區域的元素的乘積,再加起來,最後結果為91。
之前我們移動藍框的步長是1,現在移動的步長是2,我們讓過濾器跳過2個步長,注意一下左上角,這個點移動到其後兩格的點,跳過了一個位置。然後你還是將每個元素相乘並求和,你將會得到的結果是100。
繼續將藍色框移動兩個步長,你將會得到83的結果。當你移動到下一行的時候,你也是使用步長2而不是步長1,所以我們將藍色框移動到這裡:
注意到我們跳過了一個位置,得到69的結果,現在你繼續移動兩個步長,會得到91,127,最後一行分別是44,72,74。
所以在這個例子中,我們用3×3的矩陣卷積一個7×7的矩陣,得到一個3×3的輸出。輸入和輸出的維度是由下面的公式決定的。如果你用一個 f × f f×f f×f的過濾器卷積一個 n × n n×n n×n的影像,你的padding為 p p p,步幅為 s s s,在這個例子中 s = 2 s=2 s=2,你會得到一個輸出,因為現在你不是一次移動一個步子,而是一次移動 s s s個步子,輸出於是變為 n + 2 p − f s + 1 × n + 2 p − f s + 1 \frac{n+2p - f}{s} + 1 \times \frac{n+2p - f}{s} + 1 sn+2p−f+1×sn+2p−f+1。在我們的這個例子裡, n = 7 n=7 n=7, p = 0 p=0 p=0, f = 3 f=3 f=3, s = 2 s=2 s=2, 7 + 0 − 3 2 + 1 = 3 \ \frac{7 + 0 - 3}{2} + 1 =3 27+0−3+1=3,即3×3的輸出。
現在只剩下最後的一個細節了,如果商不是一個整數怎麼辦?在這種情況下,我們向下取整。
⌊
⌋
⌊ ⌋
⌊⌋這是向下取整的符號,這也叫做對
z
z
z進行地板除(floor),這意味著
z
z
z向下取整到最近的整數。這個原則實現的方式是,你只在藍框完全包括在影像或填充完的影像內部時,才對它進行運算。如果有任意一個藍框移動到了外面,那你就不要進行相乘操作,這是一個慣例。你的3×3的過濾器必須完全處於影像中或者填充之後的影像區域內才輸出相應結果,這就是慣例。因此正確計算輸出維度的方法是向下取整,以免
n
+
2
p
−
f
s
\frac{n + 2p - f}{s}
sn+2p−f不是整數。
總結一下維度情況,如果你有一個的矩陣或者的影像,與一個的矩陣卷積,或者說的過濾器。Padding是,步幅為沒輸出尺寸就是這樣:
可以選擇所有的數使結果是整數是挺不錯的,儘管一些時候,你不必這樣做,只要向下取整也就可以了。
相關文章
- 神經網路之卷積篇:詳解卷積步長(Strided convolutions)神經網路卷積IDE
- 聊聊池化層和步長為2的卷積層卷積
- 5.2.1.1 卷積卷積
- 卷積核卷積
- TensorFlow 一步一步實現卷積神經網路卷積神經網路
- 數字訊號處理:線性卷積、迴圈卷積、圓周卷積計算卷積
- 卷積神經網路四種卷積型別卷積神經網路型別
- 5.2.1.3 卷積層卷積
- 1*1卷積卷積
- 影像處理中的valid卷積與same卷積卷積
- 卷積神經網路:卷積層和池化層卷積神經網路
- 深度可分離卷積卷積
- 卷積自編碼卷積
- 2.0 卷積網路卷積
- 卷積神經網路中的Winograd快速卷積演算法卷積神經網路演算法
- 卷積神經網路卷積神經網路
- 狄利克雷卷積卷積
- 影象卷積與濾波卷積
- 卷積 隨筆備份卷積
- 由淺入深:CNN中卷積層與轉置卷積層的關係CNN卷積
- 5.2.1 卷積神經網路卷積神經網路
- 卷積神經網路概述卷積神經網路
- 解密卷積神經網路!解密卷積神經網路
- Dilated Convolutions 空洞卷積卷積
- 卷積神經網路CNN卷積神經網路CNN
- 卷積神經網路初探卷積神經網路
- Tensorflow快餐教程(9)-卷積卷積
- 卷積神經網路-1卷積神經網路
- 卷積神經網路-2卷積神經網路
- 卷積神經網路-3卷積神經網路
- 空洞卷積 Dilated Convolution卷積
- FSNet:利用卷積核概要進行深度卷積神經網路的壓縮卷積神經網路
- CNN使用小卷積核而非大卷積的好處CNN卷積
- 卷積神經網路的一些細節思考(卷積、池化層的作用)卷積神經網路
- 吳恩達《卷積神經網路》課程筆記(2)– 深度卷積模型:案例研究吳恩達卷積神經網路筆記模型
- 卷積為什麼如此強大?一文全解深度學習中的卷積卷積深度學習
- 從全卷積網路到大型卷積核:深度學習的語義分割全指南卷積深度學習
- 用 Pytorch 理解卷積網路PyTorch卷積