分組卷積+squeezenet+mobilenet+shufflenet的引數及運算量解析
之前被這幾個問題搞得很煩躁,記住了貌似領悟了,但是很快又會忘記,決心把這個寫得清楚點,方便自己查閱,也希望能幫助到有同樣困惑的朋友(個人理解,不一定正確,歡迎指出,在這裡不考慮偏置和加法計算量)
來一發普通的二維卷積
1.輸入feature map的格式為:m * m * h1
2.卷積核為 k * k
3.輸出feature map的格式為: n * n * h2
引數量:k * k * h1 * h2
計算量: k * k * h1 * n * n * h2
分組卷積
設分組大小為g,則:
引數量: (k * k * h1/g * h2 /g) * g
計算量:(k * k * h1/g *n *n * h2/g)*g
squeezenet
單元名字為fire_module, 先用一個1*1 但卷積核個數少於輸入的feature map 的進行squeeze,然後進入兩個個並行的1*1 ,3*3 的卷積,結果再concat,引數和運算量正常計算
mobilenet
用到了depth-wise 卷積:
- 引數量:k*k*h1*1 + 1*1*h1*h2
- 運算量:k*k*h1*n*n + 1*1*h2*n*n
shufflenet:
相當於把分組卷積裡的每組卷積之間進行channel的shuffle,引數與計算量類似分組卷積
相關文章
- 卷積神經網路的引數量和計算量卷積神經網路
- 數字訊號處理:線性卷積、迴圈卷積、圓周卷積計算卷積
- verilog實現矩陣卷積運算矩陣卷積
- 從卷積拆分和分組的角度看CNN模型的演化卷積CNN模型
- 脈動陣列在二維矩陣乘法及卷積運算中的應用陣列矩陣卷積
- 卷積神經網路數學原理解析卷積神經網路
- 卷積運算元的矩陣向量乘積表示&一維離散降質模型卷積矩陣模型
- 【數值計算方法】數值積分&微分
- 值得收藏 | 深度剖析 TensorCore 卷積運算元實現原理卷積
- Spark運算元:統計RDD分割槽中的元素及數量Spark
- 圖卷積實戰——文字分類卷積文字分類
- matlab對不定積分和定積分的計算Matlab
- TensorFlow卷積網路常用函式引數詳細總結卷積函式
- 計算兩個一維陣列的卷積陣列卷積
- 數值計算:高斯-勒朗德積分公式公式
- NumPy 舍入小數、對數、求和和乘積運算詳解
- 邏輯、集合運算上的卷積一覽(FMT、FWT,……)卷積
- Oracle引數檔案解析——引數解析Oracle
- 輕量級卷積神經網路的設計卷積神經網路
- 如何計算PHP函式中傳遞的引數數量PHP函式
- 深度學習之輸入通道個數、卷積核通道個數,卷積核個數、輸出通道個數的關係深度學習卷積
- # 數值計算:三角形積分
- 《深入解析Oracle》第三章,引數及引數檔案Oracle
- SQL 如何計算每個分組的中位數SQL
- 影像處理中的valid卷積與same卷積卷積
- 浮點數在計算機底層的表示及運算計算機
- 計組之資料運算:9、浮點數的表示
- 運動會積分系統
- 輕量級卷積神經網路的設計技巧卷積神經網路
- 5.2.1.1 卷積卷積
- 卷積核卷積
- 【Mysql學習】算術運算及字串,數值函式MySql字串函式
- 【Mysql 學習】算術運算及字串,數值函式MySql字串函式
- 卷積神經網路的原理及Python實現卷積神經網路Python
- JS中運算元組的方法JS
- 卷積神經網路四種卷積型別卷積神經網路型別
- 卷積神經網路中感受野的理解和計算卷積神經網路
- Shell解析引數