分組卷積+squeezenet+mobilenet+shufflenet的引數及運算量解析
之前被這幾個問題搞得很煩躁,記住了貌似領悟了,但是很快又會忘記,決心把這個寫得清楚點,方便自己查閱,也希望能幫助到有同樣困惑的朋友(個人理解,不一定正確,歡迎指出,在這裡不考慮偏置和加法計算量)
來一發普通的二維卷積
1.輸入feature map的格式為:m * m * h1
2.卷積核為 k * k
3.輸出feature map的格式為: n * n * h2
引數量:k * k * h1 * h2
計算量: k * k * h1 * n * n * h2
分組卷積
設分組大小為g,則:
引數量: (k * k * h1/g * h2 /g) * g
計算量:(k * k * h1/g *n *n * h2/g)*g
squeezenet
單元名字為fire_module, 先用一個1*1 但卷積核個數少於輸入的feature map 的進行squeeze,然後進入兩個個並行的1*1 ,3*3 的卷積,結果再concat,引數和運算量正常計算
mobilenet
用到了depth-wise 卷積:
- 引數量:k*k*h1*1 + 1*1*h1*h2
- 運算量:k*k*h1*n*n + 1*1*h2*n*n
shufflenet:
相當於把分組卷積裡的每組卷積之間進行channel的shuffle,引數與計算量類似分組卷積
相關文章
- 卷積神經網路的引數量和計算量卷積神經網路
- verilog實現矩陣卷積運算矩陣卷積
- 數字訊號處理:線性卷積、迴圈卷積、圓周卷積計算卷積
- 脈動陣列在二維矩陣乘法及卷積運算中的應用陣列矩陣卷積
- 從卷積拆分和分組的角度看CNN模型的演化卷積CNN模型
- 卷積神經網路數學原理解析卷積神經網路
- 卷積運算元的矩陣向量乘積表示&一維離散降質模型卷積矩陣模型
- 值得收藏 | 深度剖析 TensorCore 卷積運算元實現原理卷積
- python argparse(引數解析模組)Python
- 【數值計算方法】數值積分&微分
- 命令列引數解析模組argparse的使用命令列
- Spark運算元:統計RDD分割槽中的元素及數量Spark
- TensorFlow卷積網路常用函式引數詳細總結卷積函式
- matlab對不定積分和定積分的計算Matlab
- CondenseNet:可學習分組卷積,原作對DenseNet的輕量化改造 | CVPR 2018SENet卷積
- Python命令列引數解析模組argparsePython命令列
- 圖卷積實戰——文字分類卷積文字分類
- 數值計算:高斯-勒朗德積分公式公式
- NumPy 舍入小數、對數、求和和乘積運算詳解
- 邏輯、集合運算上的卷積一覽(FMT、FWT,……)卷積
- 如何計算PHP函式中傳遞的引數數量PHP函式
- 影像處理中的valid卷積與same卷積卷積
- 浮點數在計算機底層的表示及運算計算機
- 深度學習之輸入通道個數、卷積核通道個數,卷積核個數、輸出通道個數的關係深度學習卷積
- # 數值計算:三角形積分
- shell (3)指令碼引數傳遞與數學運算指令碼
- 輕量級卷積神經網路的設計卷積神經網路
- Python解析引數的三種方法分別是什麼?Python
- PyTorch 反摺積運算(一)PyTorch
- 卷積神經網路的原理及Python實現卷積神經網路Python
- 無需複雜的數學描述,通過簡單程式碼理解卷積模組卷積
- SQL 如何計算每個分組的中位數SQL
- 做ftp專案中使用命令列引數及 ----python 命令列 解析模組 optparseFTP命令列Python
- 卷積核卷積
- 5.2.1.1 卷積卷積
- 卷積塊注意模組 CBAM: Convolutional Block Attention Module卷積BloC
- 圖卷積神經網路分類的pytorch實現卷積神經網路PyTorch
- Shell解析引數