網課-cnn
影象識別中遇到的問題可能有圖片特徵的緯度過高,1000*1000畫素的圖片,特徵維度是1000*1000*3,如果你要輸入3百萬的資料量就意味著特徵向量的維度高達三百萬,也許有1000個隱藏單元,而所有的權值組成的矩陣W[1],如果使用標準的全連線網路,這個矩陣的大小將是1000*3百萬,也就是30億個引數。帶來的問題:巨大的記憶體需求+很容易會過擬合,除非你可以提供非常多的樣本資料。為了能處理大圖,我們引出卷積運算。
使用邊緣檢測作為入門,看到卷積是如何運算的
Padding(填充)
卷積過程,影象是n*n,過濾器是f*f,那最後的輸出結果是(n-f+1)*(n-f+1),可以發現,影象在越來越小可能會縮小到1*1,為了讓你的影象不會在每次邊緣檢測
影象角落或者邊緣的畫素點在輸出中採用較,相當於丟掉了影象邊緣的位置的許多資訊
為了解決上述問題,一是輸出減小,影象每過一層就會縮小;二是影象邊緣資訊丟失
解決:在影象邊緣填充一層,預設值是0,如果p是填充的數量,當週圍填充一層,那麼,p=1,因為我們只填充了一個畫素點,輸出就變成了(n+2p-f+1)*(n+2p-f+1)
至於填充多少畫素,通常有兩個選擇,分別叫做valid卷積,和 same卷積
valid卷積:no padding 不填充
same卷積:意味著填充後,你的輸出大小與輸入大小是一樣的。n+2p-f+1=n 用這個公式求解p,p是填充p個畫素點
p=(f-1)/2, 在計算機視覺中,通常,甚至一般都是f是奇數,(奇數維的過濾器)
為什麼要奇數維的過濾器:一是可以對稱填充影象,二是可以找到中心畫素點,便於指出過濾器的位置
卷積步長(strided convolutions)
卷積中的步長是另一個構建卷積神經網路的基本操作
f*f的卷積核,卷積n*n的影象,padding填充是p個畫素點,步長是s。
最後的輸出是(n+2p-f)/s+1 * (n+2p-f)/s+1 ,如果商不是整數,就向下取整
池化層
除了卷積層,卷積網路也經常使用池化層來縮減模型的大小,提高計算速度,同時提高所提取特徵的魯棒性,我們來看一下。
先舉一個池化層的例子,然後我們再討論池化層的必要性。假如輸入是一個4×4矩陣,用到的池化型別是最大池化(max pooling)。執行最大池化的樹池是一個2×2矩陣。執行過程非常簡單,把4×4的輸入拆分成不同的區域,我把這個區域用不同顏色來標記。對於2×2的輸出,輸出的每個元素都是其對應顏色區域中的最大元素值。
相關文章
- 卷積神經網路CNN卷積神經網路CNN
- 看懂卷積神經網路(CNN)卷積神經網路CNN
- 【Stanford CNN課程筆記】4. 反向傳播演算法CNN筆記反向傳播演算法
- CNN神經網路之卷積操作CNN神經網路卷積
- 卷積神經網路(CNN)詳解卷積神經網路CNN
- CNN--卷積神經網路從R-CNN到Faster R-CNN的理解(CIFAR10分類程式碼)CNN卷積神經網路AST
- Tensorflow-卷積神經網路CNN卷積神經網路CNN
- 卷積神經網路(CNN)模型結構卷積神經網路CNN模型
- 直白介紹卷積神經網路(CNN)卷積神經網路CNN
- 用於影象分割的卷積神經網路:從R-CNN到Mark R-CNN卷積神經網路CNN
- Deep Learning模型之:CNN卷積神經網路(三)CNN常見問題總結模型CNN卷積神經網路
- 網課摸魚
- Keras上實現卷積神經網路CNNKeras卷積神經網路CNN
- 卷積神經網路CNN-學習1卷積神經網路CNN
- CNN筆記:通俗理解卷積神經網路CNN筆記卷積神經網路
- 搭建超級小班課網課系統
- CNN 簡述CNN
- 深度解析CNNCNN
- CNN圖圖圖CNN
- TensorFlow上實現卷積神經網路CNN卷積神經網路CNN
- 膠囊網路:將CNN推下神壇的“天命之子”CNN
- 卷積神經網路(CNN)介紹與實踐卷積神經網路CNN
- 【機器學習基礎】卷積神經網路(CNN)基礎機器學習卷積神經網路CNN
- 慕課網的中國式線上“慕課”模式模式
- 計算機網路微課堂-課程概述計算機網路
- CNN進化史CNN
- 爬蟲 - CNN Business爬蟲CNN
- Faster R-CNNASTCNN
- CNN-卷積神經網路簡單入門(2)CNN卷積神經網路
- 卷積神經網路:Convolutional Neural Networks(CNN)卷積神經網路CNN
- 卷積神經網路(Convolutional Neural Network,CNN)卷積神經網路CNN
- 卷積神經網路(CNN)反向傳播演算法卷積神經網路CNN反向傳播演算法
- 計算機網路實驗課結課考試:子網劃分計算機網路
- 如何搭建“網路課堂”
- 課程 2: HTTP 網路HTTP
- 一文讀懂目標檢測:R-CNN、Fast R-CNN、Faster R-CNN、YOLO、SSDCNNASTYOLO
- CNN網路結構的發展:從LeNet到EfficientNetCNN
- 卷積神經網路(CNN)前向傳播演算法卷積神經網路CNN演算法