8-深度學習之神經網路核心原理與演算法-卷積神經網路

天涯明月笙發表於2018-05-25

卷積神經網路(CNN)

神經網路不是一種具體的演算法,而是一種模型構建思路或方式。

我們之前已經成功的構建了BP網路,BP網路的每個神經元是由線性分類器+激勵函式形成的。每個神經元前後首尾連線,形成一個網路結構。

BP網路的侷限性。是否可以做一些新的邏輯單元或構建方式。絕大部分的模式識別都借鑑了卷積神經網路的關鍵元件。

與全連線網路的對比

全連線網路(Full Connect Network)

每一個神經元節點的出入都來自於上一層的每一個神經元的輸出。(全連線)

優點: 每個維度的資訊都會傳播到其後的任何一個節點中去。(讓網路不會漏掉這個維度貢獻的因素)
缺點: w和b 格外的多,更新(權重太多)慢,收斂慢

如果使用全連線網路來做影像識別這種輸入維度很高的就不太可行了。因為電腦的計算力不足。

卷積神經網路同樣也是一種前饋神經網路。

卷積神經網路的神經元可以響應一部分覆蓋範圍內的周圍的單元。
對於大規模的模式識別是非常好的,效能表現不錯,尤其是對於大規模的影像處理效率,卷積神經網路它的效率是非常高的。

兩大特點:

  • 有至少一個卷積層,用來提取特徵
  • 卷積層通過權值共享,減少權值w的數量,加快收斂速度。

權值減少了之後,這樣卷積神經網路會快於BP神經網路收斂。

卷積網路主要用來識別位移,縮放,以及其他形式的扭曲不變性二維圖形。
那麼由於我們之前介紹的比較大的特點。卷積網路在特徵檢測層通過訓練資料進行學習。

所以在使用卷積神經網路時,你就可以避免顯示的去提取特徵。而可以隱式的從訓練資料中進行學習。

再者,由於同一特徵對映層面上的神經元,它使用的是權值共享的方式,所以網路可以並行的學習,這也使得卷積神經網路,相對於神經元彼此相連的網路,具有更大優勢。


相關文章