深度學習與神經網路學習筆記一
概念那些就不解釋了,Google一下就有很多資料。
單一神經元節點如何工作
X1, X2, ...Xn是這個神經元的輸入,
X0時偏移量
W1,W2...Wn代表權重
從輸入資料X1, X2, ...Xn產生的輸出資料a的表示式是:
f是一個啟用函式,可以是高斯函式,雙曲函式,也可以是簡單的線性函式
在這篇文章中,我用以下的啟用函式:
使用單一節點實現布林運算
布林運算包括與,或,非,異或等等……
與運算:
另X0 = -1.5;輸出a = f(-1.5 + X1 + X2);得到真值表:
X1 | X2 | X1 & X2 | -1.5 + X1 + X2 | a |
---|---|---|---|---|
1 | 1 | 1 | 0.5 | 1 |
1 | 0 | 0 | -0.5 | 0 |
0 | 1 | 0 | -0.5 | 0 |
0 | 0 | 0 | -1.5 | 0 |
這樣就用一個神經元節點成功地實現了與運算。注意,X0可以是[-2, -1)之間的任何數。
或運算:
另X0 = -0.5;輸出a = f(-0.5 + X1 + X2);得到真值表:
X1 | X2 | X1 & X2 | -0.5 + X1 + X2 | a |
---|---|---|---|---|
1 | 1 | 1 | 1.5 | 1 |
1 | 0 | 0 | 0.5 | 1 |
0 | 1 | 0 | 0.5 | 1 |
0 | 0 | 0 | -0.5 | 0 |
同樣,用單一神經元節點成功實現了或運算。
非運算:
另X0 = 0;輸出a = f(1- 2X1);得到真值表:
X1 | !X1 | 1- 2X1 | a |
---|---|---|---|
1 | 0 | -1 | 0 |
0 | 1 | 1 | 1 |
同樣,用單一神經元節點成功實現了非運算。
使用多個神經元節點實現同或門
同或門XNOR又稱異或非門,異或是指相同為0,不同為1,XNOR恰好相反
實現證明一個神經元節點不能實現同或門:
可以證明:
A XNOR B = NOT (A XOR B)
= NOT [ (A or B) and (!A OR !B) ]
= !(A OR B) OR !(!A OR !B)
=(!A and !B) OR (A and B)
利用表示式a = f(0.5-X1-X2)可以表示(!A and !B);
因此,用一個神經元節點表示(!A and !B),用另一個神經元節點表示(A and B),最後將這兩個神經元節點做或運算就可以表示XNOR,如圖所示:
a1: !A and !B
a2: A and B
a3: a1 or a2
相關文章
- 深度學習筆記------卷積神經網路深度學習筆記卷積神經網路
- 深度學習卷積神經網路筆記深度學習卷積神經網路筆記
- 吳恩達《神經網路與深度學習》課程筆記(1)– 深度學習概述吳恩達神經網路深度學習筆記
- 深度學習與圖神經網路深度學習神經網路
- 再聊神經網路與深度學習神經網路深度學習
- 深度學習筆記8:利用Tensorflow搭建神經網路深度學習筆記神經網路
- 深度學習入門筆記(十八):卷積神經網路(一)深度學習筆記卷積神經網路
- 吳恩達《神經網路與深度學習》課程筆記(4)– 淺層神經網路吳恩達神經網路深度學習筆記
- 吳恩達《神經網路與深度學習》課程筆記(5)– 深層神經網路吳恩達神經網路深度學習筆記
- 深度學習與圖神經網路學習分享:CNN 經典網路之-ResNet深度學習神經網路CNN
- nndl-復旦-神經網路與深度學習筆記第二章習題神經網路深度學習筆記
- 【深度學習】神經網路入門深度學習神經網路
- AI之(神經網路+深度學習)AI神經網路深度學習
- 深度學習與圖神經網路學習分享:Graph Embedding 圖嵌入深度學習神經網路
- 全連線神經網路學習筆記神經網路筆記
- 卷積神經網路學習筆記——SENet卷積神經網路筆記SENet
- 【機器學習】搭建神經網路筆記機器學習神經網路筆記
- 神經網路與深度學習 課程複習總結神經網路深度學習
- NLP與深度學習(二)迴圈神經網路深度學習神經網路
- 初探神經網路與深度學習 —— 感知器神經網路深度學習
- 吳恩達機器學習筆記 —— 9 神經網路學習吳恩達機器學習筆記神經網路
- Ng深度學習筆記——卷積神經網路基礎深度學習筆記卷積神經網路
- 深度學習與圖神經網路學習分享:Transformer 整體結構深度學習神經網路ORM
- 深度學習與圖神經網路學習分享:訊息傳遞模式深度學習神經網路模式
- 吳恩達《神經網路與深度學習》課程筆記(3)– 神經網路基礎之Python與向量化吳恩達神經網路深度學習筆記Python
- 卷積神經網路學習筆記——Siamese networks(孿生神經網路)卷積神經網路筆記
- 深度學習教程 | 深層神經網路深度學習神經網路
- 【深度學習】1.4深層神經網路深度學習神經網路
- 深度學習三:卷積神經網路深度學習卷積神經網路
- 幾種型別神經網路學習筆記型別神經網路筆記
- 機器學習筆記(3): 神經網路初步機器學習筆記神經網路
- 【菜鳥筆記|機器學習】神經網路筆記機器學習神經網路
- 【深度學習篇】--神經網路中的卷積神經網路深度學習神經網路卷積
- 【機器學習基礎】神經網路/深度學習基礎機器學習神經網路深度學習
- 吳恩達《神經網路與深度學習》課程筆記(2)– 神經網路基礎之邏輯迴歸吳恩達神經網路深度學習筆記邏輯迴歸
- 深度學習——LeNet卷積神經網路初探深度學習卷積神經網路
- 深度學習之step by step搭建神經網路深度學習神經網路
- 深度學習之上,圖神經網路(GNN )崛起深度學習神經網路GNN
- 深度學習之RNN(迴圈神經網路)深度學習RNN神經網路