吳恩達視訊觀後感一(相同的字母表達的意思可是不一樣)

程式猿的探索之路發表於2020-12-04

我通過觀看他的視訊,揣摩他的思想,敲他佈置的程式,反覆測試和回味,發現了一些內容:

比如

其中的就是指的同一張圖片的不同畫素(eg:一張圖片的所有畫素有1w個,那麼x下標一直從1到1w),每一個w都是一個單獨的行向量(這個w除了維數固定,內部資料是自己優化調整的),w的轉置和x可以滿足矩陣乘法運算,w和x的乘積是一個實數(型別在程式中是array)。在兩層神經網路(包含隱藏層)中,每一個神經節點都包含一個w和b,它們內部的資料都是根據自己學習得到的,每一個圖片中所有的畫素都會參與每一個神經節點的運算,即wT*x,

其中每一個z都是實數,上圖中的內容是指的一張圖片在多個神經節點(隱藏層)的作用下的計算過程,得到的是一個列向量。

而下圖:

其中的每個小x均指的是一張圖片,在單樣本情況下,它就是一張圖片,包含很多畫素(x1、x2、x3...),這裡面重點表達的如何計算多個圖片(多樣本)在兩層神經網路下計算的過程。

注意不要被吳恩達視訊中反覆出現的相同字母所欺騙,有些不是一個東西(這裡的x是圖片,不是特徵值(畫素))。

這裡面的,第一列從上到下就是一張圖片(單樣本)在多節點下的計算結果(如),第一行從左到右是多張圖片(多樣本)在同一個節點下的計算結果。整個矩陣就是多樣本在同一層(多個節點)下計算的結果。

相關文章