Python機器學習——概念及其物理解釋

Inside_Zhang發表於2015-11-27
Python機器學習

將現實中出現的概念、意義或者內含賦予數學公式以及定理中的某一記號，以幫助記憶和理解，是數學家慣常的一個套路。此專題用來梳理和整理機器學習以及進行程式設計實踐中出現的一個常用或者不太常用的概念或者說法。

score vs activation

對一個Multi-layer Multi-neuron的神經網路的每一層而言，每一層的輸入為score，每一層的輸出為activation（啟用值）：

zℓ=wℓ⋅aℓ−1+bℓaℓ=σ(zℓ)
z^\ell = w^\ell\cdot a^{\ell-1}+b^{\ell}\\ a^\ell = \sigma(z^\ell)

這裡的z
z
即對應score
\mathrm{score}
的概念，a
a
自然對應於activation
\mathrm{activation}
。合寫在一起即是：
aℓ=σ(wℓ⋅aℓ−1+bℓ)
a^\ell=\sigma(w^\ell\cdot a^{\ell -1}+b^\ell)

再看score

test_losses = [test_model(i) for i in xrange(n_test_batches)]
test_score = np.mean(test_losses)

slot

slot

\mathrm{slot}
或者叫entry
\mathrm{entry}
：卡槽，代表一個位置，當然這個位置上可以放有限的一些值。可能出現的場景是：比如兩個同長度的向量，當表達在相同位置的對應元素時。
我們說一個d
d
維的特徵向量，就說它有d
d
個槽（slot
\mathrm{slot}
）


這裡寫圖片描述

相關文章