損失函式

Jeaten發表於2020-11-27
函式

本篇我們來學習一下在機器學習中常用的損失函式

文中我們用 Y Y Y表示實際值， f ( X ) f(X) f(X)表示預測值

常用的損失函式有：

0-1損失函式（0-1 loss function）

L ( Y , f ( X ) ) = { 1 ,      Y ≠ f ( X ) 0 ,      Y = f ( X ) L(Y,f(X)) = \left\{ \begin{array}{l} 1,\;\;Y \ne f(X)\\ 0,\;\;Y = f(X) \end{array} \right. L(Y,f(X))={1,Y​=f(X)0,Y=f(X)​

實際值和預測值相等時為1，不相等時為0

平方損失函式（quadratic loss function）

L ( Y , f ( X ) ) = ( Y − f ( X ) ) 2 L(Y,f(X)) = {(Y - f(X))^2} L(Y,f(X))=(Y−f(X))2

實際值和預測值之間的誤差的平方

絕對損失函式（absolute loss function）

L ( Y , f ( X ) ) = ∣ Y − f ( X ) ∣ L(Y,f(X)) = |Y - f(X)| L(Y,f(X))=∣Y−f(X)∣

實際值和預測值之間的誤差絕對值

對數損失函式（logarithmic loss function）或對數似然損失函式（log-likelihood loss function）

L ( Y , P ( Y ∣ X ) ) = − log ⁡ P ( Y ∣ X ) L(Y,P(Y|X)) = - \log P(Y|X) L(Y,P(Y∣X))=−logP(Y∣X)

實際值和預測值之間的對數值

相關文章