函式間隔(functional margin)和幾何間隔(geometric margin)

夜空中最亮的不咚發表於2018-04-11

對於給定的訓練資料集T和超平面(w,b),定義超平面關於樣本點(x_i,y_i)的函式間隔為

函式間隔(functional margin)和幾何間隔(geometric margin)

定義超平面(w,b)關於訓練資料集T的函式間隔為超平面關於T中所有樣本點的函式間隔之最小值,即

函式間隔(functional margin)和幾何間隔(geometric margin)

函式間隔可以表示分類預測的正確性及確信度,但選擇分離超平面時,只有函式間隔還不夠,因為只要成比例改變w和b,超平面並沒有改變,但函式間隔卻變了,因此需要對分離超平面的法向量加上某些約束,如規範化,||w||=1,使用間隔是確定的,這時函式間隔成為了幾何間隔。

幾何間隔

對於給定的訓練資料集T和超平面(w,b),定義超平面關於樣本點(x_i,y_i)的幾何間隔為

函式間隔(functional margin)和幾何間隔(geometric margin)

其中,||w||為w的L_2範數。定義超平面(w,b)關於訓練資料集T的幾何間隔為超平面關於中所有樣本點的幾何間隔之最小值,即

函式間隔(functional margin)和幾何間隔(geometric margin)

由函式間隔和幾何間隔的定義可知,它們之前的關係如下:

函式間隔(functional margin)和幾何間隔(geometric margin)

如果||w||=1,那麼函式間隔和幾何間隔相等。如果超平面引數w和b成比例地改變,函式間隔也按此比例改變,而幾何間隔不變。




函式間隔(functional margin)和幾何間隔(geometric margin)

相關文章