機器學習之線性迴歸

Galois發表於2020-02-07

一。概念解析:

有監督學習:對於x1,x2,x3明確知道其對應的label值

無監督學習:對於x1,x2,x3不知道其對應的label值

分類演算法:對於x1,x2,x3,x4作為特徵值,當輸入到演算法中得出有限個結果。比如對於銀行借錢,輸入年齡,性別,信譽等值 銀行反饋借款或者不借款為分類指標。

迴歸演算法:對於x1,x2,x3,x4作為特徵值,當輸入到演算法中得出一個區間範圍。舉例:比如對於銀行借錢,輸入年齡,性別,信譽等值對於借錢的範圍為1萬~10萬。

舉例:

PS:y的值與x1,x2相關,第二個函式當X0=1時即可等價於上式。θTx代表轉置,行向量*列向量。

 

PS:每個資料點y((i)針對於模擬方程的誤差ε(i),假設兩個條件:

1.所有誤差(每個樣本點)服從高斯分佈(有一定規律,沒有規律也不能模擬)

2.高斯分佈(u,θ2)中u(均值)為0,方差為θ2的高斯分佈,其中均值為0 是因為y=θ01x+θ2x中一定能找到所有誤差相加截距為0的線。

 

 相關數學知識點:最大似然估計,高斯分佈,最小二乘法。持續更新。

 推導過程如下:詳細推倒部落格會進行更新 請持續關注。

 

 

PS:公式一大推結果θ值可以求得

持續更新中。。。歡迎大家關注我的公總號LHWorld

 

相關文章