【深度學習基礎-13】非線性迴歸 logistic regression

learning_CV發表於2019-01-14
深度學習

1 概率

條件概率是指事件A在另外一個事件B已經發生條件下的發生概率。條件概率表示為：P（A|B），讀作“在B的條件下A的概率”。若只有兩個事件A，B，那麼，

                                            

對於如下圖所示的圖形，線性迴歸以已經沒辦法很好的解決問題

2 Logistic Regression(邏輯迴歸)基本模型

測試資料X （x0, x1, x2, ...., xn）

要學習的引數：

如果採用向量表示

處理二值資料時，引入Sigmoid函式時曲線平滑化

預測函式：

上面的預測函式還可以用概率進行表示：

正例（y=1）

反例（y=0）

3 COST函式（成本函式）

\sum_{i=1}^{m}(h_\theta(x^{(i)})-y^{(i)} )^2，找到合適的\theta _0、\theta _1使得h_\theta (x^{i})=\theta _0 + \theta _1x^{(i)}式子最小

4 採用梯度下降來計算

 

相關文章