機器學習-cs229-線性迴歸-泰勒展開法

桔子餃子皮發表於2020-09-28

上一篇說的是梯度下降法,這次說泰勒展開法,用二次曲線來找到極小值點

我們為了找到J(0)求導的極小值
在這裡插入圖片描述

用二次曲線逼近極小值點,求得二次曲線的極限值對應的f(x)值,直到f(x)收斂為止
在這裡插入圖片描述

在這裡插入圖片描述
以上兩張圖是用二次函式來找極小值點。

用二元泰勒公式,hessian函式。

評價:

  • 不能保證找到最小值點

相關文章