機器學習之梯度下降

Galois發表於2020-02-08

jiqi
梯度下降法簡單來說就是一種尋找目標函式最小化的方法。

上圖的 update 就是梯度迭代公式。

在機器學習中,基於基本的梯度下降法發展了兩種梯度下降方法,分別為隨機梯度下降法和批量梯度下降法。

Batch 梯度下降:

機器學習之梯度下降

隨機梯度下降:

機器學習之梯度下降

隨機梯度下降有時候會上升,但如圖所示,最後結果都是徘徊在最低點的。

梯度下降屬於一種最優化演算法。

本作品採用《CC 協議》,轉載必須註明作者和本文連結

不要試圖用百米衝刺的方法完成馬拉松比賽。

相關文章