決定接下來要嘗試什麼回顧(Deciding what to try next revisited)

weixin_33861800發表於2017-09-28
7920211-af165e5815796d81.png
  • 獲得更多的訓練資料:對高方差有效,高偏差無太大效果。
  • 少選幾種特徵:對高方差有效,高偏差無太大效果。
  • 增加特徵數:解決高偏差問題的法寶,如果要增加特徵數,那麼說明當前的假設太簡單了。
  • 增加多項式特徵(x12,x22,x1x2,etc.):同樣對高偏差問題有效。
  • 嘗試減小λ:對高偏差有效。
  • 嘗試增加λ:對高方差有效。

7920211-331edcb34c84a8a0.png

小型神經網路計算量小,容易出現欠擬合現象。
大型神經網路計算量大,容易出現過擬合現象,此時,我們可以使用正則化的方法解決(效果通常好於小型的神經網路)。

相關文章