什麼是端到端的訓練或學習?

skyjhyp11發表於2020-11-01

傳統的影像識別問題往往通過分治法將其分解為預處理,特徵提取和選擇,分類器設計等若干步驟。分治法的動機是將影像識別的母問題分解為簡單、可控且清晰的若干小的子問題。不過分步解決子問題時,儘管可以在子問題上得到最優解,但子問題上的最優解並不意味著就能得到全域性問題的最優解。

      深度學習提供了一種端到端的學習正規化,整個學習的流程並不進行人為的子問題劃分,而是完全交給深度學習模型直接學習從原始資料到期望輸出的對映。

       對深度模型而言,其輸入資料是未經任何人為加工的原始樣本形式,後續則是堆疊在輸入層上的眾多操作層,這些操作層整體可以看作一個複雜的函式FCNN, 最終的損失函式資料損失data loss模型引數的正則化損失(regularization loss)共同組成,模型深度的訓練則是在最終損失驅動下對模型進行引數更新並將誤差反向傳播至網路各層。

相關文章