對於很多機器學習、深度學習的愛好者來說,都受惠於臺灣大學的李宏毅教授的教學視訊。他的教學風格輕鬆幽默且教學質量非常高。
李宏毅教授的個人主頁:
http://speech.ee.ntu.edu.tw/~tlkagk/index.html
李宏毅教授的教學視訊:
http://speech.ee.ntu.edu.tw/~tlkagk/courses.html
今天給大家推薦並解讀一份李宏毅老師整理、釋出的深度學習優質資源,這份資源是李宏毅老師在 2016 年臺灣資料科學年會上釋出了一個前導課程“一天搞懂深度學習”。全部講義包含 300 頁 PPT。不誇張地說,是我看過最系統,也最通俗易懂的,關於深度學習的文章。
這份 300 頁的 PPT,被搬運到了 SlideShare 上,下面是 SlideShare 的連結:
https://www.slideshare.net/tw_dsconf/ss-62245351?qid=108adce3-2c3d-4758-a830-95d0a57e46bc&v=&b=&from_search=3
《一天搞懂深度學習》主要對神經網路的原理、目前存在形態以及未來的發展進行了介紹。深度學習的每一個核心概念在文中都有相關案例進行呈現,通俗而且易懂。
整體結構如下圖所示:
作者主要從以下四個方面進行介紹:
- 第一部分:介紹深度學習
-
第二部分:深度神經網路的建議
-
第三部分:神經網路的多樣性
-
第四部分:未來趨勢
下面對四個部分做簡單介紹!
1. 第一部分:介紹深度學習
第一部分主要從 3 個方面來介紹深度學習,包括:深度學習的簡介、為什麼“深度”、深度學習的“Hello World”。這部分主要講解了深度學習的很多基本知識點和深度學習訓練過程,同時介紹了知名的深度學習框架 Keras, 最後使用 Keras 進行 MNIST 手寫數字識別。
2. 第二部分:深度神經網路的建議
這部分主要介紹的是深度學習的訓練步驟及其方法:過擬合、啟用函式等。如何優化梯度下降演算法?方法包括 Momentum、Adam、Dropout、Early Stopping、Regularization 等等。這些是深度學習中最核心的知識點。
3. 第三部分:神經網路的多樣性
這部分主要介紹神經網路中兩個重要的分支:卷積神經網路和迴圈神經網路。CNN 在機器視覺方面發揮著相當重要的作用,RNN 在自然語言處理方面的作用也越來越明顯了。
4. 第四部分:未來趨勢
這部分主要介紹了深度學習未來的發展趨勢,包括監督式學習中的超深度網路、注意力模型,強化學習和非監督式學習在影像、文字、音訊等方面的進展。
例如在 2015年出現了152 層的 Residual Net 實現了圖片 3.57% 錯誤率。
評價:
《一天搞懂深度學習》可以說是入門深度學習最好的學習資料之一。究其原因如下:
- 李宏毅老師研究深度學習並對深度學習有了很深入的理解,能夠把深度學習比較深的技術和原理能用淺顯的語言描述,讓讀者看在眼裡,明白在心裡。
-
閱讀李宏毅教授的這些資料,不感覺枯燥,主要原因是把很多抽象的數學公式具體化了、形象化了。
-
李宏毅教授是個非常嚴謹的學者,整體內容豐富,非常立體化,非常系統。
資料獲取
那麼這份 300 頁的 PPT 有沒有離線版的呢?
當然有!目前,李宏毅《1 天搞懂深度學習》教程的 300 頁 PPT 已打包完畢。需要的可以按照以下方式獲取:
- 掃描下方二維碼關注 “程式設計師愛碼士” 公眾號
-
公眾號後臺回覆關鍵詞:DL300