深度學習（一）深度學習學習資料

持續更新

原文地址：http://blog.csdn.net/hjimce/article/details/45421595

作者：hjimce

一、學習清單

1、綜合類

(1)收集了各種最新最經典的文獻，神經網路的資源列表：https://github.com/robertsdionne/neural-network-papers  裡面包含了深度學習領域經典、以及最新最牛逼的演算法，如果把這個列表學過一遍，基本已然達到了大神級別。

(2)機器學習學習清單：https://github.com/ujjwalkarn/Machine-Learning-Tutorials/blob/master/README.md  當然也包含了深度學習各種資源教程

(3)2010-2016被引用最多的深度學習論文：https://mp.weixin.qq.com/s?__biz=MzA3MzI4MjgzMw==&mid=2650716071&idx=1&sn=7aa209732425c6a52536fbb9012a09fd  本人看了一下，感覺很不錯，以後就根據這個一篇一篇的啃。

2、計算機視覺

(1)計算機視覺學習清單：https://github.com/kjw0612/awesome-deep-vision  裡面包含的都是最經典的深度學習paper。如果把裡面的paper都學過一遍，可謂視覺領域的高手高手高高手……

(2)快速搞深度學習影象識別專案，莫過於看識別效果排行榜，找最牛逼的演算法搭建起來：http://rodrigob.github.io/are_we_there_yet/build/classification_datasets_results.html#53544c2d3130

3、NLP領域

(1)自然語言學習清單：https://github.com/keonkim/awesome-nlp 從NLP菜鳥到高手的成長之路學習清單

(2)RNN、LSTM等偏向NLP演算法類：http://handong1587.github.io/deep_learning/2015/10/09/rnn-and-lstm.html  看起來好像很不錯的樣子

(3)部落格推薦：http://www.wildml.com/  包含了RNN、LSTM、Attention機制等教程，最主要的是講解的淺顯易懂，讓我等菜鳥受益匪淺

二、其它總結

1、調參經驗：http://lamda.nju.edu.cn/weixs/project/CNNTricks/CNNTricks.html，裡面講解了深度學習的調參經驗總結，很是經典。

2、梯度下降各種變體總結：http://sebastianruder.com/optimizing-gradient-descent/  作者寫的非常好，淺顯易懂

3、深度學習加速相關優化：https://handong1587.github.io/deep_learning/2015/10/09/acceleration_model_compression.html

ios:https://developer.apple.com/reference/metalperformanceshaders

http://www.mattrajca.com/2016/11/26/speeding-up-tensorflow-with-metal-performance-shaders.html

http://machinethink.net/blog/

4、深度生成模型淺顯易懂部落格：http://www.inference.vc/page/4/

5、iPhone移植：http://machinethink.net/blog/

三、訓練資料

1、計算機視覺

(1)人臉資料：

A、香港中文大學訓練資料集：http://mmlab.ie.cuhk.edu.hk/projects/CelebA.html  

此資料庫包含了20w張人臉圖片，每張圖片標註了5個特徵點、以及幾十種屬性（是否微笑、膚色、髮色、性別等屬性）

B、68個人臉特徵點：http://ibug.doc.ic.ac.uk/resources/facial-point-annotations/

此網站差不多可以下載到3000張，訓練資料圖片，每張圖片標註了68個人臉特徵點

C、74個人臉特徵點：http://gaps-zju.org/DDE/ 

這個網站包好了1.4w張的人臉訓練資料圖片，每張圖片標註了74個人臉特徵點。不過這個資料感覺標註的很不精確

D、性別與年齡訓練資料：https://data.vision.ee.ethz.ch/cvl/rrothe/imdb-wiki/

這個網站包含了500k+的人臉性別與年齡訓練資料，同時還有文獻及程式碼，對於搞性別年齡預測，資源充足

(2)深度估計、影象分割：

A、RGBD訓練資料列表：http://www0.cs.ucl.ac.uk/staff/M.Firman/RGBDdatasets/

2、自然語言

(1)問答系統：https://github.com/karthikncode/nlp-datasets

四：標註工具

1、用於視覺的專門標註工具《Supervisely v2.0: supercharge your training data pipeline with Deep Learning》