深度學習領域引用量前10篇論文(附下載地址)

七月線上實驗室發表於2018-04-20

深度學習是機器學習和統計學交叉領域的一個子集,在過去的幾年裡得到快速的發展。強大的開源工具以及大資料爆發使其取得令人驚訝的突破進展。本文根據微軟學術的引用量作為評價指標,從中選取了10篇頂尖論文。

注意:引用量會隨著時間發生快速的變化,本文參考的是本文發表時候的引用量。文末附論文下載地址

深度學習時間線

640?wx_fmt=jpeg&wxfrom=5&wx_lazy=1

在這份清單中,超過75%的文章都提到了深度學習和神經網路,尤其是卷積神經網路(CNN),其中,50%的文章是計算機領域模式識別應用。隨著硬體效能、資料量及開源工具的發展,使用基於GPU的工具箱,如TensorFlow、Theano等,有利於資料科學家和機器學習工程師擴充套件相應的應用領域。


1.Deep Learning,Yann L., Yoshua B. & Geoffrey H. (2015) (引用量: 5,716)

本文是深度學習大牛Hinton的開山之作,引用量高達5700多次。在這篇文章中,提出了深度學習的方法,它允許由多個處理層組成的計算模型來學習具有多個抽象層次的資料表示。這些方法極大地促進了語言識別、視覺物體識別、目標檢測以及藥物發現、基因組合燈許多領域的進展。


2.TensorFlow: Large-Scale Machine Learning on Heterogeneous Distributed Systems, by Martín A., Ashish A. B., Eugene B. C., et al. (2015) (引用量: 2,423)

這篇文章釋出了TensorFlow工具箱,該工具箱使用非常靈活,十分受研究者的追捧,很多研究者認為你該工具箱在之後的研究中會佔據主導地位。TensorFlow可以用來表示各種各樣的演算法,包括深層神經網路模型以及推理演算法等。TensorFlow已經被用於研究,並將計算機學習系統部署到電腦科學和其它的多個領域,包括語言識別、計算機視覺、機器人、資訊檢索、自然語言處理、地理資訊提取等。


3.Deep learning in neural networks, by Juergen Schmidhuber (2015) (引用量: 2,196)

這篇文中是一個綜述類文章,總結了深度學習和神經網路的發展歷史。淺層和深層學習器是通過網路層數的數量區分,並且詳細講解了有監督學習(簡要介紹反向傳播演算法的歷史)、無監督學習、強化學習、進化計算以及深層編碼網路。


4.Human-level control through deep reinforcement learning, by Volodymyr M., Koray K., David S., Andrei A. R., Joel V et al (2015) (引用量: 2,086)

這篇文章主要是使用深層神經網路的最新進展——強化學習,並訓練了一種新穎且智慧代理,被稱為Q網路。Q網路使用端到端強化學習直接從高維感官輸入學習到成功的策略,並使用經典遊戲Atari 2600對其進行測試,結果表明其效果非常好。


5.Faster R-CNN: Towards Real-Time Object Detection with Region Proposal Networks, by Shaoqing R., Kaiming H., Ross B. G. & Jian S. (2015) (引用量: 1,421)

這篇文章的主要工作是引入了區域推薦網路(RPN),該網路能夠與檢測網路共享全影象卷積特徵,從而使無成本的區域推薦成為可能。一個RPN網路是一個全卷積網路,同時預測每個位置物件的範圍和其分數。


6.Long-term recurrent convolutional networks for visual recognition and description, by Jeff D., Lisa Anne H., Sergio G., Marcus R., Subhashini V. et al. (2015) (引用量: 1,285)

與當前假設固定時空感受野或簡單時間平均序列的模型處理相比而言,遞迴卷積模型是“雙份深度”,這是由於該模型是“時間層”和“空間層”的組合。


7.MatConvNet: Convolutional Neural Networks for MATLAB, by Andrea Vedaldi & Karel Lenc (2015) (引用量: 1,148)

本文是針對MATLAB開發的深度學習工具箱,它揭露了CNN模型也可以通過簡單使用MATLAB函式完成搭建。該工具箱提供了卷積層、池化層等功能。該文件簡單介紹了CNN,並說明如何在matconvnet工具箱中實現模型的搭建,並給出了每個計算塊的技術細節。


8.Unsupervised Representation Learning with Deep Convolutional Generative Adversarial Networks, by Alec R., Luke M. & Soumith C. (2015) (引用量: 1,054)

在這篇文章中,希望通過CNN縮小有監督學習和無監督學習二者之間的差距。引入了一類新的CNN模型,被稱作深層卷積生成對抗網路(DCGANs)。該網路具有一定體系結構約束,也被證明是無監督學習問題中一種有效方法。


9.U-Net: Convolutional Networks for Biomedical Image Segmentation, by Olaf R., Philipp F. &Thomas B. (2015) (引用量: 975)

對於深度學習而言,人們大多有個共識——深層網路訓練成功需要依賴於大量的訓練樣本。而在本篇文章中,提出了一種新的網路和訓練策略,其訓練策略依賴於資料增強,使其可以更高效地使用現有樣本。


10.Conditional Random Fields as Recurrent Neural Networks, by Shuai Z., Sadeep J., Bernardino R., Vibhav V. et al (2015) (引用量: 760)
在這篇文章中,引入了一種新的模型,它將卷積神經網路(CNN)與條件隨機場(CRF)二者的優點相結合,構造出RNN網路。

後臺回覆“深度學習論文” 獲取以上論文

今日薦課

針對希望深入實戰深度學習的同學,七月線上開設了【深度學習集訓營】,略過Python基礎,從TensorFlow搭建DNN解決問題起步,線下一對一指導、互動,實戰BAT工業專案。

4月24日正式開課,線上線下結合(線下在北京和上海)從頭到尾全部實戰,涵蓋特徵工程、深度學習在計算機視覺和自然語言處理領域中的應用,更有大規模車輛圖片檢索等應用於智慧城市、視訊監控等場景的殺手級專案。

以下為試聽課:TensorFlow推薦系統


掃描下方二維碼獲取深度學習禮包

640?wx_fmt=png

相關文章