NeurIPS十年高引學者TOP100榜單釋出！這些大牛值得膜拜

本文 5048字15圖，建議閱讀 13分鐘。

本文介紹機器學習領域頂會NeurIPS十年高引學者。

12月8日，NeurIPS2019在加拿大溫哥華正式拉開帷幕。

作為機器學習領域最重要的頂會，NeurIPS一直有著很強的影響力和排名，被認為是神經計算方面最好的會議之一。

隨著近幾年深度學習的崛起，NeurIPS不僅成為了學術界的新星，也引起了工業界的高度關注，註冊人數從數年前的幾百人躍升到今年的近萬人。

根據AMiner資料平臺的統計分析，NeurIPS的H5指數為149，10H值為34641，在人工智慧方向會議中排名第二。

透過對NeurIPS近十年接收論文引用量的統計分析，我們評選出了NeurIPS高引學者TOP100榜單。

這100位學者，他們都是機器學習領域的頂尖人物，不論是在學術界還是工業界，都取得了令人矚目的成果。

在這100位學者中，谷歌+DeepMind就佔據了五分之一，形成了絕對的霸主地位，8人來自Facebook，7人來自加州大學伯克利分校。同時，史丹佛大學5人，麻省理工學院4人，OpenAI 4人，紐約大學、蒙特利爾大學都有3人上榜。

他們中約有16位華人學者上榜。比如前百度首席科學家吳恩達、計算機視覺大神何愷明；但是在中國大陸任職的卻僅有幾人，比如商湯科技的代季峰，曠視科技的孫劍，Momenta的任少卿等。

NeurIPS的明星學者

下面就來看看NeurIPS高引學者榜單中的Top10都有哪些大牛？

包攬高引學者榜單前三甲的正是“神經網路之父” Geoffrey Hinton與他的高徒Ilya Sutskever、Alex Krizhevsky。

排在高引學者榜單第二位的Geoffrey Hinton，是深度學習的泰斗，被人們譽為“人工智慧教父”，他的名字在當今的人工智慧研究界可謂是如雷貫耳。他曾發明了玻爾茲曼機（Boltzmann machine），也首先將反向傳播（Backpropagation）應用於多層神經網路；不僅如此，他還有 Yann LeCun 和 Ilya Sutskever 等大牛級的學生。

Hinton在劍橋大學獲得實驗心理學學士學位，在愛丁堡大學獲得人工智慧博士學位。現任Google副總裁兼工程研究員，同時在多倫多大學教書育人，也是VectorInstitute首席科學顧問。在2012年，Hinton還獲得了加拿大基廉獎（Killam Prizes，有“加拿大諾貝爾獎”之稱的國家最高科學獎）。

Hinton教授是機器學習的開創者，使得計算機可以獨立想出程式、自己解決問題。特別重要的是，他還從中開闢了機器學習的一個子領域，即所謂的“深度學習”，也就是讓那些機器像一個蹣跚學步的孩子一樣，模仿大腦的神經網路形式進行學習。他將神經網路帶入到研究與應用的熱潮，將“深度學習”從邊緣課題變成了谷歌等網際網路巨頭仰賴的核心技術。

Hinton自NeurIPS創辦以來的三十多年間，共發表了60篇論文，幾乎每年都有成果產出。而在2009年至2019年間，Hinton在NeurIPS共發表了16篇論文，引用量達47482次。

正可謂青出於藍而勝於藍， 排在榜首的Ilya Sutskever不僅是Hinton的博士生，還是吳恩達的博後，他曾是谷歌的頂級人工智慧專家，後來創辦了人工智慧非盈利公司——OpenAI。

Sutskever的H-index值為56，在2015 年他被麻省理工學院技術評論評為Visionaries 類別「35 歲以下創新者」。

十年間，他雖只在NeurIPS發表了11篇文章，但引用量高達67457次，位於高引學者榜單首位。

對計算機非常痴迷的Sutskever本科就讀於多倫多大學。在大學期間，他遇到了Hinton教授。Hinton 給了他一個研究專案：改進隨機鄰居嵌入演算法。該專案正是他們合作的開始，接下來Sutskever順理成章地加入了Hinton的小組攻讀博士學位。

2012年畢業後，Sutskever在史丹佛大學跟隨吳恩達教授讀了兩個月的博士後。然後他回到了多倫多大學並加入了Hinton創立的研究公司 DNNResearch。四個月後，Google 收購了 DNNResearch，而Sutskever至此正式加入Google Brain 。

在谷歌的兩年間， Sutskever曾加入過 Google 開源庫，開發了深度學習框架TensorFlow。他還協助DeepMind開發了劃時代的圍棋人工智慧 AlphaGo，而關於AlphaGo 的論文於2016 年在Nature上發表，Sutskever 是合著者之一。

2015年12月，Sutskever離開谷歌，和Greg Brockman（現為 OpenAI 技術長）共同創立了 OpenAI。OpenAI 的目標是希望向所有人開放人工智慧技術，在過去的幾年間OpenAI取得了許多驚人的成就。Sutskever則一直站在人工智慧革命的最前沿，和他的團隊一起推動實現強人工智慧的終極高峰。

排在榜單第三位的Alex Krizhevsky，同樣作為Hinton的博士生，Alex似乎顯得更為低調，網上也鮮有他的資料。

2012 年，在Hinton的指導下，Alex Krizhevsky和Sutskever 合作開發了 轟動一時的AlexNet。 這篇題為《ImageNet Classification with Deep Convolutional Neural Networks》的論文，引用量高達44218次。這也是Alex 在NeurIPS發表的唯一論文。

AlexNet以一種新穎的神經網路架構在NeurIPS亮相，包含五個卷積層和三個全連線層。這篇論文被廣泛認為是一項真正的開創性工作，因為它首次證明了在GPU上訓練的深度神經網路可以將影像識別任務提升到一個新的水平。

AlexNet網路對神經網路的發展產生了非常重要的影響，之後的ImageNet冠軍全都採用了卷積神經網路結構，使得CNN架構成為影像分類的核心模型，並由此開啟了深度學習新一波浪潮，其使用的卷積＋池化＋全連線的架構仍然是當前深度學習最主要的網路結構。

自那之後，Alex似乎沉寂起來。他曾同Hinton教授和Sutskever 共同創辦了初創公司 DNNresearch，他們開發出了可以大幅改善目標辨識技術的解決方案。後來Alex和Sutskever共同加入了谷歌。

再後來，Alex加入了加拿大創業公司Dessa ，擔任Dessa的首席機器學習架構師。而就在今年年初，Dessa開發了一個語音合成系統RealTalk，與以往基於語音輸入學習人聲的系統不同，它可以僅基於文字輸入生成完美逼近真人的聲音。

排在榜單第四位的是“人工智慧三巨頭”之一的Yoshua Bengio，他同Geoffrey Hinton、Yann LeCun同獲2018年圖靈獎。

Yoshua Bengio是人工智慧自然語言處理領域的先鋒。Bengio，1964年出生於法國，成長於加拿大，現居蒙特利爾，在蒙特利爾大學（University of Montreal）電腦科學與運算系任教授。Bengio在麥吉爾大學獲得電腦科學博士學位。他與Geoffrey Hinton、Yann LeCun一起被認為是20世紀90年代和21世紀初期推動深度學習的三個人。2016年10月，Bengio聯合創立了一個位於蒙特利爾的人工智慧孵化器Element AI。

Bengio也是三人中最看重學術純粹性的。在微軟擔任顧問的同時，他還是CIFAR機器與大腦學習專案的聯合主任，加拿大電腦科學與運籌學系的全職教授，也是蒙特利爾大學統計學習演算法研究主席。

在NeurIPS會議上，Bengio一共發表了74篇論文，尤其在今年的會議上，有 Bengio署名的論文就有9篇。

在過去的十年間，他在NeurIPS共發表了40篇文章，引用量達18714次。

其中引用量最高的是發表於2014年，同他的博士生Ian Goodfellow合著的《Generative Adversarial Nets》一文，引用量達10618次，這篇文章提出了著名的生成對抗網路（GANs）。

它是一種能“教會”計算機勝任人類工作的有趣方法。過去五年，GANs在影像生成領域取得了重大突破，現在可以生成動物、風景以及人臉等高度逼真的合成影像，充分展示了“無監督學習”技術的潛力。

同時它在理論層面解決了機器學習技術長久以來的問題：如何促使機器學習的訓練成果向著人類希望的方向前進。2015年時，GANs技術還名不見經傳，2016年就達到了無處不在的火爆程度，甚至被專家稱為“機器學習領域20年來最酷的想法”。

說到了GANs，那就不得不說Ian Goodfellow--“GANs之父”。他位於高引學者榜單的第九位，十年間他在NeurIPS共發表了10篇論文，總引用量達13480次。

Goodfellow是機器學習領域備受關注的年輕學者之一，本科與碩士就讀於史丹佛大學，師從吳恩達，博士階段則跟隨Yoshua Bengio研究機器學習。他最引人注目的成就是在 2014 年 6 月提出了生成對抗網路（GANs）。

畢業後，Goodfellow加入Google，成為Google Brain研究團隊的一員。然後他離開谷歌加入新成立的OpenAI研究所，在2017年3月他又回到谷歌研究院。就在今年4月，Ian Goodfellow加入蘋果公司擔任總監級別職務，在蘋果公司領導一個「機器學習特殊專案組」。

位於高引學者榜單第五至第八位的學者，是來自谷歌的Greg Corrado、Jeffrey Dean、Kai Chen、Tomas Mikolov。

Greg Corrado、Jeffrey Dean十年間在NeurIPS各發表了3篇文章，總引用量為17218次。Tomas Mikolov也發表了3篇文章，總引用量為15407。Kai Chen發文兩篇，總引用量為16139次。

他們與Ilya Sutskever於2013年共同發表了《Distributed Representations of Words and Phrases and their Compositionality》一文，引用量達14087次。

這篇論文是對《Efficient Estimation of Word Representations in Vector Space》的補充，介紹了使用Skip-gram模型和Hierarchical Softmax訓練模式的訓練方法，並補充了Negative Sampling的訓練模式替代Negative Sampling，獲得更快的訓練效果。論文還提出了對高頻詞進行二次抽樣的方法，以及衡量短語的方法，學習短語的表示。

Greg Corrado是Google機器學習資深研究科學家，主要研究方向為人工智慧、計算神經科學和可擴充套件機器學習，也是Google Brain專案的創始人之一。

谷歌人工智慧大神Jeff Dean，是谷歌的首席架構師、谷歌研究院的高階研究員，也是谷歌的人工智慧團隊谷歌大腦（Google Brain）的負責人。身披華盛頓大學博士、美國工程院院士、ACM Fellow、清華大學AI研究院計算機學科顧問、AAAS Fellow等名譽的Jeff Dean在谷歌負責過許多大型專案，支援谷歌執行的超大規模計算框架MapReduce和機器學習的標誌性軟體TensorFlow就是在他的領導下開發的。

Tomas Mikolov曾在谷歌工作，目前是Facebook人工智慧研究實驗室的科學家。他也是一位產出多篇高質量paper的學者，從RNNLM、Word2Vec再到最近流行的FastText都與他息息相關。

排在第十位的是計算機視覺大神、Facebook AI研究科學家何愷明。他的研究方向為計算機視覺和深度學習。十年間他在NeurIPS共發表過3篇論文，總引用量為12605次。

最有名的一篇是發表於2015年的《Faster R-CNN：Towards Real-Time Object Detection with Region Proposal Networks》一文，引用量達11093次。

在這份TOP100榜單中，還有更多機器學習領域大神級人物的存在，比如機器學習之父、美國三院院士、伯克利教授Michael I.Jordan，蘋果首任AI總監Ruslan Salakhutdinov等等，雖然我們沒有一一寫到，但並不能否認他們在機器學習領域無人能及的地位。

— 完 —