從ResNet的誕生講起：美公司在北京的AI研究所出了成果，中美究竟誰受益更多？

大資料文摘發表於2020-04-06
AI

從ResNet的誕生講起：美公司在北京的AI研究所出了成果，中美究竟誰受益更多？大資料文摘出品

來源：macropolo

編譯：狗小白、Aileen

中美之間摩擦不斷，如今，AI競爭也成為了其中重要的組成部分。

讓我們假設這樣一個場景：美國AI公司設立在中國的實驗室取得了一些突破，誰從中受益更多？

五年前，這個問題也許根本不會出現，即使出現，答案也無外乎是：這是全球AI研究的共同成果。如今卻變了樣，機器學習領域大步發展，中國科技市場和相應的監管機制都有了相當大的發展革新，如今的AI競爭已經成了圍繞著中美關係的問題了。

對於美國科技公司的在華研究所，或者中國科技公司在美國的研究機構來說，這些變化意味著什麼？

海外智庫Macropolo最新發布的一篇文章認為，對這一現象的研究對於中美關係以及相關科研成果都有重要作用。

讓我們跟隨這篇文章的作者，從一個特定的研究進展ResNet入手，仔細分析其中的觀點、機構和人員，並且記錄這些因素，或許可以更好地評價這些研究產生的效益的流向，以及政府政策和公司行為如何最有效地利用這個流向。

一起看看。

微軟亞研院北京小所裡誕生的大突破：ResNet
先來看一篇近五年來在AI研究領域裡被引用次數最多的論文：針對影像捕捉的深度殘餘學習(Deep Residual Learning for Image Recognition)。
據谷歌學術統計，這篇常被縮寫為ResNet的2015年的文章不僅是AI領域引用次數最多的，從2014年到2019年7月，它在任何學術領域裡都是引用次數最多的一篇文章。
ResNet最重要的貢獻在於它的技術使一個神經網路中堆疊多層成為可能，而這項技術是如今許多機器學習技術的引擎。堆疊多層（使他們更“深度”），應用於面部識別、自然語言處理、語音識別以及其他領域的神經網路的效能有了重大提升。
這項技術非常成功，發表論文的研究團隊運用它摘得了2015年最有影響力的兩項全球影像識別大賽桂冠。到2017年，這項技術作為最先進的技術之一運用在世界圍棋大賽上雙手互搏而大顯身手，也成就了標誌性的深度學習系統——AlphaGo Zero。
ResNet是微軟亞洲研究所（MSRA），美國科技大佬的北京研究所裡一個小研究團隊的產物。
MSRA成立於1998年，坐落於清華大學附近，這間不起眼的小研究所很快成為一個研究大戶，對學術研究和微軟的全球產品都作出了重大貢獻。
2004年，因其在機器學習領域，特別是自然語言處理、語音合成和影像識別方面的研究突破，MIT科技評論稱之為“世界第一炫酷計算機研究所”。MSRA研究成果有些直接應用於Windows系統上的軟體革新，或是改進微軟Xbox影像，以及極大地改進了類似於中文的基於字元型的語言輸入法。
然而與此同時，MSRA也在某種程度上成了過去20年內參與中國AI生態系統誕生和發展的最重要的機構。該研究所為中國胚胎期的AI生態系統培育了大量未來領軍人物，從中畢業的人員包括阿里巴巴阿里雲之父王堅博士、百度總裁張亞勤、位元組跳動的多位干將，以及其他一些AI獨角獸startup的創始人，以至於很多科技圈人士將其比喻成“AI圈黃埔軍校”。
人員：誰推動了技術的突破？
回到這篇ResNet的論文，署名有四位2015年在MSRA工作或實習的研究人員，按照國際出版物上名位於姓氏前的標識方式，分別為：Kaiming He, Xiangyu Zhang, Shaoqing Ren, and Jian Sun。
這四位作者均在中國獲得他們的學士學位和博士學位，目前也都在計算機視覺圈赫赫有名，除了Kaiming在中國香港拿下PhD學位之外，在發表ResNet之前，他們沒有一人在大陸之外生活或工作過。在ResNet之前和之後，這些作者們都在頂級刊會上那過最佳論文獎，並獲得過全球計算機視覺大賽上拿過第一名。
論文發表之後，四位作者後續都離開了MSRA。
首作何愷明（Kaiming He），也是團隊中知名度最高的一位，2016年加入了Facebook在加州的AI研究團隊；張祥雨（Xiangyu Zhang）和孫劍（Jian Sun）加入了曠視，孫劍如今是這家公司的首席科學家。任少卿（Shaoqing Ren）與MSRA的另外兩位畢業生，共同建立了總部在北京的自動駕駛初創公司Momenta，如今已成長成為一隻獨角獸。
要澄清一下，ResNet被引用次數最多並不意味著它的四位作者是過去五年裡最優秀或最重要的AI研究者。文獻被如此廣泛地引用的原因部分在於它給早前已有的方法加上了關鍵的一筆，使其在之後的工作裡能夠相對簡便地復現結果。文獻背後地研究者們為AI領域做出了突出的貢獻，並且運用他們的能力繼續為中美企業努力工作。
誰獲益？誰失利？
回到我們最核心的問題：在類似於MSRA的機構裡產生的研究成果，誰受益最多？上述詳情為我們提供了大量資訊，但依然沒給出清晰的答案。
MSRA團隊的文章標誌著整個AI領域的一個重大發展，即使其他領域的其他研究者最終會得出類似的發現，我們也不知道這一發現究竟會產生於何時。2015年後，全球的研究者開始運用ResNet技術於各種有害或有益的AI系統。
微軟自身也從該文獻中有所受益。撇開商譽等無形資產，只談有形資產，微軟在短時間記憶體在內部運用該技術的先手優勢，但研究團隊在2015年獲ImageNet競賽大獎後很快將ResNet論文在網路上發表，之後該技術被各領域廣泛運用，其中也包括微軟的競爭對手。
對微軟來說，最顯著的受益在於該公司獲取研究人才能力的增強，雖然ResNet的作者們離開了MSRA，但他們當時的工作極大地提升了MSRA在新生代電腦科學畢業生中的信譽。
Facebook摘取了最好的果實，招納了ResNet的領銜作者；曠視招募兩名大將，獲益匪淺；中國的自動駕駛生態更是由於任少卿加入Momenta得到了極大的提升。
或被改寫的歷史以及可能的未來
任何對淨影響的優秀評估必須同時評估一些假設情況。
讓我們回到1998年，很明顯如果微軟從未設立MSRA，會極大地推遲中國AI生態系統的發展。
讓我們來假設一下，如果1998年的美國出於某些想法要求微軟，在2012年時關掉這個研究所。
當時，該文章的兩名作者（何愷明和孫劍）已經在該研究上合作三年了。很有可能兩位會因此轉去微軟在西雅圖附近的總部，並在那裡發表論文。這種情境下，很可能孫劍就不會加入曠視，而是繼續在美國公司工作。
但也很有可能，兩位會出於對家鄉的感情留在一家中國研究機構繼續他們的工作。2013年，百度開設了深度學習研究所，也是中國第一家這樣的機構，對這些研究者來說這是一個潛在可選的工作地點。
那麼，如果ResNet誕生於百度的深度學習研究所，或者某所中國大學研究所，這篇論文可能還是會公開，那麼對整個人工智慧或者計算機視覺生態來說，就又是另一個故事了。
相關報導：
https://macropolo.org/china-ai-research-resnet/

來自 “ ITPUB部落格 ” ，連結：http://blog.itpub.net/31562039/viewspace-2662578/，如需轉載，請註明出處，否則將追究法律責任。

相關文章