Google Brain團隊的研究方法是什麼？

文 / Google 高階研究員 Jeff Dean

大約一年之前，Google Brain 團隊首次分享了我們的使命：讓機器擁有智慧，造福人類生活。當時，我們向大家介紹了將機器學習與眾多 Google 產品進行融合的工作動態，這些產品每天都有數以億計的使用者使用，其中包括翻譯和地圖等。今天，我想詳細介紹一下，讓大家瞭解我們是如何通過改進基礎理論與理解機器學習和研究產品服務逐步接近這一願景的。

五年前，我們的同事 Alfred Spector、Peter Norvig 和 Slav Petrov 發表了一篇博文和一篇論文，闡述了 Google 的混合研究方式，這種方式總能讓我們在好奇心驅動與應用驅動的研究之間取得動態平衡。Brain 團隊在機器學習中專注應對的最大挑戰需要對新想法進行最廣泛的探索，也正是這個原因，我們的研究人員會設定自己的議程，團隊內大部分人都將精力集中在機器學習最前沿的領域。在探索的過程中，我們過去幾年在 NIPS、ICML 和 ICLR 等大會上發表了成百上千篇論文，並且論文的接受率遠遠高於大會平均水平。

實現願景的關鍵是在機器學習領域貢獻新的基礎性研究。為了實現這個目標，我們構建了一支開展長期、開放式研究的前沿團隊，希望推動科學發展。在對視覺與聽覺感知、自然語言理解、藝術與音樂生成和系統架構與演算法等領域進行研究的過程中，我們定期與外部機構的研究人員協作。在我們 2017 年發表的論文中，三分之一的論文具有一位或多位跨機構作者。此外，我們還邀請學術機構的研究人員來推動我們的工作和加強我們與外部科學社群的聯絡。

我們也認為，以易於理解的方式向大家清楚解釋現代機器學習中的概念非常重要。Distill.pub 是一個線上技術期刊，由 Brain 團隊成員 Chris Olah 和 Shan Carter 啟動，它為我們向大家解釋一些概念提供了一個論壇。TensorFlow Playground 是 Google Brain 團隊的視覺化專家建立的一個瀏覽器內試驗平臺，它讓人們可以瞭解神經網路如何解決一些簡單問題。PAIR 的 deeplearn.js 是一個基於 WebGL 加速的開放原始碼 JavaScript 機器學習庫，它可以完全在您的瀏覽器中執行，無需安裝，也無需後端。

除了與學術和業內的精英合作之外，像 Google 的許多其他團隊一樣，Brain 團隊也堅信培養下一代科學家非常有意義。我們團隊每年接收超過 50 名實習生，目標是將他們的成果釋出在頂級機器學習出版刊物上（在我們團隊 2017 年迄今為止已經發表的論文中，大約 25% 的論文有實習生作為共同作者，而且實習生通常是主要作者）。

此外，我們還在 2016 年迎來了 Google Brain 學員計劃的第一批學員，Google Brain 學員計劃是一項為期一年的計劃，面向想要學習如何開展機器學習研究的人群。在學員計劃的第一年，27 位學員在 Brain 團隊成員的指導下進行了研究，並發表了超過 40 篇被頂級研究大會接受的論文。今年 7 月，第二批 36 位學員在我們團隊開始了他們一年的學習，並且已經開始參與各種專案。

在與 Google 研究部門其他團隊合作的過程中，我們既可以貢獻機器學習的基礎性研究，也能單獨進行以產品為中心的研究。在確保機器學習發展產生重要的全球性影響方面，這兩個途徑都非常重要。

檢視全文及文中連結，請點選文末“閱讀原文”。

推薦閱讀：

開源機器學習庫Deeplearn.js

Google Brain學員計劃第一期有哪些前沿研究？

Google釋出機器學習開源視覺化工具Facets

如何利用深度學習製作專業水準的照片？