魚羊 發自 凹非寺
量子位 報導 | 公眾號 QbitAI
OpenAI再度引發熱議。這次起因卻是一篇深度特稿。
此前，創立於2015年12月的OpenAI，在短短4年間，已經成為全世界最具盛名的AI研究機構。但盛名之下，卻也伴隨著質疑：CloseAI？宣傳太過火？
現在，MIT科技評論記者Karen Hao在30多次採訪之後，為大眾揭開了OpenAI神祕面紗的一角。
想要讓AGI（通用人工智慧）服務於人類的OpenAI，現在卻致力於保持機密性，保護其形象，保持員工忠誠度。
她表示：OpenAI公開擁戴的理念，與其閉門造車的方式之間，顯然存在偏差。
報導一出，OpenAI創始人之一的馬斯克發表推文，稱“OpenAI應該更加開放”。
應該對所有人工智慧都進行更好的監管，特斯拉也不例外。
需要營利的非營利組織
OpenAI的成立宗旨，是通過促進和發展友好的人工智慧，而使人類整體收益。而他們的努力，最終指向AGI（通用人工智慧）。
在伊隆·馬斯克（Elon Musk）和薩姆·阿爾特曼（Sam Altman）創立OpenAI之初，這一非營利組織立下目標：通過與其他機構和研究者的自由合作，向公眾 開放專利和研究成果。
但當Karen Hao走進OpenAI，進行了30幾次採訪之後，她指出：OpenAI已經將其使命從安全、公平地開發和分發人工智慧技術，轉變為一家不斷融資的祕密公司。
這家公司公開擁戴的理念，與其閉門造車的方式之間，顯然存在偏差。
一切變化之始，大概還是源於“營利”二字。
OpenAI新任執行長薩姆·阿爾特曼明確表示：
OpenAI需要賺錢才能進行研究。
畢竟，在通向AGI的研究道路上，想要取得突破性結果，對計算資源的要求每3、4個月就會翻一番。而這背後，都是鉅額的經費在燃燒。
還有頂尖研究人員的薪資。據《紐約時報》報導稱，2016年的時候，OpenAI只有50多人，但僅是薪水和福利就支出了700多萬美元。
資金壓力之下，2019年3月，人們注意到，OpenAI的結構變了。
這家宣稱要為人類謀福利的AI非營利組織宣佈，成立一家“利潤上限”公司 OpenAI LP。
也就是說，在回報達到投資上限（首批上限100倍）後，任何對OpenAI LP投資的利潤都將轉移到非營利組織OpenAI Nonprofit上，該公司將按其認為合適的方式分配這些利潤。
到了7月份，OpenAI又接受了微軟10億美元的投資。對此，Keras作者François Chollet曾直言：
喊著非營利的旗號，卻投向營利機構的懷抱…是在鬼扯…
而OpenAI內部，也並沒有想象中“open”。
Karen Hao在採訪中瞭解到，OpenAI的大多數突破都投入了大量計算資源，他們認為，計算驅動策略是通往AGI最好的方法。
而這些結果，並沒有“自由合作，向公眾開放”。相反，OpenAI明確指示員工和實習生不要透露相關資訊，離職人員則簽署了保密協議。
現在，OpenAI的管理層似乎已經擺脫了最初的想法，不再認為 開放是構建有益AGI的最佳方法。
對此，OpenAI的發言人稱：
安全和安保問題未來將會迫使我們減少傳統出版，同時強化共享安全、政策和標準研究的重要性。
我們希望緩慢釋出結果，以瞭解潛在的風險和影響。
GPT-2：是噱頭還是深思熟慮
這就不經讓人聯想到了擠牙膏式開源的GPT-2。
在最初的驚豔亮相之後，GPT-2採用了分階段開源的方式。而OpenAI的理由是：GPT-2太危險，擔心其被居心不軌的人武器化。
這引起了學界的反感。羅格斯大學助理教授布里特·巴黎（Britt Paris）就說：“OpenAI試圖利用對AI的恐慌來進行資本化。”
而OpenAI越來越精良的宣傳工作，更為GPT-2引來了“噱頭”的評價。
他們在努力經營公司形象，保持機密性，保證員工忠誠度，那麼，OpenAI還是那個 開放、 透明的OpenAI嗎？
不過，Karen Hao還是指出，OpenAI仍是人才和前沿研究的堡壘。
OpenAI面臨著折衷，這不僅是因為財力問題，而且還因為OpenAI選擇了AGI戰略。
壓力迫使OpenAI做出似乎離其初衷越來越遠的決定。它急於進行炒作以吸引資金和人才，捍衛其研究以期保持優勢，並追逐投入巨大計算資源的策略——不是因為他們視此為通向AGI的唯一途徑，而是因為這似乎是一條捷徑。
網友熱議
這一長篇報導，引發了社交媒體上的熱烈討論。
對OpenAI這家明星AI研究機構，網友們大概是又愛又恨。
有網友說：如果AGI真的能實現，還是希望能由OpenAI這樣的組織，而非Google、亞馬遜、facebook這樣的公司完成。
但也有網友認為，OpenAI使用了太多公關技巧。
（從採訪來看，）GPT-2就是個噱頭。
還有人覺得，AGI只是OpenAI用來表現他們技術領先的工具。
我認為他們不會成為AI領導者，可以預測OpenAI最終將被收購。
北郵陳光老師則引用了François Chollet的一段話，並表示：看完剖析OpenAI那篇文章，對這幾句話有了更深的理解——相比初衷，是否有持續正確的激勵，真正決定了實驗室將走向何方、能走多遠。
那麼，你怎麼看？
完整報導連結：https://www.technologyreview.com/profile/karen-hao/
— 完 —