編譯 | 焦燕
整理 | 鴿子
提到OpenAI，業內可謂無人不知，無人不曉。
這可是人氣超人馬斯克與眾矽谷科技大亨無數次腦洞碰撞後，共同決定成立的，專門用於預防人工智慧的災難性影響的非營利組織。
它的目標非常明確，就是要確保人類安全，確保人類的權益不受未來機器人的影響，確保人類可以長久地與智慧機器人共存。
它就專心幹這一件事，經費由馬斯克等大佬來承擔，因此無需在生計方面浪費時間。
OpenAI的文化是：強烈鼓勵研究人員發表作品，無論是論文、部落格文章，還是程式碼，並且它的專利（如果有的話）將與世界分享。
注意，“分享”是它的核心理念。
真真是業界良心！
就在這麼一個高尚的純粹的脫離了低階趣味而又神祕莫測的組織裡，背後其實有很多你不知道的有趣的事情。
你可知道，它的成立僅僅是由幾個大佬在一次晚宴上決定的麼？
你可知道，在OpenAI工作的是怎樣一群牛人？他們簡直就是“逗比”和“傳奇”的現身說法。
比如，有些懶人，上學時，不想做作業，就自己搗鼓出一個程式來幫著做作業；
有人曾經被誤發病危通知書，在“生命最後一刻”，突然意識到自己對機器演算法才是真愛啊。在確保身體無恙後，開始紮根真愛，抬頭演算法，終成該領域的一代名將；
還有人因為創始人畢業於同一所學校，一拍腦袋，“啪”，從此一入OpenAI深似海……
你以為OpenAI是個高階大氣上檔次的地兒？你以為這裡遍佈了各類小零件，有著超級計算機，有牛氣的巨型機器人……你又錯了……
今天，營長就帶領各位小夥伴一同去看看OpenAI到底是啥樣，它背後到底有著怎樣的逗比的人和事兒。
普通得不能再普通了
對不起，這裡沒有法拉第籠，沒有超級計算機，也沒有巨型機器人。
好吧，這裡只有一個機器人，但是它真的很小。它被鵝卵石那樣的材料包圍著，因此，即便出現程式設計錯誤，它也不會到處搞破壞滴。
正如OpenAI的戰略通訊總監Jack Clark所言：“唉，別以為我們有啥高大上的，這個房間裡的工具比你想象中的AI應該有的樣子差太多了。”
OpenAI的辦公室，實際上也就只有一些書桌，膝上型電腦和豆豆椅。除去那個迷你機器人有點小新意，它根本就是個小破創業公司的既視感嘛。
不信？來看看它最“豪華的地兒”
“這是我們每週二開例會的地兒，”Clark所說的會議室，也就是他們的“豪華地兒”，不過是幾十把椅子隨意散落的空地兒。中間有一個大白板可以寫東西，還有一個大電視。
每週開例會時，人們站起來，陳述他們的工作，或者是研究的突破，或者是工程新軟體的細節，就在這個破地兒。
而就在這個所謂的地兒，每週，全球最聰明的一群人，在這裡充分碰撞著全球最前沿的思想。
此外，這個地兒，也是大家每週讀書的地方。
Clark介紹到，這裡人才濟濟，搞機器人研究的，搞生成對抗的……如果你瞭解了人們在這裡做的工作，你就會意識到，這個看似平淡無奇的地方，正在發生多麼不可思議的事情——它有可能改變人們使用和思考技術的方式、人們每天的行為方式，以及人們對人工智慧超越人類的性質的思考方式。
那麼，這樣一個神奇的地方，到底是誰創造了它呢？
一頓晚餐，一次意義重大的交談
OpenAI的聯合創始人Greg Brockman在一篇博文中寫道：“你以為呢，我們可都是帶著想法去參加晚宴的。”
這位曾擔任網路支付平臺Stripe技術長的Brockman對AI極感興趣，但他對AI並不瞭解。
後來，有人為Brockman和YC總裁Sam Altman牽線搭橋，他人就AI話題聊開了。
Altman告訴Brockman，他一直在考慮通過YC來建立一個AI實驗室。
“這個點子是不是超酷？” Altman興奮得說道。
幾個月後，Altman邀請了Brockman再次共進晚餐。同行的人還有各矽谷大佬：Ilya Sutskever ——Google Brain團隊的科學家，當然，還有那位當之無愧的科技界的人氣巨星Elon Musk等。
在晚餐上，大家圍繞著人工智慧各抒己見。氣氛之火熱，討論之前沿，碰撞之激烈，邏輯之嚴密，讓Brockman真真是大開了眼界。
Brockman在之後回憶說：“Musk和Altman真是讓人傾佩，他們是真正在為人類的未來著想，他們對於未來AI的理解非常深刻，特別是其中的隱患。嗯，AI安全確實是個大問題，很顯然，他們早就開始行動了。”
在Brockman看來，Musk和Altman這兩個人的思維方式非常契合，他們都不喜歡閉門訓練演算法這個方式，他們的目標非常明確，就是盡全力，讓儘可能多的人們能廣泛地參與進來，儘可能多得鼓勵分享。
Brockman說道：“他們的談話，總是集中在到底什麼樣的組織才可以最好地確保AI對人類是有益的這件事情上。他們真的很了不起。”
而這，的確是馬斯克一直努力在做的事：成立一個非營利機構，優先保證人類的未來有好的結果，而不是各自的公司利益。
就在那次晚餐後不久，OpenAI便誕生了：由Brockman和Sutskever掌舵。Brockman專注於團隊的文化建設；Sutskever則專注於團隊的研究議程。在短期內，他們將籌集超過10億美元的資金。（營長說說：不愧是大佬啊。先定個小目標，籌集個10億美金再說，讓大家專心搞研究，不操心營收和生計。）
接著，他們開始組建自己的團隊。
他們設法吸引國內最頂尖的AI研究人員，承諾絕對有競爭力的薪水和絕對的商業自由。希望這些頂尖的人才，可以離開原來的科技公司和學術機構，加入OpenAI，專心為人類的未來而工作。
對於這些研究人員中的許多來說，OpenAI確實是世界上最好的公司：這裡學術自由（營長說說：在美國的很多大學，做研究，經費申請並不容易，而且需要支付團隊的工資，因此，做研究的壓力並不小）；又能研究實際問題，比如馬斯克的SpaceX，但又不用受到公司業績和KPI等約束。
對於這些人來說，專注於研究什麼才是最好的AI，這是正經事。別的，靠邊兒。
OpenAI的研究人員和工程師一樣非常享受這樣的氛圍。Vicki Cheung是為來自香港的長髮美女，目前她也在OpenAI就職。
她每天超級High，“這就是我一直期待的工作和生活。”Vicki Cheung說道。
她說，在這裡，她有機會做一直想做的事，而這個事情是在其它任何地方都無法完成的：在不擔心是否會有商業意義的前提下，構建具有社會影響力的技術。
不過，如果你問Vicki Cheung為何加入OpenAI，這位大美女會告訴你，這事兒源於她在香港讀高中時，在物理課上的一次作弊行為。
從機器人到基礎設施
“我們是有線上作業的，” Vicki Cheung說，“我可不想做。”
為了逃避現實，她花了好些日子編寫完一套程式（機器人），幫她做作業。為了拯救其他那些也不願意做作業的同學，她還“好心”地將其分享出去，於是，大家都不做作業了。
對於這麼做的原因，她自有一套邏輯：如果你可以自動化一些東西，即使是作業，即使被告“作弊”而陷入麻煩，但那又怎樣呢？你不需要浪費你的時間幹無謂的事兒了。
後來，老師知道了這件事，卻沒有為難Vicki Cheung。只是，再也不佈置作業了。
“這對大家來說是一場勝利，” Vicki Cheung開心的說道。
Vicki Cheung的確很聰明，她需要一個更好的平臺發展自己的才能。
在高中時，她就開始在香港大學的一位教授手下做一些簡單的工程工作。
高中畢業，她去了卡內基梅隆大學的夏令營。一位電腦科學教授被她的天賦所吸引，讓她直接申請這所大學。Vicki Cheung接受了，從此開始了美國的生活。
從卡內基梅隆大學畢業後，Vicki Cheung進入了科技行業，成為免費語言培訓公司Duolingo的創始工程師。
從建立測驗機器人，並將這家線上語言培訓公司一手打造為業內的領先企業，Vicki Cheung開始堅信，只有能真正讓人獲益，對社會產生積極影響的技術，才是好技術。而且，好技術，應該與所有人共享。
此後，當她聽說了OpenAI，並瞭解了裡面的工作氛圍和理想情懷後，產生濃厚興趣，很快聯絡上裡面的人，與Brockman展開了長談。
Brockman向她解釋了自己對OpenAI的看法以及他想要建立的團隊型別。Vicki Cheung立馬就加入了。
用Vicki Cheung的話說，這是“正確時間的做正確事情”。她成為了OpenAI的首批工程師之一。
不過。Vicki Cheung和Brockman面臨的挑戰是，他們都不知道研究人員會做什麼。
Vicki Cheung對此解釋說：“我們知道研究人員需要在什麼地方進行實驗，但我們不知道他們需要具體進行怎樣的實驗。”
這就像在設計城市佈局時，知道要在哪裡修路，哪裡建停車場，但到底路要修成什麼樣，停車場要建成什麼樣，不知道。
Vicki Cheung回憶這段時光時，她用了“黑暗中的艱難摸索”來形容。
他們需要搭建好整個組織的架構，並且保證這個架構具有持續更新的活力；
他們需要花很多時間與研究人員磨合、討論、交心，搞清楚他們到底想做什麼，如何能讓他們更有效，更開心，更持久地投入工作；
他們需要不斷進行基礎的實驗操作，不斷迭代。
最終，當Vicki Cheung和Brockman驚訝地發現基礎設施比預期好太多時，鬼知道他們在那段時間都經歷了什麼。
對，像計算機學習
除了Vicki Cheung外，OpenAI還有著太多特立獨行的牛人，Olsson就是其中一枚。
“我們人類，其實應該向計算機學習，因為人類認知，原本就是一種計算過程的嘛。”Olsson說道。
要說到她對AI的興趣，那可就得倒回很多年前了。
“當時，我只有12歲，老師讓我們對意識的內涵進行內省，思考類似於‘好吧，我有一個大腦，那裡到底發生著什麼？’這樣的問題，特別神奇的一個思想實驗。”Olsson說道。
這個問題，從那後，一直存在於她的意識裡。她凡事都會從機器的角度來分析，這個思維到底是如何形成的。
基於對思想和程式設計哲學的雙重興趣，Olsson在麻省理工學院（MIT）讀本科時，便獲得了電腦科學和認知科學的雙學位。
“大學真好玩，大課少，大多數情況下我都可以自己用來玩一些程式設計，我會用程式設計來構建我想要的任何事。”Olsson說道。
此外，她還在暑假參與軟體工程實習，做了一些開源專案，而這對她此後的AI生涯奠定了理論和實踐上的雙重基礎。
本科畢業後，Olsson繼續攻讀碩博，在紐約大學學習神經科學課程。
就在這段時間，深度學習突飛猛進。
“我當時就意識到，下一個變革已經來了！” Olsson說到。
此後，喜歡研究酷酷的新事物的Olsson，覺得學術也許並不適合她，她真正想做的是用研究人類大腦的工作方式去研究如何用機器模擬這個過程。於是，她決心從事機器學習。
這之後，當她聽說了OpenAI，覺得這個地方很酷，跟自己的想法很合拍，於是，準備嘗試一番。
她找到Brockman，提出想在OpenAI工作，任何職位都可以接受。
在她看來，OpenAI提供的機會在兩個層面上非常有吸引力。第一，尖端深度學習的前沿課題。第二，尖端專案的實踐經歷。
“此前，我做過開源專案，我非常熱衷於開源。”Olsson說。 “這也是我來OpenAI的一個重要原因。”
如今，Universe平臺（OpenAI創造的一個虛擬世界）已經發布。與其他團隊其他成員一樣，Olsson對於這個平臺將在視訊遊戲上的潛力無比期待。
“我們正在努力彌從機器打遊戲與現實人類的差距，”她說。
一同開發這個平臺的另一位小夥伴Amodei也無比興奮，他說：“Universe的目標是提供一個單一的平臺，讓您連線到電腦，並訓練一個代理，去做任何人類可以在電腦上做的事情。”
不過，另一方面，他們也真正感到擔憂。
“如果你可以訓練一個代理，模仿人類在電腦上做有益的事情，你難道不能訓練它來幹一些壞事？”Amodei說道。
而這，也正是OpenAI成立的根本原因。
一匹年邁的德國老馬也來了
正是由於共同的擔憂和期待，OpenAI能不斷吸引世界級大牛的加入。
下面要講的這位大神就是Ian Goodfellow。
Ian Goodfellow是深度學習界的大佬，他曾同Yoshua Bengio和Aaron Courville合作（這兩位也是深度學習界的名人）寫了一本書——《深度學習》——這本2016年出版的書已經在Google Scholar上收錄了444次引用，在緩慢發展的學術出版界這可真算得上是一個奇蹟了。
然而，Goodfellow的AI之路並不是始於一個學校的哲學課或高中的線上物理測驗。
它以死刑開始的。
2011年底，Goodfellow還在蒙特利爾大學讀博士，有一天，他頭痛難忍。他以為自己得了腦膜炎，趕緊上醫院去檢查。
這一檢查，不得了了——腦出血。
“醫生告訴我，我只有幾個小時的時間了，幾個小時後，我會立刻死去。”Goodfellow絕望地說到。
不過，還需要進一步確診。
就在等待磁共振以最終確診時，Goodfellow趕緊打了一個電話給一位AI研究員。
在電話中，他將自己對於機器學習的所有想法，傾囊相授，希望他死後，有人能將他所有的思考和想法進行嘗試和驗證。
“就在那一刻，我才發現，AI比我的生命還重要。我當時唯一的想法就是，在我死之前，我必須把我的思考共享出去，不能因為我的死而耽誤了。”Goodfellow說道，“如果這輩子，我是以這樣的方式來結束，也不錯了。”
上天並沒有辜負這位天才。
磁共振的結果顯示，Goodfellow沒有什麼問題。他被送回了家，並被告知身體很健康。
回憶這段往事，Goodfellow有些苦笑。
那時候在谷歌實習，我沒有保險，只是隨便在山景城找了一個醫生看病。
“他往我的脖子上捅了捅，就診斷出我有一個僵硬的神經，“他搖搖頭說，“而且會死亡。”
“關於就診的具體細節我記不清了，不過我對於當時在電話裡所說的話，印象很深。當時希望儘快給那位AI研究院說清楚的，是類似於稀疏編碼的東西，”他笑笑說，“現在我不關注這塊了，我關注別的了。”
如今，Goodfellow更關注對抗性訓練，以及人工智慧的安全問題。
“過去，安全措施主要圍繞著兩個方面進行，一個是應用程式層面——你可以試圖欺騙應用程式執行錯誤的指令，另一個是網路安全——你傳送訊息到可能被誤解的伺服器，就像你向銀行傳送訊息一樣，‘嘿，我是帳戶所有者，讓我進入’，銀行就會被愚弄，而實際上你並不是帳戶所有者。”
但是運用AI，特別是機器學習，安全將是一種完全不同的東西。
“讓機器學習安全性，計算機會執行所有正確的程式碼，並知道所有訊息是從哪裡來的，”他說。“但是機器學習系統仍然可以被愚弄去做不正確的事。”
Goodfellow說，就像釣魚。使用標準的網路釣魚，電腦不會被騙，但操作電腦的人會。
AI也一樣。它的程式碼保持不變。但是，它可以被欺騙做錯誤的訓練任務。
Goodfellow說：“與人相比，機器學習演算法真的很單純。”
他表示：“如果你不想欺騙機器學習演算法，大多數時候它都可以工作得很好。但是，如果有人瞭解機器學習演算法的工作原理，想嘗試愚弄它，那也是很容易做到的。”
此外，構建演算法的人很難解釋機器學習演算法可能被愚弄的無數方法。
Goodfellow的研究重點是對AI代理使用對抗性訓練。
這是一種“強力解決方案”，其中有大量愚弄AI的例子。代理給出這些例子，並訓練AI不要為他們所欺騙。例如，你可以訓練自動駕駛汽車上的AI，不要因為虛假的標誌而在高速公路的中間停下來。
Goodfellow已經與Nicholas Papernot一起開發了一個對抗性訓練庫——cleverhans。
這個名字來自一匹德國馬，那匹馬在20世紀初因它的算術能力而成名。
一位德國的數學老師（也是一位自稱為神祕的兼職骨科醫生）買了一匹馬，並聲稱自己教會了它加減乘除的運算。世界各地的人們都可以來考考聰明的Hans（那匹馬的名字）。例如，15除以3，Hans會踏5次蹄子。或者人們會問7後面的數字是什麼，它就踏8次蹄子。
問題是，聰明的Hans並沒有那麼聰明。至少並不像它的老師認為的那樣聰明。
名叫Oskar Pfungst的心理學家發現，這匹馬實際上並不是在做數學。相反，它是從周圍的人那裡得到的提示，用踏蹄的方式回應人類的肢體語言，直到周圍的人微笑或點頭。
Pfungst通過蒙起馬的眼睛證明了這一點。當被問到一個問題時，馬開始踏它的蹄。但是，由於無法看到提問題的人，它就一直踏蹄。
聰明的Hans視訊介紹
“機器學習有點像聰明的Hans，”Goodfellow說，“在某種意義上說，我們已經給予了AI一些暗示。比如說在正確地標註影像後，它知道如何獲得獎勵。但有時候可能使用的並不是正確的提示，也獲得了獎勵，這就是安全研究人員需要干涉的地方。”
如今，Goodfellow的cleverhans庫已經開源。
他說：“對於傳統的安全，開源是重要的，因為每個人都可以看到程式碼，他們可以檢查它，並確保它的安全。如果有問題，他們可以比較容易地報告，甚至自己傳送修復。”
類似的情況也適用於機器學習安全。
“對於機器學習，還沒有真正的完善，”Goodfellow說。“但是我們至少可以研究每個人使用的相同系統，看看它們的漏洞是什麼。”
當被問及在研究機器學習方面，是否有讓他感到驚訝的時候，Goodfellow談到了他為機器學習演算法進行實驗時正確分類了對抗性例子的經歷。
那時候，他剛剛讀了一篇研究論文，提出了一些他認為有疑問的說法。所以他決定做一些測試。在實驗執行的時候，Goodfellow和經理一起去吃午飯了。
“我告訴他，”Goodfellow回憶說“當我們吃完午飯回去，我不確定演算法是否會正確對那些例子進行分類，那太難了。即使在這次訓練之後，它仍會對那些例子進行錯誤分類的。”
但是當他們回去的時候，Goodfellow發現那個演算法不僅識別出了對抗性的例子，還為正確的分類做了一個記錄。
“對抗性例子的訓練過程迫使它在最初的任務中變得如此優秀，以至於它比我們最初的模型要好得多，”Goodfellow說。
那一刻，Goodfellow意識到，AI簡直是太厲害了，這傢伙，簡直是讓人細思極恐，絕不能掉以輕心。
他們，也不過是一群普通人
在OpenAI，你只是感覺他們的工作和生活融為一體，非常充實，除此，看不出來什麼特別之處。
每個人好像一顆螺絲釘，做著自己分內的事，卻又不是普通螺絲釘，他們所釘之處，無不將牆體打透，讓人看到牆外的新世界。
每個人看起來都很平凡，卻又絕不平凡。
如今，Vicki Cheung正試圖通過研究建立一個Kubernetes叢集。Catherine Olsson則致力於不斷擴大的AI代理平臺。Ian Goodfellow這傢伙，當他測試的演算法變得更聰明、更安全的時候，他總會拿起一個三明治開心地吃起來。
他們每天坐在電腦前，將早上刷牙時或在晚上開車時，或者在醫院等待就診時思考到的問題，重新梳理，重新建模，去嘗試，去更新。
明年是不是能買個豪宅住，換個豪車開，或者假期去哪個小島享受奢侈遊，這些想法貌似很少跟他們的關注點搭上邊，其興奮程度趕不上突然解決了某個Bug的激動，趕不上在那個破會議室的激烈爭論來得神清氣爽。
偶爾在假期，他們對於這些人類終極問題的思考，也不會停止。
在這麼一群逗比和傳奇的人眼裡，只有跟人類未來過得更好，他們才是幸福的。
希望你的假期，也不要停止對於世界與未來的思考。
作者：Brent Simoneaux ，Casey Stegman
原文地址
https://www.redhat.com/en/open-source-stories/ai-revolutionaries/people-behind-openai