https://www.toutiao.com/a6670796356438721035/

在2017年8月的維爾福Dota2錦標賽中，一個新的頂尖選手出現在了這個網路遊戲世界裡。在一週的時間裡，這名選手在一個難度係數最大的網路遊戲中打敗了包括世界冠軍在內的一連串其他頂尖選手，並且這名選手僅僅玩了6個月。

馬斯克在推特中）說道：OpenAI公司第一步所要做的是在激烈的電子競技中打敗世界上最厲害的玩家們。這遠遠比傳統的類似象棋、圍棋的棋牌遊戲更加困難複雜。

這條推特描繪了馬斯克和他的非盈利人工智慧研究公司，OpenAI，正在步谷歌的AlphaGo和臉書的DarkForest的後塵。但是對於Musk和OpenAI來講，這不是玩遊戲那麼簡單。在他看來，如果人工智慧研究繼續沿著現在的道路走下去，人類將沒有未來。

現在，人工智慧是科技的核心組成。它不僅流行於Siri自然語言處理、谷歌的RankBrain這些顯而易見的領域，還幾乎在所有科技行業都流行。

人工智慧的研究正在以驚人的速度發展，馬斯克認為這是對人類的生存威脅。谷歌、臉書、亞馬遜、蘋果和所有的在AI100（見上圖）中的公司都在為人工智慧的優勢貢獻力量：更高的效率、更高的生產率、更少的人類工作以及更理想的更高的生活質量。

但是這些優勢的競爭也是一場巨大的潛在缺陷的競爭——一種超級智慧的通用人工智慧，它遠遠比人類聰明，並認為留下人類毫無用處。

OpenAI的目的是加強人工智慧的研究。上述從事人工智慧的公司自然是祕密。出於商業的必要：儘管你可以閱讀DeepMind或谷歌大腦團隊的研究論文，但這項工作是閉門祕密進行的。

OpenAI不僅要進行研究，還要“佔據元級別，例如平臺和基礎架構，以便為每個人提供更快的研究。”為實現這一目標，該公司有兩個核心組成：

»研究：該基金會已經吸引了一些這個領域最出色的研究人員，保證為他們提供從事研究一些最大的人工智慧問題的機會。這個組織定期發表自己的對人工智慧和機器學習的研究。此外，這個組織還在自己的網站上發表更廣泛的想法。

»系統：這個組織正在搭建平臺，以幫助其他人工智慧研究人員更好地理解他們正在構建的機器。舉個例子，這個組織已經建立了一個人工智慧健身房，“用於開發和比較強化學習演算法的工具包”。

OpenAI的總體理念，是將高品質的人工智慧研究公開化，並使其不受商業的限制。該公司在其介紹性博文中聲稱“由於我們的研究不用揹負債務，因此我們更能專注於研究人工智慧對全人類的積極作用。”

超智慧AI真的會成為一大問題嗎？即便對馬斯克這樣的人來說，這聽起來都過於科幻了。臆想在火星上建立殖民地，或者自動駕駛汽車，都不是什麼難事。但臆想出一場人工智慧導致的世界末日，卻沒那麼容易。機器學習的領導者Andrew Ng說過，“擔心出現超人般的人工智慧，就好比擔心火星人口過多一樣。”

然而，馬斯克卻真的抱有這樣的看法。從沒人考慮過超智慧AI可能帶來的問題——取而代之的是，他們關注的是蘊藏於人工智慧之中的商機，而忽視了人工智慧潛在的問題。

AI的潛在問題有兩重：

1  人工智慧會無意識地做出傷害性行為

2  人工智慧會故意地做出傷害性行為

即便是對現在的弱人工智慧來說，第一點也可能會成為問題。比方說，我們造了一個基於人工智慧技術的清潔機器人。那麼，這個清潔機器人想做的事情，無非是把世界變得越乾淨越好。如果這個機器人它只是想要把所有東西都變得儘可能乾淨，那它有一些選擇來完成這件事。第一個選擇就是把所有髒亂都收拾乾淨。這自然是我們想要的結果，也是人工智慧開發者期待的事情。

然而，對清潔機器人來說，這並不是唯一的選擇。還有一種可能是，它會嘗試阻止髒亂的產生，而製造髒亂的正是人類。“如果人類不存在了，那髒亂也不會產生了，所以乾脆就除掉所有人類吧”的這種想法增加了該人工智慧的效用函式值，並且對它來說，這也是一種合理的、能夠解決問題的措施。

諸如此類的人工智慧安全問題研究是OpenAI的主要關注點。該公司於2016年合著了一篇針對此類問題的研究性論文，名為《關於人工智慧安全的具體問題》。該論文確定了5個研究領域，這些研究領域是人工智慧研究人員推進任何型別的研究都需要認真考慮的：

» 防止不良的副作用出現。 我們要如何保證人工智慧不會為了執行其功能從而偏離自己的程式呢？用清潔機器人打個比方，它搞不好會為了打掃得更快而把房間給破壞掉。

» 防止回報函式的失效。 如果人工智慧使用回報函式來決定其行動前進的正確方向，那我們如何保證它不會偷懶，並用執行正常功能以外的方式來增加其回報函式呢？還是拿清潔機器人打個比方，它或許會關閉自己的視覺系統來讓自己什麼髒亂都看不到，從而達到這個目的。

» 可擴充套件的監視手段。 若在訓練樣本都十分稀缺的情況下，我們怎麼確保能訓練人工智慧安全無誤地完成任務呢？清潔機器人會明白自己要擦乾淨咖啡杯，但與此同時，它要怎麼學會避免不小心“擦乾淨”你晚上放在桌子上的手機呢？

» 安全性檢測。 人工智慧能否檢測出所有可能的結果，並且訓練自己避開嚴重事態的發生——比方說，清潔機器人能否在學習怎麼擦拭地板的同時，避開插座呢？

» 對於分佈變化的魯棒性 。隨著資料或者環境的變化，人工智慧能否繼續工作在最佳狀態，或者至少定義物件的模糊性，並且能勉強地完成任務？如果學會了清掃辦公室的地板，那智慧清潔機器人就會清掃工廠的地板了嗎？

已經對AI程式進行了攻擊來測試其侷限。對於弱人工智慧來說魯棒性需要被尤其重視，即當你在他們熟悉的領域之外進行測試時它們的執行效果如何。至少到目前而言，這個結果還差強人意。影像識別機器學習演算法經常把對抗範例進行錯誤分類，這些圖片樣本中都被插入了特定的噪聲。

x +0.007* 符號 = x+€符號

“熊貓” “線蟲” “長臂猿”

判別率57.7% 判別率8.2% 判別率99.3%

這還只是一個良性的例子，然而不難想象類似黑客式攻擊的惡意執行會帶來什麼後果。試想在你的自動駕駛汽車中一個對抗攻擊會將AI程式設計中的“停止標誌”變為“綠燈”。它不僅比在某人的汽車中切斷剎車線更有潛在的致命性，它作為一個虛擬攻擊，因此（假設）更具有高度可擴充套件性。

人工智慧安全的核心問題簡單歸結為：我們如何確保AI能夠想我們所想？OpenAI正試圖引領該領域研究，並且這不是單打獨鬥。研究具體問題的論文涉及到包括來自谷歌大腦、史丹佛、加州大學伯克利分校以及OpenAI的研究人員。

但是對於超智慧強人工智慧的非具體問題，OpenAI在獨自研究。

這種擔憂背後的核心是人工智慧的學習率。贏得Dota2的機器人就是一個很好的例子。從4月份啟動以來，每次迭代都會穩步提高其能力。

該圖測量了OpenAI最佳機器人的真是技能評級- 類似於國際象棋中的ELO評級- 這是機器人和與其訓練的其他OpenAI機器人的勝率的結果總結。

人類花了數年的時間做成的事AI只需花費數月。深度學習（DeepMind）AlphaZero國際象棋AI的成功，標誌著AI的發展更進了一步。AlphaZero在幾小時內就學會了如何擊敗最好的國際象棋電腦。

AlphaZero除了遊戲規則之外沒有獲得任何相關領域知識，剛開始從隨機的對局練起，24小時內在國際象棋和將棋（日本國際象棋）中發揮了和Go一樣的超出人類水平的實力，並且在每次對決中都令人信服地擊敗了世界冠軍程式。

AI通過強化來學習。人工智慧成千上萬次的玩遊戲，並遞增地從每一次遊戲中學習。AlphaZero中同時執行了5,000個TPU處理單元，這是專門設計的處理單元，用於使用Google的TensorFlow框架來執行機器學習演算法。每個單元的學習結合起來就產生了“超人的遊戲水平”。

這些仍然屬於弱人工智慧的實現。強人工智慧AGI可以使用這些技術進行自我引導。

AI已經在學習如何實現自我發展。

“幾個月前，我們推出了AutoML專案，這種方法可以自動設計機器學習模型。...... （我們）發現AutoML可以設計出與人類專家相當的小型神經網路。”

-GOOGLE RESEARCH BLOG

AGI（通用人工智慧）可以測試數百萬個更新的、更好的AGI，從每個AGI中選擇最佳引數並將它們組合起來，迅速地使得自己變得更加智慧。

然後，那個更為智慧的AGI重新開始這個過程。這就是加速回報定律。

未來即將到來。學得更快的人工智慧正在得到更快的開發。

馬斯克認為我們是棋盤上的皇帝，直到結束才會意識到自己的錯誤。在幾秒之內，AI遠遠超越了我們的能力。

然而，2018年8月舉辦的Dota2的複賽中，人類獲得了勝利。在一場三局兩勝的比賽中，“OpenAIFive”輸掉了兩局對陣人類頂級玩家的比賽。

AI 高於兩個人類團隊

這些隊伍----paiN和中國超級明星隊（Chinese Superstar Team）----比與人工智慧之前較量過的其他球隊都要優秀。並且使得人工智慧的一些侷限性得以凸顯。

比賽分析結果顯示，戰勝AI有兩種更好的戰略。

» 更為冒險的玩法

在比賽過程中，有評論員指出：“相比於有51%的可能性贏取50分，OpenAI更願意選擇有90%的可能性贏取1分。”

這些程式採取的行動會使分數平穩的增加，但是有的時候，他們也會把一些機會白白讓給人類。

» 長期戰略

OpenAI Five 在比賽的最初幾分鐘裡表現得很好，然後就開始下滑。長期記憶是一項AI還沒能掌握的技能。

這兩個基本問題互相對抗。AI既不能為了快速贏得比賽而冒險，也不能長久的思考以應對持久的比賽。

這不僅僅是AI在遊戲領域的問題，這也是AI在所有領域中的基本問題。人們通過採取措施現在知道了小時、月、年的逝去，但是AI不行。

對於OpenAI，計劃是讓大眾能夠充分地意識到AI所能帶來的威脅，從而前瞻性的管理和控制它。

然而，OpenAI不是Elon在進行的唯一專案。他還投資了對衝工具，人類將及時從AI中拯救自己。。

它就是Neuralink（腦機介面公司）----在人類被取代之前，用數字技術增強人類。

文章介紹

本系列文章由矽谷密探的獨家翻譯：梧桐，翻譯自 CB Insights。（如需轉載，請聯絡微信：suiyuerugeklf 獲得授權。

原文連結：https://app.cbinsights.com/research/report/elon-musk-companies-disruption/

來自 “ ITPUB部落格 ” ，連結：http://blog.itpub.net/29829936/viewspace-2639053/，如需轉載，請註明出處，否則將追究法律責任。