恐懼、野心和迷茫，機器人公民背後的未來世界

作者：   劉鋒  計算機博士  網際網路進化論作者

當時間的車輪到達2017年10月，人工智慧領域陸續爆發很多重要事件。

其中最吸引人們眼球的，當然仍屬學會了自我學習的AlphaGo zero和沙烏地阿拉伯的機器公民索菲亞（Sophia），兩者共同提供了一個可能性：能力遠超人類的AI，有趨勢發展為與人類平等的“新物種”。

10月1日，美國CBNC，麻省理工科技評論等媒體報導了出自中國科學院虛擬經濟與資料科學研究中心研究團隊的最新論文：按照該團隊建立的模型，谷歌、Siri、百度、Bing等人工智慧系統智商仍然大幅度低於人類6歲兒童。而與之形成鮮明對比的是，10月26日，軟銀CEO孫正義在沙烏地阿拉伯舉行的未來投資計劃大會上稱，未來30年內AI的智商（IQ）將達到10000。

這些事件讓人工智慧、機器人與人類關係的走向討論變得更熱烈，更多人擔心機器人最終會使得人類變成無用的生物，甚至會導致人類的滅絕。

從1956年人工智慧提出以來，AI領域經歷了數次高潮與低谷，但從來沒有像今天這樣引發世界範圍人類的關注和擔心，這背後有三個原因值得關注。

AI+網際網路：使單個人類產生無力感

從1969年網際網路誕生以來，人類從不同的方向在網際網路領域進行創新，並沒有統一的規劃將網際網路建造成什麼結構，當時間的車輪到達2017年，隨著人工智慧、物聯網、大資料、雲端計算、機器人、虛擬現實、工業網際網路等科學技術的蓬勃發展，當人類抬起頭來觀看自己創造的巨系統，網際網路的類腦架構已經越來越清晰。

1956年夏季，以麥卡賽、明斯基、羅切斯特和申農等為首的一批年輕科學家提出人工智慧之後，人工智慧的發展充滿了坎坷，在過去的60年裡，人工智慧經歷了多次從樂觀到悲觀，從高潮到低潮的階段。

最近一次低潮發生在1992年日本第五代計算機計劃的無果而終，隨後人工神經網路熱在20世紀90年代初退燒，這個冬季如此的寒冷與漫長，直到2006年加拿大多倫多大學教授Geoffrey Hinton提出“深度學習”演算法，情況才發生轉變。

這個演算法是對20世紀40年代誕生的人工神經網路理論的一次巧妙的升級，它最大的革新是可以有效地處理龐大的資料。這一特點幸運地與網際網路結合。2011年，Google建立了以深度學習為基礎的谷歌大腦，人工智慧從此進入一個新的時代—網際網路人工智慧時代。基於網際網路海量的“大資料”和每時每刻與現實世界的資訊互動，包括亞馬遜，Facebook、百度、騰訊、阿里巴巴、微軟、英特爾、IBM等巨頭紛紛進入AI領域，不斷產生新的成果和創造新的紀錄。

應該說這一輪的人工智慧熱潮，本質上依然是網際網路進化過程中的又一次波浪式高潮。它的產生離不開網際網路之前應用和技術為人工智慧新爆發奠定的基礎，同時產生了與以往不同的特點，人工智慧系統和機器人不再是一個個單獨的個體，而是通過與網際網路的大資料、社交網路、雲端計算結合，形成了網際網路雲腦的類大腦架構。

這個類大腦架構不但擁有更為豐富的知識，譬如搜尋引擎；強大的計算能力，譬如AlphaGo，還深入到人類生活的方方面面，譬如路邊聯網的攝像頭，家庭的雲服務機器人，每日陪伴我們的手機等。面對AI與網際網路的結合，單個的人類會產生巨大的無力感，也許這是今天人工智慧威脅論爆發的根本原因。

利益和野心，共同推動傳播AI威脅論

關於人工智慧威脅論，代表性人物為谷歌技術總監《奇點臨近》作者雷•庫茲韋爾，他在書中寫道“由於技術發展呈現指數式增長，機器能模擬大腦的新皮質。到2029年，機器將達到人類的智慧水平；到2045年，人與機器將深度融合，那將標誌著奇點時刻的到來”，除此以外，支援人工智慧威脅論的代表人物包括著名的物理學家霍金，微軟創始人比爾•蓋茨，特斯拉CEO馬斯克等。

在人工智慧威脅論熱度日益高漲的今天，人工智慧領域科學家也對人工智慧威脅論提出了反駁甚至嚴厲的批評。Facebook人工智慧實驗室主任，NYU電腦科學教授Yann LeCun在接受IEEE《Spectrum》採訪時提到:“人類在之前很長的一段時間都低估了製造智慧機器的難度。人工智慧的每一個新浪潮，都會帶來這麼一段從盲目樂觀到不理智最後到沮喪的階段。未來學家生來就願意做出盲目的預測，尤其是他們特別渴望這個預測成真的時候，可能是為了實現個人抱負。”

在推動人工智慧威脅論的人群中有一些是對人類的種種醜惡現象不滿，喪失對人類未來的希望，希望人類滅絕，他們對所有能夠滅絕人類的理論或預測都會感興趣並進行傳播，例如三體中描繪的降臨派等。而另外一批人是希望通過對人工智慧威脅人類生存的炒作，獲得名望或利益甚至是快感。

10月份在英國最火爆的早間新聞節目中談笑風生的機器人索菲亞，被沙特授予公民身份，在多個場合下機器人索菲亞展現出來的睿智，幽默和反應能力，從人工智慧技術角度看，已經超出了當前最前沿的技術發展水平，已經有專家提出，不能排除其背後有人工操作的痕跡。

▲機器公民索菲亞堪稱機器人界的“話題女王”，她上過許多收視率極高的人氣節目，通告不斷。還上過時尚雜誌《ELLE》封面，去過聯合國總部探討AI熱潮，見過奧迪自動駕駛汽車Jack，最近還擔任了王力巨集新歌MV的女主角。

無獨有偶，2017年9月29日，一個令人難以置信的“機器人”出現在東京遊戲展上，栩栩如生的樣貌讓人難以區分其真假。如果她的真實身份是機器人，那麼就意味著人類與機器之間的界線已經開始消失。這個機器人在推特上引發了熱烈討論，最終日經TRENDY在10月報導中揭開了謎底。其實這是為索尼公司旗下主機平臺Play Station即將推出的遊戲大作《Detroit:Become Human》進行展示的真人模特。

科學問題爭論導致人類對AI未來的迷茫

人工智慧威脅論產生的重要原因，還包括一些重要科學問題仍處在爭議過程中，從而導致一些人對人工智慧以及人類未來的迷茫，這些科學問題包括生命的定義是什麼，到底什麼樣的物質才可以稱之為“人”或者生命；生命的進化究竟有沒有方向等。

按照達爾文進化論的觀點，生命進化沒有方向，也沒有等級之分，人類並不比蟑螂、螞蟻和跳蚤更高階。因為這兩個問題沒有解決，就導致一些商業機構或個人在沒有達成共識的情況下，把處於爭議中的機器人賦予公民的身份，獲取世界第一和巨大的關注度。

同樣由於生命的發展方向不明確，從而會導致對人類創造性的估計不足，赫拉利在《未來簡史》中提到98%的人會變成無用之人，但這個觀點是值得商榷的。比如工業革命初期機器替代大量手工業者，當時的民眾也會恐懼未來工作都被機器完成。

但歷史告訴我們，工業革命之後人類又創造了豐富的工作種類，如程式設計師、宇航員、石油工人。今天網際網路和人工智慧革命之後，我們同樣要相信科學家和企業家的創造力，他們會為未來的人類發明更多的新工作。譬如今天的網紅直播、網上代購、大資料發現與挖掘工程師，規劃人工智慧發展的產品經理……這些也是網際網路，人工智慧爆發之前人類沒有想到的工作。

如何判斷人工智慧在智慧上超越人類，也是一個處於空白或爭論中的科學問題，這個問題最大困難是沒有一個統一的智慧模型可以描述AI和人類的特徵，我們往往會根據阿爾法狗戰勝了圍棋冠軍，IBM沃森獲得了問答比賽勝利就判定AI在未來會達到10000的智商。

人類的智慧除了計算能力，常識能力，下棋的能力，還有很多特殊的能力是人工智慧無法超越或找不到超越的科學路徑，譬如當蘋果掉下來，發現萬有引力的能力，觀察世界永珍寫出悲慘世界的能力，當法西斯追捕，通過撒謊的智慧保護猶太人的能力等。

在可預見的未來，AI本質上依然是人類的工具。雖然人工智慧在不斷進化，但其實是把那些比較低端的領域替換掉，而人類那些更為核心、隱祕，真正蘊含生命意義的智力功能，目前依舊無法被替代。比如阿爾法狗，雖然很強大，但因目標設定是人類完成的，如果人類改變圍棋的勝負規則，而沒有程式設計師幫助它調整，阿爾法狗會永遠失敗下去。

因此在探討AI威脅論的同時，我們往往忘記AI進化過程中背後站著的一大批程式設計師、科學家。

AI並不可怕，可怕的是AI與人的結合產生的BUG或危害。AI與人類的對抗，歸根結底依然是人類與人類之間的對抗。

未來智慧實驗室是世界第一個AI智商評測與趨勢研究機構，由人工智慧學家和科學院相關機構共同建立，基於“標準智慧系統”、“AI智商測試量表”、“智慧系統7個等級劃分”、“網際網路（城市）雲腦架構”等研究成果，致力於評測智慧系統智商發展水平，研究智慧系統未來發展趨勢。詳細介紹請點選這裡

  歡迎訪問未來智慧實驗室的官方網站：FutureAILab.org； 未來智慧實驗室微信公眾號：未來智慧實驗室，FutureAILab

掃描二維碼，關注未來智慧實驗室（FutureAILab）