編者按：如果你讀過《淺薄》一定對其作者Nicholas Carr不陌生，如今，Carr的新書《The Glass Cage: Automation and Us》再次引發熱議。
Nicholas Carr在它的新書《The Glass Cage: Automation and Us》中對人類未來做出了慘痛的沉思，而就在這本書出版前的一年（該書出版於2014年9月——譯者注），2013年9月，兩位牛津學者——Carl Benedikt Frey和Michael Osborne——釋出了一篇研究報告，該報告預測在未來20年內，美國將有約50%的工作崗位因機器人而消失。他們觀察了700種職業，發現最易受自動化影響的職業包括信貸員、前臺接待、律師助理、店員、計程車司機和保安。就算是靠寫演算法為生的計算機程式設計師也沒有幸免。根據Frey和Osborne的計算，在今後的二十幾年內，50%的程式設計工作也會外包給機器人。
事實上，這種情況已經開始變成現實。一方面，程式設計師越來越依賴「自我糾錯」式程式碼，這是一種可以自己發現錯誤並自動修正的程式碼，另一方面，他們也正在創造那種可以學會工作的機器。這些機器自身還無法思考，卻非常擅長處理海量資料，而且速度奇快。通過這些資料，機器還能執行多重任務，例如醫療診斷、航海、翻譯，甚至更多。此外，在一些比較危險的環境（例如，核電站與塌方礦區）中，只要有需要，這些可以自我修復的機器人可以在無需人為干預的情況下執行任務。且最近的大部分迭代都已經是機器人自己設計的了。在未來，甚至機器人專家都會發現自己無事可做了。
當人類勞動力被機器取代時，我們該說些什麼呢？在凱恩斯1930年發表的論文《我們後代的經濟前景》中，他將這種情形稱之為「技術性失業」。當時，凱恩斯認為技術性失業是一種暫時情況，「一種適應不良導致的短暫過程，也是人類發現節省勞動力方法的速度、超過發現勞動力新用途的速度的結果。」
就在凱恩斯寫出這篇論文的同時，美國鐵路的機器化運動造成了近五十萬工人失業。與此類似的情形還有：轉盤電話淘汰了接線員；機器化收割、耕種與聯合農業取代了傳統農場工人。這一切和當年蒸汽拖拉機取代馬和牛幾乎一模一樣。機器的效率如此驚人，以致於時任美國總統的羅斯福在1935年向國民發表演說稱，（以當時的）經濟情況可能永遠無法重新讓那些被機器替代的工人再就業。而當時的《紐約時報》則抱有更樂觀的態度，指責總統正變成「烏鴉嘴」（calamity prophets）。
事後看來，凱恩斯的預見非常準確。1932年的失業率達到了24%，在隨後的十幾年中，這一比例下降了不到5個百分點。這時，一種輿論再次佔據上風：20世紀的這次經濟重創，自動化是一個很重要的根源。財經評論認為，工作現在是回不來了，但只要經濟反彈自然會帶來就業，屆時那些令人神經緊張的「機器接管人類」的討論都會煙消雲散。
1958年和1961年，當經濟衰退，美國國會曾兩次提及「自動化問題」，並通過了《人力發展與培訓法案》（Manpower Development and Training Act）。1962年，肯尼迪總統在國情諮文中做出解釋，他表示該法意味著「要結束對有意願且有能力工作的勞動力的浪費，但僅指那些因機器替代、工廠搬家或礦山倒閉而閒置的勞動力。」兩年後，約翰遜總統成立了技術、自動化與經濟程式委員會，組織評估自動化與技術變革的經濟效應。但頗具諷刺意味的是，到1966年委員會評估報告公佈時，美國經濟卻開始走向充分就業。機器人取代工人的輿論褪去，委員會也隨之解散。
然而這種恐懼卻沒有消失，而僅僅是潛伏起來了。《時代週刊》在1980年刊登了一篇名為《機械革命》的文章，向公眾展示了一個機器人正在用雙手扼殺人類勞動力的景象。而這在三年後被一位來自MIT的叫做Harley Shaiken的經濟學家所證實：
經濟復甦的程式受到了越來越多的關注。一千一百萬民眾繼續處於失業狀態。在這種背景下，無處不在的技術變革所引起的焦點問題，不再是在將來的十年中會有多少人被取代，而是會有多少人將繼續失去工作。
然而不幸的是，當時失業率達到了10%，而後在80年代末期降低了一半，這又一次使機器人問題退出公眾的視野。但緊接著，在2008年金融危機期間，一項來自美聯社的調查再一次地將這一問題拉回到了公眾的視野。
在大蕭條開始之後的五年，喪鐘格外響亮：西方國家無數的工作崗位消失，但這次的情況更加嚴峻，大多數工作將不會回來，這個數字將達到百萬，一位研究勞動力市場的專家說到。它們這些正在被技術所消除。數年之後，那些在電腦以及其他機器裝置上執行的軟體將會變得更加複雜，這些軟體效能強大、並且可以更加有效率的完成那些以前只屬於人類的任務。數十年間，科幻小說不斷提到這樣的一個未來——那時我們將慢慢發現自己已經過時，不斷被周圍的機器所替代。而美聯社提到，這樣的未來已經來臨。
法國科幻雜誌Galaxie1959年某期的插圖
這就是將來（或者也可以說現在）要發生的事情：銀行、物流、外科手術和藥品儲存這些崗位都已經被機器所佔據。製造業對機械化和自動化傾心已久，隨著機械成本的持續下降，這種情況會愈演愈烈。波士頓顧問集團的一項最新研究指出：機器人現在完成著製造業中10%的工作，而在2025年之前，這一比例將上升到25%（想要理解這種轉變的經濟學意義，我們只需要想一下美國汽車工業的例子，在那裡每位點焊工的工資是每小時 $25，而機器點焊工卻是$8，而且機器點焊工更加迅速和精確）。波士頓顧問集團預測在自動化領域的增長將主要集中在運輸裝置、電子計算機、電子產品、電子裝置和機械。
與此同時，程式和演算法正在撰寫著大部分公司的報告、為NSA和CIA分析情報資料、分析乳房X光片、進行分級實驗以及尋找抄襲的作品。電腦可以駕駛飛機——Nicholas Carr指出每位駕駛員在每次航班上平均只駕駛3分鐘的飛機——它們甚至可以創作音樂以及挑選出哪個流行歌曲是根據之前的即興演奏創作的。電腦也可以用於藥品研發——在英國一個名叫Eve的機器人發現了一種新的化合物來治療瘧疾——這種藥品可以用來大規模生產。
Xerox在篩選話務中心的員工時，使用電腦而非員工對申請者進行篩選；零售業巨頭亞馬遜「僱傭」了一萬五千個倉儲機器人從倉庫或集裝箱往外搬運東西；無人駕駛汽車已經在進行道路測試；很多酒店使用機器人進行前臺服務和房間清潔。機場在使用機器裝置進行泊車服務；MIT的個人機器人研究團隊領導者Cynthia Breazeal在眾籌網站Indiegogo發起的專案在短短六天內就募集到了100萬美金，此後又得到了風險投資資金兩千五百萬美元投資，「世界上第一款社交機器人」Jibo問世並投入市場。
什麼是社交機器人？用《紐約時報》記者John Markoff的話來說，「就是有一點人類特點的機器人。」它能夠給你的孩子講睡前故事、在你不想做飯時替你叫外賣、知道除了百事可樂以外你所偏好的飲品，替你在重要的人生時刻留下照片——這樣你就不必為照片操心。在其他領域，由Lethal Autonomous Robots (LARs)在19世紀設計製造的自動槍械，能夠不用人動手操作自動掃射。（與此相比，那些遙控飛機即使沒有操作皮膚，也還是需要人進行遙控。）以上這些產業（正在出現），而現在的失業率低於6%。
當然，總失業率這個資料可能具有迷惑性。他們無法算出有多少人在尋找工作的道路上放棄努力，或者多少人處在半失業狀態，又或者誰在失去高收入職位後被迫屈就。而且它們無法反映出哪裡有工作需求，或者這些地方有哪些職位，或者哪個年齡階段的人群在努力求職，哪個年齡段的人群沒有努力。另外，這些資料模型看上去如此熟悉，這種焦慮隨處可見，機器的確對勞動力形成了壓迫。財政部部長Lawrence Summers去年七月在華爾街日報發表過類似觀點的文章：
未來的經濟挑戰將不只是產能是否充足的問題，而是會涉及到能否提供足夠多的優質工作。今天，有很多領域失去的就業機會比他們創造的更多。軟體技術的普遍應用意味著工業生產和工作機會的創造不會一直存在。進一步而言，既有Jibo和組裝汽車裝置等的物理機器人，也有許多虛擬機器器人，它們其實是在計算機底層每天執行無數任務的演算法，從自動駕駛汽車（軟體），到谷歌搜尋，再到網上銀行。這些都是自動化的化身，它們正在改變工作性質，不僅可以勝任某些重複性的物理工作，還包括一些那些迄今為止只有人類才能完成的智力工作。
它們共同定義了「第二次機器革命」的特徵，使這個時刻脫穎而出的是科技自身變化的速度以及其改變社會的速度。如果「悲觀論者」（美國俚語，指對未來失去信心的人）最終是正確的，那麼這次機器將贏得勝利。這不僅體現了電腦如何滲透進我們生活的各個方面，還說明了它們如何悄無聲息的加速進化。這不僅是生命必須要加速前進的問題，而是它們已經開始了這個成長過程。這種存在和滲透的過程，體現了生命本身的意義。
就像計算機硬體發展所遵循的摩爾定律——計算能力每18個月翻一番，計算機容量和功能亦是如此。以法律調查過程為例。Carr是這麼寫的：
計算機能在幾秒內解析數千頁的數字檔案。藉助基於語言分析演算法的電子調查軟體，計算機不僅能識別相關的詞彙和短語，還能理解事件鏈、人際關係，甚至是情感和動機。一臺電腦就能取代十幾個高薪專家。
「奇異之人」，Giovanni Battista Bracelli的蝕刻版畫，1624年。
再看看自動駕駛汽車。它能察覺到周圍所有車輛，能對交通管制和突發情況做出反應，適時剎車，知道何時該給輪胎充氣、打方向燈，永遠也不會收到超速罰單。Volvo預測到2020年，該品牌旗下的車將免受堵車之苦。不過即便是現在，有些車能夠自動泊車，現有的技術也相當不賴。
自動泊車和自動駕駛的目標，和將工廠、藥物探索或者手術自動化的目標無異，不過是將過程合理化，更為高效、高產和划算。這也就意味著，對某些人而言，自動化會讓很多工作變得方便。儘管很多人被認為享受到自動化帶來的福利，比如手術檯上的病人、在亞馬遜購物的人或者是谷歌搜尋使用者，但實際上，自動化帶來的好處最大程度地直接流向了自動化系統的所有者（比如說是亞馬遜的大老闆Jeff Bezos，而非亞馬遜金牌會員）。
用機器勞動力取代人力不是自動化的附帶損害，事實上，這正是自動化的應有之義。無論何時勞動力讓位給自動化，必定會伴隨著或長或短的技術性失業。MIT經濟學家 、自動化的擁躉Eric Brynjolfsson 和 Andrew McAfee（這兩位仁兄寫過一本論述人與機器關係的書《與機器賽跑》）明確地陳述了這一觀點：
即便是最有益的進步也會帶來令人不快的需要妥善處理的後果……技術進步在其飛奔向前的過程中註定會把一些人，也可能是許多人拋在身後。
Brynjolfsson 和 McAfee也表達了類似觀點：儘管技術進步迫使許多人的行動受到嚴密監督控制，他們的生產力會被精確測量，但這一進步也會使得一些人，可能僅僅是一些人（比如說上文提到的亞馬遜的老闆貝索斯）受益。而這顯然就是正在發生的情況。最富裕的15名美國人中，6個人擁有數字技術公司，這些公司中最有歷史的微軟也不過誕生於1975年。另外6個人則是某個家族的成員，擁有龐大零售帝國沃爾瑪的 Waltons家族，其臭名昭著的低薪意味著人比倉儲機器人更為廉價和易耗。即便如此，沃爾瑪也得益於自動化的銷售管理系統point-of-sale system，這使業主們能準確知道何時何地銷售什麼，這樣一來就能避免滯銷品庫存，從而在庫存方面比競爭對手佔用更少的錢。
正如Paul Krugman 多年前在《紐約時報》中寫的那樣：
智慧機器會使更高的GDP成為可能，但它們也會減少對人的需求，聰明人也不能倖免。因此我們會看到一個空前富裕的社會，但是所有的財富收益將被那些擁有機器人的人悉數收入囊中。
在美國，儘管企業利潤不斷飆升，但工人的基本薪資仍停留在40年前。截止到2014年，18歲至54歲之間的美國人中，有16%的男性和30%的女性處於失業狀態，其中有超過1/3的人屬於技術性失業。正如2014年初《經濟學人》的報導：
最近研究表明，自動化取代人類勞動力已漸成趨勢，這導致了自1980年以來，資本持有者佔據世界絕大多數的收益，但勞動力獲取的利潤在下降。
以Google聯合創始人拉里·佩奇為代表的一些人（這是一群正在進行的資料化及自動化來獲取利潤的人）認為，工作機會的淘汰伴隨著效率的提升，這把有閒階級從繁重的工作中解放出來。暫且拋開這群幸運兒如何生存的問題，相信大多數人除了在家穿著睡衣看一整天電視之外，沒什麼更好的生活方式了，這也是現在許多失業者所做的事情。
但佩奇們顯然嚴重誤解了工作的價值。工作是一種賦予身份的方式，都柏林城市大學Michael Doherty教授調查了愛爾蘭工人，包括那些倉儲員和公交司機甚至工作本身就缺乏保障的人，試圖找出工作是否仍是「個人身份的重要定位」，他總結道「簡單來說：『工作很重要』。
儘管所謂的「工作」沒有量化標準，但華盛頓經濟和政策研究中心聯合執行官Dean Baker給出的一個數字令人觸目驚心。他在《紐約時報》的一篇文章中指出：
假如年紀比較大的工人從未失業，面對隨之而來的失業浪潮， 他們的死亡率會上升到50%甚至100%。
究其原因，《The Psychology of Optimal Experience 》一書的作者Mihaly Csikszentmihalyi研究發現，「相較於閒暇時，人們在工作中更容易快樂，更容易從他們所做的事情中獲得滿足。」
即使自動化無法完全取代人工，它也改變了工作方式。Carr列舉了一系列具有說服力的事例說明自動化使人類變得愚蠢，技術化消除了人們對專注、創造、複雜思維及快速反應的能力。現在的飛行員啟動自動化駕駛飛行，花大多數時間盯著操控室的電腦螢幕，只花不到3分鐘手動操縱飛機。結果就是，他們過度依賴自動化，即使遭遇惡劣的飛行環境，他們也傾向於信任大資料，這樣是危險的。Carr引用了一段Matthew Ebbatson的人為因素研究：
飛行員的控制能力與飛行員的人工操作時間有直接關聯——「人工飛行技能的快速消退源於沒有相對頻繁的練習『可容性』操作」。
與此同時，2013年美國聯邦航空管理局（FAA）針對駕駛艙自動化釋出了一份報告，表明超過一半的墜機與過度信賴自動化駕駛有關。
如果把航空業的例子和使用Google 搜尋引擎相比，就顯得沒有那麼有說服力了，畢竟總的說來大部分的自動化應用讓飛行更加安全，也讓其變成了大眾化的出行方式。按照Carr的說法，完全依靠網路獲取事實和資料讓我們變得盲目且懶惰。一篇來自《科學》雜誌的研究指出，正因為網際網路上大量容易得到的資訊讓人們不願意去記憶那些他們已經查出來的東西。Carr同時也摘錄了對Google引擎設計工程師Amit Singhal採訪時的一段話。Amit Singhal表示，藉助智慧搜尋，如果搜尋引擎預測越精確，人們問的問題就會越簡單愚蠢。
這一切因智慧化帶來的懶惰和懈怠最終都會導致一個結果，就是Carr 定義的「去技能化」，因為專業能力和熟練技能的喪失，我們被迫將主動權交給機器：醫生不得不依靠機器去理解X-ray和做出診斷；建築設計師越來越多地依靠電腦輔助設計軟體（CAD)來完成專案；企業市場部門的人依靠演算法來決定廣告的投放；交易員不再（自主）交易，因為他們依靠別人的經驗來規避經驗中可能存在的問題，或者他們從來不自己去嘗試。就像Carr 預言的那樣：
越多的技能被機器化所代替（假設越多的工作被機器化控制），那麼人們將擁有越少的機會去培養自身能力（比如理解和判斷的能力）。讓自動化水平達到了足夠高的水平是，當他們可以指揮工作時，這些工人只能無處可去而被淘汰。
但是自動化同時也帶來了很多顯而易見的好處，比如提高了藥物生產的速度，加強了高速公路的安全，提高了醫藥診斷的精確度，降低了材料成本，提高了能源利用率。面對這些自動化的優勢，已經很少有人能像Nicholas Carr這樣向大家發出警示的聲音，提醒大家思考自動化到底對我們人類社會帶來了什麼，是什麼造就了我們，我們又是誰。
在這本《The Glass Cage: Automation and Us》出版後不久，特斯拉創始人Elon Musk帶領的超過100名的矽谷傑出人物，包括理論力學科學家史蒂芬霍金，都對那些把自動化尊為聖盃、把人工智慧高高供奉的人們發出了良知的呼喚。用Musk的話來說，他們是在召喚惡魔，而按照霍金的預測，人工智慧最終會超過人類自身的發展速度並取代人類。在這裡我摘抄一段他們信的內容（回覆「公開信」可獲取機器之心翻譯的公開信全文），之所以引用這些話，是因為如果我們對於那些自以為是用程式操縱我們未來的行為不加以監督，這些機器造出來的便不是神，而是「有生命的假人」（Golem，希伯萊傳說中用粘土、石頭或青銅製成的無生命的巨人，注入魔力後可行動，但無思考能力。）
人工智慧在很多方面都取得了顯著成就，比如語音識別，影象分類、無人駕駛、即時翻譯、機械代步，還有智慧回答。正因為在這些方面的成就和各種可能的潛力，無論是實驗室的研究還是具有經濟價值的各種科技，人們都願意投入更大的資金在研發上，哪怕只是為了一點小小的進步。
這種潛在收益將非常大，因為文明提供給我們的每樣東西都是人類智慧的產物。我們無法預測在人工智慧的幫助下人類還將取得怎樣的成就，但我們可以知道根除疾病和貧困是可以做到的。因為人工智慧巨大的潛能，所以去了解它、研究它非常重要，我們要讓人工智慧在幫助人類發展的同時避免潛在危險。
人類對人工智慧的研究不僅要儘快擴大其應用範圍，還要考慮如何實現其對社會發展的正面作用。現在，人工智慧擴張的一個重要因素取決於「技術是中立」這一原則。我們建議擴大旨在確保人工智慧健康發展同時又造福社會的研究：我們的人工智慧系統，必須按照我們的意願工作。
在這裡所謂的「我們」到底是指誰呢？我並不同意如Nicholas Carr所言，這裡的「我們」是公眾，我更傾向於另一個答案，伴隨Musk、霍金公開信釋出的還有一篇人工智慧研究論文，該論文認為：技術工作者需要對人工智慧的發展負責。的確，沒有人會比設計這套系統的人更熟悉也更適合去建造一套安全控制體系了。然而所謂安全的標準是什麼？研究的目標是什麼？這是另一層面的問題了。就目前來看，人工智慧的研究在釋放經濟價值最大化的同時也在努力消除不公平和失業率。
但整個研究的優先順序是顯而易見的：經濟效益第一，公眾第二。或者考慮一下這篇人工智慧研究論文裡一句意味深長的話「比如像一些組織所認為的那樣，自主武器應該被禁止，那麼是否能對自動化的概念有一個精確定義……？」該論文作者們承認：「將人工智慧的價值與人類福祉統一起來是十分複雜的。」儘管這個問題可以通過建立一個可實時學習的系統來解決，但還需要指出一點，論文裡並沒有闡述這些所謂的「價值」到底是什麼，又是誰的「價值」。
我們生活在一個技術至上的時代。我們依賴那些為我們服務的數字裝置，併為那些網際網路的億萬富翁們歡呼鼓掌——是他們帶領我們走向新的道路。當然，我們還擁有一位設立新部門國家機器人計劃（National Robotics Initiative）的總統奧巴馬，這個機構旨在研發下一代機器人技術。即使如此，你也不能真正相信政府有能力這麼做，更不要說他們在控制機器人的部署和發展、自動生成演算法以及人工智慧方面能達成一致立場。政府各部門之間對於技術發展的態度並不一致，甚至彼此衝突。私營企業天然是自利並抗拒管制的，而我們這樣的普通人，現在只能依靠自己，但如果人工智慧開發者們未來做的夠好的話，那麼很快我們也將不會孤單。
本文系《紐約書評》撰寫的書評，由機器之心獨家翻譯。參與成員：關雪菁、小勺、XW奇、salmoner、艾蕭Rita、電子羊。