導讀：Kate Crawford是一位引領性的研究員，學者和作家，她在過去十年中一直在研究資料系統，機器學習和人工智慧對社會的影響。她是紐約大學傑出研究教授，紐約微軟研究院首席研究員，也是麻省理工學院媒體實驗室客座教授。她最近的出版物涉及資料偏見和公平性，人工智慧的社會影響，預測分析和正當程式，以及演算法問責制和透明度。
Kate帶領的AI Now研究所近期發表了一篇以Amazon Echo為分析起點的研究報告，試圖讓讀者理解蘊含在智慧產品背後的複雜知識內容，其中包含開採製造這些智慧裝置的材料、到收集用於訓練裝置內部智慧對話模型的海量資料。
也許你在生活中已經親身體驗過這個場景： 一個圓形的物體放在房間的一個角落裡，它的外形小巧流暢，如果沒人跟它講話，它就默默地待在角落裡，對周圍無動於衷。 正在這個時候，房間的女主人，懷裡抱著一個熟睡的孩子，她對著圓筒這樣說道，“ Alexa，開啟大廳的燈”，圓筒馬上回復了她，“好的。” 隨後不到一秒鐘，房間亮了。女主人微微點頭，將孩子帶到樓上。 這就是使用者與Amazon Echo智慧裝置的互動場景。這種簡短的命令和快速的響應是當前智慧音響消費者與支援語音互動的AI裝置之間最常見的互動情景。 但是，為了完成發生在這個瞬間的互動，我們需要一個龐大的知識矩陣：跨越採礦，物流，分配，預測和優化整個產業網路的資源提取、人工和演算法處理等交錯鏈條。這個系統的規模幾乎超出了人類的想象。 我們怎樣才能開始理解它，把它作為一種無限連線的網路結構？我們首先從一張單一的AI系統解剖圖說起。
《人工智慧系統的剖析》
Anatomy of an AI System
“我們需要就大規模建設人工智慧進行深入而複雜的對話。”
我們都朦朧地，不安地意識到我們的生活陷入了我們無法完全理解的系統中。你吃的最後一餐可能包含來自另外一個遙遠國家的農產品，這些農產品經過收穫、加工、包裝、運輸，然後賣到你的餐桌上。我們手中的手機則是一個更加複雜鏈條的最終產品：從一個非洲礦山的人工，到中國的生產裝配線，再到舊金山的辦公室裡的設計人員。
複製程式碼解釋這些系統如何連線以及它們對世界的影響並非易事。
凱特克勞福德和弗拉丹喬勒教授在最近的一個展覽中，主要藝術作品是一張巨大的地圖，高2米，寬5米，用於展示追蹤一款現代最複雜產品之一的人工智慧小工具：亞馬遜Echo。
它是一堆亂七八糟的黑色和白色的分支線，看起來更像核反應堆的原理圖而不是日常的小工具。該全景圖被稱為人工智慧系統解剖圖，但其副標題解釋了其討論的範圍：“亞馬遜Echo作為人類勞動力、知識與資料和行星上的資源結合產物的解剖圖。”
“解剖”的第一部分顯示了Amazon Echo如何收集人類使用者的資料和反饋
在報告發表之前，科技資訊網站The Verge的記者採訪了紐約大學教授Kate Crawford，也是AI Now人工智慧研究所的聯合創始人，該研究所負責研究開發人工智慧的社會影響。克勞福德（Crawford）和她的合作者，諾維薩德大學藝術學院教授喬勒說，由於缺乏對現代小工具、特別是人工智慧的結構的認識，所以創作了這張解剖圖。
複製程式碼由Kate Crawford發起成立的AI Now Institute， 是一家測試人工智慧對社會影響的研究機構
“我們需要就大規模建立人工智慧的影響進行深入而複雜的對話，”Crawford說。“通過‘解剖學’，你可以看到它，並開始理解為更大的一部分。”
（TheVerge：）首先，為什麼選擇Amazon Echo作為該專案的重點？
Kate Crawford : 我對這些系統中基於語音的簡單互動非常感興趣。Echo坐落在你的房子裡，看起來非常簡單和小巧，但它有很大的根源，可以連線到龐大的生產系統：物流，採礦，資料採集和AI網路培訓。這是你從未見過的整個基礎設施堆疊。你只需要一個簡單的聲音命令 -：
“Alexa，開啟燈”
它就像變魔術一樣將燈開啟。
但是，試圖深入調查並理解這種魔法如何運作的，是這個專案的意義所在。從這個角度看，Echo是強大的，因為它為使用者提供了這種方便感，但是當你開啟蓋子時，你可以看到為了生產它所需要的巨大成本。
有人會說，技術一直都是如此。當大家談到在19世紀，因為要收穫天然乳膠為海底電纜做絕緣包裝的需求，導致了巨大的森林砍伐，這又和如今有什麼不同？
複製程式碼19世紀英國船隻在大西洋海面上向海底鋪設電纜
在此之前，我們經歷過許多技術繁榮，同時提取資源以實現這一目標。這當然是一種趨勢。但我會說，轉向人工智慧是非常非常重要的原因。首先，它的運作水平開始改變社會本身的運作方式，因為人工智慧系統正在建立在對我們最重要的機構中，從醫療保健到刑事司法，這些系統真正改變了大家與世界互動的方式。
複製程式碼Echo採用多種礦物質建造，包括從玻利維亞的烏尤尼鹽沼收穫的鋰。 攝影：Dean Mouhtaropoulos / Getty Images
TheVerge：解剖本身分為三個廣泛的系統，每個系統都稱為“提取過程”。其中一個物質資源的提取過程，分為用於資料和用於人工兩種。為什麼你認為以這種方式構建這些系統是有用的，如“提取”？
複製程式碼Crawford：所有這些過程都以不同的方式提取價值。當你想到煤炭開採時，舉一個例子，你可能會想到一個行業推動了猖獗的增長，高利潤，但這也產生了最初在經濟體系中被忽視和不計數的成本。資源開採的真實情況可能需要數十年才能出現。資料探勘是否具有超出我們當前經濟框架的類似未知成本？
“人工智慧系統正在從各種人類活動中提取剩餘價值。”
由於像Frank Pasquale（作家）這樣的學術界人士的重要工作，演算法黑盒子的概念現在已經眾所周知了。我們的專案對如何與其他種類的黑匣子聯絡感興趣。Echo本身是一種非常難以檢查的盒子：使用者無法看到它是如何工作的，它如何記錄資料，或者如何訓練其演算法。然後是通過多層承包商，分銷商和下游元件製造商圍繞如何收集和冶煉和組裝其中的簡單元件的隱藏物流。
在這篇文章中，Crawford寫了一個例子，說明英特爾多年來如何才能很好地瞭解自己的供應鏈，以確保其微處理器中不含剛果產的金屬鉭。想象一下，公司資源充足，擁有高技能的員工，以及完善的記錄儲存和資料庫，並且需要花費數年才能瞭解自己的採購模式！
這表明這些流程在公司內部進行調查和分析的難度，更不用說在外部工作的研究人員和記者了。但是，講述生產故事的過程非常重要，而且需要：我們如何開始看到全球技術產品生產的令人眼花繚亂的複雜性。
在文章中，Crawford還談到世界資源配置複雜鏈式結構，會導致財富積累方式的再次轉變，系統頂端有一些億萬富翁，他們提取最大價值，你越往物流和生產鏈，越接近原材料，差距就越大。例如像亞馬遜CEO傑夫貝索斯（Jeff Bezos），通過機器學習演算法和現代電子商務的結合，在2018年，亞馬遜銷量、盈利以及股價的飆升，股價在三年內上漲了270％，在過去的12個月中上漲了103％。而現在，亞馬遜正在逐步逼近蘋果，有望成為世界上市值最高的公司。貝索斯的個人淨資產則接近1600億美元，併成為這個星球上目前為止最富有的人。
複製程式碼執行長傑夫貝索斯在2018年的前五個月平均每天賺取2.75億美元。這顯然是一個很大的數字，但是你把它與下游更遠的工人形成鮮明對比，才能真正理解這種差距。
大赦國際組織釋出了一份剛果礦區童工的調查報告，其中鈷被追蹤用於鋰離子電池。在這種情況下，其中一個鈷礦的孩子需要連續工作大約700,000年才能獲得與Bezos一天收入相同的金額。
這種不平等在整個工業歷史中都會重演，並不是人工智慧時代所特有的現象。但是大規模的人工智慧系統需要大量的資料，基礎設施和維護，因此很少有公司能夠構建和運營它們。如果我們能夠很好地管理這些系統，那麼隨著時間的推移思考這意味著什麼是重要的。
複製程式碼