盤點2018十大AI失敗案例，Uber的自動駕駛汽車肇事致人死亡！

人工智慧已經取得了顯著的進步，許多科學家夢想創造出Pedro Domingos提出的“主演算法”——能夠解決人類設想的所有問題。然而研究人員、新興技術和有偏見的資料也會犯下人類無法想象的錯誤。

這就是為什麼我們有必要總結人工智慧的失敗之處：這篇文章的目的不是貶低或嘲笑研究和開發結果，而是看看哪裡出了問題，以便下次能做得更好。

所以，讓我們來總結一下2018年的10大人工智慧失敗案例。

1

中國著名企業家被誤識為交通違紀人員

中國的主要城市目前已經在使用人工智慧來解決亂穿馬路的問題。交通警察部門在十字路口部署了使用面部識別技術的智慧攝像頭，以檢測和識別亂穿馬路的人，這些人的部分名字和麵孔會被模糊地顯示在公共螢幕上。

然而，中國南方城市寧波的人工智慧系統最近上演了尷尬一幕，因為它錯誤將一位亂穿馬路的人“識別”成了中國著名企業家董明珠。這一錯誤迅速傳遍了中國各大社交媒體，寧波警方為此道歉。但董明珠並不擔心，還在微博上寫道：“誤拍是小事。平安重要。”

CloudWalk深度學習研究員Zhou Xiang告訴Synced，問題可能出在缺乏實時檢測上。“在這個距離的情況下進行實時檢測還是有一定困難的，雖然將影像識別為真人現在非常普遍。”

2

Uber的自動駕駛汽車肇事致行人死亡

2018年3月28日，美國亞利桑那州Tempe市，一輛Uber自動駕駛SUV撞倒一名女性行人，導致其死亡。Uber的車輛當時處於自動駕駛模式。

Uber發現，自動駕駛軟體在汽車感測器檢測到行人後決定不採取任何制動。美國國家運輸安全委員會(US National Transportation Safety Board)對這起事故的初步調查報告顯示，Uber的自動駕駛模式使Volvo工廠安裝的自動緊急制動系統失效。

這場悲劇發生後，Uber暫停了在北美城市的自動駕駛測試，Nvidia和Toyota也停止了在美國的自動駕駛公路測試。事故發生8個月後，Uber宣佈計劃恢復匹茲堡的自動駕駛公路測試，不過該公司未來的自動駕駛願景仍不確定。

3

IBM的Watson 系統在醫療方面力有不逮

根據Stat獲得的內部檔案，佛羅里達州Jupiter醫院的一名醫生在談到IBM的旗艦人工智慧程式Watson時表示：“這款產品簡直就是一坨屎。”IBM最初將Watson作為答錄機開發，後來也探索其在包括醫療在內的廣泛應用。2013年，IBM開發了Watson在癌症推薦療法方面的首個商業應用程式，過去5年裡，該公司與多家醫院和研究中心建立了合作關係。但Watson的AI能力並沒有給醫生留下深刻印象。一些人抱怨它在癌症治療方面給出的錯誤的建議可能會導致嚴重甚至致命的後果。

據報導，IBM在這個專案上花費了數年時間，卻沒有取得重大進展，現在該公司正在精簡Watson醫療系統，裁減該部門一半以上的員工。

4

亞馬遜的人工智慧招聘軟體存在性別歧視

據報導，亞馬遜人力資源部在2014年至2017年期間使用了一款支援人工智慧的招聘軟體，幫助審查簡歷並提出建議。然而，該軟體被發現對男性求職者更有利，因為它的模式是根據過去10年提交給亞馬遜的簡歷進行設計的，當時亞馬遜聘用了更多的男性求職者。

據報導，該軟體會對簡歷中含有“女性”字樣或暗示申請者是女性的簡歷進行降級。亞馬遜後來放棄了這款軟體。該公司沒有否認使用該工具來提供推薦，但表示從未將該工具用於評估求職者。

5

DeepFakes暴露出人工智慧不得體的一面

2017年12月，Reddit網上出現了一些國際頂級女星的色情影片，原因是“DeepFakes”將明星的臉與色情影片中女性的臉進行了交換。雖然面部交換技術已經發展了很多年，但DeepFakes的方法表明，任何擁有足夠多面部影像的人，現在都可以製作出非常有說服力的假影片。

2018年，逼真的名人假影片依舊充斥著網際網路。雖然從技術上講，這種方法不算“失敗”，但其潛在的危險是嚴重而深遠的——影片證據不再可信可能會進一步鼓勵虛假新聞的傳播。

6

Google Photo出現了bug

Google Photo可以自動檢測具有相同背景或者場景的影像並將它們合併成一張全景。今年1月，Reddit使用者“MalletsDarker”釋出了三張在滑雪勝地拍攝的照片：兩張是風景照，另一張是他朋友的照片。當Google Photo將這三張照片合併在一起時，就出現了下面這張搞笑的圖片。

社交媒體讚揚了谷歌演算法對影像的巧妙混合，同時嘲笑了它在構圖基礎方面的愚蠢。

7

LG的機器人Cloi遭遇滑鐵盧

LG的物聯網助手Cloi本應於2018年1月8日在拉斯維加斯的國際消費電子展(CES 2018)上大顯身手的。Cloi本來應當能夠識別控制家電的語音命令。然而，當這款可愛的機器人進行現場演示時，觀眾們發現它沒有回應LG營銷總監的指令，氣氛一度變得十分尷尬。

8

Boston Dynamics的機器人“意外”時刻

軟銀行旗下的機器人制造商Boston Dynamics今年不止一次在網際網路上出風頭了——該公司生產的機器狗SpotMini可以用身上的機械臂靈活地開門;它的人形機器人Atlas也能做到跑酷了——順利地跳過一段圓木或者一系列40釐米的臺階卻不用減速。

但Boston Dynamics也有“糟糕”的時刻——在未來科學家和技術專家大會(Congress of Future Scientists and Technologists)上首次亮相時，Atlas在一次演示中舉起了盒子，但正當表演救贖準備離開時，這個可憐的機器人被簾子絆倒了，笨拙地從舞臺上摔了下來。不過，它摔倒的樣子倒也挺像人類的。

9

人工智慧對世界盃結果的預測幾乎全部錯誤

2018年世界盃期間，高盛(Goldman Sachs)、德國多特蒙德理工大學(Technische University of Dortmund)、Electronic Arts、Perm State National Research University等機構的人工智慧研究人員利用機器學習模型預測了多階段比賽的結果。然而，大多數預測都完全錯誤，只有EA正確地預言了冠軍是法國隊。EA遊戲引擎由許多機器學習技術支援，這些技術旨在使玩家的表現儘可能逼真。

SQL Services資料科學家Nick Burns對此做出瞭解釋：“不管你的模型有多好，它們也只是建立在你資料的基礎上罷了……而近期的足球資料還不足以預測世界盃的表現，有太多的資訊缺失和未定義的影響存在。”

10

一家創業公司聲稱可以從面部影像預測智商

以色列一家機器學習領域的創業公司Faception聲稱其人工智慧技術可以分析面部影像和骨骼結構，從而揭示人們的智商、個性，甚至暴力傾向。資料科學家Ben Snyder在Twitter上譴責該公司的技術說：“這是顱相學和種族歧視”。這條推文已經被轉發了6500多次，點贊17000次。