兩次殺人，自動駕駛技術之惡

當 Ryan Kelley 第一次將雙手舉起離開 Uber 的自動駕駛方向盤時，他感覺自己提前體驗到了未來世界。

來源 | CSDN（公眾號ID：CSDNnews）

【編者按】近日，Uber 自動駕駛汽車致死事故成為焦點，Uber 為此全面停止了在美國與加拿大的自動駕駛車輛測試。而在3 月 23 日上午，一名駕駛人駕駛特斯拉 ModelX 型運動型多功能車(SUV)，在加利福尼亞州芒廷維尤一條高速公路行駛，撞上混凝土隔離帶，在醫院傷重不治。最新車禍發生後，特斯拉公司把事故後果嚴重性歸咎於高速公路上的緩衝欄在先前事故中被撞擊變形卻沒有及時更換。

近幾年，自動駕駛技術的發展勢頭可謂相當迅猛，但就在公眾們對這項新興技術展現出極高熱情之時，近期這一系列的交通事故猶如當頭一棒，讓我們開始陷入沉思。

以下為正文：

2017 年 2 月的 Pittsburgh 市，Uber 在公共道路上測試配有自動駕駛技術的 SUV 車輛已有5 個月。有些車輛已經可以通過 Uber 的定點叫車服務應用接待乘客了，這是歷史上首次自動駕駛汽車在美國市場上獲得通行權。

在 9 歲的女兒的鼓勵下，Kelley 辭掉了科技服務工作，成為了一名 Uber“開發期的汽車駕駛員”——作為新生的自動駕駛車輛的後備駕駛員。自動駕駛車輛所承擔的社會責任非常明確：即有朝一日通過這項技術可以防止每年數以萬計的交通死亡事故。Kelley 上週在電話中說：“這是非常先進的技術，人人都想參與其中。”

可是，如今在亞利桑那州 Tempe 市內，一輛 Uber 的自動駕駛車輛撞死了一名行人。

圖為 3 月 18 日在亞利桑那州 Tempe 市的一輛 Uber 自動駕駛車輛拍攝的視訊截圖。

此次意外事件發生在 3 月 18 日晚，根據車內視訊顯示，在 49 歲的 Elaine Herzberg 推著自行車橫穿七道寬的空曠馬路時，被該車撞到，而當時車內44 歲的駕駛員  Rafaela Vasquez 正低著頭且雙手離開了方向盤。在撞到 Herzberg 時，車輛正以每小時約 40 英里的速度行駛。據警方報導，撞擊發生時車輛並沒有試圖剎車的跡象。

此次車禍發生之後，Uber 自願停止了所有測試專案，且亞利桑那州政府已經吊銷了其測試許可。雖然正式調查才剛剛開始，但很明顯此次撞車事件不僅僅關乎一名行人的性命。這正是自動駕駛車輛支持者和研究人員所擔心的事情，也突顯了這項新興技術發展中關鍵的弱點。

每一次失敗對機器來說都是一次進步。自動駕駛車輛研究專家認為，Uber 車輛的鐳射雷達應該能夠在碰撞發生前看到 Herzberg，並且車輛應該做出相應的反應。

然而，此次車禍引發了另外一個恐怕任何一項調查都很難回答的問題：在 Uber 或其他公司的測試階段，是否應該由人類作為後備駕駛員安全地駕駛半自動駕駛車輛。研究表明，大多數時候，人類很容易犯錯誤、分心、而且可能很容易受到安全駕駛功能的引誘。

此外，Kelley 與另一位前後備駕駛員在接受採訪時表示，儘管安全駕駛及其技術並沒有充分準備好，但測試工作已經迫不及待的展開了。Kelley 與一位前 Uber 的 Tempe 市駕駛員（不願透漏姓名）說，他們的工作環境與想象的不太一樣，儘管公司已經在累計里程數上達到了很高的目標，但他們還是需要長期保持警惕且沒有激勵措施。

Kelley 與該 Tempe 的前駕駛員都在今年早些時候因為違反安全規定而遭到了 Uber 的解僱。Kelley 說，在他操縱車輛期間，在停牌前車輛出現了滑動（北美交通法規定：所有車輛遇到停牌時必須停死，確認四周安全後才能起步繼續行駛。），他因此而遭到了解僱，他對此表示質疑；Tempe 的另一位駕駛員說，他在車輛行駛期間使用了手機，從而被解僱。

這位前駕駛員說，自 2016 年 Uber 推出自動駕駛專案以來，他一直在為 Uber 工作，併為自己達成了“3-4 萬安全自動行駛里程”而感到自豪。他說自己不後悔在那裡工作。然而，Kelley 堅持認為對他的解僱是個錯誤的決定，並表示很傷心。

這兩位前駕駛員同意，他們曾經所處的工作條件導致了疲勞和危險的誘因，可能正是因為這些因素才讓 Vasquez 的眼睛離開了道路，且雙手離開了方向盤。談及此次撞擊事件時，Kelley 說：“我們已經預料到了這種事情的發生。”

▌“這是她的工作”

儘管在亞利桑那州被吊銷執照，但是 Uber 依然在 Pittsburgh、Tempe、 Phoenix、舊金山和多倫多的公共道路上，通過大約 400 名後備駕駛員和 200 輛汽車，測試其開發的無人駕駛技術。這些數字說明在過去 9 個月內，隨著公司轉變了測試的重點，Uber 在亞利桑那州無人監管的條件下大幅度招聘。

根據當天的情況，有些車輛仍在搭載乘客。 但根據“紐約時報”一篇基於公司洩漏的檔案的報導稱，Uber 已經調整了大部分自動駕駛車隊的工作方針，要求駕駛員努力“累計里程數並收集資料，從而幫助系統變得更可靠”。

截止到 2017 年 9 月，該自動駕駛車隊已經在其測試的城市內累計行駛超過了一百萬英里。到 2017 年 12 月的時候，累積里程數達到了兩百萬英里，紐約時報稱，“根據公司的文件，該公司以更快的速度完成了下一個一百萬英里。”

根據幾篇發表的報導，Uber 的自動駕駛技術在 Tempe 車禍出現之前就已經出現了問題。Buzzfeed 的 Priya Anand 曾報導，一份 Uber 內部的關於在亞利桑那州自動駕駛測試的效能報告顯示，有些車輛行駛不足一英里就遇到了麻煩，不得不靠駕駛員控制方向盤並剎車。在 2017 年 3 月 5 日一週內，在沒有人為干涉的情況下，車輛在 Tempe 的測試迴圈中平均行駛里程數僅為 0.67 英里，且平均每行駛 2 英里就會出現“突發狀況”，用該公司的話說就是意外，其中包括“剎車過猛、猛然加速、或者讓乘客嚇一跳的其他行為。”

然而，接受 CityLab 採訪的兩位前駕駛員都表示，雖然沒有被起訴，但是 Vasquez 似乎要為此次事故承擔很多責任。儀表盤的攝像頭顯示，當時 Vasquez 並沒有在看路，而是低下了頭，她的手也離開了方向盤。可以想象，與其他很多分心的司機一樣，Vasquez 當時在看手機而沒有看路。

一名 Tempe 的前駕駛員說，“這是我們最重要的規定之一，座位上不能有手機。（事實上，這正是導致他自己被解僱的原因。）她的工作就是監視並確保機器繼續安全駕駛。但是她沒有盡職盡責。”

根據 Uber 發言人所說，安全駕駛員在上路前會接受一次“有力的”三週的培訓、測試以及認證課程。在這個過程中，他們接受了相應的訓練，要求隨時隨地將手放在方向盤附近，以便在汽車無法安全地應對危險的道路狀況，或遇到“有人不遵守交規”（比如有行人橫闖馬路）時，迅速採取控制措施。雖然 Uber 允許駕駛員在車內持有手機，以防遇到緊急情況，但是公司絕對不允許在駕駛期間使用電子裝置。公司監視駕駛員行為的主要措施包括：車內儀表盤攝像頭的定點檢查、自我報告和來自其他駕駛員的報告。

據 Uber 發言人稱，到目前為止，大約有十幾個駕駛員因為使用手機而遭到了解僱。

▌坐在方向盤後面的工作是麻木不仁的測試方案

開發期車輛駕駛員的工作聽起來似乎很容易，畢竟，車輛可以自動完成大部分工作。但兩位前駕駛員都描述了坐在方向盤後面高強度的日常工作。全職的駕駛員要求時刻在方向盤後保持警惕長達 8-10 個小時，期間只有 30 分鐘的午餐時間。為了讓車輛的自動駕駛技術深入掌握 Uber 指定的該部分的城市地圖，駕駛員常常在工作期間被指派前往同一個“測試路線”中。

前員工表示，在機器學習駕駛期間，時刻注視道路長達幾個小時是一份非常辛苦的工作。孤獨與千篇一律的重複路線很難讓人注意力保持集中，這比駕駛長途卡車或計程車更困難。Kelley 說：“沒有人和你說話，你只能聽音樂或靜靜地坐著。”除此之外，你還要長時間保持一個坐姿，而且車輛頻繁地緊急剎車，這種車輛駕駛的日常工作對他的健康狀況有害，Kelley 說。

“Uber 實際上是在要求駕駛員像機器人一樣工作。機器人可以重複迴圈而不會覺得疲憊，但是人類做不到。”

前員工表示，在機器學習駕駛期間，時刻注視道路長達幾個小時是一份非常辛苦的工作。孤獨與千篇一律的重複路線很難讓人注意力保持集中，這比駕駛長途卡車或計程車更困難。Kelley 說：“沒有人和你說話，你只能聽音樂或靜靜地坐著。”除此之外，你還要長時間保持一個坐姿，而且車輛頻繁地緊急剎車，這種車輛駕駛的日常工作對他的健康狀況有害，Kelley 說。

儘管駕駛員沒有里程數上的指標要求，但 Kelley 表示，他的一些經理曾對他施壓，要求他跑更長的里程數而放棄休息時間。Uber 發言人表示，公司鼓勵駕駛員可以自由休息 10-15 分鐘以避免疲勞，而不用承擔任何後果。

前員工說，儘管如此，隨著車輛技術的改進，在道路上放任思緒馳騁（或接電話）的誘惑還是非常大。這位匿名的前安全駕駛員說他曾在 Tempe 發生事故的同一條路上工作過，“有時候，一個小時或兩個小時也不需要管方向盤，然後你就會覺得也許我不看路也沒關係，因為如果有狀況出現，車輛也可以自動處理。”

有過幾次 Kelley 感覺在車裡的時候並不信任自己。他說，到夜班的時候，他可以感覺到自己的注意力減弱，他有種放鬆自己的衝動，因為大多數時候這項自動駕駛技術都是可靠的，營造了一種虛假的安全感。

另一位駕駛員也表示同意。“Uber 實際上是在要求駕駛員像機器人一樣工作。機器人可以重複迴圈而不會覺得疲憊。但是人類做不到。”

更重要的是，很多後備駕駛員都是單獨工作的。當初 Uber 在 Pittsburgh 開始測試的時候，自動駕駛車輛都配備了兩名駕駛員。第二個人坐在副駕駛的位置上，用電腦記錄資料並提交給 Uber 的工程師。但在 2017 年年底，公司將許多車都減少到了“坐在駕駛員位置”上的一個人，駕駛員單獨工作。

接受 CityLab 採訪的兩位前駕駛員都表示，去掉第二個人類駕駛員的行為過於倉促，因為這個人在保證安全方面發揮了間接的作用。Kelley 說，副駕駛不僅可以激勵“坐在駕駛員位置”上的人，“還可以觀察人行道，看看是否有人闖紅燈。”

Uber 的發言人表示，第二名駕駛員僅限於記錄筆記，減少駕駛員的做法經過了公司的深思熟慮，這是自動駕駛技術邁向更高水平過程中的必經階段。她說：

我們之所以做了這樣的決定，是因為在測試後，我們覺得我們可以在車輛返回基地後，通過檢視日誌非實時地完成第二個人的任務——即記錄車輛周圍的情況，以及駕駛員每次的介入情況。

確保車輛安全不應該是乘客席上的駕駛員的工作，這很明顯是方向盤後面的駕駛員的首要責任。

Kelley 說，即便如此，副駕駛也有很多安全方面的好處，比如多一個機會保持警覺，以及發現道路危險情況的可能性更大。從他的角度看來，即便科技進步了，“車輛依然沒有做好去掉第二雙眼睛的準備。”

▌如果“切換”失敗

兩個前駕駛員對 Uber 的自動駕駛技術失敗也表示驚訝。他們說，有可能出現了重大問題，通常車輛對於障礙物超級敏感，甚至會誤以為有障礙物存在。這位不願透露姓名的駕駛員說：“有時汽車會因為地面坑窪裡冒出的蒸汽而剎車。”

自動駕駛專家也同樣感到困惑。卡內基梅隆大學自動駕駛車輛研究負責人 Raj Rajkumar 在一封郵件中寫道：“汽車上的鐳射雷達應該可以從很遠的距離看到行人。”總而言之，這表明 Uber 系統的核心存在非常嚴重的技術問題。Uber 自動駕駛車隊所使用的鐳射雷達的設計公司 Velodyne 告訴英國廣播公司，這起事件非常的“令人困惑”。

前 Uber 開發期車輛駕駛員 Flavio Beltran 在正常照明情況下，拍攝了發生車禍的 Tempe 路段。他在 Facebook 上釋出了視訊，並指出：發生車禍時，Uber 鏡頭的高對比度似乎使得道路看起來比實際更加黑暗。其實本路段光照非常好。Rajkumar 觀看了此視訊後指出，發生車禍的路段情況應該可以保證自動駕駛汽車行駛。

儘管如此，據瞭解 Uber 的技術目前還不足以實現完全自動駕駛，事實上這也是後備駕駛員隨行的原因。Uber 業務發展與戰略計劃負責人 Jeff Miller 於 11 月告訴歐洲汽車新聞，“我們最終的目標是在特定的城市和環境內，不需要任何人坐在駕駛座上車輛也能自動駕駛。”這項技術在業界被稱之為 4 級自動駕駛。但是 Uber 目前正在測試的功能更接近於 3 級，Miller 說：“因為如果計算機陷入困境，需要有人坐在駕駛員的位置上接管駕駛。”

然而，車輛與人類之間的這種關係隱含著技術人員口中的“切換問題”，或者說駕駛責任可以在瞬間安全地從機器切換到人手中，這項設想本身就有問題。研究表明，當機器可以完成大部分工作時，人類駕駛員會迅速喪失對道路的專注。杜克大學人類與自動駕駛研究實驗室的主任 Missy Cummings 告訴 Slate，“人類無法勝任看護自動化的任務。”

• 有些學者可能會建議說，切換提出了一個 3 級自動駕駛車輛無法解決的問題，即使從純技術的角度考慮這個問題也似乎沒有很好的解決方法。麻省理工學院機械工程教授 John Leonard 去年研究了幾近深不可測的人類駕駛的複雜性，他在紐約時報上說，“人類可以勝任後備駕駛的看法是一種謬論。”

• 其他人則認為，當機器的操作滯後時，安全駕駛員在教導和支援機器人中發揮著重要的作用。但隨著計算機的進步這項工作會變得越來越複雜。史丹佛大學機械工程教授 J. Christian Gerdes，自 20 世紀 90 年代以來一直在測試和研究車輛自動駕駛技術，他說，特別是在高速的情況下，“人類很難保持警覺，甚至一些肌肉記憶也習慣了車輛的操控。”隨著車輛能力的提高，人類駕駛員所做的工作減少，同時他們需要更加用心地時刻觀察自動駕駛的失誤。

• Gerdes 說，在某種程度上，早期的自動駕駛系統反而更安全，因為他們不夠好。他回憶說，一種早期的啟動巡航控制裝置只能檢測運動中的物體，這意味著每當前方停車時，後備駕駛員都必須注意觀察。他說，“很明顯這個時候我們需要（準備好）介入，因為系統頻繁地出現這樣的問題。”
  

技術本身可能有很多方法可以解決切換和介入的問題，並在 3 級系統中讓人類保持警覺。Rajkumar 建議 Uber 可以安裝車載攝像頭，確保駕駛員時刻注意路況。Gerdes 表示，一般來說，車內的通訊平臺可以在需要高度警覺時幫助提醒後備駕駛員。

Rajkumar 說：多一個人也可以幫助預防 Tempe 之類的車禍，他根據速度和距離的計算說，如果後備駕駛員能在半秒前看見死者的話，可能 Herzberg 的死亡就可以被避免了。“我可以看到的問題是，沒有第二個人幫忙觀察。”Gerdes 指出，在測試自動駕駛車輛（在測試軌道上，而不是在公共道路上）的時候，他的測試標準安全協議要求車內始終要有第二個人。

Uber 發言人表示，公司正在探索可能的測試改良方案，但是截止到 Tempe 車禍發生前該討論都沒有進展。

Rajkumar 說，毫無疑問，Uber 和其他公司目前都面臨很大的挑戰性。自動駕駛車輛開發商要想最終將駕駛員從車裡撤下來，都需要真實的里程數和資料。沒有人坐在駕駛員的位置上，很明顯車輛會更危險；另一方面，這些駕駛員畢竟是人類，他們總會分心。如果社會希望享受全自動駕駛車輛帶來的安全，那麼“我們唯一的選擇是慢慢地穩步向前，完成過渡，直到這項技術可靠。”

在某種程度上，早期的自動駕駛系統反而更安全，因為他們不夠好。

“緩慢而穩健”似乎並不符合 Uber 的一貫作風。該公司積極進取，顛覆性的風格奠定了其原本載客服務的增長，現在它在努力爭取發展更高階別的自動駕駛。一路走來，Uber 經歷了一系列與（但不限於）監管機構、執法機構、乘客隱私及其競爭對手的衝突。上個月，該公司剛剛經歷了一場備受矚目的智慧財產權盜用訴訟，Uber 向強勁的競爭對手 Alphabet 的自動駕駛技術子公司 Waymo 支付了 2.45 億美元的賠償。

說到此，Waymo 決定放棄開發 3 級或半自動駕駛汽車——即車輛只可以進行簡單的高速路巡航等駕駛，但是依然依賴人類駕駛員觀察路況並時常控制方向盤（想想：特斯拉的自動駕駛儀）。自從 11 月以來，這家公司一直在測試 4 級自動駕駛車輛，不配置駕駛員，並在至少 8 年的測試期間行駛累計里程數超過了 400 萬英里，平均每英里人為的介入次數遠遠少於 Uber。

Uber 發言人表示，“【平均每英里人為的介入次數】不是衡量我們測試操作整體安全性的指標，且不應該這麼理解。”在向 CityLab 提供的一份宣告中，她補充道，

我們相信，技術有能力建立更加安全的交通運輸，並且我們承認對社群安全應盡的責任。因此，當我們開發自動駕駛技術的時候，安全是我們每一步的首要關注點。本週發生的事件讓我們心碎，而且我們的車輛很紮實。我們會盡所能協助調查人員。

然而，這家成立於 2011 年的全世界最大的載客公司，儘管最近市值高達 720 億美元，卻仍然沒有盈利，這個事實可能可以解釋為什麼 Uber 在自動駕駛的開發中顯得很沒有耐心。僅在美國就取消了 60 萬的駕駛員，這可能是該公司獲得盈利的最佳途徑：它可以幫助 Uber 降低成本，停止補貼這項便宜，按需乘坐的服務，儘管這項服務幫助公司建立了巨大的市場份額。

Uber 的前任 CEO，Travis Kalanick 曾經將自動駕駛車輛專案稱之為公司“賴以生存的”關鍵。Uber 現任 CEO，Dara Khosrowshahi 也持有相同的看法。去年 11 月，該公司訂購了 24,000 臺沃爾沃 SUV 汽車，從而加快了自動駕駛汽車的測試，併為更廣泛的載客市場做好準備。

換句話說，Uber 與許多自動駕駛車輛的主要競爭對手的區別在於：Waymo、GM 和 Ford 等公司要麼是汽車製造商出售私人車輛，要麼是軟體公司在這項科技上投資，以幫助他們在將來可以為自己佔據自動駕駛車輛的市場份額。而另一方面，Uber 需要儘快實現自動駕駛，從而大規模的增加收入。

除了闡明依賴人類後備駕駛員的巨大困難之外，Tempe 的車禍還可能表明，任何積極地將自動駕駛推向市場的公司都面臨高風險。很難看出各個階段的測試或自動駕駛所需要的人類偶爾的輔助，如何才能不易受到專家和前駕駛員所描述的弱點的影響。對於 Kelley 來說，Uber 應該付出更多努力來緩解這些弱點。

Kelley 說：“我知道里程數對股東來說很重要，但是我認為他們太過於激進，太快了。”

原文：https://www.citylab.com/transportation/2018/03/former-uber-backup-driver-we-saw-this-coming/556427

作者：Laura Bliss 

譯者：彎月

責編：張偉

招聘

AI科技大本營現招聘AI記者和資深編譯，有意者請將簡歷投至：gulei@csdn.net，期待你的加入！

如果你暫時不能加入營長的隊伍，也歡迎與營長分享你的精彩文章，投稿郵箱：suiling@csdn.net

AI科技大本營讀者群（計算機視覺、機器學習、深度學習、NLP、Python、AI硬體、AI+金融、AI+PM方向）正在招募中，關注AI科技大本營微信公眾號，後臺回覆：讀者群，聯絡營長，新增營長請備註姓名，研究方向。

☟☟☟點選 | 閱讀原文 | 檢視更多精彩內容