讀人工不智慧：計算機如何誤解世界筆記07_自動駕駛

1. 認知能力

1.1. 認知能力是人工智慧從一開始就面臨的核心挑戰

1.2. 卡雷爾機器人

1.2.1. 解決卡雷爾問題的關鍵在於提前瞭解障礙物的位置，並讓卡雷爾繞過它們

1.2.2. 人類程式設計師可以看到網格，即卡雷爾世界的全景地圖

1.2.2.1. 狹義人工智慧解決方案，依賴於更好的地圖繪製技術

1.2.3. 使用汽車上的鐳射雷達、攝像頭和感測器來構建它所處空間的3D模型

1.2.4. 在這個3D模型裡，沒有汽車“識別”出來的“物體”，有的只是使用機器學習識別的可導航區域和非導航區域

1.3. 萊特兄弟

1.3.1. 可以製造一臺不需要拍打翅膀的飛行機器

1.3.2. 用翅膀滑翔就足夠了

2. 自動駕駛

2.1. 只要有足夠的訓練資料，演算法確實可以在各種煩瑣乏味的任務中表現得相當不錯，而人類的聰明才智通常會填補其中的空白

2.1.1. 不合理有效的資料驅動方法頗適合用於電子搜尋、簡單翻譯和簡易導航

2.1.2. 語言之間的機器翻譯比以往任何時候都好

2.1.2.1. 仍然無法與人工翻譯相媲美，人類的大腦在理解斷句的含義方面非常出色

2.2. 無人駕駛這一使用場景，用來思考人工智慧的完美執行和完全失效這兩種情況是最合適的

2.3. 爭先製造自動駕駛汽車，本質上就是在爭先突破計算的基本極限

2.4. 在自動駕駛汽車發展的前10年，試探什麼能奏效、什麼不能奏效是一個警世故事

2.4.1. 技術沙文主義可能讓人們對技術產生神奇的創想，也有可能對公共健康造成危害

2.5. 早在2007年，已經有機器人汽車技術在輔助日常駕駛

2.6. 挑戰不僅在於感知環境，而且在於瞭解環境

2.6.1. 關鍵在於感知能力

2.6.2. 無法對心智理論進行程式設計，因此汽車永遠無法像人類那樣對障礙物做出反應

2.7. 計算機沒有想象力

2.7.1. 要得到物件的旋轉影像，計算機需要對這個物件進行3D渲染

2.7.2. 至少需要一個向量地圖

2.8. 如果計算機可以識別出柱狀物，我們可以為柱狀物和人分別編寫規則

2.8.1. 我們不知道它是柱狀物，除非有視覺或是物件識別技術

2.8.2. 問題回到了物件分類上

2.9. 計算機只“知道”它被告知的內容

2.9.1. 如果沒有對未來進行推理的認知能力，計算機就無法瞬間將路燈識別為障礙物，並採取適當的規避措施

2.10. 摩爾定律表示，積體電路上容納的電晶體數量每年會翻倍，容量的增加意味著計算機記憶體價格日益下降

2.10.1. 2005年左右，儲存器突然間變得又大又便宜，以至於首次可以繪製出整個山景城的3D地圖，並將其儲存在車載儲存器中

2.10.2. 影片和3D檔案佔用了大量記憶體空間

2.10.3. 平價的儲存器改變了遊戲規則

2.11. 沒有製造一輛像人類那樣可以穿行世界的汽車，而是將現實世界變成了電子遊戲，讓汽車在其中穿行

2.11.1. 採用的是統計估計值和資料的不合理有效性

2.11.2. 統計方法將一切都變成數字，並估計出機率

2.11.3. 現實世界中的物體不是被轉換成物體物件，而是被轉換成在網格上以計算出的速度沿特定方向移動的幾何形狀

2.12. 駕駛不僅僅是一項工作，而是同時處理許多項工作

2.13. 駕駛輔助技術的興起

2.13.1. 平行停車只是一個細小的限定動作，是對技術的絕妙運用

2.14. 機器學習方法非常適合用來完成固定符號世界裡的重複性工作

2.14.1. 它並不適合在街道上操作一臺兩噸重的殺人機器，因為街道上到處都是無法預測的民眾

2.14.1.1. 特斯拉Model X

P90D的整備重量是5 381磅

2.14.1.2. 作為參考，一頭雌性亞洲象的重量大約是6 000磅

2.14.2. 程式設計師要預見到可能發生的每一個問題或意外情況是不可能的，這就意味著現有的機器學習系統在面對現實世界的不規則性和不可預測性時，很容易發生故障

2.14.2.1. 從定義上說，生命是不可預測的

2.15. 人有智慧，他們可以接受怪事；計算機沒有智慧，它們容不下怪事

2.15.1. 因為我們只能有意識地處理其中大約40條資訊，所以我們的無意識思維接管了剩下的資訊，使用偏見、刻板印象和固定模式來過濾掉噪聲

2.16. 自動駕駛的夢想在商業領域仍然活躍

2.16.1. 自動駕駛汽車的大量炒作背後，隱藏著賺大錢的希望

2.16.2. 很少有投資者會放棄這種機會

2.17. 自動駕駛汽車的工作原理與大資料息息相關

2.17.1. 大部分自動駕駛汽車研究和一些訓練資料都可以在arXiv和學術知識庫中線上獲取

2.17.1.1. 資料的一個主要缺點是沒有內建異常資料，而且演算法無法預測未內建的內容

2.17.2. 自動駕駛汽車的，並不是一個懂得如何駕駛汽車的人造智慧大腦

2.17.2.1. 只是把街道進行了詳細的數字化

2.17.3. 資料都來自自動相機

2.17.3.1. 無論資料來自何處，總會有人在最底層操作這些資料，它並不是真正的自動化

2.17.3.2. 發現路面新坑洞的人，可能是戴著谷歌眼鏡的人，也可能是騎著腳踏車上街的人

2.17.3.3. 無論是誰，只有少數人在採集這些資料

2.18. 自動駕駛汽車未來的發展道路很可能既不安全，也不符合道德倫理，也未必會為大眾創造福祉

2.19. 所有自動駕駛汽車的“實驗”都需要人類駕駛員和工程師全程跟進，只有技術沙文主義者會稱此為成功，而非失敗

2.20. 自動駕駛汽車專案促進了一些正面的消費意識進步

2.21. 開發自動駕駛汽車來解決安全駕駛問題，就像部署奈米機器人來殺死盆栽上的害蟲一樣

2.21.1. 我們真正應該專注開發的是人類輔助系統，而不是人類替代系統

2.21.2. 關鍵不在於讓機器來掌管世界，人類才是重點

3. 主要論據

3.1. 自動駕駛汽車支持者的主要論據是，它們能使道路“更安全”

3.1.1. 討厭的人類，總是出錯！

3.1.1.1. 這就是技術沙文主義

3.1.2. 人類當然要為這些駕駛失誤負責，畢竟只有人類在駕駛汽車

3.2. 行車時發簡訊、分心駕駛無疑會導致死亡人數上升

3.2.1. 一個直接的解決方案是在公共交通上投入更多的資金

3.2.2. 程式設計師想要製造自動駕駛汽車，省下搭乘公共交通工具的時間來乾點別的事情

3.3. 車內裝載的技術裝置太多，不一定利於駕駛

3.3.1. 隨著越來越多的資訊娛樂技術進入汽車，交通事故發生得也越來越頻繁

3.3.2. 汽車製造商可以在其標準車載套裝中預裝一個遮蔽駕駛員手機的裝置

3.3.2.1. 這項技術現在是存在的

3.3.2.2. 駕駛員在緊急情況下可撥打報警電話，除此之外不能打電話、發簡訊或上網

4. 主要問題

4.1. 在維護不善的道路上時，無法保持沿著街道的中心線行駛

4.2. 不能在雪天或其他惡劣天氣條件下行駛，因為在這些天氣條件下，他們無法“看到”東西

4.3. 大多數自動駕駛汽車使用的演算法被稱為深度神經網路，在停車標誌上貼上貼紙或塗鴉，就會讓它們感到迷惑

4.4. 自動駕駛汽車透過GPS導航

4.4.1. 袖珍GPS干擾器是非法的，但在網上只要50美元左右就可以輕易地訂購

4.5. 部分問題在於機器倫理尚未最終釐清，因為它太難被清晰表述了

4.5.1. 人類駕駛員可能會選擇撞樹，因為孩子們的生命是寶貴的

4.5.2. 大多數人在面對電車難題時，更偏向於犧牲司機和乘客以拯救多數人

4.5.3. 他們還說，他們絕不會購買自動駕駛汽車

4.5.4. “死亡”是一項特徵，而不是一個漏洞

4.5.4.1. 我們總被唆使著把生命交與那些機器，但其實人類要比那些機器更道德，也更聰明，這一點並不令人意外

4.5.4.2. 幾乎沒有大學開設過計算機或工程類的倫理課程

5. 自動駕駛汽車分級標準

5.1. SAE L0（無自動化）：人類駕駛員全權操作汽車

5.2. SAE L1（駕駛支援）：車載自動化系統偶爾向人類駕駛員提供少量駕駛支援

5.3. SAE L2（部分自動化）：車載自動化系統在某些情況下可實際完成一些駕駛動作及監測駕駛環境，由人類駕駛員持續監測駕駛環境並完成其餘駕駛動作

5.4. SAE L3（有條件自動化）：車載自動化系統在某些情況下可實際完成一些駕駛動作及監測駕駛環境，但人類駕駛員需在自動化系統發出請求時隨時收回駕駛控制權

5.5. SAE L4（高度自動化）：車載自動化系統可完成駕駛動作及監測駕駛環境，人類駕駛員不一定需要隨時收回控制權，但自動化系統只能在限定的環境和條件下執行

5.6. SAE L5（完全自動化）：車載自動化系統可在任何條件下執行人類駕駛員可以執行的所有駕駛動作

5.7. 自動化分級有多種定義，人們對於其定義標準化的需求已存在一段時間

5.7.1. 標準化有助於提高自動化定義的清晰度和一致性

5.7.2. 標準至少改變了一次，也可能是兩次

5.8. 在L3和L4，車輛需要感知周圍的環境，因此需要安裝複雜、昂貴的感測器

5.8.1. 通常使用的感測器是鐳射雷達、GPS、IMU（慣性測量單元）和攝像頭

5.8.2. 感測器輸入需要轉換成二進位制資訊，由車內的計算機硬體處理

5.9. 每一級都需要越來越多的計算能力來根據感測器的輸入而做出駕駛決策

5.10. 還沒有人能夠開發出足夠強大的硬體和軟體，使其在任何地點和天氣條件下都能安全行駛