為什麼蘋果和微軟將AI推向邊緣?

半導體行業觀察發表於2020-02-01

傳統上人工智慧是部署在雲上,因為AI演算法處理大量資料並消耗大量計算資源。但人工智慧並不只存在於雲端,在許多情況下,基於人工智慧的資料處理和決策需要在接近網路邊緣裝置的本地上進行。

邊緣的AI可以更快、更可靠、更安全地做出關鍵任務和時間敏感的決策。智慧手機、智慧手錶以及安裝在機器和基礎設施上的感測器等等,這些在網路邊緣的智慧裝置的迅速增長推動了將人工智慧推向邊緣的熱潮。

本月早些時候,蘋果斥資2億美元收購了Xnor,這是一家總部位於西雅圖的人工智慧初創公司AI專注於低功耗機器學習軟體和硬體。而微軟提供了一個名為Azure IoT Edge的綜合工具包,允許人工智慧工作負載轉移到網路邊緣。

人工智慧會繼續向邊緣移動嗎?與雲中的人工智慧相比,邊緣的人工智慧有什麼優點和缺點?要理解人工智慧的未來,有必要回顧一下計算的歷史,以及在四種計算正規化下,鐘擺是如何從集中式智慧轉向分散式智慧。

集中與分散的

從計算的早期開始,設計的挑戰之一就是智慧應該存在於網路中。正如我2001年在《哈佛商業評論》上發表的一篇文章中所觀察到的,有一種從集中情報到分散情報的“情報遷移”——一個現在正在重複的迴圈。

計算機的第一個時代是大型機,智慧集中在一個擁有所有計算能力的大型中央計算機上。在網路的另一端是終端,它們基本上由一個綠色的螢幕和一個本身沒什麼智慧的鍵盤組成,因此它們被稱為“啞終端”。

計算的第二個時代是桌面計算機或個人計算機(PC),它將大型機正規化顛倒了過來。pc包含了本地儲存和計算的所有智慧,甚至不需要連線到網路。這種去中心化的智慧帶來了計算的民主化,並導致了微軟英特爾的崛起,其願景是讓每一個家庭和每一張桌子上都有一臺個人電腦。

第三個計算時代稱為客戶機-伺服器計算,它在兩個極端的智慧之間提供了一個折衷方案。大型伺服器在後端完成繁重的工作,“前端智慧”被收集並儲存在聯網的客戶端硬體和軟體上。

計算的第四個時代是雲端計算正規化,由亞馬遜的Amazon Web服務、Salesforce.com的SaaS(軟體即服務)產品和微軟的Azure雲平臺等公司開創。雲提供了大規模的計算能力和非常便宜的記憶體和儲存。人工智慧應用程式被安置在雲裡是有道理的,因為在2012年到2019年間,人工智慧演算法的計算能力增加了30萬倍,每三個半月就翻一番。

鐘擺又擺動了

然而,基於雲的人工智慧也有它的問題。首先,基於雲的人工智慧會遭遇延遲——資料轉移到雲上進行處理,結果通過網路傳輸回本地裝置時的延遲。在許多情況下,延遲會產生嚴重的後果。例如,當一家化工廠的感測器預測即將發生爆炸時,該工廠需要立即關閉。機場或工廠的安全攝像頭必須識別入侵者並立即做出反應。當人工智慧演算法預測即將發生碰撞時,自動駕駛汽車甚至不能等待十分之一秒來啟動緊急制動。在這些情況下,人工智慧必須位於邊緣,在邊緣處可以更快地做出決策,而不需要依賴網路連線,也不需要在網路上來回移動大量資料。

鐘擺再次擺動,從集中到分散的智慧,正如我們看到40年前從主機計算到桌面計算的轉變。

然而,正如我們在個人電腦上發現的那樣,要想轉到邊緣並不容易。相機、感測器或智慧手機的計算能力是有限的。此外,網路邊緣的許多裝置沒有連線電源,這就帶來了電池壽命和散熱問題。特斯拉、ARM和英特爾等公司正在應對這些挑戰,因為它們正在開發更高效的處理器和更精簡的演算法,不需要使用那麼多的電力。

人工智慧在雲中的表現仍有好一些的時候。當決策需要巨大的計算能力,不需要實時做出決定時,人工智慧應該留在雲中。例如,當人工智慧被用於解釋核磁共振掃描或分析農場上空無人機收集的地理空間資料時,我們可以利用雲的全部力量,即使我們必須等待幾分鐘或幾個小時才能做出決定。

訓練與推理

判斷人工智慧應該存在於何處的一種方法是,理解人工智慧演算法中的訓練和推理之間的區別。當人工智慧演算法被建立和訓練時,這個過程需要大量的資料和計算能力。要教會一輛自動駕駛汽車識別行人或紅綠燈,你需要向演算法輸入數百萬張影像。然而,一旦該演算法被訓練,它可以執行“推斷”——區域性觀察一個物件,以確定它是否是行人。在推理模式下,該演算法利用其訓練在網路邊緣做出較少計算密集型的決策。

雲中的人工智慧可以與邊緣的人工智慧協同工作。考慮一下像特斯拉這樣的人工智慧汽車。邊緣的人工智慧能實時做出無數決定,比如剎車、轉向和換道。晚上,當汽車停好並連線到Wi-Fi網路時,資料會上傳到雲端,以進一步訓練演算法。然後,更智慧的演算法可以通過雲端下載到車上,這是一個良性迴圈,特斯拉已經通過基於雲的軟體更新重複了數百次。

擁抱“和”的智慧

雲端計算將需要人工智慧,就像有更多理由將人工智慧置於邊緣一樣。這不是一個非此即彼的答案,而是一個“和”。人工智慧將出現在它需要出現的地方,就像智慧將出現在它需要出現的地方一樣。我看到人工智慧正在進化成“環境智慧”——分散式的、無處不在的和相互連線的。在對未來的展望中,邊緣智慧將補充雲中的智慧,從而更好地平衡集中式計算和本地化決策的需求。

相關文章