邊緣計算:晶片提供高效能人工智慧

zhengonglian發表於2020-10-14

 

Hailo-8 TM推理晶片透過消除內在因素,擴大了工業人工智慧(AI)應用程式的數量,可用於多種工業應用程式,包括生產,流程,跟蹤和跟蹤,物流,質量,機器功能以及預測性維護的最佳化邊緣處理的伺服器和雲解決方案的侷限性。伺服器和雲AI解決方案適用於廣泛的應用程式,但是計算成本,網路通訊速度和延遲因素對許多實時工業和流程應用程式構成了限制。Hailo-8 TM推理晶片和外掛模組擴充套件了可行的應用程式數量 更多資訊盡在振工鏈

Hailo由以色列國防軍精銳技術部門的成員於2017年在以色列成立,它開發了用於邊緣裝置的AI處理器。該公司已獲得NEC和ABB的包括戰略投資在內的8,800萬美元資金。該團隊認為Hailo技術的定位是改變AI晶片行業,為更多應用程式帶來新的計算可能性。AI處理器旨在適應各種行業和用例的智慧裝置,包括汽車,智慧城市,零售和工業4.0。

Hailo-8是實時邊緣計算如何增加以在應用程式中提供高效能和可靠性的另一個示例。工業自動化始於中央控制,隨著時間的流逝,隨著技術的進步使其實用化, 已經慢慢往邊緣計算發展 。這導致可用性,可靠性和效能提高,並擴充套件了應用程式使用案例。

Hailo晶片是高效能工業級Edge AI處理器

Liran Bar討論了市場上的其他產品,包括Nvidia,Intel Myriad-X和Google Edge TPU,並指出Hailo-8是唯一針對工業和汽車等低功耗和環保邊緣應用而最佳化的晶片。Bar提供了詳細的基準資訊,以支援Hailo在堅固邊緣應用程式中的優勢。

Hailo業務開發和產品營銷副總裁Liran Bar說:“ Hailo-8tm處理器透過使智慧裝置能夠在邊緣更有效地執行基於神經網路(NN)的應用程式,正在改變多個行業的視覺智慧和感官知覺。” “我們的M.2和Mini PCIe高效能AI加速模組使客戶能夠將AI功能整合到邊緣裝置中,從而擴充套件了這些功能,從而提供了一種更加靈活和最佳化的解決方案,以高效地加速各種基於深度學習的應用程式,並以標準尺寸最佳化上市時間。”

附加模組

此外,還可以透過使用 在許多計算機(包括嵌入式工業PC)中使用的流行M.2 和mPCIe聯結器標準提供的外掛附加板模組來應用Hailo-8,而這些模組包括高效能的AI處理,而不會降低計算機中的其他應用程式。規格包括每秒26兆運算元(TOPS)的Hailo-8™處理器,具有3 TOPS / Watt的高功率效率,可滿足工業環境要求。

這類似於早期的PC協處理器外掛以實現高效能的浮點數學計算效能,而影片顯示協處理器則實現了高解析度/高效能的圖形。例如,原始的 IBM PC 包含一個用於Intel 8087的插槽 浮點 協處理器(又名 FPU),對於使用PC進行計算機輔助設計 或數學密集型計算的人們來說,它是一種流行的選擇 。

系統方法

Hailo裝置受到Dataflow Compiler的支援,Dataflow Compiler是一個完整且可擴充套件的軟體工具鏈,可與現有的深度學習開發框架無縫整合,從而可以輕鬆整合到現有的開發生態系統中。支援開放標準,包括TensorFlow和ONNX。

AI最佳化架構

Liran Bar解釋了非常有趣的體系結構,因為該應用程式實質上是驅動晶片資源的動態配置以最佳化效能。Hailo-8晶片包含許多具有控制,記憶體和計算功能的處理元素集,這些元素被配置和分配為基於使用者應用程式執行神經網路圖的各個層。這與基於經典馮·諾依曼架構的通用計算機模型形成鮮明對比,該模型也被稱為具有單個CPU,記憶體和控制的普林斯頓架構。

Hailo-8晶片具有許多控制,記憶體和計算元素集,可根據使用者應用程式將其配置並分配給神經網路圖的各個層,以實現高效能。

應用例項

富士康 已經在不同的生產線上部署了幾種內部開發的AI解決方案,從而將報告準確性從95%提高到了99%,並將缺陷檢查專案的運營成本至少降低了三分之一。建立標準化解決方案富士康將其高密度,無風扇的邊緣計算機“ BOXiedge™”與Socionext的高效並行處理器“ SynQuacer™” SC2A11和Hailo-8™深度學習處理器相結合,建立了一個節能的獨立AI推理節點邊緣的影片分析。這款新產品能夠實時在邊緣處理和分析20多個流式攝像機輸入提要,以進行影片分析和隱私保護,包括影像分類,檢測,姿勢估計和其他各種基於AI的應用程式。

巴爾說:“透過確保製造商不必在效能,成本或延遲方面進行折衷,邊緣上的高效深度學習處理將迎來新一代的 工業 4.0。當前的解決方案通常執行在過時的處理架構上,無法跟上發展速度。滿足智慧工廠所需的計算需求,例如多裝置自動化和連線性。Hailo-8 edge AI處理器可實時支援多個流式攝像機輸入提要,從而確保影片分析的最佳效能,同時保持隱私。我們期待幫助將工業4.0引入新的數字時代。”

邊緣計算趨勢

Hailo-8是實時邊緣計算如何增加以在應用程式中提供高效能和可靠性的另一個示例。工業自動化始於中央控制,隨著技術的進步使其實用化,加班處理一直被推向邊緣,從而提高了可用性,可靠性和效能,並擴充套件了應用程式用例 更多資訊盡在振工鏈


來自 “ ITPUB部落格 ” ,連結:http://blog.itpub.net/69977806/viewspace-2726948/,如需轉載,請註明出處,否則將追究法律責任。

相關文章