​你不一定知道的高通AI硬實力

半導體行業觀察發表於2019-04-22

高通中國區董事長孟樸在日前舉辦的“2019 Qualcomm人工智慧開放日”上表示,5G將成為一項通用技術,使萬事萬物彼此互連。它也將如電力和網際網路一樣,為人類的生產生活帶來翻天腹地的變化,創新者也將迎來一個充滿新機遇的時代。

​你不一定知道的高通AI硬實力

Qualcomm中國區董事長孟樸

“在5G時代,資訊就像電一樣,往來穿梭於雲和端之間,成為一種巨大的新能量。未來的10年中,與5G部署並行發展的技術領域,將是大資料的分析和運用,其核心應用就是人工智慧”,孟樸接著說。在他看來,AI將推動整個商業格局的根本性轉變,當中包括了手機等移動終端、汽車、智慧交通、物聯網等等。

作為產業的領先者,高通正在推動AI從雲到端的佈局,助力開發者更快走入新時代。

從孟樸的介紹中我們得知,高通在2007年起就啟動了首個AI研究專案,公司在過去十多年也一直致力於AI領域各個方面的研究,也驅動公司產品路線圖中AI的應用,他們說做的基礎研究和所交付的產品,可以讓AI應用於眾多行業。到2018年,他們還成立了Qualcomm AI Research,希望進一步加速AI創新。

​你不一定知道的高通AI硬實力

高通投入AI研究已經超過十年

高通技術工程高階總監、 AI研發負責人侯紀磊博士也指出,高通正在打造平臺式創新,推動人工智慧在行業實現規模化運用。例如為了實現人工智慧的的高能效,高通通過自動化技術,利用AI技術來優化AI模型,縮短產品上市時間並減少工程成本。具體下來則是通過壓縮、量化和編譯三種方式來實現。

​你不一定知道的高通AI硬實力

高通實現高能效的三種方式

據侯紀磊介紹,高通在壓縮AI模型架構的時候,能夠自動移除不重要/榮譽單元,同時保證準確度。資料顯示,在壓縮大三倍的時候,準確度損失低於1%;在量化方面,也能在自動降低權重和啟用進度的同時,保證準確度。從高通提供的資料我們可以看到,他們在FP32和量化INT8上能實現近乎相同的準確度,其更低記憶體和計算則可以帶來每瓦特效能的4倍提升;至於編譯方面,高通面向自動化硬體編譯的強化學習,可以應對數十種潛在組合,在TensorFlow Lite上更是可以實現4倍加速。

如下圖所示,高通在AI硬體加速方面也有不少的研究。這對但位元操作,他們甚至實現了運算能耗的10倍到100倍的提升。“高通甚至能夠把量子場論等物理學的基礎數學框架運用到深度學習”,侯紀磊強調。

​你不一定知道的高通AI硬實力

高通在AI硬體加速方面的研究

在這些研究的推動下,高通在之前已經能夠為客戶提供便捷的端側方案。例如其驍龍移動平臺已為超過10億部智慧手機提供領先的AI加速。以Qualcomm於去年年底推出驍龍855移動平臺為例,它整合第四代多核Qualcomm AI Engine,其中包括全新設計的、專門面向AI處理而設計的硬體核心——Hexagon張量加速器(HTA)。

據瞭解,基於第四代AI引擎的高通驍龍855,在效能上是高通驍龍845的三倍,也是友商競品的兩倍,這主要得益於他們的在軟硬體方面的升級。不同於其他競爭對手在手機SoC上獨立設計一個加速器,高通通過靈活呼叫Kryo CPU、Adreno GPU和Hexagon DSP等傳統單元,搭配全新的張量加速器,高效率地實現AI加速應用。

高通之前的介紹我們得知,高通Adreno 640 GPU擁有50%的算術邏輯單元(ALU)提升,支援FP32和FP16浮點運算;Kryo 485 CPU相比前代CPU,效能也有45%的提升,高通也為其融合了進一步加速AI效能的全新點積指令;Hexagon 690 DSP則包含了全新的Hexagon張量加速器、向量擴充套件核心、以及優化的標量核心。

以上三者的靈活排程幫助驍龍855的第四代AI Engine實現了每秒7TOPs的運算能力,在多個方面賦能終端裝置。

​你不一定知道的高通AI硬實力

高通SoC的AI能力

高通同時也看到了雲端推理的需求,憑藉在移動領域的獨特設計專長——領先的工藝製程、先進的訊號處理、低功耗和規模化,高通宣佈推出全新打造的Qualcomm Cloud AI 100加速器。這款用於資料中心的AI推理處理器,旨在讓分散式智慧可以從雲端遍佈至終端之間的全部節點。高通也將為開發者提供完整的工具和框架支援。

基於這些技術,高通在日前於深圳舉辦的人工智慧開放日上,攜手20多個夥伴帶來了超過40項基於高通AI Engine的AI應用。使用搭載驍龍移動平臺的OPPO、三星、vivo、小米等智慧手機和利用基於驍龍平臺的AI開發套件,虹軟、百度大象聲科、華捷艾米、Loom.ai、曠視、Mobius、Morpho、商湯、騰訊王者榮耀、騰訊AI Lab、中科創達、有道等企業展示了包括智慧影音、娛樂遊戲、生活工具和行業應用等四大類,如移動端AI電競戰隊、AI通話智慧降噪、AI嘯叫抑制、AI智慧超級夜景、AI 智慧美顏拍照、AI智慧視訊虛化、實時語音翻譯、AR全屏翻譯、無人超市等豐富多彩的應用,為使用者帶來更高效、智慧、具備感知能力的極致體驗。

孟樸也指出,到2025年,智慧手機、PC/平板電腦、擴充套件現實(XR)、汽車和物聯網這五大領域中的AI應用率將會從2018年的不到10%提升到100%,而高通將會在當中扮演一個重要角色。

相關文章