日呼叫量超600億次,HMS Core HiAI Foundation助力AI應用高效開發

HMSCore 發表於 2022-05-14

隨著新技術的不斷演進,人工智慧已經廣泛地應用到教育、金融、物流、零售、交通、醫療等各個領域。而在AI高速發展的當下,高效開發變得更為重要,如何將創意想法與AI技術深度融合,迅速轉化為可落地的AI應用,是開發者在激烈競爭中制勝的關鍵。

為了助力開發者快速上線AI業務,為消費者提供創新AI體驗,HMS Core HiAI Foundation將HiAI 生態中的底層硬體能力開放,為開發者提供了300多個具備業界優質模型相容性的AI運算元,讓開發者更簡單快捷地應用華為AI能力,快速構建智慧AI應用。

此外,HUAWEI HiAI Foundation還推出端雲協同、多IP深度協同、自主調優工具包、Model Zoo等多種解決方案和能力,為眾多業務場景打造更高效能更低功耗的計算環境,助力開發者快速開發和部署AI應用。

日呼叫量超600億次,HMS Core HiAI Foundation助力AI應用高效開發

五大效能優勢,助力開發者高效靈活開發

• 端雲協同:針對新業務場景運算元以及已有典型業務場景運算元,提供效能優化、快速升級平臺能力的解決方案

當前,AI業務和演算法模型都在持續快速演進,AI計算平臺適配新業務和新演算法快速升級成為難題。端雲協同具備快速升級端側計算庫的能力,助力開發者快速支援新模型、上線新業務,讓消費者快速獲得端側AI帶來的體驗提升。

• Model Zoo:輔助開發者優化模型結構,更好地利用NPU加速優勢

開發者在業務開發過程中,為了更大程度利用底層算力,需要針對底層硬體結構做一些模型調整,這個過程可能會出現效率低,資源利用不足的情況。HiAI Foundation打造Model Zoo,將NPU友好的模型結構、Backbone、運算元放進去,供開發者自行挑選,輔助其優化模型結構,更好地發揮麒麟晶片NPU的加速優勢。

• 模型量化工具包:讓開發者的App更快、更小

正常情況下,開發者訓練的模型是32bit,這樣的模型計算精度固然高,但對手機功耗和記憶體的要求也比較高。HiAI Foundation為開發者提供模型量化工具包,在滿足計算精度的前提下,可以把原始模型直接量化為更小、更輕便且更適合NPU結構的低位元模型,無需開發者做二次調整,從而節省手機空間,降低計算資源的消耗。

日呼叫量超600億次,HMS Core HiAI Foundation助力AI應用高效開發


HiAI Foundation模型量化工具包

• 網路結構搜尋工具包:讓網路設計更簡單、更有效

網路結構搜尋工具包支援多種型別的網路結構搜尋任務,包含分類,檢測和分割。通過精度,效能目標牽引,協同硬體資訊通過最優化搜尋演算法獲得最優的網路結構,得到最佳的效能提升。網路結構搜尋工具包支援多種主流訓練框架使能,包含:caffe,tensorflow,pytorch。同時針對多種主流硬體平臺具有算力和時延建模的能力。

日呼叫量超600億次,HMS Core HiAI Foundation助力AI應用高效開發
HiAI Foundation網路結構搜尋工具包

• 多IP深度協同:各計算單元共用DDR記憶體,提升效能降低功耗

HiAI Foundation在硬體裸算力開放的同時,還具備硬體底層多IP深度協同的優勢。多IP深度協同的好處在於,CPU、NPU、ISP、GPU等各計算IP可以共用DDR記憶體,最大程度減少IP之間拷貝資料流轉的開銷,既可提升效能又能降低功耗。

從平臺架構來看,HMS Core HiAI Foundation銜接智慧業務和底層硬體能力,上層支援MNN、TNN、華為MindSpore Lite、Paddle Lite、KwaiNN等合作伙伴的框架對接,利用推理加速平臺(Foundation DDK)和異構計算平臺(Foundation HCL)將AI任務調入NPU/CPU/GPU/DSP等IP中進行計算,賦能手機、平板、智慧屏、車機、手錶等終端裝置,將更多好玩酷炫的AI應用帶到消費者面前。

日呼叫量超600億次,HMS Core HiAI Foundation助力AI應用高效開發


HiAI Foundation 開放架構

日呼叫量突破600億,引領端側AI行業標準構築

如今,AI技術在端側的應用越來越廣泛,語音識別、影像識別、影像分割、影像超分、人臉識別、文字識別等已經成為全民通用的技術,消費者期待更好玩的AI應用出現,希望獲得更優質的AI應用體驗。HiAI Foundation為AI應用開發提供了基礎保障,讓開發者能夠突破效能瓶頸,提高開發效率,節省計算資源,更好地投入到AI玩法的研究與落地中,滿足消費者對智慧生活的美好期待。

據統計, HiAI Foundation自2018年開放以來,以高效能、低功耗、高易用性收穫越來越多的開發者青睞,短短几年間日呼叫量從100萬+增長到600億+(資料來自參與體驗改進計劃的使用者)。愛奇藝、美顏相機、抖音、剪映、快手、優酷等頭部應用已先後接入HiAI Foundation,利用端側AI強大的計算能力,為使用者打造智慧新體驗。

日呼叫量超600億次,HMS Core HiAI Foundation助力AI應用高效開發
HiAI Foundation日呼叫量突破600億+

為了助力端側AI行業繁榮發展,HiAI Foundation在優化平臺效能的同時,已加入AI標準化組織AITISA(人工智慧產業技術創新戰略聯盟),並參與端側AI標準草案撰寫,共同構築AI行業標準,目前該草案已進入標準定稿稽核階段。

更多HiAI Foundation相關資訊,請關注5月24日HUAWEI Developer Day(簡稱HDD)-HiAI Foundation主題演講,你也可以登入華為開發者聯盟官網>HMS Core>HiAI Foundation檢視。

瞭解更多詳情>>

訪問華為開發者聯盟官網
獲取開發指導文件
華為移動服務開源倉庫地址:GitHubGitee

關注我們,第一時間瞭解 HMS Core 最新技術資訊~