端側AI進化論:HUAWEI HiAI Foundation的奇妙旅程

naojiti發表於2021-12-21

從2017年開始,華為將端側AI算力的概念帶入了產業界。彼時,還有很多人討論端側AI計算是否有必要,是否具備前景等等問題。一轉眼四年過去了,端側的AI處理能力已經成為每家晶片廠商、移動終端廠商的必備能力,而AI算力也成為影片、遊戲、社交、旅行等主流品類開發者的必修課。

四年時間,證明了端側AI的必要性毋庸置疑,同時也展示了這一領域在平臺、技術、生態等方向的進化。為了讓開發者更好地呼叫端側AI算力、運算元,華為在跨入端側AI領域的同時也釋出了開發使能平臺HUAWEI HiAI Foundation。在消費者開始熟悉AI應用,開發者開始依賴AI技術的同時,HUAWEI HiAI Foundation也沒有停止過進化,不斷給開發者帶來一個又一個智慧驚喜。

在科技領域大家有一個共識:我們經常會高估一瞬間的變化,卻低估長時間的變化。理解一場技術變革不應該聚焦於一點,而應該俯視長段時間中連續、繼發的變化。藉助HUAWEI HiAI Foundation的發展之旅,我們可以看到AI開發需求與技術更新的真實情況,透視一場端側AI的進化論。

在跨入端側AI第五年的此刻,開發者與HUAWEI HiAI Foundation的奇妙旅程才剛剛開始。

端側AI已長成:開發需求的進化

幾年前,大部分開發者對AI能力還很陌生,對AI更多是探索與開闢。如今AI技術已經深入應用開發的方方面面,成為了一種不可或缺的能力。不斷積累開發經驗,達成開發共識之後,開發者對AI算力與技術賦能的需求也發生了眾多變化。開發需求的變化,導致開發平臺與技術供給的變化,一場端側AI進化論就此展開。

綜合來看,我們可以看到端側AI的開發需求出現了以下幾種顯著的升級。

1.產業關切點的變化:AI技術目前在應用開發中的指向愈發明確,重點行業逐漸凸顯。影片超分、遊戲高畫質化等領域成為關注重點,開發者在這些需要AI重度參與的領域需求與痛點也愈發明顯。

2.模型結構升級:伴隨著需求的升級,開發者對模型結構的最佳化升級需求不斷加強。如何最佳化模型結構,讓複雜強大的模型跑在端側成為了開發者共同關注的話題。

3.更新速度有要求:AI開發不斷髮生著變化,開發者對端側AI能力的升級更新速度也有了新的要求。端側能力更新原本比較緩慢的情況已經不適應開發者需求。

4.賦能方式多元化、生態化:開發者已經習慣了雲側、架構側的AI開發者社群化、生態化,但在端側開發者賦能與生態方案還有著明顯的不足。如何在端側接通更多元的開發賦能渠道,也是開發者的重要痛點。

如今,開發者需要藉助端側AI探索更廣闊的產業世界。HUAWEI HiAI Foundation也已經推動了端側AI產業完成了“三重進化”。

軟硬體全面成熟:平臺進化

端側AI的第一重進化,體現為平臺的發展與成熟。HUAWEI HiAI Foundation在賦能方案、產品形態、重點領域解決方案等層面,都表現出了成熟平臺應有的進化能力與生態活力。

從平臺基礎資訊上看,我們首先可以看到HUAWEI HiAI Foundation在運算元規模、賦能埠、以及呼叫規模上的成長與變化。量變累積質變,從平臺特性上,HUAWEI HiAI Foundation的核心也已經發生了深層次變化。

首先,從產品形態上看,HUAWEI HiAI Foundation與華為的全場景戰略同步進化,從支援手機擴充為全場景開發的AI賦能,更加滿足開發者的發展需求與多終端戰略。

從計算能力上看,HUAWEI HiAI Foundation最早是基於NPU的專項算力;在產業實踐與發展中,華為發現很多開發需求需要協同計算來實現最好的智慧化效果。如今HUAWEI HiAI Foundation可以支援NPU、GPU、CPU的協同計算、靈活部署,讓更復雜、具象化的AI開發需求可以得到有效賦能。

再有我們可以看到,HUAWEI HiAI Foundation在行業關注的特定領域有了更具針對性的賦能,並且取得了業界領先的成果。比如在超分等影片行業的關鍵賽道上實現並保持了業界最先進的賦能能力,構建了其他廠商難以超越的優勢,並基於具體行業的優勢,孵化了充沛的合作案例與賦能方案。在影像、影片、遊戲等領域上,HUAWEI HiAI Foundation構建了體驗更好、綜合成本更低的端側AI開發賦能優勢。

在全場景、計算協同與重點領域等多個賽道上,HUAWEI HiAI Foundation都構築了獨特的平臺優勢,而進一步來到與開發者緊密相關的技術空間中,HUAWEI HiAI Foundation更是成為了一支獨特的AI畫筆。

提供無可替代的AI創造力:技術進化

端側AI的第二重進化,體現為AI技術對開發者的價值加持。開發者可以將更多原本不可能完成或者很難完成的AI任務在HUAWEI HiAI Foundation中實現。HUAWEI HiAI Foundation也成為眾多開發者獨一無二的智慧選擇。

HUAWEI HiAI Foundation的技術賦能思路與其他平臺顯著不同的一點,在於對開發者業務對接需求的支援力度遠超其他晶片平臺。平臺主動為開發提供更多服務,並且儘可能多地獲取開發者需求和反饋,繼而對HUAWEI HiAI Foudation進行持續最佳化。

這種技術上達成的良性迴圈,透過頻繁的需求對接、案例合作,以及華為全棧技術優勢的綜合使用,HUAWEI HiAI Foundation構築了更貼近開發實踐與開發需求的技術賦能方案。

從幾個方向上看,HUAWEI HiAI Foundation做到了與開發者立場、需求、升級路線保持一致,讓AI技術真正流淌到開發者的畫布上。

從技術革新性上看,HUAWEI HiAI Foundation打破了很多端側AI的技術瓶頸,並且在實踐中獲得了成功。比如說超分這個重要領域中,開發者可以與HUAWEI HiAI Foundation合作獲得高強度、低成本的超分升級,為影片提供更優秀畫質。

HUAWEI HiAI Foundation可以有效幫助開發者降低寬頻的使用成本,以及雲端超分帶來的流量成本,從而在端側實現高質量,且不依賴網路與雲端算力的超分效果。這一能力釋出之後,在業界很快引起了震動。優酷、華為影片、虎牙、愛奇藝等影片應用紛紛與HUAWEI HiAI Foundation建立了超分合作。

在影片超分合作中,HUAWEI HiAI Foundation可以幫助影片類應用實現超分計算的最佳化擬合,支援影片平臺使用更大、更復雜的模型,從而提升了使用者的智慧體驗。相比較來說,大型平臺類開發者實現了降低成本,最佳化效果,避免了自研演算法的投入與試錯;中小型開發者則可以實現接入到業界強大的技術體驗中,實現體驗升級。

百度輸入法在與HUAWEI HiAI Foundation合作之後,端側AI呼叫相比CPU效能提升25%,計算資源獨佔、記憶體節省22%、功耗降低50%。快手在與HUAWEI HiAI Foundation的合作中,實現了影片特效AI功能在端側的快速部署,效能提升8倍,功耗降低50%,計算精度更優。美顏在與HUAWEI HiAI Foundation合作後,影像分割業務的效能提升30%,功耗降低50%。愛奇藝、優酷等影片平臺超分業務HUAWEI HiAI Foundation的加持下,超解析度效能最高可以提升 80%,功耗最高可降低 45%。

這些數字表明,技術上的創新性與領先性,讓HUAWEI HiAI Foundation成為了一支獨一無二的畫筆。當開發者想要繪畫AI的時候,不必有後顧之憂,也不用浪費大量開發成本。無縫接入HUAWEI HiAI Foundation就是最好的邂逅。

端雲協同與高度相容:生態進化

端側AI的第三重進化,體現為平臺相容性與協同性不斷增強,形成了具有極強包容力的生態環境。端側AI的社群化與生態化,正在由此開啟。

在平臺優勢不斷累積,技術進化保持高效之後,HUAWEI HiAI Foundation更加關注生態上的完整性與開放性。一方面,HUAWEI HiAI Foundation構築了與國內主要AI平臺、網際網路廠商之間有效的合作機制與合作關係,搭建了頭部玩家共同認可的AI賦能平臺。另一方面,HUAWEI HiAI Foundation開展了緊鑼密鼓的生態化、社群化建設,讓更多中小型開發者準確找到自己合適的生態賦能方案,低成本、高質量接入端側AI。

在頭部玩家的合作中我們可以看到HUAWEI HiAI Foundation的兩種代表性生態合作模式。在平臺合作相容上,HUAWEI HiAI Foundation與演算法框架BAT的演算法平臺進行了有效對接,讓開發者可以無感接入HUAWEI HiAI Foundation,從而實現了平臺生態的互惠共享。

從技術相容性上看,HUAWEI HiAI Foundation能夠支援300+通用運算元,並且相容國內外主流AI框架。整體相容方案已經相當成熟,無論開發者使用哪個平臺的框架,都可以無縫調取和使用HUAWEI HiAI Foundation的能力,獲得充沛的技術支援。對於擁有自身框架的廠商來說,他們可以在框架層對接HUAWEI HiAI Foundation的IR API,在麒麟平臺使能NPU加速;而沒有框架的開發者則可以直接使用離線DDK完成AI應用的開發,不需要花費相容成本。

另一方面,HUAWEI HiAI Foundation打破了原本端側技術演進相對較緩的特點,實現了端側技術與開發者需求協同演進。透過端雲協同方案創新,HUAWEI HiAI Foundation將快速演算法演進相關能力放在了雲端,開發者可以實時接入最新的能力而不用等待端側升級,從而滿足了端側AI快速進化的需求。

端雲協同的升級模式,有效提升了HUAWEI HiAI Foundation與開發者之間的溝通、賦能效率,讓端側AI的軟體最佳化實現了提升,滿足開發者快速升級、高效提升技術能力的主要訴求,也讓開發者的AI能力可以更廣泛適配老機型,擴充了開發市場,提升了使用者體驗。

在社群化建設中,HUAWEI HiAI Foundation上線了Model Zoo。這一平臺的目標透過社群化形態,幫助開發者解決端側模型最佳化設計的痛點。從模型最佳化功能出發,Model Zoo未來還將實現模型打分、社群互助等功能,最終希望構建端側AI的獨特生態。

端側AI,突破奇點

不久之前,HUAWEI HiAI Foundation已經突破了日呼叫量超過600億次的產業“奇點”。這個數字意味著,海量智慧業務每天在HUAWEI HiAI Foundation的框架下執行,這一平臺已經覆蓋了大量開發者與開發需求。而這些產業需求也不斷回饋給HUAWEI HiAI Foundation團隊,成為平臺進一步升級進化的動力。

從未來趨勢上看,AI計算是消費終端開發的必然需求,也是開發者最看重的進化方向。而AI計算不出端,從根本上保護使用者隱私安全也是不變的大勢所趨。在HUAWEI HiAI Foundation的努力下,端側AI計算已經實現了開發成本不斷降低、產業優勢愈發明顯。

日呼叫600億次,可以說是上述所有HUAWEI HiAI Foundation推動的平臺進化、技術進化、生態進化的成果。

華為開始推動端側AI發展時,業界其實有不少的觀望與懷疑;到如今,端側AI已經成為了全球移動晶片與智慧終端產業的共識。其中,HUAWEI HiAI Foundation對“無人區”的探索,對產業的引領,對生態的建設可謂功不可沒。端側AI不斷進化,並且證明了持續進化的可能性,對於整個移動產業來說有著舉足輕重的意義。

對移動終端產業而言,有愈來愈多的廠商重視AI,重視自研技術,在同質化競爭中找到了一條獨立發展的新路。

對於晶片平臺而言,積極推動軟硬體協同創新,並且與應用開發緊密合作,成為了近幾年新的趨勢。其中HUAWEI HiAI Foundation的引領作用不容小覷。

對於開發者來說,AI不再僅僅是簡單的識別能力呼叫,而是變成了可以全面提升應用體驗,讓智慧無處不在的新埠。他們知道,更多可能性可以在AI、在硬體側,在HUAWEI HiAI Foundation找到答案。

如果說,從2017年開始HUAWEI HiAI Foundation的五年是“一五計劃”,從端側AI的從無到有;那麼五年到十年,“二五計劃”或許意味著端側AI由規模化效應走向強盛、繁榮與普惠。

一場奇妙的開發之旅尚未結束,端側AI的十年之約還在履行。

這部“端側AI進化論”已經有了邏輯清晰、目標明確的開頭,接下來的進化故事,不僅掌握在平臺本身,更在眾多開發者手中筆中。

來自 “ ITPUB部落格 ” ,連結:http://blog.itpub.net/31561483/viewspace-2848749/,如需轉載,請註明出處,否則將追究法律責任。

相關文章