依圖開放AI晶片視覺計算創新平臺,實現演算法晶片對接「即插即用」

機器之心發表於2019-11-01

五個月前,依圖的首顆雲端視覺 AI 晶片求索(QuestCore)落地,基於依圖全球領先 AI 演算法以提升視覺計算的智慧密度,是依圖在機器視覺定製化晶片綜合技術的有力檢驗。

但是,在推進演算法和晶片融合的過程中,依圖的工作人員意識到一個核心問題,軟硬體對接是 AI 晶片設計過程中的難題。

「做 AI 演算法的人往往不懂晶片,因此當演算法開發者想把演算法移植到晶片上時,通常需要晶片或硬體廠家的駐廠培訓;反之亦然,晶片廠家想針對某個新的演算法做最佳化也需要專門的對接」。依圖工作人員向機器之心表示。

過於冗長的對接和溝通橋樑,將導致開發導致週期較長,更可能耽誤產品上新的最佳時期。

為了解決 AI 演算法和晶片對接難的難題,依圖基於自身經驗,提出了建立視覺計算創新平臺的概念。這個平臺的初版在依圖的智慧晶片設計、計算機視覺單點技術研究,以及視覺智慧產品規劃等方面發揮了積極作用。

2019 年世界人工智慧大會期間,國家科技部正式宣佈將依託依圖科技打造「視覺計算國家新一代人工智慧開放創新平臺」(以下簡稱「視覺計算平臺」),助力中國晶片設計業和人工智慧的結合。

10 月 30 日,依圖正式啟動「AI 晶片視覺計算創新平臺開放計劃」,開放從底層計算硬體、演算法、資料庫、應用層等一整套行業應用架構。它最大的特點是「分層解耦、開放融合」,產業各方都可以根據需求模組化使用,快速落地行業應用。

從晶片到平臺,成為 AI 基礎設施提供商和 AI 解決方案提供商——依圖的產業定位更加清晰。

重在開放,巧用解耦

沒有計算就沒有智慧,但 AIoT 時代多元的應用場景意味著多元的算力需求,領域專用晶片(Domain Specific Architecture)變得至關重要,典型代表就是谷歌的 TPU。

這是依圖科技打造首顆雲端視覺推理 AI 晶片「求索」的原因,也是面向行業再邁進一步,開放視覺計算創新平臺的重要原因。

依圖開放AI晶片視覺計算創新平臺,實現演算法晶片對接「即插即用」 

在行業應用整體架構看,依圖的視覺計算平臺主要分為 5 層,從下至上分別是:視覺計算硬體層、解析計算層、檢視資訊層、大規模特徵索引層和業務應用層。

具體而言,在底層硬體層,依圖提供晶片、模組、伺服器(盒子)算力資源,如果開發者有自身的演算法,依圖還提供遷移工具到求索晶片,幫助演算法開發者加速演算法和晶片的對接過程。

在解析計算層,依圖提供人像解析、人體解析、車輛識別、X 光機、影片結構化等領先的視覺演算法。

在檢視資訊層,依圖提供以圖搜圖、級聯匯聚、資料儲存和管理,支援行業檢視庫標準與分散式級聯,解決超大規模結構化資料和突破讀寫問題,幫助商家快速開發部署。

大規模特徵索引層是實現從感知智慧到認知智慧的關鍵一層,目前可支援 10 萬路影片在 1 年內資料的秒級檢索,進行各種關係的關聯計算。它是行業大資料的視覺計算入口,開發者可以開發深度行業應用。

最上層是業務應用層,依圖在智慧城市有深度佈局,已經積累下 110 個成熟行業應用,開發者可以直接使用,也可以在此基礎上開發行業場景應用。

依圖科技 COO 張小平總結道,這一視覺計算平臺最大的特點在於「分層解耦、開放融合」

所謂「分層解耦」,就是將平臺演算法層與硬體層、資料層、應用層各層之間都實現解耦,每一層都能透過介面對外提供能力,這種可插拔式的分層架構,讓各方都能參與進來按需使用,大幅降低 AI 開發時間和門檻。

所謂「開放融合」,是指平臺的開放性、包容性,第三方演算法可以跑在依圖晶片上,依圖的演算法也支援合作伙伴的晶片。開放能夠實現算力、演算法、產品的有效對接,促進創新,避免規模化造成的壟斷。

在釋出儀式上,依圖還與夥伴共同釋出了四大核心倡議,包括共同建立視覺計算軟硬體協同開發標準,輸出「即插即用」的智慧模組開發套件,建立開源社群,以及聯合高校和研究機構促進工業界和學術界雙向互動。

縮短對接,加速創新

在 AIoT、智慧城市的大浪潮下,演算法廠商、晶片廠商、終端廠商都希望湧入這一龐大的市場,分一杯羹。

然而,在 AI 落地行業早期,僅僅是晶片與演算法、技術與產品的對接就非常耗時耗力,可能導致產品開發週期較長,甚至錯過產品最佳上市時期。

依圖科技業務技術副總裁許源稱,AI 晶片和演算法對接,往往至少需要 1-2 個月,非常耗時耗力。依圖希望透過視覺計算創新平臺,將對接的週期降到 1-2 周甚至「即插即用」,大幅減少對接成本。

中移線上是中國移動的子公司,也是依圖重要的合作伙伴。中移線上對外業務擴充中心副總經理高松介紹,2015 年在解決新入網使用者的身份認證時,開啟了與依圖在人臉識別領域的探索,此後一直保持緊密合作,也是依圖視覺計算平臺的合作伙伴。

高松稱,在人臉識別技術落地行業的過程中,最重要的問題是成本。大量的資料流向雲端,需要大量的計算力做處理,最早 1 路攝像機的市場價高達 1~2 萬,很難落地民用市場。而目前市場價已可以降到 5000 元以內。

這與依圖在內的演算法廠商與晶片廠商的努力有很大關係。以依圖求索晶片為例,經實測結果表明,一臺基於依圖求索的 AI 伺服器提供的算力與 8 張英偉達 P4 卡伺服器相當,而體積不到 50%,功耗更是僅為後者的 20%,將資料中心整體運維成本降低了 80%,呈現出 AI 專用晶片在效能、功耗與成本上的優勢。

他繼續談道,中國移動有非常多的業務,除了大家熟知的的 C 端業務、政企服務外,中國移動也在建設自身的平臺。中移線上可以直接使用依圖的演算法,也可以靈活的整合其他家的演算法,這也表現出依圖平臺的開放性。

依圖科技業務技術副總裁許源也表示,依圖不會把技術封閉起來,未來會對一些元件進行開源,也會用各種方法開放技術加速 AI 創新。

相關文章