科研人員提出可加速AI的計算與儲存器混合技術

人工智慧快報發表於2018-05-07

美國伊利諾伊大學香檳分校的電腦科學家提出了一種新架構,使計算和儲存能更緊密地結合在一起。這一想法並不是要完全取代處理器,而是將新功能新增到記憶體中,這樣就可以在不需要更多電力的情況下讓裝置變得更智慧。

如果約翰·馮·諾伊曼(John von Neumann)在今天設計計算機,他就不可能在處理器和記憶體之間建立一堵厚厚的牆。與馮·諾依曼同名的架構於1945年問世,它開啟了第一批儲存記憶體、可重複程式設計的計算機,而且一直是這個行業的支柱。

現在,是時候切換到一種更適合今天的資料密集型任務的設計了。20182月,在舊金山的國際固態電路會議(ISSCC)上,美國伊利諾伊大學香檳分校的電腦科學家Naresh Shanbhag和同事提出了一個新的架構,使計算和記憶體更緊密地結合在一起。這一想法並不是要完全取代處理器,而是將新功能新增到記憶體中,這樣就可以在不需要更多電力的情況下讓裝置變得更智慧。

這些科學家認為,採用此類設計可將人工智慧從雲端引入到消費電子產品中。用深度神經網路構建的人工智慧通常通過執行一些簡單的演算法來完成任務,而將影像資料從儲存記憶體移動到處理器所需的能量是執行計算的10100倍。這就是在馮·諾依曼架構上執行的大多數人工智慧的情況。因此,人工智慧需要大量能源,神經網路被困在資料中心,而計算成了自動駕駛汽車等新技術的主要能耗需求。

史丹佛大學的一位電子工程師稱,世界正逐漸意識到它需要擺脫這種混亂,計算必須接近記憶體。問題是,接近到什麼程度?史丹佛大學的科研團隊使用了一種不同尋常的架構和新材料,將碳奈米管積體電路置於電阻式儲存器的頂部,這比在單獨的晶片上建立更近。在ISSCC的演示中,他們的系統可以有效地對句子進行語言分類。

Shanbhag的團隊和ISSCC的其他人堅持採用現有材料,並使用模擬控制電路以新的方式包圍記憶細胞陣列。他們沒有向處理器傳送資料,而是對這些類比電路進行程式設計,來執行簡單的人工智慧演算法。他們稱這種設計為“深度記憶體架構”。

Shanbhag不希望通過處理電路來分解記憶體子陣列,因為這會降低儲存密度。他認為在子陣列邊緣進行處理的深度足以獲得能量和速度優勢,而不會丟失儲存資料。Shanbhag的團隊發現,當使用類比電路檢測儲存在靜態儲存器中的影像中的人臉時,能源效率提高了10倍,速度提高了5倍。

史丹佛大學的電子工程師稱,目前還不清楚記憶體計算能否為推翻現有架構提供足夠大的好處。他認為記憶體計算的能量和速度必須提高1000倍才能說服半導體公司、電路設計者和程式設計師做出巨大的改變。

臺灣國立清華大學的電氣工程師張夢凡表示,一些初創公司正在開發一種類似的技術來構建專用的人工智慧電路,並有機會進入較小的市場。

640?wx_fmt=jpeg


相關文章