科研人員提出可加速AI的計算與儲存器混合技術
美國伊利諾伊大學香檳分校的電腦科學家提出了一種新架構,使計算和儲存能更緊密地結合在一起。這一想法並不是要完全取代處理器,而是將新功能新增到記憶體中,這樣就可以在不需要更多電力的情況下讓裝置變得更智慧。
如果約翰·馮·諾伊曼(John von Neumann)在今天設計計算機,他就不可能在處理器和記憶體之間建立一堵厚厚的牆。與馮·諾依曼同名的架構於1945年問世,它開啟了第一批儲存記憶體、可重複程式設計的計算機,而且一直是這個行業的支柱。
現在,是時候切換到一種更適合今天的資料密集型任務的設計了。2018年2月,在舊金山的國際固態電路會議(ISSCC)上,美國伊利諾伊大學香檳分校的電腦科學家Naresh Shanbhag和同事提出了一個新的架構,使計算和記憶體更緊密地結合在一起。這一想法並不是要完全取代處理器,而是將新功能新增到記憶體中,這樣就可以在不需要更多電力的情況下讓裝置變得更智慧。
這些科學家認為,採用此類設計可將人工智慧從雲端引入到消費電子產品中。用深度神經網路構建的人工智慧通常通過執行一些簡單的演算法來完成任務,而將影像資料從儲存記憶體移動到處理器所需的能量是執行計算的10到100倍。這就是在馮·諾依曼架構上執行的大多數人工智慧的情況。因此,人工智慧需要大量能源,神經網路被困在資料中心,而計算成了自動駕駛汽車等新技術的主要能耗需求。
史丹佛大學的一位電子工程師稱,世界正逐漸意識到它需要擺脫這種混亂,計算必須接近記憶體。問題是,接近到什麼程度?史丹佛大學的科研團隊使用了一種不同尋常的架構和新材料,將碳奈米管積體電路置於電阻式儲存器的頂部,這比在單獨的晶片上建立更近。在ISSCC的演示中,他們的系統可以有效地對句子進行語言分類。
Shanbhag的團隊和ISSCC的其他人堅持採用現有材料,並使用模擬控制電路以新的方式包圍記憶細胞陣列。他們沒有向處理器傳送資料,而是對這些類比電路進行程式設計,來執行簡單的人工智慧演算法。他們稱這種設計為“深度記憶體架構”。
Shanbhag不希望通過處理電路來分解記憶體子陣列,因為這會降低儲存密度。他認為在子陣列邊緣進行處理的深度足以獲得能量和速度優勢,而不會丟失儲存資料。Shanbhag的團隊發現,當使用類比電路檢測儲存在靜態儲存器中的影像中的人臉時,能源效率提高了10倍,速度提高了5倍。
史丹佛大學的電子工程師稱,目前還不清楚記憶體計算能否為推翻現有架構提供足夠大的好處。他認為記憶體計算的能量和速度必須提高1000倍才能說服半導體公司、電路設計者和程式設計師做出巨大的改變。
臺灣國立清華大學的電氣工程師張夢凡表示,一些初創公司正在開發一種類似的技術來構建專用的人工智慧電路,並有機會進入較小的市場。
相關文章
- 可計算儲存技術全面升級CSD 3000儲存體驗
- 雲端計算儲存技術
- 浪潮儲存基於智慧運維技術,加速儲存自治運維
- 貝殼找房: 為 AI 平臺打造混合多雲的儲存加速底座AI
- 雲端計算導論 # 3 雲端儲存技術:概念、結構模型、關鍵技術、分散式資料儲存、常見儲存結構、應用與問題模型分散式
- 計算機儲存器的容量計算和地址轉換計算機
- IEEE為計算、儲存、控制和網路技術制定了霧計算標準
- 前端儲存技術前端
- 計算機的硬體系統儲存器計算機
- 計算機儲存器的分類及其特性計算機
- 簡單混合運算的計算器
- 非計算機專業人員如何學習好Python技術?計算機Python
- openGauss儲存技術(一)——行儲存引擎儲存引擎
- 雲端儲存的技術原理
- 【IDL】 IDL與C#混合程式設計技術C#程式設計
- Fujitsu鐵電儲存器(FRAM)技術優點
- 如何看待無伺服器計算與容器技術?伺服器
- Android的3種資料儲存技術(一)File儲存Android
- 計算機儲存器容量和定址能力的關係計算機
- Oracle 裁員史:技術人死於重組,卒於雲端計算Oracle
- 不同體系分散式儲存技術的技術特性分散式
- IT技術人員 35歲
- IT技術人員的自我修養
- 計算機架構頂會ISCA 2018唯一中國論文:清華大學提出AI計算晶片的儲存優化新方法計算機架構AI晶片優化
- 個人機器人教學與科研反思與計劃(迴歸和堅守)機器人
- 容器化RDS—— 計算儲存分離 or 本地儲存
- 非易失性儲存器MRAM技術介紹
- 大資料開發的儲存技術探索與實踐大資料
- 2020 儲存技術熱點與趨勢總結
- 大話儲存——磁碟原理與技術筆記(一)筆記
- 領存技術—為工業提供計算、儲存、加密以及資料安全等系統服務加密
- 資料倉儲新技術:整合裝置與雲端計算MU
- 計算機補碼儲存計算機
- 前端技術人員的發展之路前端
- 浪潮儲存提出雲存智用、運籌新資料的新儲存之道
- vivo AI 計算平臺的 ACK 混合雲實踐AI
- 前端儲存技術Cookie,Storage,IndexedDB前端CookieIndex
- MongoDB技術分享:WiredTiger儲存引擎MongoDB儲存引擎