給記憶體加上AI？三星是這樣做的

（全球TMT2021年8月24日訊）近期，三星在Hot Chips 33會議上展示了其在記憶體內處理（PIM）技術方面的最新進展。Hot Chips 33會議作為半導體行業的重要會議，每年都會有備受矚目的微處理器和IC創新產品亮相。

三星半導體 HBM-PIM  

三星釋出的資訊包括，三星首次成功將基於PIM的高頻寬儲存器（HBM-PIM）整合到商用化加速器系統中，並擴大PIM應用範圍至DRAM模組和移動記憶體，從而加速實現記憶體和邏輯的融合。

三星首次將 HBM-PIM整合到AI加速器中

今年2月，三星推出了其首個HBM-PIM（Aquabolt-XL），將AI處理能力整合到三星HBM2 Aquabolt中，以增強超級計算機和AI應用的高速資料處理能力。隨後，HBM-PIM在賽靈思（Xilinx）Virtex Ultrascale+（Alveo）AI加速器中進行了測試，它提升了近2.5倍的系統效能，並降低超過60%的能耗。

“HBM-PIM是三星首個在客戶AI加速器系統中進行了測試的AI定製記憶體解決方案，顯示出巨大的商業潛力。”三星電子DRAM產品和技術高階副總裁Nam Sung Kim表示，“隨著技術標準化發展，該技術應用將會進一步擴大，擴充套件至用於下一代超級計算機和AI應用的HBM3，甚至用於裝置上AI的移動儲存器，以及用於資料中心的儲存器模組。”

“賽靈思一直與三星電子合作，從Virtex UltraScale+ HBM系列開始，為資料中心、網路和實時訊號處理應用提供高效能解決方案。近期，雙方又推出了令人振奮的Versal HBM系列產品。”賽靈思產品規劃部高階總監Arun Varadarajan Rajagopal表示，“很高興能與三星繼續開展合作，我們幫助評估HBM-PIM系統在AI應用中實現重大效能，及能效提升的潛力。”

由 PIM驅動的DRAM模組

加速DIMM（AXDIMM）能在DRAM模組內進行“處理”，儘可能減少CPU和DRAM之間的大量資料交換，以提升AI加速器系統的能源效率。由於緩衝晶片內嵌有AI引擎，AXDIMM可對多個記憶體排列（DRAM晶片組）並行處理，而非每次僅訪問一組，從而大大提升了系統效能和效率。由於AXDIMM模組能保留傳統DIMM的外形尺寸，因此它能在不修改系統的情況下直接替換。目前，AXDIMM正在客戶的伺服器上進行測試，能夠在基於AI的推薦應用中，提供大約2倍的效能，並使整個系統的能耗減少40%。

三星半導體 AXDIMM  

“思愛普（SAP）一直為SAP-HANA在記憶體內資料庫（IMDB）應用方面與三星開展合作。”思愛普HANA核心研究與創新主管Oliver Rebholz表示，“根據效能預測和潛在的整合方案，我們預計記憶體內資料庫管理（IMDBMS）的效能會有明顯改善，並透過AXDIMM上的分解計算，實現更高能效。思愛普希望繼續與三星在該領域進行合作。”

移動儲存器將 AI從資料中心帶到裝置上

三星LPDDR5-PIM移動儲存器，可在不連線資料中心的情況下，提供獨立的AI功能。模擬測試表明，LPDDR5-PIM在用於語音識別、翻譯和聊天機器人等應用時，可提升1倍以上的效能，同時減少60%以上的能耗。

激發生態系統活力

三星計劃透過與其他行業領導者合作，在2022年上半年實現PIM平臺標準化，從而擴充套件AI記憶體產品組合。三星還將繼續努力，培養一個高度健全的PIM生態系統，以確保整個記憶體市場的廣泛適用性。