AI 伺服器出貨量的強勁增長推動了對高頻寬記憶體(HBM)的需求。 2022 年 HBM 前三大供應商分別是 SK 海力士、三星和美光,市場份額分別為 50%、40% 和 10%。此外,專為深度學習設計的高階AI GPU的規格也導致了HBM產品迭代。為準備2023下半年推出NVIDIA H100和AMD MI300,三大供應商都在計劃量產HBM3產品。 目前,SK 海力士是唯一量產 HBM3的供應商。隨著更多客戶採用 HBM3,其市場份額預計將增長至 53%。 三星和美光預計將在今年年底或 2024 年初的某個時候開始量產,市場份額分別為 38% 和 9%。

2023年AI伺服器出貨量預計增長15.4%

NVIDIA的DM/ML AI伺服器平均配備4塊或8塊高階顯示卡和2顆主流x86伺服器CPU。 這些伺服器主要由美國頂級雲服務提供商使用。分析顯示,2022年高階GPGPU伺服器出貨量有望增長9%左右,其中約80%集中在中美8大雲服務商。 展望2023年,微軟、Meta、百度、位元組跳動將陸續推出生成式AI產品和服務,進一步拉動AI伺服器出貨量。 預計今年人工智慧伺服器出貨量將增長15.4%,預計2023年至2027年人工智慧伺服器出貨量複合年增長率為12.2%。

AI 伺服器刺激對DRAM、SSD 和 HBM 的需求同步增長

TrendForce 指出,AI 伺服器的興起很可能會增加對記憶體使用的需求。 雖然一般伺服器有 500-600 GB 的伺服器 DRAM,但 AI 伺服器需要更多,平均 1.2-1.7 TB,每個模組 64-128 GB。 對於企業級SSD,由於AI伺服器的高速需求,優先考慮DRAM或HBM,但SSD容量擴容的推動力尚未明顯。 不過在介面方面,PCIe 5.0在解決高速運算需求上更受青睞。 此外,AI 伺服器傾向於使用 GPGPU,而 NVIDIA A100 80 GB 配置為4個或8個時,HBM 使用量約為 320–640 GB。 隨著 AI 模型變得越來越複雜,對伺服器 DRAM、SSD 和 HBM 的需求將同步增長。