英偉達最新AI超級算力Blackwell GPU平臺即將登陸亞馬遜雲科技

新闻助手發表於2024-03-19

今天凌晨,英偉達在 GTC 大會上推出了最新一代 GPU 架構 Blackwell 及整套系統。在 Keynote 上,黃仁勳表示,已有多家科技公司和傳統企業正在引入新一代產品。

英偉達最新AI超級算力Blackwell GPU平臺即將登陸亞馬遜雲科技

在釋出活動後,亞馬遜雲科技宣佈將提供基於英偉達 Grace Blackwell GPU 的 Amazon EC2 例項和 英偉達 DGX Cloud,以提高在數萬億引數 LLM 上構建和執行推理的效能。

亞馬遜雲科技表示,英偉達的超強算力晶片系統與亞馬遜雲科技強大的 Elastic Fabric Adapte (EFA) 網路連線能力、高階虛擬化 ( Amazon Nitro System ) 和超大規模叢集 ( Amazon EC2 UltraClusters ) 等領先技術的結合,使得該平臺在加速資源密集型、數萬億引數語言模型的推理工作負載方面實現了巨大飛躍。

在安全性方面,亞馬遜雲科技的 Nitro 系統、Amazon KMS、EFA 加密 和 Blackwell 加密的整合將為客戶提供對其訓練資料和模型權重的端到端控制,從而為客戶在亞馬遜雲科技上的生成式 AI 應用程式提供更強的安全性。

Blackwell 也加入了雙方合作的 Project Ceiba 專案,該專案專為 NVIDIA 自身的 AI 研發工作設計,是一臺亞馬遜雲科技上託管的採用 DGX Cloud 的 AI 超級計算機,它搭載了 20,736 顆 GB200 Superchips 晶片,並透過第四代 EFA 網路擴充套件,為每個 Superchip 提供高達 800 Gbps 的低延遲、高頻寬網路吞吐量,能夠提供 414 exaflops 的計算能力,與之前計劃在 Hopper 架構上構建 Ceiba 相比,效能提升了 6 倍。

相關文章