- Amazon EC2 C7g例項由新的Amazon Graviton3處理器支援,與Amazon Graviton2處理器支援的當前一代C6g例項相比,計算密集型工作負載效能提高多達25%
- Amazon EC2 Trn1例項由Amazon Trainium晶片支援,在Amazon EC2中為絕大多數機器學習模型訓練提供最佳價效比及最快的訓練速度
- Amazon EC2 Im4gn/Is4gen/I4i例項配備新的Amazon Nitro SSDs,可為I/O密集型工作負載提供最佳儲存效能
北京——2021年12月1日,在亞馬遜雲科技re:Invent全球大會上,亞馬遜雲科技宣佈推出三款由自研晶片支援的新Amazon Elastic Compute Cloud (Amazon EC2)例項,幫助客戶顯著提升在Amazon EC2上執行的工作負載的效能、成本和能源效率。新C7g 例項由Amazon Graviton3 處理器支援,與由 Amazon Graviton2 處理器支援的當前一代 C6g 例項相比,效能提高25%。由Amazon Trainium晶片支援的新Trn1例項為在Amazon EC2中訓練絕大多數機器學習模型提供最佳價效比,及最快的訓練速度。基於自研Amazon Nitro SSDs(固態驅動器)的新儲存優化型Im4gn/Is4gen/ I4i例項為在Amazon EC2上執行的I/O密集型工作負載提供最佳儲存效能。這些基於亞馬遜雲科技自研晶片的新Amazon EC2例項的釋出,將幫助客戶支援其關鍵業務應用程式。
亞馬遜雲科技Amazon EC2副總裁David Brown表示:“我們對自研晶片的持續投入升級,已經讓客戶在當今一些關鍵工作負載中獲得了巨大的價效比優勢。客戶希望我們在每一代新的EC2例項上不斷突破邊界。亞馬遜雲科技的持續創新讓客戶有機會使用這些全新的、改變遊戲規則的例項執行其重要的工作負載,獲得更好的價效比。”
C7g例項由新的Amazon Graviton3處理器支援,與由Amazon Graviton2處理器支援的當前一代C6g例項相比,效能提高多達25%
基於Amazon Graviton2的計算例項自2020年推出以來,被眾多客戶如DirecTV、Discovery、Epic Games、Formula 1、Honeycomb.io、Intuit、Lyft、MercardoLibre、NextRoll、Nielsen、SmugMug、Snap、Splunk和Sprinklr等在生產中使用並已經獲得顯著的效能提升和成本節省。基於Graviton2的系列例項共有12種,包括通用型、計算優化型、記憶體優化型、儲存優化型、突發效能型和加速計算型例項,讓客戶擁有云上至深至廣的計算選擇,併兼顧價效比和能效。隨著客戶在雲中開展更多計算密集型工作負載如高效能運算(HPC)、遊戲和機器學習推理,相應的計算、儲存、記憶體和網路需求也隨之增長,客戶需要尋求更佳的價效比和能效來執行這些工作負載。
由Amazon Graviton3處理器支援的C7g例項與由 Graviton2 處理器支援的當前一代 C6g 例項相比,可將計算密集型工作負載效能提高多達25%。Amazon Graviton3處理器與Graviton2相比,為科學計算、機器學習和媒體編碼工作負載提供高達2倍的浮點運算效能,為加密工作負載速度提升高達2倍,為機器學習工作負載提供高達3倍的效能。Amazon Graviton3處理器的能效也更高,在相同效能下,與同型別EC2例項對比,可節省高達60%的能源消耗。C7g例項是雲中第一個採用最新DDR5記憶體的例項,與基於Amazon Graviton2的例項相比,它提高了50%的記憶體頻寬,從而提高了科學計算等記憶體密集型應用的效能。與基於Amazon Graviton2的例項相比,C7g例項的網路頻寬也高出20%。C7g 例項支援 Elastic Fabric Adapter (EFA),允許應用程式直接與網路介面卡通訊,提供更低且更一致的延遲,提高需要大規模並行處理(如 HPC 和視訊編碼)的應用程式的效能。C7g例項現已提供預覽版。欲瞭解更多C7g例項的資訊,請訪問aws.amazon.com/ec2/instance-types/c7g。
由Amazon Trainium晶片支援的Trn1例項為在Amazon EC2中訓練絕大多數機器學習模型提供最佳價效比,及最快的訓練速度
越來越多客戶正在構建、訓練和部署機器學習模型,支援能夠重塑其業務和客戶體驗的應用程式。為了確保提高準確性,這些機器學習模型必須構建在越來越多的訓練資料上,導致其訓練成本越來越高。這可能會限制客戶能夠部署的機器學習模型數量。亞馬遜雲科技為機器學習提供至深至廣的計算服務選擇,包括採用NVIDIA A100 Tensor Core GPU的EC2 P4d例項和採用Habana Labs Gaudi 加速器的 EC2 DL1 例項。但是,即使擁有當今最快的加速例項,訓練持續變大的機器學習模型仍然是非常昂貴和耗時的。
由Amazon Trainium晶片支援的Trn1例項為在Amazon EC2中進行深度學習模型訓練提供最佳價效比以及最快的訓練速度,與P4d例項相比,通過Trn1例項訓練深度學習模型的成本降低多達40%。Trn1例項提供800Gbps EFA網路頻寬(比最新基於GPU的EC2例項高兩倍),並與Amazon FSx for Lustre高效能儲存整合,讓客戶可以啟動具有EC2 UltraClusters功能的Trn1例項。通過EC2 UltraClusters,開發人員可以將機器學習訓練擴充套件到一萬多個與 PB 級網路互連的 Trainium 加速器,讓客戶按需訪問超算級效能,即便是最大型和最複雜的模型,訓練時間也可以從幾個月縮短到幾天。Trn1例項現已提供預覽版。欲瞭解更多Trn1例項的資訊,請訪問aws.amazon.com/ec2/instance-types/trn1。
採用全新Amazon Nitro SSDs的Im4gn/Is4gen/ I4i例項可為I/O密集型工作負載提供最佳儲存效能
如今,客戶將I3/I3en儲存優化型例項用於需要直接訪問本地儲存資料集的應用程式,比如橫向擴充套件的事務型和關係型資料庫(如MySOL和PostgreSQL),NoSQL資料庫(如Cassandra、MongoDB、Redis等),大資料(如Hadoop)和資料分析工作負載(如Spark、Hive、Presto等)。I3/I3en例項以低成本提供非易失性記憶體標準(NVMe) SSD支援的例項儲存,針對低延遲、高 I/O 效能和吞吐量進行了優化。客戶喜歡I3/I3en例項提供的快速事務處理能力,但隨著其工作負載的不斷升級——在更大規模的資料集上處理更復雜的事務,他們需要在不增加成本的情況下獲得更高的計算效能和更快的資料訪問速度。
Im4gn/Is4gen/I4i例項旨在通過架構最大限度提高I/O密集型工作負載的儲存效能。通過自研的 Amazon Nitro SSDs ,Im4gn/Is4gen/I4i例項提供高達 30 TB 的 NVMe 儲存,與上一代I3例項相比,I/O 延遲降低了 60%,延遲可變性降低了 75%,從而最大限度地提高了應用程式效能。Amazon Nitro SSDs通過優化儲存堆疊、虛擬化管理程式和硬體與Amazon Nitro 系統緊密整合。與使用商用SSD相比,亞馬遜雲科技同時管理Amazon Nitro SSDs的硬體和韌體,使SSD更新交付速度更快,讓客戶可以從改進的功能中獲益。Im4gn 例項(現已可用)採用 Amazon Graviton2 處理器,與 I3 例項相比,價效比提高多達 40%,每 TB儲存成本降低多達 44%。Is4gen 例項(現已可用)也採用 Amazon Graviton2 處理器,與 I3en 例項相比,每 TB 儲存成本降低多達 15%,計算效能提高多達 48%。開始使用Im4gn/Is4gn例項,請訪問aws.amazon.com/ec2/instance-types/i4g。I4i例項(即將可用)採用英特爾第三代可擴充套件處理器(Ice Lake),與當前一代 I3 例項相比,計算效能提高多達 55%。欲瞭解更多Im4gn/Is4gen/ I4i例項的資訊,請訪問aws.amazon.com/ec2/instance-types/i4i。
SAP HANA是世界領先的記憶體資料庫,是SAP業務技術平臺的基礎。SAP HANA資料庫與分析總裁Irfan Khan表示:“過去十年中,SAP HANA幫助客戶管理他們最關鍵的事務和分析工作負載。亞馬遜雲科技在基於ARM的Amazon Graviton處理器的持續投入與創新,與亞馬遜雲科技的合作帶來諸多可能,為我們的企業客戶和SAP HANA雲支援的SAP雲分析和資料管理解決方案帶來了顯著的運營效率和效能提升。”
Twitter承載著當前正在發生和人們正在討論的事情。Twitter平臺主管Nick Tornow表示:“Twitter正在進行一個為期多年的專案,利用基於Amazon Graviton處理器的Amazon EC2例項來提供Twitter時間線。為進一步提高效率,我們測試了新的基於Amazon Graviton3處理器的C7g例項。在一系列可以代表Twitter工作負載效能的基準測試中,我們發現基於Amazon Graviton3處理器的C7g例項與基於Amazon Graviton2處理器的C6g例項相比,可將效能提高20%-80%,同時還將尾部延遲減少多達35%。我們非常高興並期待利用基於Amazon Graviton3處理器的例項獲得更好的價效比。”
一級方程式(F1)賽車始於1950年,是世界上最負盛名的賽車比賽,也是全球最受歡迎的年度體育賽事。“基於Amazon Graviton2處理器的C6g例項已經為我們的一些CFD(計算流體模擬力學)工作負載提供了最佳價效比。現在,我們發現在同樣的模擬中,基於Graviton3的 C7g例項比基於Graviton2的 C6g例項快40%。”一級方程式管理技術長Pat Symonds表示:“我們很高興EFA將在這種例項型別中標配。基於Graviton3的例項在價效比方面的優越表現,我們期待它成為執行所有CFD工作負載的最佳選擇。”
Epic Games創立於1991年,是Fortnite、Unreal、Gears of War、Shadow Complex和Infinity Blade系列遊戲的創造者。Epic的Unreal Engine技術為PC、主機、手機、AR、VR和Web帶來了高保真、互動式的體驗。Epic Games高階工程總監Mark Imbriaco表示:“當我們展望未來,為玩家構建更加引人入勝的沉浸式體驗時,我們很高興使用基於Amazon Gravtion3處理器的EC2例項。我們的測試表明,它們甚至適用於要求最嚴苛、延遲敏感度最高的工作負載,同時提供卓越的價效比,提升了《堡壘之夜》和任何基於虛擬引擎創造的遊戲體驗。”
Honeycomb開發了一個視覺化平臺,讓工程團隊可以視覺化、分析和改善雲應用程式的質量和效能。“我們很高興能夠基於Amazon Graviton3的預覽例項測試我們的高吞吐遙感攝取工作負載。” honeycomb.io首席開發者佈道師Liz Fong-Jones表示:“在處理相同工作負載的情況下,我們執行的C7g例項比C6g少30%,延遲降低了30%。我們期待在Amazon Graviton3的C7g例項正式可用後儘快投入到我們的生產環境中。”
Meta AI專注於將人們與其關心的事物聯絡起來,提供有意義且安全的體驗,推進機器學習並指導開放研究。Meta AI PyTorch工程高階總監Lin Qiao表示:“PyTorch開發人員不斷創新,以提高深度學習模型的準確性,並找到更好的方法解決問題。同時,這些模型的規模呈指數級增長,這讓訓練它們變得更加困難,成本更高。我們的PyTorch團隊一直在與Amazon Neuron團隊合作,為易用性和效能設定了一個高標準,確保在PyTorch中為Trainium等加速器提供原生支援。這其中包括研究集體計算原語,以及為擴充套件效能和分散式訓練設定適當的基礎。我們期待與亞馬遜雲科技合作,將Trainium與PyTorch原生產品(如eager mode和dynamic shapes)進行更多整合。”
Anthropic構建了可靠、可解釋和可操控的人工智慧系統,這些系統將有機會為商業和公共利益創造價值。Anthropic聯合創始人Tom Brown表示:“我們的研究興趣橫跨多個領域,包括自然語言、人工反饋、縮放定律、強化學習、程式碼生成和可解釋性。我們成功的一個關鍵是利用現代基礎設施,讓我們可以啟動超大高效能深度學習加速器的叢集。 我們期待使用Amazon Trainium晶片支援的Trn1例項,因為它們具有前所未有的能力,可以擴充套件到上萬個節點,還有更高的網路頻寬,這將讓我們可以在控制成本的同時更快地迭代。”
Splunk是領先的資料平臺提供商,旨在調查、監控、分析和處理任何規模的資料。Splunk雲平臺和基礎設施副總裁Brad Murphy表示:“我們執行基於C/C++的工作負載來索引和搜尋事件資料。我們的工作負載受CPU限制,並受益於高容量和低延遲的SSD儲存。在評估由Amazon Graviton2支援的新Im4gn/Is4gen例項時,我們觀察到,與當前使用的I3/I3en例項相比,搜尋執行時間減少了50%。Im4gn和Is4gen例項成為執行我們儲存密集型工作負載的絕佳選擇,價效比顯著提升且TCO更低。”
Sprinklr通過 30 多個數字化渠道幫助全球大型企業提升客戶滿意度——使用為企業構建的先進、複雜的人工智慧引擎來建立洞察力驅動的策略,創造更優秀的客戶體驗。“我們在由Amazon Graviton2處理器支援的Amazon EC2 Im4gn/Is4gen例項上對基於Java的搜尋工作負載進行了基準測試。與較大的I3en例項相比,較小的 Is4gen 例項就能提供相似的效能,這意味著有機會顯著降低TCO。” Sprinklr工程副總裁Abhay Bansal表示:“我們在將工作負載從I3例項遷移到Im4gn例項時,還發現查詢延遲顯著降低,多達50%,價效比提升40%。遷移到基於Amazon Graviton2的例項很容易,完成基準測試需要兩週時間。我們對已有的經驗感到非常滿意,並期待基於Im4gn和Is4gen例項在生產環境中執行這些工作負載。”
Redis Enterprise通過幫助軟體團隊為實時世界建立高效能資料層,為全球超過8000個組織提供關鍵任務應用程式和服務。Redis聯合創始人兼技術長Yiftach Shoolman表示:“我們非常高興看到,全新低延遲Amazon Nitro SSDs的Amazon EC2 I4i例項提供比上一代例項更快的交易速度。我們預計I4i例項更強的儲存效能和更快的網路和處理器速度將為我們那些基於I4i例項使用Redis-on-Flash的客戶帶來顯著改善,獲得更具吸引力的TCO。”
更多閱讀: