賦能合作伙伴實現定製化、差異化，共同基於Arm平臺構建計算的未來

近日，Arm Tech Symposia 2023年度技術大會北京場成功舉辦。會議期間，筆者有幸採訪到Arm高階副總裁兼基礎設施事業部總經理Mohamed Awad，圍繞Arm在中國的發展戰略、基礎設施、生態系統等話題展開深入討論。

▲Arm高階副總裁兼基礎設施事業部總經理Mohamed Awad

對於Arm而言，中國是最大的市場之一，也是增長最快的市場之一。中國合作伙伴基於Arm架構的晶片出貨量迄今已累計超過300億顆。目前，在中國有近400家Arm的技術授權夥伴，這個數字還在不斷增長中。此外，Arm也一直透過與安謀科技合作，以進一步助力本土合作伙伴。

Mohamed Awad表示，“來自中國市場的創新也是Arm不斷髮展，並在業務上取得成功的原因之一。在中國，很重要的一點就是透過不斷努力來加速創新，而正是這樣的持續創新的精神，牽引著Arm和我們的生態夥伴一起取得了顯著成就，並向市場推出更多新的產品。”

值得關注的是，Arm已轉型為一家計算平臺公司。Arm全面計算解決方案 (Arm® Total Compute Solutions)、Arm Neoverse™ 平臺、Arm Corstone™ 、SOAFEE等解決方案為合作伙伴提供了開展後續工作的基礎，進而幫助他們加快產品上市程式，並實現差異化。

同時，Arm致力於IP授權業務，希望能為合作伙伴提供更高的靈活性，讓他們選擇最適合的方式進行產品開發——Arm既可以為合作伙伴提供一個完整的解決方案，幫助他們快速地將產品推向市場，合作伙伴也可以選用個別的Arm IP，自行進行配置，這一切都由他們自己按需選擇，這也是Arm獨特之處。

隨著大型語言模型(LLM)的加速發展，生成式 AI 正迅速成為人們日常生活中的一部分。當今的 LLM 模型在單位推理價格方面存在嚴重的效率低下問題。其主要問題在於資料中心內系統架構的記憶體佔用。在傳統架構中，與加速器緊密耦合的 HBM 記憶體無法滿足整個模型的容量需求。

在 AI 時代，需要換個角度來思考問題。以其中一種現代化的系統架構為例。在這種情況下，其中有一個定製的 CPU，它既利用了現代強大的軟體生態系統，又是直接連線到每個加速器，在加速器和 CPU 之間建立高效能連線，並在整個系統層面實現記憶體一致性。

▲NVIDIA GH200 Grace Hopper超級晶片

而這個架構正是NVIDIA GH200 Grace Hopper超級晶片所使用的架構。NVIDIA攜手Arm，正是因為希望藉助Arm技術帶來的靈活性，設計出他們所需要的晶片以進一步最佳化系統。在這樣的架構當中，72顆 Neoverse 核心，加上來自NVIDIA的GPU的組合，其AI效能較基於x86架構的系統可提升10倍。

為什麼超大規模雲服務商如亞馬遜雲服務(AWS)、阿里巴巴都要做自己的CPU 設計，而且都選擇和Arm進行合作?其實答案非常簡單，Mohamed Awad指出，“對於Arm來說，我們深信只有創新才能不斷推動技術的進步。透過和 Arm 合作，合作伙伴能夠根據自己的用例和基礎設施來打造並最佳化解決方案，達到創新。”

我們看到，阿里巴巴憑藉倚天710為阿里雲構建了效能出眾的解決方案。與傳統部署相比，這款搭載128核心的晶片能夠顯著提升效能效率。鴻鈞微電子、遇賢微電子與雲豹智慧正在帶領中國計算基礎設施領域初創企業的新一輪浪潮，分別致力於提供新一代伺服器CPU，以及雲端計算與資料中心的DPU設計。

除此之外，Arm還攜手聯想等合作伙伴，透過在國內設立的Arm 5G解決方案實驗室等舉措，加快基於Arm架構解決方案的部署。在近期的AWS re:Invent 大會上，AWS釋出其第四代基於Arm Neoverse平臺的處理器——Graviton4。與 Graviton3相比，Graviton4的處理速度提高了30%。

為了緩解未來基礎設施的壓力，行業需要依賴強大的軟體生態系統，在高效、可擴充套件的多核計算基礎上，打造專用處理的能力。Arm 為此推出了 Arm Neoverse 計運算元系統 (CSS)，在幫助合作伙伴加快上市速度的同時，降低開發定製晶片所需的總投資，並使整個生態系統更易獲得創新帶來的優勢。

在Mohamed Awad看來，“透過Neoverse CSS能夠幫助我們的合作伙伴進一步降低投資，加速整個生態系統對我們解決方案的可訪問性，同時加速合作伙伴產品的上市時間。我們也得到了很多來自於合作伙伴的反饋，其中一個合作伙伴反饋說，透過使用Neoverse CSS，節省了長達80人/年的工程師時間。”

人工智慧時代，最大的挑戰之一是記憶體頻寬，以及其能否為裝置提供更好的支援。Mohamed Awad指出，“我們需要不斷髮展系統架構，要有足夠的靈活性，並讓不同的想法蓬勃發展，進而找到實現AI的最佳途徑。Arm憑藉其兼具靈活性和設計的獨特模式，以及強大的生態系統，從而保持領先。”

未來，Arm將一如既往地協助合作伙伴，幫助他們增加產品差異化優勢，並將創意快速地推向市場。Arm 也將繼續支援和發展全球最大的開發者生態系統，讓全世界能夠分享創新成果。在AI時代，Arm將繼續發展並深化合作夥伴的領先優勢，共同基於Arm平臺構建計算的未來。