曾經很長一段時間裡，業界都在談論是否有必要設立AI基準測試。如今看來，隨著人工智慧對於算力的強烈渴求，如何發揮AI最大潛能、賦能數字化轉型正成為全行業最大挑戰，以 MLPerf™ 為代表的AI基準測試的價值則愈發凸顯，在推動AI軟硬體發展、AI系統落地等方面發揮著重要作用。

近日，在最新的2021 MLperf™ AI基準評測裡，英偉達、浪潮、英特爾、高通、阿里巴巴等17家業界頂尖廠商在42個賽道參與角逐，競爭極為激烈，最終結果卻呈現出一邊倒的情況： 浪潮獲得18項效能第一， 英偉達獲得10項效能第一，兩家廠商佔據了70%的冠軍榜單，浪潮更是創造了中國公司在 MLPerf™ 基準測試中最佳成績。

有人說，計算產業正在加速從計算躍遷智算，從此次MLperf™ AI基準評測中，我們不僅看到了人工智慧算力快速發展的一角，更讀懂了智算時代的未來。

MLPerf™測試為何愈發重要

毫無疑問，人工智慧進入到比拼算力的時代。專家直言，近年來人工智慧對於算力的強烈渴求正在加速形成新摩爾定律，即在資料爆炸性增長和模型日趨複雜的驅動下，人工智慧系統所需算力每3.43個月翻一倍。

例如，去年，OpenAI釋出的超大模型GPT-3以1750億個模型引數、45TB預訓練資料、最大96層數驚豔了世界。與上一代模型相比，GPT-3模型在各方面迎來了指數級的變化，對於算力的需求也呈現出指數級的增長。

與傳統伺服器成熟的SPC等測試體系相比，AI基準測試處於起步階段，卻在幫助AI開發者瞭解AI系統、開發AI系統產品、推動市場良性競爭和AI應用落地方面發揮著重要作用，這也是 MLPerf™ AI基準測試近年來受到廣受業界關注的核心原因。

MLPerf™ AI基準測試大有來頭，由圖靈獎得主David  Patterson聯合史丹佛、哈佛大學等頂尖學術機構發起成立，近年來已經有英特爾、英偉達、谷歌、亞馬遜、阿里巴巴、微軟、百度、浪潮等70多個知名企業和機構積極參與，成為全球權威性最大、影響力最廣的AI效能基準測試。

某種程度而言，MLPerf™在以可複製的、公平可靠的基準測量方法推動機器學習行業和研究的發展，促進AI系統之間的良性競爭與長遠發展。例如，最新MLPerf™ Inference V1.0基準，涵蓋了影像分類、目標檢測、醫療影像分割、自然語言處理、語音轉文字和推薦系統6類AI應用場景，分為資料中心和邊緣兩類處理場景，每類場景都包含固定任務(Closed)和開放最佳化(Open)兩類效能競賽，對於AI系統在行業中的落地極富參考價值。

可以說，以浪潮為代表的中國廠商在此次MLPerf™ AI基準測試取得的成績極富含金量，標誌著中國廠商在AI算力的創新探索和系統產品落地方面走在了業界最前沿。

厚積薄發，18項冠軍的背後

在本次MLPerf™ AI基準測試中，浪潮NF 5488A5伺服器和浪潮NE5260邊緣伺服器，分別斬獲資料中心場景11項冠軍和邊緣場景7項冠軍。

具體來看，在資料中心固定任務競賽中，一共有13家廠商提交了584項競賽成績，競爭極為激烈，浪潮NF5488A5在其中全部16條賽道中斬獲11項冠軍，在全部21項基準測試中，浪潮同樣以11項獲得第一。

值得關注的是，NF5488A5屬於再次衛冕“效能王”。作為業界率先實現500W 80GB A100GPU的液冷散熱AI伺服器，NF5488A5在系統拓撲上採用了超低延遲設計，並透過深度最佳化系統結構設計，實現在高溫、高負載環境中穩定執行，將2020年MLPerf™ DLRM的最高推理效能提升了23.4%，同比2019年MLPerf™ Resnet50的單機最高推理效能提升326%。

而在邊緣場景固定任務賽道中，一共有11家廠商提交326項競賽成績，競爭同樣異常激烈，浪潮NE5260首次亮相就一戰成名，斬獲7專案冠軍，在邊緣場景21項基準測試中，同樣獲得7項第一。

浪潮NE5260 採用專門針對邊緣計算出行家的設計，完美相容CPU和GPU、FPGA等多種異構加速器，在追求邊緣場景極致AI效能的同時，打破物理空間限制，最大限度提升邊緣計算場景的部署體驗。

此外，參與評測的NF5488 M6也收穫了同等配置跡象9項最好成績，居同類伺服器效能幫助。

事實上，浪潮此次在MLPerf™ AI基準測試取得如此出色的成績，並不是為了打榜成績而做的“一蹴而就”行為，背後是其對於AI算力趨勢洞察、戰略佈局、創新投入等長期積累的結果。

早在2016年AlphGo給世界一大彩蛋、AI計算方興未艾之際，浪潮就敏銳洞察到新型計算型別--智慧計算，認為隨著AI技術的迅猛發展，物理世界數字化、數字世界智慧化程式進一步加速，智慧計算也開始崛起。

為此，浪潮在2016年首次提出了“智慧計算”戰略，明確智慧計算的框架：以雲端計算為平臺、以大資料為認知方法，以深度學習為最佳化工具，三者相互促進、相互融合、共同發展，衍生出一種新的計算型別為智慧計算。

此後，浪潮圍繞“智慧計算”戰略，不僅陸續提出“計算力就是生產力”、“人工智慧是智慧計算的核心”、“智算中心”等先進理念，還在AI產品創新和生態建設上也不遺餘力，成為業界擁有最為廣泛和極富競爭力AI產品線的廠商，並且連續多年位列全球AI伺服器市場第一。

“冰凍三尺非一日之寒”。浪潮斬獲MLPerf™ 18項冠軍，看似是一次打榜的偶然，恰恰是浪潮智慧計算戰略長期執行的必然。

從MLPerf™讀懂智算的未來

從MLPerf™最新榜單很難不讓人想到剛剛結束的浪潮IPF 2021大會。

隨著智慧場景在各個行業遍地開花，從計算到智算的變革正在加速，計算產業迎來新的格局，多元算力融合將成為關鍵，算力供給基建化將成為社會創新的支撐。為此，浪潮集團首席科學家王恩東院士在本次IPF大會上直指三大艱鉅挑戰：計算場景複雜多元，訓練模型巨大與應用規模海量，產業鏈脫節與生態離散，需要在架構、產品、生態進行全面創新，來應對智算多元化、巨量化和生態挑戰。

此時的浪潮，已經不僅僅著眼於某些產品的創新，而是在積極構建雲腦生態，聯合技術開放組織、部件上游廠商、模型資料夥伴等左手合作伙伴，以及智慧應用夥伴、行業方案夥伴、平臺供應商等右手合作伙伴，共同推動智算產品、技術的落地與應用。

可以說，浪潮此次在MLPerf™霸榜，不僅是其長期致力於AI產品創新的成果，更是從計算到智算的產業躍遷中，新模式、新技術、新生態的結晶。

面對未來，隨著多元算力需求的不斷提升，計算產業真正進入到創新大週期，無論是體系結構還是產品形態，都將迎來百花齊放的時代，聯合生態力量來加速AI在行業場景中的落地將成為必然之路。也正因為如此，浪潮堅持多年的智慧計算戰略才顯得極富前瞻性和彌足珍貴。

相信在未來，在計算產業新模式、新生態的加持下，浪潮在AI算力上必定能不斷突破，再攀高峰。