華為雲在香港為大模型訓練推理提供即開即用澎湃算力

新闻助手發表於2024-04-23

4 月 23 日,華為雲香港峰會成功舉辦,華為雲宣佈在香港提供即開即用的 AI 雲服務,為大模型訓練和推理提供高效、長穩、可靠的 AI 算力。

華為雲表示,其基礎設施將透過全鏈路雲化工具鏈支援大模型高效遷移、開發和高效執行,並提供針對昇騰雲進行特別最佳化的大模型專區,使能 “百模千態” 應用快速落地。

華為雲在香港為大模型訓練推理提供即開即用澎湃算力華為雲全球 Marketing 與銷售服務總裁石冀琳在活動中。

華為雲全球 Marketing 與銷售服務總裁石冀琳表示:香港 AI 產業發展具備良好的基礎,擁有一流的高校資源和科研機構,以及開放的經濟體制和國際化的商業環境,吸引了全球頂尖人才和企業在這裡匯聚。華為雲積極支援香港建立一個完善的創新科技生態體系,將香港打造成為全球 AI 產業高地。為更好支援大模型的 “百模千態” 創新,華為雲在香港、內地多個城市打造全棧自主、軟硬體結合創新的 AI 雲算力底座,提供大規模、低成本、高效率、易使用的智慧算力。

華為雲於 2023 年正式釋出了昇騰 AI 雲服務,依託貴安、烏蘭察布、蕪湖 3 大 AI 雲算力中心和香港節點,為大模型訓練推理提供澎湃算力。華為昇騰 AI 雲服務支援高效長穩,提供更長穩的 AI 算力服務,可實現大叢集訓練 30 天不中斷,訓練作業故障可以做到 1 分鐘發現,5 分鐘診斷,10 分鐘恢復。

此前,科大訊飛透過華為提供昇騰叢集進行訊飛星火大模型訓練,訓練效能整體提升了 17%。在星火 3.0 釋出後,面臨新的推理資源不足的挑戰,訊飛採用華為雲昇騰 AI 雲服務,一方面快速開通數百卡的推理資源,另一方面可以根據業務上線情況隨時調整資源使用量,不會導致投資浪費。同時,華為雲全球算力佈局,也支援了科大訊飛業務出海,共同服務全球企業智慧化。

美圖自研 AI 視覺大模型 MiracleVision(奇想智慧),廣泛應用於電商、廣告、遊戲、動漫、影視五大行業,幫助細分領域設計場景提升了效率。在華為雲昇騰 AI 雲服務的助力下,將文生圖、圖生圖等場景使用到的模型遷移到了昇騰 AI 雲服務上,雙方共同進行了 30 多個運算元的最佳化以及流程的並行加速,遷移後,美圖 AI 繪畫等業務推理提升 30%,幫助企業更好地實現降本增效。

華為雲與軟體夥伴合合資訊構建聯合解決方案,基於昇騰雲服務在香港提供的 AI 算力及跨境可信網路與合規框架,承載智慧文件解晰、商業大資料及合規審計、風控管理等多個子功能,可為企業提供資質的驗真、分類、識別等 AI 輔助能力,加快基金申請審批速度,最佳化端到端流程服務,大幅降低相關人力投入。

據瞭解,在雲上,華為雲也提供盤古大模型 100 + 能力集、70 + 基於昇騰雲適配最佳化後的開源大模型,以及全流程模型開發、調優工具鏈,為本地企業提供全棧算力服務,透過堅實的雲化算力底座使能 “百模千態” 應用快速落地。

相關文章