今日,雲天勵飛釋出公告,公司與德元方惠簽署《AI算力運營合作框架協議》。德元方恵將向雲天勵飛購買AI訓練及推理異構算力服務,總算力規模約4000PFLOPS,該協議預計在未來三年服務期內為雲天勵飛貢獻約16億的營收。
奠定未來的業績基礎
作為國內領先的人工智慧公司,雲天勵飛一直積極建設算力基座,並且對外提供算力運營服務。今年3月,雲天勵飛在釋出會上公佈了“1+3”業務佈局,即基於1個演算法晶片化平臺,打造三大方向業務—AI方案、AI運營、AI產品。本次與德元方惠簽署戰略合作協議,是公司AI運營業務的一大突破,並在未來3年為公司帶來16億營收,奠定未來的業績增長基礎。
將大模型研發經驗注入算力運營服務
去年,雲天勵飛正式推出自研千億級大模型“雲天天書”。“雲天天書”系列模型架構包含通用大模型、行業大模型、場景大模型三個層級。雲天勵飛基於演算法晶片化平臺,並透過海量高質量資料預訓練生產通用大模型;在通用大模型基礎上,引入高質量行業資料,生產行業大模型;再在行業大模型基礎上,透過細分場景資料微調研發場景大模型。“雲天天書”在C-Eval、CMMLU等權威測試中多次獲得第一,並正式透過中央網信辦備案。
在大模型研發過程中,公司積累了一系列異構算力組合、算力調優、提升模型訓練效率的技術平臺和相應工具,包括智慧算力叢集管理平臺、AI大模型開發服務平臺等,可提供資料管理、資料標註、模型釋出、模型測評等功能模組。雲天勵飛將上述技術沉澱在AI算力服務中,可幫助客戶提升模型訓練及算力利用效率,幫助更多企業以更低成本訓練大模型。
為自研晶片擴充廣闊新天地
今年以來,大模型全面進入應用落地階段,推理算力需求隨之不斷增長。根據IDC資料,預計到2026年中國資料中心用於推理的負載將達到62.2%。
雲天勵飛亦持續看好大模型進入成熟商業化階段後推理需求,並在推理算力領域進行戰略部署。
去年底,公司自研的神經網路處理器NNP400T的DeepEdge 10 正式釋出,可廣泛應用於AIoT邊緣影片、移動機器人等場景,目前已在智慧交通、清潔機器人等領域進行應用。此外,依託創新的D2D chiplet架構打造的推理卡已適配SAM CV大模型、Llama2、通義千問等國內外開源大模型,可承載大模型應用落地的大規模推理計算。
推理算力需求將隨著模型使用時間和使用者量的增長而快速增加,因此在大模型進入成熟商業化階段之後將迎來需求爆發。公司所搭建超大規模異構高效能算力叢集將其自研推理卡與高效能訓練算力相結合,為客戶提供高效的訓推一體算力服務,同時為自研推理卡落地開啟場景觸角,搭建生態,為大模型進入成熟商業化階段後的推理需求爆發提前佈局。
此外,公司也持續投入自研大模型研發及最佳化工作,預計將維持較高對AI訓練及推理異構算力的需求,此次《合作框架協議》項下涉及對於高效能異構算力的採購未來亦可視需要作為公司大模型研發工作所需算力基礎的補充,支撐公司大模型技術的持續進步。
未來,雲天勵飛亦可在超大規模異構高效能算力叢集中,將自研推理卡與高效能訓練算力相結合,為自研推理卡落地開啟場景觸角,搭建生態,為行業帶來更豐富的算力服務。