今天,第四正規化先知AIOS 5.1版本正式釋出。該版本新增GPU資源池化(vGPU)能力,實現對硬體叢集平臺化管理、算力資源的按需分配和快速排程,最多節省80%的硬體成本,提高GPU綜合利用率多達5-10倍。
第四正規化先知AIOS 5是行業大模型開發及管理平臺。平臺以提升企業核心競爭力為目標,在支援接入企業各類模態資料的基礎上,提供大模型訓練、精調等低門檻建模工具、科學家創新服務體系、北極星策略管理平臺、大模型納管平臺、主流算力適配最佳化等能力,實現端到端的行業大模型的構建、部署、管理服務。
在行業大模型的構建過程中,為進一步提高算力資源利用率,第四正規化先知AIOS 5.1版本新增GPU資源池化(vGPU)能力,擁有五大技術亮點:
- 全面適配國產/非國產算力,支援混合部署與統一排程
- 算力和視訊記憶體超分複用,算力切分精細到1%,視訊記憶體切分以M兆為單位
- 具備千卡級別分散式排程與管理能力
- 支援自定義隔離策略,實現共享或獨享算力池
- 利用多工共享及處理最佳化技術,推理效能提升10倍以上
瞭解產品詳情,可致電400-898-7788,或掃描下方二維碼。