Sophon Base 3.1 推出MLOps功能，為企業AI能力運營插上翅膀

在國內政策引導、企業產業智慧升級的原生需求和疫情等多重因素作用下，中國的人工智慧產業化應用在過去的5年間呈現出無可比擬的增長速度。然而隨著人工智慧和機器學習在企業各個業務層面的應用日漸深化，模型型別和數量也都呈快速增長態勢。由於不同模型之間的訓練框架、部署模式、輸入輸出都不相同，導致異構模型難以被統一管理。同時，各部門間缺少統一的模型從開發到上線的標準化流程規範，導致模型資產散落在各個業務部門，難以被統一納管為企業資料資產。不斷增加的模型管理成本和運維複雜度，以及生產環境的不可控風險，給企業模型管理帶來了一系列挑戰。

為解決AI落地難的問題，星環科技的AI團隊從使用者需求端出發，傾力研發了一款基於雲原生架構的企業級AI能力運營平臺Sophon MLOps，助推AI模型落地。 Sophon MLOps 是基於雲原生架構構建的企業級AI能力運營平臺，聚焦於機器學習模型全生命週期中的模型管理、模型部署、模型監控預警、模型評估和模型迭代等關鍵環節。通過統一納管、統一運維、統一應用、統一監控、統一評估、統一解釋，賦予企業客戶易用、高效且安全可靠的AI能力運營服務，協助客戶規模化管理日益增長的機器學習模型，提升模型使用效率，降低模型整合管理成本，控制模型生產環境風險。

Sophon MLOps針對企業AI運營的痛點，圍繞企業AI模型接入、運營管理、持續訓練的全生命週期，分別提供規模化整合管理、高效模型推理、模型監控預警、模型效能評估、隱私安全保障等功能，為企業的AI日常運營插上翅膀。

此次更新，MLOps升級至v1.1版本，在已有功能上新增功能如下：

• 新增模型服務 批量預測功能：完善了應用場景，功能覆蓋範圍從原有的僅支援線上實時預測，升級為同時支援線上與離線兩種模式。離線批量預測功能支援通過直接連線資料庫，獲取批量資料進行模型預測，並將結果寫回相應庫表內，實現閉環；
• 新增模型服務 資料偏移指標監控功能：強化了模型服務在監控預警方面的能力，致力於幫助使用者更全面掌握機器學習模型服務的執行狀態，並通過自定義監控指標及時發現處理異常情況，規避因資料偏移等原因引起的風險；
• 新增模型服務監控指標配置及 告警功能；
• 新增服務釋出 審批流程管理；
• 新增 可解釋機器學習XAI模組(MVP版)：可處理資料分析過程中的相關性解釋、過程性解釋、推理性解釋和因果性解釋問題。使用者可以精細地分析特徵與結果之間的影響關係，幫助使用者精準地提升DataCentric-AI資料治理能力，針對性優化模型精度，幫助使用者快速定位、優化影響業務結果的重要因子，從而促使業務成功。

在金融科技行業，隨著監管政策的不斷收緊，銀保監會於2020年7月正式出 臺了《商業銀行網際網路貸款管理行辦法》，要求商業銀行落實模型從開發測試、評審、監測到退出的全生命週期的風險管理 。一方面為滿足監管合規要求，另一方面提升行內風險模型的管理效率，銀行要求對模型全生命週期進行統一管理。此外，隨著行內業務的持續發展，大量異構AI模型資產散落在各部門，一旦需要使用，調參和部門間協調均使得模型部署週期拉長。

Sophon Base 3.1使用MLOps搭建了全行統一的AI模型管理平臺，快速接入行內積累的不同框架或平臺訓練生成的大量模型檔案，按版本整合管理模型資產；並建立標準化流程，統一構建模型推理邏輯的方式，支援零程式碼一鍵部署模型應用。基於雲原生基礎架構，打通模型全生命週期流程，實現了銀行對模型應用的統一運維和監控。

平臺上線後，Sophon Base整合了全行多種演算法框架生成的數百個機器學習模型。部署模型應用的平均時間由1.5天降至0.5小時，配置成本降低近80%，使模型的平均迭代週期由1月降至1周。模型效率方面，支援上百個模型預測服務同時線上，單條資料實現毫秒級響應。

Sophon MLOps打通了AI的全生命週期，為企業的各類使用者角色搭建了統一的AI協作平臺。對於企業而言，MLOps規模化整合管理了多源異構的機器學習模型，並提供高效且保障隱私安全的模型推理、監控預警及效能評估服務；對使用者而言，能感受到操作上的快捷，AI應用與部署更是如虎添翼。未來，MLOps將繼續迭代更加豐富的功能，賦能企業AI更快、更好地落地。