Sophon 3.2釋出,透過“六易三倉兩中心”實現新一代AI平民化

星環科技發表於2023-10-31

Sophon 3.2釋出,透過“六易三倉兩中心”實現新一代AI平民化

針對目前各行業使用者在落地廣泛業務需求分析、處理多重資料模態對接、跟進高度定製場景問題解決、運營多源多框架AI模型等方面的問題, 星環科技自主研發的一站式智慧分析工具平臺Sophon 在近日的向星力•未來資料技術峰會上 推出了3.2版本。

3.2版本的Sophon透過以資料和模型為中心,提供“六易三倉兩中心”的功能服務,讓使用者能夠基於自身需求構建緊密貼合其業務場景的新一代AI應用。

六易——實現新一代AI平民化

Sophon 3.2釋出,透過“六易三倉兩中心”實現新一代AI平民化

Sophon 3.2從資料接入獲取、模型構建訓練、模型運維管理、模型釋出迭代等AI應用全生命週期的相關流程出發,考慮使用者可能遇到的問題後,從樣本管理、場景開發、模型獲得、模型管理、效果迭代及系統運維六大方面降低使用者使用的門檻,實現新一代AI平民化。

Sophon 3.2釋出,透過“六易三倉兩中心”實現新一代AI平民化 Sophon智慧分析工具 v3.2架構圖

  • 樣本“易”管理: 提供樣本倉庫,實現對資料的精細化管理,輸出高質量多模訓練資料集。藉助自動化、智慧化的手段處理原始多模態資料,支援用於訓練和評估面向CV/OCR/NLP和大語言模型的資料標註和稽核;

  • 場景“易”開發: 提供Vlab、Discover、AutoCV多個模組,透過視覺化、程式設計式、流程式的建模服務,以及內建的開源建模框架、自研的Sophon ZenGraph圖計算框架、Sophon TS 時間序列計算庫及基礎機器學習演算法庫,讓建模場景易搭建;

  • 模型“易”獲得: 提供模型倉庫,支援將NLP、OCR、CV、基礎機器學習等多框架多源模型進行統一納管,並在模型上線前提供靜態評估,讓高效能的模型服務易被挖掘;

  • 模型“易”管理: 提供MLOps及XAI模組,支援將高效能模型進行統一視覺化部署、統一全方位監控、統一多維度評估;提供一鍵部署以及視覺化的服務推理搭建部署的模式,並從模型呼叫情況、模型使用資源情況、模型資料偏移情況等方面提供全方位監控,同時從模型預測效能、模型可解釋、模型輸入輸出偏移等方面提供多維度的評估,讓模型易管理,全面掌握模型服務執行狀態;

  • 效果“易”迭代: 提供MLOps模組,當模型產生缺陷,或已不符合模型設計目標時,支援透過視覺化頁面配置模型迭代的Pipeline流程,實現持續訓練(CT)、持續整合(CI)、持續部署(CD)的效果,以保證模型效能持續滿足服務要求;

  • 系統“易”運維: 支援無需侵入式程式碼改造的分散式機器學習計算框架Ray、基於GPU池化的GPU分組管理服務、基於Spark on K8s的資源統一排程等,讓GPU資源易用、分散式能力易用、系統運維易用。


三倉——實現多模態資料管理

Sophon 3.2釋出,透過“六易三倉兩中心”實現新一代AI平民化

Sophon 3.2基於“三倉一平臺”的框架,圍繞資料開發全流程,以資料流視角分別建設“樣本倉、模型倉和場景倉”,實現全流程、多模態資料的統一納管。樣本倉庫:新版本Sophon提供的樣本倉功能模組,可實現對資料的精細化管理,輸出高質量多模資料,驅動高質量模型的迭代。

樣本倉庫

Sophon 3.2釋出,透過“六易三倉兩中心”實現新一代AI平民化 Sophon樣本倉庫

樣本倉庫支援資料接入、智慧標籤和資料洞察。樣本倉庫支援文字、影片、影像、時間序列等多模態的資料統一接入和管理;智慧標籤方面,平臺預置2種前沿風格遷移演算法、20+多模態資料預處理演算法、10+標註型別以及20+靈活的資料增強方式,支援資料準備、生成、標註及擴增等一系列過程;在快速完成原始資料的實體、關係、文字型別、圖片裝置狀態、圖片異物狀況等要素提取的同時,並建立智慧化標籤及相關索引,便於精細化查詢對應樣本資料;此外,針對非機構化資料,結合預置分析模型,自動輸出分析報告,幫助使用者更清晰的洞察資料質量。

模型倉庫

新版本Sophon提供的模型倉庫功能模組,作為模型開發與模型應用的中間環節,統一納管多源模型,讓模型管理和應用人員能快速找到最適合業務場景的模型,實現組裝與評估輸出高質量模型服務。

Sophon 3.2釋出,透過“六易三倉兩中心”實現新一代AI平民化 Sophon模型倉庫

模型倉庫支援對模型的納管、組裝和評估。模型納管功能支援NLP、結構化二維表、影像、OCR等模型以映象或檔案的映象一鍵上架到模型倉庫進行統一納管;模型組裝功能支援使用者將兩個或以上的單任務模型,自由組合形成更貼近需求的多模態模型方案;模型評估功能支援使用者在模型部署上線前,在模型倉庫種進行冒煙測試,並生成模型測試評估報告,並橫向對比多份評估報告,保證輸出部署上線高質量的模型服務。

場景倉庫

內建場景涵蓋營銷、風控、KBQA、圖譜風險探查、影像檢索、內容安全檢測等廣泛需求,並提供覆蓋場景建模分析全流程的平臺和工具,讓使用者透過低程式碼方式快速構建貼合其業務應用的建模場景。

Sophon 3.2釋出,透過“六易三倉兩中心”實現新一代AI平民化 Sophon場景倉庫

場景模板內建基於模型和業務的積累,平臺預置了面向不同行業領域的應用模板,開箱即用。同時場景模板開放了業務規則的配置能力,實施人員可基於模板在大規模部署落地時,僅修改配置即可。此外,平臺提供拉拽的互動方式輔助使用者將模型和業務邏輯串聯,形成標準場景模板,業務流程支援不同模態的業務流組合分析,場景包可以在平臺進行積累,版本管理和遷移。

兩中心——實現資料及模型資產的價值挖掘

Sophon 3.2釋出,透過“六易三倉兩中心”實現新一代AI平民化

Sophon 3.2秉持以資料為中心和以模型為中心的理念,幫助使用者將零散的資料和模型進行有效管理,並透過資料資產管理及模型資產管理等手段,實現資料和模型資產的價值迸發。

企業可以透過確定某一使用場景,來倒推需要使用的模型或模型組,從而確定需要收集和訓練的資料種類及資料集。面向資料流通場景,星環科技也支援資料安全分類分級、聯合分析、資料授權、運營、交付、評估等流通環節的場景。透過資料環、模型環、場景環及流通環建設,企業可以有效降低模型、場景及應用的開發成本,並有效激發團隊協作潛能,充分釋放資料潛在價值,顯著提升應用創新能力。

Sophon 3.2釋出,透過“六易三倉兩中心”實現新一代AI平民化 Sophon 人工智慧應用建設方法論

為更好地激發AI模型資產價值,Sophon 3.2釋出的MLOps模型運營模組,提供大模型的開發/運維工具鏈,可幫助企業使用者快速開發構建領域大模型應用。同時,使用Sophon MLOps進行指令開發和模型微調、對齊,我們開發出了大資料分析大模型SoLar求索,讓業務人員在不需要學習和掌握資料庫程式語言的前提下自由地按需查詢資料。

Sophon 3.2釋出,透過“六易三倉兩中心”實現新一代AI平民化 LLM平臺階段性演進圖

Sophon 3.2釋出,透過“六易三倉兩中心”實現新一代AI平民化 大資料分析大模型SoLar求索的NLP2SQL功能

透過“11項全能”,幫助使用者快速構建智慧化AI應用

Sophon 3.2釋出,透過“六易三倉兩中心”實現新一代AI平民化

某製造業客戶透過Sophon的AI技術以及影片、影像、時序等多模態資料的聯合分析技術,對其生產的鋼管材進行缺陷檢測識別,支援夾渣、未焊透、未熔合、氣孔、裂紋5類基本缺陷型別的識別,並支援新增和識別隨著日常的生產不斷湧現的新缺陷。

Sophon 3.2釋出,透過“六易三倉兩中心”實現新一代AI平民化

Sophon 3.2釋出,透過“六易三倉兩中心”實現新一代AI平民化 工業質檢領域鋼材缺陷檢測流程及效果圖

某德國汽車品牌基於Sophon的多模態資料分析能力,盤活了監管機構、來源網站、法規條款(PDF等)等多模態的存量資料,並且透過文字分析、詞法分析、糾錯和統一轉換等文字理解和意圖識別模型,實現了資料知識沉澱,以及行業法規條款的自動語義檢索和問答,幫助內部員工快速觸達監管條款細節,提升效率。

Sophon 3.2釋出,透過“六易三倉兩中心”實現新一代AI平民化

Sophon 3.2釋出,透過“六易三倉兩中心”實現新一代AI平民化 法規問答領域法律條款知識問答流程及效果圖

Sophon 3.2透過提供六易三倉兩中心能力,加之MLOps模型運管模組、AutoCV視覺模型生產應用模組等AI能力支撐,能夠保障企業資料到智慧應用的落地,實現AI能力平民化、AI價值最大化。


來自 “ ITPUB部落格 ” ,連結:http://blog.itpub.net/69994106/viewspace-2992155/,如需轉載,請註明出處,否則將追究法律責任。

相關文章