01 研究範圍定義

研究範圍

大模型是指透過在海量資料上依託強大算力資源進行訓練後能完成大量不同下游任務的模型。2023年以來，ChatGPT引爆全球大模型市場。國內眾多大模型先後公測，眾多網際網路領軍者投身大模型事業，使得大模型市場進入“百團大戰”階段，2023年成為公認的“大模型元年”。

企業使用者方面，大模型的應用速度之快超乎想象。2023年初，企業管理層對大模型的話題還停留在大模型是什麼，是不是概念炒作。短短半年，大模型已經從飯後談資走向落地應用。大企業管理層們希望瞭解到大模型能為企業發展帶來哪些變革，大模型的應用路徑是什麼，如何提升大模型的投資回報率，以及應該為擁抱大模型做哪些準備。而且，大模型吸引的人群也愈發廣泛，不僅吸引CIO、CTO等技術管理者的關注，CEO、CMO等非技術類管理者同樣期待大模型在業務中發揮價值。這些轉變表明，大模型的變革之力正日益得到產業界的認可。

透過對市場規模資料的分析，能較為直觀地體現出企業對大模型應用落地的熱情。愛分析資料顯示，2023年中國大模型市場規模約為50億元（人民幣，下同）。2023年，企業在大模型方面的採購特點是論證多、採購少，各企業計劃在2024年開始大量釋放大模型預算，因此市場規模將大幅增長，預計達到120億元。

愛分析認為，大模型市場從技術架構角度可以劃分為基礎層、模型層、中間層和應用層。基礎層是指為大模型訓練推理而提供的基礎環境，包括湖倉一體、向量資料庫、智算中心、大模型安全流通平臺等。模型層是指基礎大模型以及微調後的大模型，包括通用大模型、行業大模型、領域大模型和企業大模型。中間層是模型層和應用層之間的“橋樑”，有利於大模型在各種實際場景快速落地，包括大模型應用開發工具、LLMOps工具等。應用層是指大模型應用和解決方案，包括知識庫問答、智慧客服、對話式分析等。大模型市場劃分詳見下圖。

圖1：大模型市場全景地圖

本報告重點選取知識庫問答、對話式分析、AI Agent、通用大模型、行業大模型、企業大模型、大模型安全流通平臺七個市場進行研究。

廠商入選標準：

本次入選報告的廠商需同時符合以下條件：

• 廠商的產品服務滿足各市場分析的廠商能力要求；
• 近一年廠商具備一定數量以上的企業付費客戶（參考第3章各市場分析部分）；

（注：“近一年”指2023年Q1至2023年Q4）

02 廠商全景地圖

03 市場分析與廠商評估

愛分析對本次大模型專案重點研究的特定市場定義如下。同時，針對參與此次報告的部分代表廠商，愛分析撰寫了廠商能力評估。

3.1 知識庫問答

市場定義：

知識庫問答是指將大模型與知識庫相結合，改變原有的知識庫構建、應用與運維的方式，致力於更好地支撐企業管理層及全體員工的知識檢索與應用需求。

甲方終端使用者：

企業管理層及全體員工

甲方核心需求：

成本可控、驗證速度較快、覆蓋的企業內部使用者比較多等多重因素共同作用下，知識庫成為大模型在企業落地的先選場景之一。從滲透情況來看，大模型在知識構建、知識校驗和知識庫應用三個環節滲透較深。

圖1：知識庫構建流程及大模型滲透情況

基於大模型在知識庫場景的滲透情況，當前甲方對知識庫問答主要有三項核心需求，一是壓縮知識庫冷啟動時間，二是降低知識校驗環節對人工的依賴，三是企業亟需解決幻覺問題。

• 壓縮知識庫冷啟動時間。 當前，知識構建工作比較依賴話術師，他們負責整理問答對和擴寫相似問，此過程比較依賴他們的個人經驗。一個話術師整理一類知識庫通常需要耗費大約1-3 個月的時間。知識構建是知識庫冷啟動的核心環節，知識構建效率偏低會直接導致知識庫冷啟動時間比較長。企業需要藉助大模型的理解能力和生成能力壓縮知識庫冷啟動時間。引入大模型之後，可以提升問答對整理和相似問擴寫的速度，甚至可以直接採用“大模型+文件庫”的方式，實現更好的冷啟動壓縮。
• 降低知識校驗環節對人工的依賴。 在完成知識構建後，企業需要校驗知識準確性以及文法細節，此環節主要靠人工來實現。並且，該工作對相關人員的工作經驗有較高要求。企業希望藉助大模型實現自動化知識校驗。
• 知識庫互動方式變化，企業亟需解決幻覺問題，生成可信的答案。 傳統知識庫主要採用人工檢索方式，很難直接告訴使用者答案，該互動方式比較低效。企業需要利用大模型的生成能力直接生成使用者所需的答案。但是，互動方式的變化也為知識庫應用帶來新的挑戰，即大模型幻覺導致的答案不可信。

廠商能力要求：

廠商需要滿足三項能力要求，一是具備利用大模型進行知識分類、知識抽取和問答對拆分的能力，二是具備解決兩個校驗難題的方案，三是具備RAG、微調等緩解大模型幻覺的能力。

• 具備利用大模型進行知識分類、知識抽取和問答對拆分的能力。 引入大模型之後，首先可以做知識域的自動分類。第二個作用是自動抽取知識點的實體和關係，本質是基於大模型做預處理，降低對人工的依賴程度。第三個作用是問答對拆分和相似問擴寫。過去，該環節非常依賴話術師，有大模型以後可以實現自動化，相關人員則轉變為稽核職能，即主要負責知識管理，而非知識建立。
• 具備解決兩個校驗難題的方案。 直接利用大模型進行知識校驗存在兩個比較明顯的問題。首先是過度校驗。即原來的回答比較準確，但大模型會演繹出很多新內容，導致校驗工作質量下降。第二個問題是新詞校驗存在滯後性，因為大模型背後的知識是無法實時更新的。廠商可以透過Prompt工程、RAG、微調大模型等方式解決上述兩個問題。
• 具備RAG、微調等緩解大模型幻覺的能力。 企業需要利用大模型的生成能力直接生成使用者所需的答案。但是，互動方式的變化也為知識庫應用帶來新的挑戰，即大模型幻覺導致的答案不可信。廠商需要具體幻覺大模型幻覺的能力，主要有RAG、微調兩種方式。RAG是指在大語言模型推理生成答案時，額外檢索呼叫外部的知識，然後綜合其檢索結果進行回答生成。RAG為大模型提供了準確、豐富、可解釋的知識支撐，從而實現更準確的語義理解、答案推理以及答案解釋。微調則是廠商根據行業或企業資料，對基礎大模型進行最佳化，以便其更好地勝任特定任務。對基礎大模型進行後訓練也是一種緩解大模型幻覺的方式，但較高的成本導致其可行性較低。

入選標準：

1. 符合知識庫問答市場分析的廠商能力要求；

2. 近一年廠商在該市場至少服務1家企業（含POC）。

代表廠商評估：

愛數

廠商介紹：

愛數是一家全域資料能力服務商，透過全域資料的整合、治理、洞察與保護，實現資料的資產化和知識化，與客戶共同打造資料驅動型組織。2003年愛數在長沙起步，2006 年上海愛數成立，2023 年愛數集團正式成立，公司雙總部位於上海、長沙，目前全球員工約 1700 人，業務遍及 60 多個國家與地區，合作伙伴超過千家，客戶積累超過 27000 家，分佈於金融、高階製造、運營商、政府、公共事業等各行業。

產品服務介紹：

愛數產品架構分為基礎層、認知層和產品層。基礎層提供GPU叢集和混合資料湖；認知層則透過領域大模型與領域知識網路相互增強，實現認知能力；產品層是指AnyFabric（資料編織架構）、AnyShare（智慧內容管理平臺）、AnyRobot（可觀測性平臺）和AnyBackup（統一資料管理平臺）等多個應用產品，它們透過認知助手獲得大模型賦能。

AnyShare family 7是AnyShare的最新產品，它是愛數打造的屬於AGI 時代的智慧內容管理平臺。AnyShare family 7透過挖掘非結構化資料的標籤、編目、實體物件，形成的事件資訊和知識，可以服務於合同一致性和風險稽核、文案撰寫、資料查詢。並且，在AnyShare 認知助手加持下，AnyShare family 7實現了大模型輔助創作、輔助內容閱讀和智慧搜尋，同時可以透過內容開放 API 和元件被企業應用整合。

廠商評估：

愛數提供“企業知識+大模型”端到端解決方案，涵蓋算力、基礎大模型、知識化、應用等多個層面。並且，AnyShare存量客戶只需採購愛數大模型一體機和AnyShare認知助手，即可實現輕量化升級。在大模型幻覺方面，愛數以檢索增強生成模式（RAG）實現大模型領域化，可以有效緩解幻覺產生。在交付方面，愛數擁有完備的資料管理能力和服務團隊，有利於大模型在企業真正發揮價值。同時，AnyShare family 7全模組開放，支援企業搭建個性化應用和流程。

• 愛數提供“企業知識+大模型”端到端解決方案，涵蓋算力、基礎大模型、知識化、應用等多個層面。 在算力層面，愛數推出大模型一體機（AS19000），不僅讓企業能夠“開箱即用”，而且該產品將大模型訓練與推理分離，實現低成本訓練和低資源推理。愛數大模型一體機具有國產晶片和國外晶片兩種型號，可以滿足不同企業的需求。在基礎大模型方面，愛數採用“中立”的架構設計，避免捆綁企業。如果企業沒有傾向的大模型，可以直接採購封裝了基礎大模型的愛數大模型一體機；如果企業有傾向的大模型，可以直接將其接入AnyShare family 7。基礎大模型之上是企業資料知識化能力層，愛數可以透過機器學習演算法對企業資料進行解構，然後透過重新組裝實現語義對齊，最終將其編織到領域知識網路之中。在此方面，愛數具備將企業資料以低成本、自動化方式轉化為企業知識的能力。最上面是應用層，愛數提供內容門戶、文件中心、工作中心、知識中心、表格中心、SAP資料資產管理等多個應用。
• AnyShare存量客戶只需採購愛數大模型一體機和AnyShare認知助手，即可實現輕量化升級。 企業比較擔心大模型應用對企業現狀的挑戰。一是IT投入挑戰，如果需要企業將原有系統推倒，轉而使用大模型相關應用，會帶來比較高的投入。二是IT負責人規劃能力會受到質疑，因為企業原有系統可能剛剛完成建設，未到更新換代的時候，IT負責人推進大模型應用落地可能受到來自企業內部的質疑。三是業務連續性受到挑戰，企業將原有系統推倒重建，可能需要較長時間完成系統切換，影響業務開展。愛數AnyShare產品推出時間較久，有眾多存量客戶。對他們而言，只需採購愛數大模型一體機和AnyShare認知助手，即可實現輕量化升級。大模型一體機包含算力和基礎大模型，AnyShare認知助手包含愛數所有基於大模型構建的AI能力。因此，AnyShare存量客戶無需推倒原來系統，即可低成本、快速地完成“大模型升級”。
• 愛數以檢索增強生成模式（RAG）實現大模型領域化，有效緩解大模型幻覺。 目前，大模型領域化有兩種解決思路，分別是檢索增強模式（RAG ）和Finetune（微調）。檢索增強是指在大語言模型推理生成答案時，額外檢索呼叫外部的領域知識網路（領域資料、概念庫、知識圖譜等），然後綜合其檢索結果進行回答生成。領域知識網路為大模型提供了準確、豐富、可解釋的知識支撐，從而實現更準確的語義理解、答案推理以及答案解釋。相比單純依靠模型訓練，外部領域知識網路的引入可以大幅提升回答的準確性和合規性。它有效減少了大模型幻覺，使應用更加可控。愛數以領域知識網路“可控制、可編輯、可保護、可溯源”等特性彌補大模型“不可控、難編輯”等缺陷，有效減少大模型“幻覺”現象的發生。
• 同時，在構建領域知識網路的過程中，愛數利用大模型的知識提取能力，從已有資料中抽取補充知識，實現知識網路的不斷豐富和最佳化。透過這種良性迴圈，外部知識網路的引入強化了大模型的知識抽取能力，從而反過來進一步完善知識網路本身。最終使基於該知識網路的大模型應用效果持續提升。
• 愛數擁有完備的資料管理能力和服務團隊，有利於大模型在企業真正發揮價值。 基礎大模型是實現“企業知識+大模型”的核心，但不是全部，廠商還需要具備許可權控制、防毒、水印等一系列資料管理能力。如果廠商只掌握預訓練、微調等方法，容易導致企業在“企業知識+大模型”的應用之路上停留在比較初級的階段。愛數AnyShare產品已有十餘年曆史，交付了數千家企業，經過幾輪迭代逐漸形成比較完備的資料管理能力，包括許可權控制、海量分散式檔案管理、容災、備份、防毒、水印、國產化、涉密管理等。以許可權控制為例，企業內不同角色能接觸到的資料、能用大模型來理解的資料必受個人許可權限制，愛數能夠保證經過語義理解的生成式搜尋結果一定是根據使用者所擁有許可權能看到的文件所產生的，並能在幾十到幾百毫秒完成一系列查詢、生成工作。
• 除此之外，愛數擁有比較完備的組織架構為企業提供端到端的服務。愛數打造了專業的、獨立於產品研發的服務團隊，分割槽域為當地客戶提供開發、部署等服務。愛數的產品研發團隊則專注核心產品的研發迭代，保持產品穩定性。相較於組織架構比較單一的廠商，愛數在交付週期、版本控制、服務品質等方面具有一定優勢。
• AnyShare family 7全模組開放，支援企業搭建個性化應用和流程。 AnyShare family 7擁有全新的架構設計，每個模組均保持高度開放性，支援企業搭建個性化應用和流程。企業裡一個文件全生命週期包括自動採集錄入、物件處理、資訊化、防毒、知識化、納入知識體系、搜尋、門戶呈現等環節， AnyShare family 7在每個環節讓特定模組來負責，並保持它們的高度開放性。比如企業可以自定義審批、打水印等流程，自定義搜尋目標（人、文件或者產品），自定義門戶的個性化呈現等。企業可以在每一環節低成本、快速地按照自身需求進行系統接入和開發。

典型客戶：

國泰君安、金誠同達

3.2  對話式分析

市場定義：

對話式分析是指將大模型與資料分析相結合，改變原有的互動方式與工作流程，致力於更好地支撐企業管理層和業務部門資料分析需求。

甲方終端使用者：

企業管理層、業務部門

甲方核心需求：

隨著大模型帶來能力突破，讓AI與資料分析相互結合，使分析結果更好地支撐企業管理和業務發展，促進企業內部資料價值釋放，成為了當下企業尤為關注的話題。愛分析認為，對話式分析是大模型在2024年的重要落地場景之一。核心原因在於對話式分析正在朝著逐漸降低門檻，增強企業業務部門自主性，從而實現自助式分析能力的方向發展。

企業對對話式分析有兩項核心需求，一是藉助大模型實現更準確的意圖理解和SQL生成，二是藉助大模型實現深度分析。

• 藉助大模型實現更準確的意圖理解和SQL生成。 傳統的取數過程中，使用者需要明確掌握SQL語言和相應的資料庫結構來提取所需資訊。隨著NL2SQL技術興起，使用者只需使用自然語言描述需求，由後端系統將其轉換為適當的SQL語句，簡化了查詢過程。但NL2SQL技術仍有缺陷，其自然語言處理能力較弱，在處理模糊查詢和複雜意圖查詢方面存在挑戰。例如，NL2SQL技術難以解決像“我想查詢公司內部有多少本科以上學歷的員工”這種問題，該模型可以準確識別“本科”一詞，但難以理解“本科以上”這四個字。大模型為NL2SQL帶來了更強大意圖理解能力，在處理模糊、多義或複雜的使用者查詢時，系統可以更準確地識別使用者的真實需求。當然，在大模型出現之前，市場上也存在解決以上問題的方法。這是主要依靠專案化的方法，透過不斷的配置和人工微調的方式來解決查詢模板無法處理的問句。該方法導致專案交付週期長、成本投入大，並且長期需要運維人員持續維護。
• 除在意圖理解方面的優勢外，大模型在SQL生成方面也可以給企業帶來更好的體驗。2023年8月，Defog團隊推出SQLCoder大模型，專門用於將自然語言問題轉化為 SQL 查詢。這是一個擁有150億引數的模型，在自然語言到SQL生成任務上，其效能略微超過gpt-3.5-turbo，並且顯著地超越了所有流行的開源模型。
• 藉助大模型實現深度分析。 取數可以視為分析的前置動作，也可以視為淺層分析。其屬於描述性分析，用於回答“發生了什麼？”，核心要求是呈現全面、準確、實時、視覺化的資料。除此之外，企業還需要診斷性、預測性和處方性資料分析。診斷性分析用於回答“為什麼會發生”，核心要求是能夠深入瞭解問題的根本原因。預測性分析用於回答“未來可能發生什麼”，核心要求是透過歷史資料來預測未來。處方性分析用於回答“現在我應該做什麼”，核心要求基於資料和分析技術提出具體建議。診斷性、預測性和處方性資料分析需要用相關性分析、預測性分析、因果推斷等分析方法來具體實現。企業對對話式分析的期待不侷限於取數，而是希望它在深度分析方面可以發揮更大價值。

圖2：資料分析的四個層次

廠商能力要求：

廠商需要滿足兩項能力要求，一是具備限定查詢邊界的能力，二是具備訓練或微調大模型的能力。

• 具備限定查詢邊界的能力。 為保證取數準確率，目前主要採用限定查詢邊界的解決思路。具體而言，有兩種實現路徑。一是將大模型與寬表或語義層相結合，運用寬表和資料來源來構建語義層，繼而在該語義層上進行相應的匹配和查詢。這類模式的具體操作方式是，先去精準地匹配到語義層，如果未能實現精準匹配，一般會透過一個億級別的小模型先去精準地匹配到寬表，然後基於寬表再用大模型去做理解，二是基於指標平臺，這一點與前面提到的語義層頗為相似，是把常見的指標先基於寬表進行計算，如果再運用自然語言查詢指標，其精確度會相對較高且基本上具備可控性。這種方式能夠在一定程度上降低幻覺現象。
• 具備訓練或微調大模型的能力。 企業可以直接用基礎大模型進行相關性分析和預測性分析，但效果欠佳。需要廠商對基礎大模型進行訓練或微調，一是強化其各項資料分析的能力，二是提升多輪對話能力，因為深度分析時往往需要使用者與系統的多次互動才能獲得最終結果。當前，透過大模型實現因果推斷難度較大，對廠商而言不屬於必要能力項。

入選標準說明：

1. 符合對話式分析市場分析的廠商能力要求；

2. 近一年廠商在該市場至少服務1家企業（含POC）。

代表廠商評估：

飛算科技

廠商介紹：

飛算數智科技（深圳）有限公司（簡稱“飛算科技”）是一家堅持自主創新的數字科技公司，作為新一代數字化技術服務專家，飛算科技以網際網路科技、大資料、人工智慧等技術為基礎，結合多年實踐經驗推出一系列數字科技產品。致力於為民生產業、中小企業、金融企業等客戶提供科技支援與服務，助力客戶實現科技化、數字化、智慧化轉型升級。

產品服務介紹：

飛算科技擁有產業數字化服務、軟體科技服務、資料治理服務、數智應用服務、產業科技服務、數字決策服務等六大業務板塊，涵蓋SoFlu軟體機器人、SoData資料機器人、AI.Modeler建模機器人、AI.Insight、產業數智通等產品及解決方案。

飛算科技積極將旗下產品及解決方案與大模型融合，已取得一定成果，AI.Insight是其中代表。AI.Insight是一款AI賦能的資料分析產品，它在企業數字化轉型過程中發揮承上啟下作用，形成以資料為基礎的業務決策支撐，提高企業決策的準確性。AI.Insight屬於通用產品，不侷限於特定行業。

圖3：AI.Insight 技術架構

廠商評估：

資料分析與決策支援是大模型的重要落地場景之一。藉助大模型，資料分析正朝著企業業務部門自助式分析方向發展。飛算科技的AI.Insight 以大模型為技術支撐，支援業務人員與企業資料實現對話式互動，規避以往業務人員與IT/分析人員的“交流鴻溝”和複雜流程。並且，AI.Insight提供視覺化分析、異常分析、自動演算法分析等多項能力，實現一站式資料分析，解決分析工具割裂難題。同時，飛算科技還以AI.Insight為核心打造客戶運營全流程解決方案，助力企業可持續發展。

• 飛算科技具備完善的資料分析方法論，有利於建立企業業務部門對AI.Insight的價值共識，推動立項。 飛算科技深耕資料分析多年，已搭建一套完善的資料分析方法論，該方法論明確展示企業決策與資料分析方法的關聯關係。具體而言，飛算科技認為從資料到決策的過程包括四個環節，分別為“發生了什麼”、“為什麼發生”、“將發生什麼”和“我該怎麼做”，依次對應描述性分析、診斷性分析、預測性分析和處方性分析。

圖4：資料分析過程、方法及工具

並且，飛算科技對當前企業資料分析痛點有深刻認知，將其歸納為“分析工具割裂”、“人的溝通割裂”、“流程複雜”三個方面。基於資料分析方法論和痛點認知，飛算科技可以快速診斷企業在資料分析方面存在的問題，與企業業務部門達成共識，進而推動立項。

• 以大模型為技術支撐，AI.Insight支援業務人員與企業資料實現對話式互動，規避以往業務人員與IT/分析人員的“交流鴻溝”和複雜流程。 資料分析領域的最大痛點：懂業務的人不懂技術，懂技術的人不懂業務，即技術部門與業務部門的割裂造成溝通困難。兩類群體的溝透過程主要有四個痛點。一是業務人員無自主分析能力，需要向IT提出分析需求。二是業務人員提出需求給IT/分析人員，往往出現IT/分析人員對需求的理解存在偏差。三是IT/分析人員資料整理複雜，業務人員藉助分析工具進行資料分析，時間週期長。四是給出的分析結果並不能滿業務需要，從而往復溝通。
• AI.Insight應用大模型的自然語言互動能力，讓業務人員可以自主跟企業資料直接互動，並將分析結果透過自然語言生成業務人員易理解的語言描述。該方式規避了業務人員與IT/分析人員溝通難的問題，讓分析週期從數週縮短到數日。
• AI.Insight提供視覺化分析、異常分析、自動演算法分析等多項能力，實現一站式資料分析，解決分析工具割裂難題。 不同分析目的需透過不同分析工具才能達成，企業使用資料進行決策時一般需要綜合使用傳統BI工具、程式設計工具、建模平臺、情境模擬等多種工具，分析工具割裂造成資料分析成本較高以及效率較低。
• AI.Insight將多種功能集於一身，可實現一站式資料分析。具體而言，AI.Insight有四個亮點功能。一是異常分析，AI.Insight可以自動對資料進行時序異常檢測、因果關聯、波動歸因等原因分析，並給出結論性描述。二是自動分析，AI.Insight可以對資料洞察點進行Auto OLAP分析，支援上卷、鑽取、切片、切塊等多維度分析與多種機器學習演算法分析。三是客戶特徵分析，AI.Insight基於資料洞察點進行客戶特徵分析，定位目標客戶群體。四是智慧圖表推薦，AI.Insight透過智慧圖表推薦引擎展示合適的圖表，並支援使用者靈活切換圖表。
• 飛算科技以AI.Insight為核心打造客戶運營全流程解決方案，助力企業可持續發展。 經濟發展放緩，行業紅利消退，企業逐漸重視存量客戶運營。較多企業希望能充分地釋放存量客戶的復購潛力，將其作為業績增長重點。但是，多數企業使用的方式比較傳統，它們依賴經驗法則和人工操作，導致效果欠佳。
• 飛算科技以AI.Insight為核心，結合AI.Modeler自動建模平臺和AI.Marketer自動化營銷平臺，為企業提供客戶運營全流程解決方案。該解決方案可應用於“高潛力存量客戶名單篩選”、“客戶喚醒與交叉銷售”等多個場景，助力企業實現高效的客戶運營。

典型客戶：

某國有銀行重點分行、某知名餐飲連鎖企業

3.3  AI Agent

市場定義：

AI Agent是指以大模型為驅動，具有自主理解感知、規劃、記憶和使用工具的能力，能自動化執行完成複雜任務的系統。

甲方終端使用者：

企業IT部門、業務部門

甲方核心需求：

AI Agent相較於Copilot，有諸多能力的提升。其中，Planning能力是二者最大的區分，也是企業最為需要的能力項。Copilot需要明晰的Prompt才能發揮作用，AI Agent則與此不同，它可以自行規劃並執行任務。AI Agent完成計劃後，企業需要其呼叫元件來執行任務。對大企業而言，可能需要上百個AI Agent，需要對多AI Agent進行統一管理。

• 企業需要AI Agent的Planning能力。 AI Agent相較於Copilot，有諸多能力的提升。其中，Planning能力是二者最大的區分，也是企業最為需要的能力項。Copilot需要明晰的Prompt才能發揮作用，AI Agent則與此不同，它可以自行規劃並執行任務，也可以調動一系列元件來完成目標，甚至可能探索周圍環境。例如AI Agent可以知道使用者所在公司差旅政策以及使用者對航空公司、酒店的偏好資訊，當使用者跟它下達指令就可以說“幫我安排下週的行程”，它們將直接輸出切實可行的方案。
• 企業需要AI Agent呼叫元件來執行任務。 AI Agent若要完成使用者的任務指令，通常需要呼叫各種元件，例如文件處理元件、資料分析元件等。這將改變人與系統的互動方式，使用者不再需要對系統功能以及操作路徑進行記憶，而是透過自然語言讓AI Agent呼叫元件來執行任務。
• 企業需要對多AI Agent進行統一管理。 目前來看，尚不具備滿足所有場景需求的“超級AI Agent”，企業要針對不同場景構建多個AI Agent。對大企業而言，可能需要上百個AI Agent。如果考慮AI Agent的生命週期與更新低代，管理工作將變得更為複雜。因此，企業需要對多AI Agent進行統一管理。

廠商能力要求：

廠商需要具備構建AI Agent Planning能力的解決方案。當前，尚不具備成熟的、統一的構建方法，各家廠商各有千秋，包括結合專家SOP、引入CoT概念或ReAct模式等。AI Agent若要完成使用者的任務指令，通常需要呼叫各種元件。相應地，廠商需要具備豐富的元件庫，讓AI Agent能真正發揮價值。對於企業的個性化需求，廠商應預留低程式碼開發模組來滿足。企業需要對多AI Agent進行統一管理。從成本、安全等方面考慮，企業一般不會長期依賴廠商提供相關服務，而是需要一套成熟工具鏈實現能力內化。該工具鏈應該覆蓋AI Agent構建與運營的全生命週期管理。

• 廠商需要具備構建AI Agent Planning能力的解決方案。 AI Agent相較於Copilot，有諸多能力的提升。其中，Planning能力是二者最大的區分，也是對企業最為需要的能力項。廠商需要具備構建AI Agent Planning能力的解決方案。當前，尚不具備成熟的、統一的構建方法，各家廠商各有千秋。有的廠商採用結合專家SOP的方式，由業務專家將業務流程梳理成SOP的形式，將其與大模型結合。此方法適用流程比較固定場景，例如財報分析、簡歷分析等。有的廠商在方案中引入CoT概念或者ReAct模式，讓大模型生成關於任務指令的解決方案。
• 廠商需要具備元件庫和低程式碼能力。 AI Agent若要完成使用者的任務指令，通常需要呼叫各種元件，例如文件處理元件、資料分析元件等。並且，互動方式的改變是的使用者無需記憶系統功能和操作路徑，進而突破系統元件上限，進一步增加對元件的需求。相應地，廠商需要具備豐富的元件庫，讓AI Agent能真正發揮價值。對於企業的個性化需求，廠商應預留低程式碼開發模組來滿足。
• 廠商應提供AI Agent構建與運營的全生命週期管理平臺。 企業需要對多AI Agent進行統一管理。從成本、安全等方面考慮，企業一般不會長期依賴廠商提供相關服務，而是需要一套成熟工具鏈實現能力內化。該工具鏈應該覆蓋AI Agent構建與運營的全生命週期。

入選標準說明：

1. 符合AI Agent市場分析的廠商能力要求；

2. 近一年廠商在該市場至少服務1家企業（含POC）。

代表廠商評估：

瀾碼科技

廠商介紹：

瀾碼科技是一家基於大語言模型的Agent平臺公司，是國內探索大語言模型應用落地和AI Agent的先行者。基於底層大語言模型，瀾碼科技自主研發了能夠連線人和系統的企業級Agent平臺“AskXBOT”，助力企業構建基於專家知識的超級自動化，從而提升業務質量和效率。

產品服務介紹：

AskXBOT平臺是瀾碼科技自主研發的基於大語言模型的企業級AI Agent平臺。平臺集Agent與工作流設計、開發、使用、管理，以及知識沉澱於一體。在AskXBOT平臺上，企業可以用對話的方式提出需求，設計、建立和管理 Agent，快速定製企業級 AI Agent 來完成各類任務，包括財報分析、組卷判卷、供應商資質審查、智慧風控、財務稽核、經營分析、招聘助手等。

廠商評估：

瀾碼科技助力企業實現“專家知識普惠”，提升基層員工生產力。並且，瀾碼科技已構建較完善的業務價值體系，搭配成功案例可快速推進AI Agent立項。AI Agent屬於新興領域，瀾碼科技是該領域的先行者。針對“企業如何建設AI Agent”的問題，瀾碼科技經過探索已沉澱出一套較完整的方法論。在商業模式方面，瀾碼科技較為獨特，提出了“先有收益，再分配”的商業模式，希望與行業夥伴共建AI Agent生態。

• 瀾碼科技助力企業實現“專家知識普惠”，提升基層員工生產力。 過去，企業業務專家的經驗主要透過“SOP檔案+培訓”的方式傳遞至基礎崗位員工，傳遞過程存在大量損耗，導致成本較高且效果欠佳。基於AskXBOT 平臺，企業可以將專家知識快速傳遞給基層員工，實現知識普惠，進而提升基層員工生產力。具體而言，AskXBOT 平臺先將專家知識教給AI Agent，然後讓其賦能大量基層員工，幫助他們將工作能力由“新手”、“高階新手”快速成長為熟練級的勝任者，工作狀態也相應地從倉促應對轉變為從容勝任。例如，某銀行藉助AskXBOT平臺在短期內對18萬名員工完成保險業務培訓，這在過去是難以實現的。
• 瀾碼科技已構建較完善的業務價值體系，搭配成功案例可快速推進AI Agent立項。 講清楚大模型業務價值是CEO同意將大模型納入企業未來規劃的必要條件之一。大模型廠商需要構建自己的業務價值體系，與CIO/CTO合作推動企業管理層對大模型及其應用的價值認同，最終實現立項。瀾碼科技圍繞AskXBOT平臺構建了一套較為完善的業務價值體系，包括增收、降本、提效和降風險等要點。同時，瀾碼科技已在金融、教育、零售、政務等行業落地多個成功案例，可作為業務價值的佐證用來增強對CEO的說服力。
• 增收相關案例：某銀行在信貸申請高峰期人手不夠，一般有兩種處理選項。一是降低稽核標準，加快稽核速度，但會帶來更多壞賬風險；二是堅守稽核標準，但過長的等待時間會將客戶推向其他銀行。瀾碼科技利用AskXBOT平臺把稽核專家的知識透過CUI的方式讓一線初級員工也能用起來，在保證稽核質量的同時縮短稽核時間，留住更多潛在信貸客戶，實現增收。
• 降本相關案例：某海外漢語教學機構服務於一帶一路上多個國家的學員，對他們進行漢語培訓與考試。考試的工作流程一般是先由漢語專家確定考試模板，再需要初級和中等教育人員執行出題與翻譯工作。當前，該機構聘請了5名全職教研員和150名外聘實習教師從事第二階段的工作。瀾碼科技利用AskXBOT平臺可以迅速完成出題工作，幫助該機構減少對初級和中等教育人員的人力支出。
• 瀾碼科技探索出較完整的AI Agent建設方法論，並提供全流程服務。 AI Agent屬於新興領域，瀾碼科技是該領域的先行者。針對“企業如何建設AI Agent”的問題，瀾碼科技經過探索已沉澱出一套較完整的方法論。

圖5：瀾碼科技AI Agent建設方法論

瀾碼科技的AI Agent建設方法論包括三個步驟。第一步是把企業關鍵業務流程所需要的專家知識進行數字化處理，包括梳理問答、搭建指標中臺等。第二步是基於CUI的柔互動，致力於讓系統適應人，而不是人適應系統。第三步是把整個使用過程記錄下來，作為持續補充和最佳化專家知識的依據。

AI Agent建設過程中涉及專家知識梳理、指標中臺搭建等工作，瀾碼可提供相關服務。為滿足企業需求，瀾碼科技配備了專業的知識團隊，職能類似於傳統AI時代的資料標註團隊。並且，瀾碼科技的創始人兼CEO周健也可參與指導專案，貢獻行業及流程Know-how。周健曾是依圖科技的10號員工和弘璣Cyclone CTO，具備多年B2B一線業務經驗。

• 瀾碼科技提出“先有收益，再分配”的商業模式，希望與行業夥伴共建AI Agent生態。 瀾碼科技致力於與合作伙伴建立更深層次的合作。具體而言，瀾碼科技負責提供AskXBOT平臺等生產力工具以及相關服務，由合作伙伴提供專家知識和業務場景。待雙方合作取得業務收益之後，在進行收益分配。並且，瀾碼科技將遵循排他性的合作原則，在每個細分行業中只合作一家企業。
• 如今，獵頭，諮詢、電商選品等多個行業的數家企業對該合作模式感興趣，已與瀾碼科技進入商務談判環節。

典型客戶：

太平保險、桃李中文、CGL、超級導購、湖北省市場監督管理局

3.4 通用大模型

市場定義：

通用大模型是指透過在海量資料上依託強大算力資源進行訓練後能完成大量不同下游任務的非開源免費模型。

甲方終端使用者：

行業頭部企業IT部門

甲方核心需求：

大多數企業只需要大模型應用，而頭部企業對大模型的需求則不侷限於此。通用大模型是頭部企業IT基礎的重要拼圖之一，企業需要依託通用大模型進行能力建設。企業需要通用大模型可以支撐業務，發揮價值。並且，企業需要“通用大模型+算力”的綜合解決方案來應對“卡荒”。

• 企業需要依託通用大模型進行能力建設 。大多數企業只需要大模型應用，而頭部企業對大模型的需求則不侷限於此。通用大模型是頭部企業IT基礎的重要拼圖之一，企業需要依託通用大模型進行能力建設。企業需要通用大模型支撐多種業務場景，例如客服、資料分析、營銷素材生成等。這些場景對映到模型本身，則對模型能力提出要求，包括文字生成、SQL生成、多模態等。當前，尚不存在“六邊形戰士”類的全能大模型，頭部企業可以透過採購、部署多個通用大模型，共同完成大模型能力建設。
• 企業需要通用大模型可以支撐業務，發揮價值。 部署通用大模型並不能直接為企業帶來價值，還需要“改造”和“開發”。改造是指結合企業私有資料進行微調甚至後訓練，以便其更好地執行特定任務。開發是指需要基於通用大模型開發全新的上層應用或者賦能已有的IT系統。
• 企業需要“通用大模型+算力”的綜合解決方案來應對“卡荒”。  通用大模型的微調、推理需要高階AI晶片作為算力底座。但是，美國政府持續擴大針對中國晶片的出口限制，加劇了國內算力供應的壓力，AI晶片價格持續走高且一卡難求。企業通常需要“通用大模型+算力”的綜合解決方案來應對“卡荒”，解決對算力的後顧之憂。

廠商能力要求：

企業基於對通用大模型的需求，向廠商提出多項能力要求。一是通用大模型需要具備鮮明的能力特點。二是廠商需要提供大模型應用開發工具、LLMOps工具、AI Agent等工具層產品。三是廠商需要具備足夠的高階AI晶片，並具備以華為昇騰為代表的國產化晶片替代方案。

• 通用大模型需要具備鮮明的能力特點。 頭部企業需要依託通用大模型進行能力建設。當前，尚不存在“六邊形戰士”類的全能大模型，頭部企業可以透過採購、部署多個通用大模型，共同完成大模型能力建設。因此，通用大模型需要具備鮮明的能力特點，與企業需求進行匹配。能力特點包括文字生成、SQL生成、多模態、知識檢索、多輪對話、提示詞長度等。
• 廠商需要提供大模型應用開發工具、LLMOps工具、AI Agent等工具層產品。 出於成本和安全等因素考量，企業需要實現大模型改造和開發能力的內化。除通用大模型和算力之外，廠商通常需要提供大模型應用開發工具、LLMOps工具、AI Agent等工具層產品。涵蓋大模型應用開發、大模型微調、大模型運維、AI Agent構建與運維等多個方面。
• 廠商需要具備足夠的高階AI晶片，並具備以華為昇騰為代表的國產化晶片替代方案。 企業需要“通用大模型+算力”的綜合解決方案來應對“卡荒”。相應地，廠商需要具備足夠的高階AI晶片，才能滿足企業需求。鑑於美國晶片供應的不確定性持續增加、國產晶片的崛起以及國產化替代事業的推進等多重因素，將國產晶片應用於微調、推理場景是大勢所趨。廠商應具備以國產化晶片替代方案。當前，華為昇騰910是最熱門的替代方案。

入選標準說明：

1. 符合通用大模型市場分析的廠商能力要求；

2. 近一年廠商在該市場至少服務1家企業（含POC）。

代表廠商評估：

出門問問

廠商介紹：

出門問問是一家以生成式AI和語音互動為核心的人工智慧公司，為全球多個國家的創作者和企業提供AIGC工具、AI政企服務，以及AI智慧硬體。出門問問致力於打造國際領先的通用大模型，透過AI技術、產品及商業化三位一體發展，成為全球AI CoPilot的引領者。

產品服務介紹：

出門問問基於自研通用大模型——序列猴子，面向全球多個國家的創作者和企業提供一系列大模型產品及解決方案。「序列猴子」大模型以語言為核心的能力體系，涵蓋“知識、對話、數學、邏輯、推理、規劃”六個維度。特別的是，該模型擁有優秀的跨模態知識遷移能力，能夠將語言模型所涵蓋的常識知識有效轉化應用於其他非語言模態的模型當中。目前出門問問自研大模型「序列猴子」已透過備案，向全社會開放.

圖6：出門問問AIGC SaaS

• 魔音工坊是一款AI配音及多人協同創作工具，具備軟體配音、雲剪輯、一鍵分析影片、文案提取、捏聲音等功能。目前，「序列猴子」大模型賦能語音合成引擎，使其AI配音產品“魔音工坊”實現輕量資料極速克隆，情感效果媲美真人。魔音工坊還推出了面向海外內容創作者的海外版“DupDub”和企業可透過API整合部署的企業版。
• 奇妙元是一款數字人產品，可用於短影片製作以及網路直播，該產品不僅可以生成數字人形象，而且可以自動生成文案。
• 奇妙問是出門問問推出的“企業AI互動式數字員工生成平臺”，面向政企、文旅等行業，打造數字接待、數字客服、數字銷售等互動型數字員工。

圖7序列猴子大模型

廠商評估：

出門問問深耕AI與大模型，具有深厚的技術和客戶積累。出門問問的大模型產品不侷限於單一文字模態，而是聚焦多模態。出門問問透過提供多模態大模型應用，為企業實現深度賦能。除多模態之外，出門問問還依託Agent技術打造企業知識助手、資料分析助手和自定義流程助手，致力於提升通用大模型的可用性和業務價值。在產品可用性方面，出門問問基於自研大模型解決“問答系統響應慢”難題，讓問答系統更可用。在商業化方面，出門問問在內容創作領域已建立完整的大模型產品業務價值評估體系，有利於企業快速推進大模型立項。

• 出門問問深耕AI與大模型，具有深厚的技術和客戶積累。 出門問問是一家以生成式AI和語音互動為核心的人工智慧公司，具有619項AI相關智慧財產權。該廠商已推出多款AI穿戴裝置，以及汽車、金融和醫療等行業AI解決方案，是業內少有的具備軟硬體整合能力的AI公司。在大模型方面，出門問問佈局時間早於大部分廠商，其在2021年6月釋出大模型“UCLAI”，並在2023年4月釋出大模型“序列猴子”。
• 出門問問持續關注大模型前沿技術，其在AI Agent方面具備一定研究成果，並推出了一款相關產品。出門問問的AI Agent產品為面試機器人，屬於奇妙問產品旗下。面試機器人主要應用於面試模擬場景，機器人基於面試背景設定以及使用者的簡歷資訊，可以主動與使用者進行交流。另外，出門問問正聚焦“文案一鍵智慧生成影片”技術研究，希望將其應用於網路短劇的快速製作。
• 出門問問具有深厚的客戶基礎，其在傳統AI時代推出的魔音工坊、奇妙元等產品已積累大量客戶。這些產品已完成大模型升級，提升了對客戶的價值和吸引力。當前，魔音工坊、奇妙元等產品已積累約60萬付費客戶。並且，出門問問在大模型時代全新推出的奇妙元產品也已簽約多家企業，進入交付階段。

圖8：魔音工坊產品能力與商業化程式

• 出門問問為企業提供多模態大模型應用，實現深度賦能。 出門問問聚焦多模態，致力於讓“序列猴子”大模型具備統轄音訊、影像、影片等不同模態內容的能力，實現對企業場景更全面、更深度的覆蓋。在音訊方面，出門問問打造魔音工坊；在影像方面，出門問問打造奇妙元；在影片方面，出門問問正聚焦“文案一鍵智慧生成影片”技術研究。
• 與業界聚焦多模態 Agent 方向的總趨勢一致，出門問問推出了全新產品——奇妙問。奇妙問是出門問問多模態能力的集大成者，其將聰明的大腦、動聽的聲音和好看的外表融為一體，並與不同場景的大屏進行結合，為企業打造具備數字接待、數字客服、數字銷售等職能的數字員工。
• 出門問問依託Agent，提升通用大模型的可用性和業務價值。 Agent興起，成為大模型價值落地的主要方式之一。出門問問依託Agent技術打造企業知識助手、資料分析助手和自定義流程助手，致力於提升通用大模型的可用性和業務價值。
• 企業知識助手透過整合企業私有知識庫來豐富大型模型的知識儲備。這種整合使得Agent能夠提供基於自然語言的、互動式的企業專有知識查詢服務。進而解決通用大型模型在應對企業應用場景時因領域知識不足而產生的誤導性問題，即幻覺問題。企業知識助手已在工商銀行私人銀行落地應用。
• 出門問問基於大模型構建的資料分析助手能夠透過將自然語言轉化為資料分析語言或程式碼，例如呼叫API、訪問資料庫乃至編寫資料分析程式碼，從而高效地獲取、分析和視覺化資料，為企業決策提供有力支援。克服傳統BI工具常面臨的使用難度大、高度依賴技術團隊、結果反饋慢等問題。資料分析助手已在某半導體顯示產品龍頭企業落地應用。
• 理想的Agent應當在接收一套工具集和相關知識後，它能依靠大型模型的理解和推理能力獨立地規劃並拆解任務，設計出具體的執行步驟。它能智慧地運用各種工具，檢索所需知識，生成內容，並最終完成任務。然而，在企業實際應用中，由於各企業的知識體系、應用場景和業務需求差異巨大，加上大型模型本身存在的不確定性，這種“放手”式的做法往往帶來不可預測的結果。出門問問基於此推出自定義流程助手，致力於滿足企業對Agent的可控性需求，即對AI的執行過程和細節進行更精細的控制，確保AI能夠按照人類確認過的工作流程來執行任務。自定義流程助手已在某智慧交通龍頭企業落地應用。
• 出門問問基於自研大模型解決“問答系統響應慢”難題，提升問答系統可用性。 問答系統是現階段大模型最主流的應用之一。當使用者向問答系統提出問題之後，一般會經過聲音轉文字，大模型推理等環節才能呈現答案。如果是數字員工形態的的問答系統，還需進行渲染處理。使用者耐心有限，問答系統必須壓縮各個環節時間，實現對問題的快速響應。然而，大模型推理環節一般耗時較長。因此，加快推理速度是廠商打造可用問答系統的“必答題”。
• 出門問問的解決方案是降低大模型“體積”，從而獲得推理速度的提升。該方案的核心要點在於找到大模型推理效果和推理時間的平衡點。出門問問自主研發通用大模型“序列猴子”，其在大模型預訓練、微調等技術方面底蘊深厚。出門問問透過對自研大模型的靈活調整，已找到該平衡點，解決了“問答系統響應慢”難題，讓旗下的問答系統（奇妙問）更可用。
• 在內容創作領域，出門問問已建立完整的大模型產品業務價值評估體系。 大模型“出圈”效應顯著，許多企業高管表達出對大模型及其應用的濃厚興趣。但從實際立項情況來看，大模型專案立項並不順利。主要原因在於CEO等企業一把手希望看到大模型的業務價值，而較多IT負責人難以表達清楚。出門問問在內容創作領域深耕多年，積累數十萬名付費客戶。出門問問面對內容生產商和內容批發商等內容創作領域的參與者，總結出一套業務價值評估體系。該體系包括業務價值構成以及衡量價值的關鍵指標，有利於企業快速推進大模型立項。

典型客戶：

中國工商銀行、某能源類央企、某半導體顯示產品龍頭企業、某大型石化企業、某智慧交通龍頭企業

3.5  行業大模型

市場定義：

行業大模型是指經過後訓練或者微調，具備金融、醫療等明確的行業屬性，致力於更好地完成特定任務。

甲方終端使用者：

大型企業IT部門

甲方核心需求：

企業需要有行業屬性的大模型，致力於更好地完成特定任務。並且，行業大模型需要是合規可信的，才能保證其可用性。美國政府持續擴大針對中國晶片的出口限制，加劇了國內算力供應的壓力，AI晶片價格持續走高且一卡難求。企業通常需要“行業大模型+算力”的綜合解決方案來應對“卡荒”，解決對算力的後顧之憂。

• 需要有行業屬性的大模型。 目前，通用大模型一般是基於廣泛的公開文獻與網路資訊來訓練的，屬於“泛行業”，沒有特定行業屬性。企業較難指望通用大模型拿來就可用和好用。因此，企業更希望採建設具備自身所屬行業屬性的大模型，建設方式為私有化部署或公有云MaaS。
• 需要合規可信的大模型，保證其可用性。 用於預訓練的資料一般源自公開文獻與網路資訊，這種資料不僅資料噪音大，並且中文語料少。這不僅影響大模型生成內容的準確度，更由於生成內容受西方價值觀影響較深，致使企業擔心合規問題。大模型可信度問題主要在於存在大模型幻覺，“一本正經地胡說八道”讓使用者不敢使用大模型生成結果。
• 企業需要“行業大模型+算力”的綜合解決方案來應對“卡荒”。 行業大模型的微調、推理需要高階AI晶片作為算力底座。但是，美國政府持續擴大針對中國晶片的出口限制，加劇了國內算力供應的壓力，AI晶片價格持續走高且一卡難求。企業通常需要“行業大模型+算力”的綜合解決方案來應對“卡荒”，解決對算力的後顧之憂。

廠商能力要求：

企業更希望建設具備自身所屬行業屬性的大模型。因此，廠商要以高質量行業大資料作為行業大模型的屬性保障。為保證行業大模型可用性，廠商需要具備應對合規、可信難題的解決方案。為應對“卡荒”，廠商需要具備足夠的高階AI晶片，並具備以華為昇騰為代表的國產化晶片替代方案。

• 廠商要以高質量行業大資料作為行業大模型的屬性保障。 企業更希望建設具備自身所屬行業屬性的大模型。因此，高質量行業大資料是打造行業大模型的基礎和門檻。大模型廠商一般具有技術積累，但在資料方面較為薄弱。它們主要依託公域資料訓練基礎大模型，或者結合使用者私有資料訓練或微調出企業大模型。它們由於缺乏行業深耕與資料沉澱，導致自有資料難以支撐行業大模型的訓練。為保證行業大模型的持久生命力，廠商應具備動態更新高質量行業大資料的能力，而非只掌握一批“靜態資料”。
• 具備應對合規、可信難題的解決方案。 廠商需要具備深厚的中文語料積累和價值觀對齊機制，來提升大模型生成結果的合規性。在可信方面，廠商需要具備緩解大模型幻覺的解決方案，包括知識圖譜、RAG、向量資料庫、提示詞工程等。
• 廠商需要具備足夠的高階AI晶片，並具備以華為昇騰為代表的國產化晶片替代方案。 企業需要“行業大模型+算力”的綜合解決方案來應對“卡荒”。相應地，廠商需要具備足夠的高階AI晶片，才能滿足企業需求。鑑於美國晶片供應的不確定性持續增加、國產晶片的崛起以及國產化替代事業的推進等多重因素，將國產晶片應用於微調、推理場景是大勢所趨。廠商應具備以國產化晶片替代方案。當前，華為昇騰910是最熱門的替代方案。在交付方面，大模型一體機已經成為主流交付形態之一。

入選標準說明：

1. 符合行業大模型市場分析的廠商能力要求；

2. 近一年廠商在該市場至少服務1家企業（含POC）

代表廠商評估：

拓爾思

廠商介紹：

拓爾思資訊科技股份有限公司（簡稱“拓爾思”）成立於1993年，是一家專業的大資料、人工智慧和資料安全產品及服務提供商。拓爾思堅持核心技術自主研發，擁有50+專利、1000+軟體著作權，在搜尋型資料庫、自然語言處理（NLP）技術的技術創新和應用場景落地等方面保持領先地位。

產品服務介紹：

拓爾思打造多模態認知大模型——拓天大模型，具備通用的語義理解、多輪對話、內容生成、多模態互動、知識型搜尋引擎等能力。並且，拓爾思以拓天大模型為基礎，依託在各行業的資料積累推出金融、媒體、政務、輿情、公安等多個行業大模型。

圖9：拓爾思行業大模型示例

廠商評估：

在資料方面，拓爾思以2000億+高質量資料作為行業大模型的質量保障。在應用方面，合規和可信度問題阻礙大模型落地應用。拓爾思依託自身深厚的中文語料積累和價值觀對齊機制，可有效提升大模型生成結果的合規性，並綜合運用“知識圖譜+RAG+向量資料庫”三種手段，致力於緩解大模型幻覺，提升其生成結果的可信度。在部署方面，拓爾思提供靈活的部署模式選擇，滿足不同企業的需求。在成功案例方面，拓爾思依託AI工程化能力，已在多個行業實現大模型商業化應用落地。

• 拓爾思以2000億+高質量資料作為行業大模型的質量保障。 高質量行業大資料是打造行業大模型的基礎和門檻。大模型廠商一般具有技術積累，但在資料方面較為薄弱。它們主要依託公域資料訓練基礎大模型，或者結合使用者私有資料訓練或微調出企業大模型。它們由於缺乏行業深耕與資料沉澱，導致自有資料難以支撐行業大模型的訓練。
• 拓爾思自2010年開始自建網際網路資料中心，對產業金融、新聞資訊、網路輿情等資訊進行採集，日均增長資料超3.5億條，資料中心總資料量超2000億條，並且可以實現重點資料分鐘級更新。這些資料主要源自全國數字報刊、各級新聞網站以及拓爾思的業務沉澱，資料質量較高。
• 拓爾思著力解決大模型合規與可信度問題，保證其可用性。 合規和可信度問題阻礙大模型落地應用。大模型合規問題主要在於中文語料少，大模型生成內容受西方價值觀影響較深。大模型可信度問題主要在於存在大模型幻覺，“一本正經地胡說八道”讓使用者不敢使用大模型生成結果。拓爾思依託自身深厚的中文語料積累和價值觀對齊機制，可有效提升大模型生成結果的合規性，並綜合運用“知識圖譜+RAG+向量資料庫”三種手段，致力於緩解大模型幻覺，提升其生成結果的可信度。
• 在合規方面，拓爾思主要採集主流官方機構可公開訪問的資料，如各級政府部門、主流媒體等，這些機構所有對外公開的資訊均嚴格履行“三審三校”制度。所有采集源由人工整理配置，保證了資料來源頭的“純淨”和完整性。拓爾思採用專家規範化標引+機器自動標引相結合的方式，對採集的內容資訊進行“精加工”，包括低噪、去重、資料結構化、資料歸一化、內容標籤化、屬性知識化、安全合規核查等，實現資料與主流價值觀對齊。
• 在可信度方面，拓爾思綜合運用“知識圖譜+RAG+向量資料庫”，三管齊下，緩解大模型幻覺。一是知識圖譜，其優勢在於知識間的邏輯關係非常清晰，透過將知識庫和大模型進行結合可以提升生成解決的可解釋性。二是RAG（檢索增強），是指在大語言模型推理生成答案時，額外檢索呼叫外部知識，然後綜合其檢索結果進行回答生成，相比單純依靠模型訓練，該技術的引入可以大幅提升回答的準確性。三是向量資料庫，透過將權威、可信的資訊轉換為向量，並將它們載入到向量資料庫中，資料庫能為大模型提供可靠的資訊源，從而減少模型產生幻覺的可能性。
• 拓爾思提供靈活的部署模式選擇，滿足不同企業的需求。 拓爾思可將行業大模型透過公有云API的方式為企業提供服務，也支援結合企業私有資料和個性化場景需求，以私有化部署的方式為企業提供定製化大模型。在私有化部署方面，拓爾思透過剪枝、量化、稀疏、蒸餾等部署最佳化方案，可有效降低大模型對算力資源的要求。並且，拓爾思推出的垂類大模型引數在百億級，當前市場主流推理卡單卡就可以滿足執行要求，實現模型輕量化部署。
• 為幫助企業選擇最合適的部署模式，拓爾思基於實踐經驗構建了一套“大模型部署模式考慮要素”方法論。該方法論包含六個要素，分別為靈活性需求、高效能和低延遲需求、成本效益衡量、專業技術團隊的成熟度、資料治理情況、資料隱私與安全性需求。
• 拓爾思依託AI工程化能力，已在多個行業實現大模型商業化應用落地。 對於企業而言，解決單點問題價值度不大，它們需要大模型廠商為其解決系統性問題。因此，AI工程化能力成為大模型商業化應用落地的關鍵。拓爾思在AI工程化方面有四項優勢，一是產品自主可控，二是私有化部署，三是專業、穩定的服務團隊，四是靈活的服務模式。
• 拓爾思依託AI工程化能力，已在多個行業實現大模型商業化應用落地。如，拓天媒體大模型已在人民日報和浙江日報傳播大腦等媒體進行落地實踐，範圍覆蓋內容生產、定向化訓練、“新聞+政務服務”等多種場景；拓天金融大模型為某股份制銀行打造智慧消保助手，賦能消費者權益保護全流程，降低投訴率。

典型客戶：

人民日報、浙江日報傳播大腦、某股份制銀行等

3.6  企業大模型

市場定義：

企業大模型是指經過後訓練或微調，面向企業私有化部署的大模型，助力企業從資料驅動升級為智慧驅動。

甲方終端使用者：

大型企業IT部門

甲方核心需求：

企業有三項核心需求。一是利用企業大模型助力自身從資料驅動升級為智慧驅動。二是找到能滿足企業對資料隱私與合規需求的企業大模型。三是找到具備高可用性的企業大模型。

• 助力企業從資料驅動升級為智慧驅動。 當前，頭部企業已實現或部分實現資料驅動，生產經營決策的專業性、科學性和敏捷性相較之前顯著提升。在大模型時代，它們希望藉助企業大模型，在各個業務場景和流程中構建智慧助手，透過“人+智慧助手”的新型協作方式降低企業運營成本。例如，某零售企業賦能一線員工，透過配備智慧助理提升員工工作效率，進而達到精簡人員和降低運營成本的目的。
• 滿足企業對資料隱私與合規需求。 隨著資料量的不斷增加，資料隱私保護變得越來越重要。大模型的研發和應用過程中可能存在資料洩露風險，尤其是當企業呼叫對第三方底層大模型公網API時，資料安全問題更為突出。中國工商銀行技術長呂仲濤曾稱：資料隱私保護也存在隱患，大模型訓練資料來源於網際網路、業務資料，這些資料可能涉及大量使用者隱私，需要透過隱私計算、聯邦學習等方式進行保護。企業大模型則可以更好地保護商業機密和資料隱私。
• 除資料隱私需求外，資料合規同樣重要。《生成式人工智慧服務管理暫行辦法》明確規定：在生成式人工智慧技術研發過程中進行資料標註的，提供者應當制定符合本辦法要求的清晰、具體、可操作的標註規則；開展資料標註質量評估，抽樣核驗標註內容的準確性；對標註人員進行必要培訓，提升尊法守法意識，監督指導標註人員規範開展標註工作。除此之外，其他法律法規同樣有關於資料合規的要求，企業也需要遵守。
• 具備高可用性的企業大模型。 基礎大模型一般由先進AI公司建設，通識能力較強，但其缺少行業和企業專業知識，對企業價值有限。對於頭部企業而言，通常引入業界領先的基礎大模型，透過後訓練或微調方式自建企業大模型。為保證企業大模型的可用性，企業對資料處理能力、訓練速度、推理速度提出較高需求。

廠商能力要求：

廠商需要滿足三項能力要求。一是提供企業大模型端到端工具鏈。二是具備資料隱私保障技術和資料全流程合規能力。三是在資料工程建設、大模型工程化以及降低大模型引數量方面有深厚積累。

提供企業大模型端到端工具鏈。 廠商需具備算力資源、訓練環境、企業大模型、應用開發平臺、AI小模型等端到端工具鏈。“端到端”有利於發揮企業大模型深度價值，實現對企業上層業務的全面賦能。“工具鏈”有利於企業實現大模型訓推及應用開發能力內化，擺脫對廠商的依賴。

具備資料隱私保障技術和資料全流程合規能力。 大模型隱私性保障技術主要包括加密儲存、差分隱私、同態加密、安全多方計算、模型水印和指紋等。資料全流程合規能力包括廠商需要具備涵蓋資料準備、標註、訓練、運營全流程的合規能力。

圖10：資料全流程合規能力

• 在資料工程建設、大模型工程化以及降低大模型引數量方面有深厚積累。 隨著資料集規模的增大，資料管理難度也在攀升，需持續提升大模型資料清洗的工程化能力，並從單一的結構化資料轉向多模態的全領域資料。
• 隨著大模型引數規模的提升，訓練過程所需的計算資源也呈現指數級增長。現有計算叢集在進行大規模並行訓練過程中，由於硬體故障等原因，穩定性仍存在較大問題，廠商需提升訓練任務失敗時快速定位問題的能力，保障訓練效率。
• 企業大模型的引數量並非越大越好，推理速度隨著引數量增加會同步降低，同理，降低大模型引數量則有利於推理速度。因此，對應的廠商能力要求是找到大模型推理效果和推理速度的平衡點。

入選標準說明：

1. 符合企業大模型市場分析的廠商能力要求；

2. 近一年廠商在該市場至少服務1家企業（含POC）。

代表廠商評估：

滴普科技

廠商介紹：

北京滴普科技有限公司成立於2018年，定位為資料智慧基礎設施提供商。以Data+AI為核心戰略，滴普科技打造了實時智慧湖倉平臺FastData、企業大模型Deepexi、智慧體平臺FastAGI、訓推一體機Fast5000E等在內的資料智慧產品體系，助力企業實現從資料驅動到智慧驅動的升級。目前，滴普科技已成功服務200餘家知名大中型企業，包括中國石油、興業證券、航天烽火、重慶機電、陝藥集團、長安新能源、納愛斯集團、九洲電器等。

產品服務介紹：

企業大模型Deepexi由滴普科技打造，包括智慧體平臺FastAGI、訓推一體機Fast5000E、模型應用Deinsight等產品，透過與另一產品實時智慧湖倉平臺FastData 相結合，能夠為企業大模型訓練提供服務，包括資料訓練、調優、部署以及推理等功能，幫助其快速構建行業專屬大模型。

圖11：企業下一代資料智慧體系架構

企業大模型Deepexi經過中文預訓練、SFT、RLHF等方式精調，具備較強的中文知識與推理、資料分析、程式碼生成、圖表生成等能力。智慧體平臺FastAGI包含知識智慧體 DocAgent、資料智慧體 DataAgent、外掛智慧體 Plugin Agent等工具，利用大語言模型的技術突破，實現互動式精確檢索資料/指標，生成豐富資料圖表，實現自動呼叫系統API完成業務需求；同時，基於語義理解能力、個性化與自適應等核心能力，透過知識提取、組織、生成關鍵知識工程，實現企業知識的精準檢索及問答，提供專業、高效、準確的智慧問答體驗。訓推一體機Fast5000E基於Deepexi模型，能夠助力企業搭建高效能算力平臺，大大提升訓練效率，降低使用者使用門檻。Deinsight基於滴普科技積累的行業知識庫，能夠為企業打造行業大模型及相關應用落地。

廠商評估：

在資料準備方面，滴普科技打造了實時智慧湖倉平臺FastData，實現多模態資料的高效能、低成本存算，為企業應用大模型做好資料準備。在解決方案方面，滴普科技提供大模型端到端解決方案，幫助企業實現從資料驅動到智慧驅動的升級。在賦能範圍方面，滴普科技把大模型打造成“企業服務智慧體”，聯通各個系統實現整體賦能。在專案經驗方面，滴普科技已落地多個大模型專案，為企業帶來可驗證的業務價值。

• 滴普科技打造實時智慧湖倉平臺FastData，實現多模態資料的低成本、高效能存算，為企業應用大模型做好資料準備。 滴普科技基於Data Fabric架構，打造了實時智慧湖倉平臺FastData，幫助企業建立統一治理、流批一體、湖倉一體的雲原生資料智慧平臺，實現海量資料實時分析，成為支撐企業數字化轉型的核心資料基礎設施。FastData對多模態的資料能夠進行低成本、高效能的存算，為企業應用大模型做好資料準備。在儲存方面，FastData具備針對多模態資料儲存的核心演算法，名為One Lakehouse湖倉引擎，可以實現統一的多模態資料目錄和統一的訪問介面，進而做到低成本儲存。在計算方面，滴普科技解決方案名為One Engine，包括批處理計算引擎（Spark）、實時計算引擎（Flink）、SQL計算引擎（Trino）等，One Engine知識多引擎統一適配，實現高效能運算。

圖12：FastData產品架構圖

• 滴普科技提供大模型端到端解決方案，幫助企業實現從資料驅動到智慧驅動的升級。 企業大模型Deepexi包含智慧體平臺FastAGI、訓推一體機Fast5000E等核心產品，能夠為企業搭建私有化大模型訓練提供高質量的資料準備、模型訓練、調優、部署及推理服務，可以快速地構建企業內不同領域的垂直類模型以及對應的智慧應用的能力，幫助企業實現從資料驅動到智慧驅動的升級。FastAGI是滴普科技基於AI Agent的核心能力打造的智慧體平臺，包含知識智慧體DocAgent、資料智慧體DataAgent等工具：DocAgent結合了檢索增強生成（RAG）技術，支援各類文件資料的管理，旨在透過向量檢索技術和大型語言模型（LLM），提升內容生成的能力和精準度，基於語義理解能力、個性化與自適應等核心能力，透過知識提取、組織、生成關鍵知識工程，實現企業知識的精準檢索及問答，提供專業、高效、準確的智慧問答體驗；資料智慧體 DataAgent基於 Deepexi-Coder模型提供的MQL能力，可以與已有的企業級數倉和資料平臺進行對接，根據互動式問答和資料許可權，精確檢索資料/指標，生成豐富的資料圖表和報告，沉澱業務的理解和問題的解決方案能力。

圖13：滴普科技產品整體架構

作為昇騰應用軟體夥伴和認證級一體機解決方案合作伙伴，滴普科技已與昇騰完成技術互認證，並打造了訓推一體機Fast5000E。Fast5000E基於Deepexi模型，能夠助力企業搭建高效能算力平臺，大大提升訓練效率，降低使用者使用門檻，應用於智慧問答、文案生成、資料分析、API互動、資訊提取、文件總結等多個典型場景。

• 滴普科技把大模型打造成“企業服務智慧體”，聯通各個系統實現整體賦能。 目前，大模型應用一般是一個孤立的系統，只能為企業實現單點賦能，難以實現整體賦能。滴普科技以AI Agent為依託，提供Text-to-SQL、Text-to-Python、Text-to-API等能力，形成LLM大腦觸角。大模型與企業內部業務系統無縫整合，可以呼叫知識庫、資料庫、業務系統等資料和知識，為企業各業務、各部門、跟層級實現整體賦能。以零售行業補貨場景為例，過去常見的方式是基於經驗老道的店長判斷，現在企業只需把判斷的邏輯，比如補貨需要參考爆款銷量、庫存量等訓練到企業大模型裡，企業大模型可以自動生成補貨建議和補貨訂單連結，讓一個普通銷售員輕鬆完成補貨操作。
• 滴普科技已落地多個大模型專案，為企業帶來可驗證的業務價值。 滴普科技已與中核集團中核裝備院、某時尚集團、南京文投等多家行業頭部企業展開合作，落地企業大模型專案。以某時尚集團為例，滴普科技已將大模型賦能該集團多個業務場景。在選品場景，大模型給貨品運營專家提供供應鏈專業知識和資料，並且可以執行貨品配補調等業務操作。在門店場景，大模型幫助門店店長獲取自己許可權內需要的資料和智慧決策支援。在研發設計場景，大模型可以快速生成運動鞋、高跟鞋的線稿和配色，輔助設計師更快完成工作，並且具備部分重繪和區域性修改等功能。滴普科技在“大模型元年”即可實現多個專案落地，除技術積累外，主要得益於領域專家團隊的有力支撐。滴普科技已建立一個由多位領域專家組成的諮詢團隊，致力於大模型與業務場景快速結合，釋放業務價值。

典型客戶：

某時尚集團、中核集團中核裝備院、南京文化投資控股集團有限責任公司

3.7 大模型安全流通平臺

市場定義：

大模型安全流通平臺是指覆蓋大模型開發及應用全流程，對資料、模型、引數提供安全防護，為大模型生態的多方參與者提供利益分配支援的平臺。

甲方終端使用者：

企業大資料部門和業務部門、大模型廠商、大模型應用廠商

甲方核心需求：

企業對大模型安全流通平臺的需求體現在全流程安全、利益分類支援和價值體系三個方面。一是企業需要大模型安全流通平臺覆蓋大模型開發及應用全流程，對資料、模型、引數提供安全防護。二是企業需要大模型安全流通平臺為利益分配提供支援。三是企業需要闡明大模型流通平臺價值，促進大模型生態各方達成合作。

• 企業需要大模型安全流通平臺覆蓋大模型開發及應用全流程，對資料、模型、引數提供安全防護。 大模型訓練及應用全流程可大致分為資料治理、預訓練、微調、應用四個環節，每個環節均有安全需求。全流程安全是大模型及其要素高效流通的必要條件之一。

圖14：大模型開發及應用全流程

大模型開發及應用全流程主要涉及企業大資料部門、大模型廠商、大模型應用廠商、企業業務部門等四類參與主體。它們在合作過程中需要解決信任及隱私安全保護問題。企業大資料部門面臨資料被使用過程中的各類不安全因素。大模型廠商面臨基礎模型產權被竊取風險，特別是對於初創企業而言，大模型是公司的核心資產。大模型應用廠商面臨資料可觸達性以及調優成果遺失風險。企業業務部門關係核心業務資料的洩漏風險。

• 企業需要大模型安全流通平臺為利益分配提供支援。 大模型開發及應用過程中常面臨利益分配困境，主要在於難以衡量各方貢獻率。如果有合理的利益分配機制，大模型生態的各參與方能夠達成更加高效且安全地協作，加快推動大模型的技術進步和產業落地。大模型安全流通平臺的使命在於加快大模型及其要素的流通，因此被企業寄予厚望，希望提供相關的模組或功能。
• 企業需要闡明大模型流通平臺價值，促進大模型生態各方達成合作。 大模型“出圈”效應顯著，許多企業高管表達出對大模型及其應用的濃厚興趣。但從實際立項情況來看，大模型專案立項並不順利。主要原因在於CEO等企業一把手希望看到大模型的業務價值，而較多IT負責人難以表達清楚。具體到大模型安全流通平臺專案，立項則更為困難。一是該市場剛剛興起，市場教育欠缺，推動立項的解釋成本比較高。二是大模型安全流通平臺專案需要多方協作，IT負責人不僅需要說服企業內部管理者，還需要說服企業外部的合作伙伴，難度倍增。

廠商能力要求：

企業基於對大模型安全流通平臺的需求，向廠商提出多項能力要求。一是大模型安全流通平臺需要提供有大模型時代特色的保護能力。二是大模型安全流通平臺需要以不可篡改方式統計並儲存資產授權記錄與推理服務的呼叫量。三是廠商需要建立大模型安全流通平臺的價值體系。

• 大模型安全流通平臺需要提供有大模型時代特色的保護能力。 大模型時代不同於傳統AI時代，企業在安全防護方面提出新要求。傳統AI模型引數量偏小，部署過程中較少考慮叢集化加密模式。而大模型引數量顯著提升，訓練推理過程中需要強大的算力基礎。因此，多臺伺服器聯合工作成為常態。如果仍按照傳統方式進行加密，容易產生安全風險。例如攻擊者在一個叢集中加入了一個假攻擊節點，將難以被發現。
• 另外，對於AI企業而言，常會使用程式碼混淆方式來加密模型，但模型在執行過程中仍會透露資訊。不僅如此，AI企業往往只注重硬碟加密，忽略記憶體加密，但記憶體中的資料也有被竊取的風險。
• 大模型安全流通平臺需要以不可篡改方式統計並儲存資產授權記錄與推理服務的呼叫量。 大模型安全流通平臺尚不具備直接提供支援利益分配的完整模組或功能，以不可篡改方式統計並儲存資產授權記錄與推理服務的呼叫量是當前可以實現的一種解決方案，可以為利益分配提供部分支援。大模型生態各參與方可基於資產授權記錄與推理服務的呼叫量，結合資源重要性、稀缺性等其他共識，實現商業收益的公平分配。
• 廠商需要建立大模型安全流通平臺的價值體系。 對於企業大資料部門而言，核心價值在於保護資料安全；對於大模型廠商而言，則是保護模型安全；對於大模型應用廠商而言，則是保護調優成果；對於企業業務部門而言，則是防止業務資料洩露。大模型安全流通平臺廠商需要建立上述核心價值與客戶企業戰略目標之間的關聯性，構建價值體系，促進立項。

入選標準說明：

1. 符合大模型安全流通平臺市場分析的廠商能力要求；

2. 近一年廠商在該市場至少服務1家企業（含POC）。

代表廠商評估：

攬睿星舟

廠商介紹：

攬睿星舟（Lanrui-ai）是人工智慧企業翼方健數“資料和計算網際網路”中的AI可信計算節點，專注於大模型時代的AI算力、演算法與資料的安全可信流通。服務包括：以機密可信計算環境“星舟·密方”為產品主體的攬睿大模型流通解決方案、提供高附加值的推理服務“星舟·推理”的攬睿大模型應用開發平臺等。

產品服務介紹：

面向大模型領域，攬睿星舟推出“攬睿大模型應用開發平臺”與“攬睿大模型流通解決方案”，旨在為大模型應用開發與落地實踐提供安全可信的基礎設施。

“攬睿大模型應用開發平臺”提供一站式大模型應用開發方法、算力和環境支援，為AI應用開發者提供簡便、高效、靈活的AI Serverless工具，平臺內建“星舟·標準推理服務”與“星舟·自助推理服務”，支援按照呼叫量或使用時間計費。

“攬睿大模型流通解決方案”以機密可信計算叢集“星舟·密方”為核心，結合算力排程、演算法編排等技術及開箱即用的AI工具為AI應用落地提供全流程安全保護。平臺內所構建的“機密可信”算力專區，讓使用者能夠一鍵完成機密可信工作空間的搭建，所有執行在記憶體的資料都經過CPU硬體模組加密處理，工作空間的儲存資料預設由“星舟·密方”內建KMS（金鑰管理服務）管理的不出域金鑰進行加密，即使是硬體與軟體的管理員也無法進入工作空間內部或透過硬體獲取使用者資料。使大模型落地各類參與者在合法合規、本方資產受保護的前提下形成合作。

圖15：一站式AI服務平臺和AI應用生態攬睿星舟架構圖

廠商評估：

攬睿大模型流通解決方案主要賦能四類參與主體，包括：資料提供方、基礎模型開發者、參與行業大模型調優的服務團隊以及使用大模型的業務部門。在能力方面，該方案支援客戶一鍵構建安全開發環境，為大模型各參與方提供全方位的安全保護。在算力方面，相較於自建計算中心或採購大型雲廠商算力，攬睿星舟可以為客戶提供高價效比算力支援。此外，方案透過不可篡改的方式保留資料授權記錄與模型呼叫記錄，進而解決商業收益分配問題，加速大模型生態共建。在服務經驗方面，攬睿星舟AI客戶眾多，擁有豐富的服務經驗，深刻了解使用者需求。

• 賦能大模型生態各方，為要素流通保駕護航。 大模型開發及應用全流程主要涉及資料提供方、基礎模型開發者、參與行業大模型調優的服務團隊以及使用大模型的業務部門等四類參與主體。在大模型應用落地過程中，四類參與主體通常缺一不可，合作過程中需要解決信任及隱私安全保護問題，其中包含：資料提供方面臨資料被使用過程中的各類不安全因素；基礎大模型開發者面臨基礎模型產權被竊取風險；引數調優服務方面臨資料可觸達性以及調優成果遺失風險；業務方面臨事關核心商業競爭力的業務資料洩漏危險。攬睿大模型流通解決方案整合了多項技術能力，從機密可信計算到跨雲算力排程、資料編排等，可以為各類參與主體提供模型、資料集與服務有效安全串聯，實現資料和模型的保護。

圖16：攬睿大模型流通解決方案示例

在解決方案的保護下，大模型生態的各類參與主體都能夠在合法合規、保護本方資料、產權與權益的前提下安全、高效地協作，同時也滿足使用者對於模型專業化的需求，賦能大模型技術進步和產業落地。

• 提供叢集執行環境的全方位可信安全保護。 攬睿大模型流通解決方案的安全核心是自研的機密可信計算產品“星舟·密方”。“星舟·密方”是基於TEE和TPM硬體構建的雲原生可信機密計算叢集，為攬睿大模型流通解決方案提供通用、安全、高效的“零信任”計算環境。“星舟·密方”利用機密計算硬體的能力，確保整個計算環境中的任何一方，包括資料中心管理員、雲平臺管理員在內，都必須經授權才能夠訪問計算叢集，或透過計算環境的基礎設施進行其他型別的攻擊。相較傳統僅支援程式級別、虛擬機器級別的安全防護方案，“星舟·密方”在提供運維及遷移便利性的基礎上為使用者增強了整個叢集的安全性與完整性。方案所涉及的安全核心技術已獲得中國信通院多項效能與專項評測。
• 提供高價效比且豐富的算力支援。 在成本方面，攬睿大模型流通解決方案支援異構算力的完整、安全接入，整合閒散算力“化零為整”對外提供服務，包括但不限於標準化的彈性算力資源、開箱即用的工具和模型生態，為使用者提供“按需使用、按量計費”的算力使用模式與更有競爭力的算力價格。
• 除接入國際主流硬體外，攬睿星舟也在積極參與國產硬體的接入。透過與國內的硬體供應商聯合測試，已積累一定成果與實踐經驗。“算力國產化”工作持續推進，一方面有利於攬睿大模型流通解決方案保持有競爭力的算力價格，另一方面有利於該解決方案勝任更多硬體國產化的應用場景。
• 支援一站式開箱即用的AI開發環境與工具。 攬睿大模型流通解決方案為客戶提供一種先進的、“無感”的異構（機密可信）計算資源服務。在系統中，使用者透過一個統一且標準化的介面輕鬆訪問所需的計算資源，無需關心背後複雜的算力排程、資料、資源配置和管理。攬睿星舟採用雲原生技術，實現與使用者現有軟體系統的無縫對接，大大減輕了使用者的運維負擔。透過這種方式為使用者提供了一個簡潔、高效的計算資源使用體驗，讓他們可以專注於創新和業務發展，而不是技術的複雜性。此外，攬睿星舟致力於為使用者提供一系列開箱即用的第三方資源。這一服務使使用者能夠輕鬆地使用第三方模型、外掛和工具，無需經歷繁瑣的環境搭建和依賴適配。使用者只需簡單選擇所需的資源，即可一鍵啟動一個完善且全面的工作環境，從而高效地推進專案和創意。
• 解決商業收益分配問題，賦能AI生態高效協作。 大模型開發及應用過程中涉及多方貢獻。而大模型商業收益方面一直存在著分配難題，主要在於難以衡量各方貢獻率。方案內建精準計量模組，可整合基於區塊鏈的存證和激勵系統，在確保使用者資料安全的前提下以不可篡改方式統計並儲存資產授權記錄與推理服務的呼叫量。各方可基於資產授權情況，結合資源重要性、稀缺性等其他共識，實現商業收益的公平分配。
• 基於合理的商業模式，大模型生態的各參與方能夠達成更加高效且安全的協作，共同推動大模型的技術進步和產業落地。目前，在賦能AI應用落地的道路上，攬睿星舟已經取得一些實踐成果，包括大資料局、金融機構和人工智慧企業在內的多行業客戶已與攬睿星舟形成合作，共同探索並推進大模型技術在實際生產場景的落地。

典型客戶：

某城市大資料局、某金融機構、某智慧客服企業

04

入選廠商列表