01 研究範圍定義
研究範圍 :
大模型是指透過在海量資料上依託強大算力資源進行訓練後能完成大量不同下游任務的模型。2023年以來,ChatGPT引爆全球大模型市場。國內眾多大模型先後公測,眾多網際網路領軍者投身大模型事業,使得大模型市場進入“百團大戰”階段,2023年成為公認的“大模型元年”。
企業使用者方面,大模型的應用速度之快超乎想象。2023年初,企業管理層對大模型的話題還停留在大模型是什麼,是不是概念炒作。短短半年,大模型已經從飯後談資走向落地應用。大企業管理層們希望瞭解到大模型能為企業發展帶來哪些變革,大模型的應用路徑是什麼,如何提升大模型的投資回報率,以及應該為擁抱大模型做哪些準備。而且,大模型吸引的人群也愈發廣泛,不僅吸引CIO、CTO等技術管理者的關注,CEO、CMO等非技術類管理者同樣期待大模型在業務中發揮價值。這些轉變表明,大模型的變革之力正日益得到產業界的認可。
透過對市場規模資料的分析,能較為直觀地體現出企業對大模型應用落地的熱情。愛分析資料顯示,2023年中國大模型市場規模約為50億元(人民幣,下同)。2023年,企業在大模型方面的採購特點是論證多、採購少,各企業計劃在2024年開始大量釋放大模型預算,因此市場規模將大幅增長,預計達到120億元。
愛分析認為,大模型市場從技術架構角度可以劃分為基礎層、模型層、中間層和應用層。基礎層是指為大模型訓練推理而提供的基礎環境,包括湖倉一體、向量資料庫、智算中心、大模型安全流通平臺等。模型層是指基礎大模型以及微調後的大模型,包括通用大模型、行業大模型、領域大模型和企業大模型。中間層是模型層和應用層之間的“橋樑”,有利於大模型在各種實際場景快速落地,包括大模型應用開發工具、LLMOps工具等。應用層是指大模型應用和解決方案,包括知識庫問答、智慧客服、對話式分析等。大模型市場劃分詳見下圖。
本評估報告聚焦通用大模型市場,愛分析遴選出具備成熟解決方案和成功案例的廠商,供企業做廠商選型時提供參考。同時,在該市場下,愛分析重點選取了通用大模型廠商出門問問進行能力評估。
02 通用大模型市場分析
市場定義:
通用大模型是指透過在海量資料上依託強大算力資源進行訓練後能完成大量不同下游任務的非開源免費模型。
甲方終端使用者:
行業頭部企業IT部門
甲方核心需求:
大多數企業只需要大模型應用,而頭部企業對大模型的需求則不侷限於此。通用大模型是頭部企業IT基礎的重要拼圖之一,企業需要依託通用大模型進行能力建設。企業需要通用大模型可以支撐業務,發揮價值。並且,企業需要“通用大模型+算力”的綜合解決方案來應對“卡荒”。
- 企業需要依託通用大模型進行能力建設。 大多數企業只需要大模型應用,而頭部企業對大模型的需求則不侷限於此。通用大模型是頭部企業IT基礎的重要拼圖之一,企業需要依託通用大模型進行能力建設。企業需要通用大模型支撐多種業務場景,例如客服、資料分析、營銷素材生成等。這些場景對映到模型本身,則對模型能力提出要求,包括文字生成、SQL生成、多模態等。當前,尚不存在“六邊形戰士”類的全能大模型,頭部企業可以透過採購、部署多個通用大模型,共同完成大模型能力建設。
- 企業需要通用大模型可以支撐業務,發揮價值。 部署通用大模型並不能直接為企業帶來價值,還需要“改造”和“開發”。改造是指結合企業私有資料進行微調甚至後訓練,以便其更好地執行特定任務。開發是指需要基於通用大模型開發全新的上層應用或者賦能已有的IT系統。
- 企業需要“通用大模型+算力”的綜合解決方案來應對“卡荒”。 通用大模型的微調、推理需要高階AI晶片作為算力底座。但是,美國政府持續擴大針對中國晶片的出口限制,加劇了國內算力供應的壓力,AI晶片價格持續走高且一卡難求。企業通常需要“通用大模型+算力”的綜合解決方案來應對“卡荒”,解決對算力的後顧之憂。
廠商能力要求:
企業基於對通用大模型的需求,向廠商提出多項能力要求。一是通用大模型需要具備鮮明的能力特點。二是廠商需要提供大模型應用開發工具、LLMOps工具、AI Agent等工具層產品。三是廠商需要具備足夠的高階AI晶片,並具備以華為昇騰為代表的國產化晶片替代方案。
- 通用大模型需要具備鮮明的能力特點。 頭部企業需要依託通用大模型進行能力建設。當前,尚不存在“六邊形戰士”類的全能大模型,頭部企業可以透過採購、部署多個通用大模型,共同完成大模型能力建設。因此,通用大模型需要具備鮮明的能力特點,與企業需求進行匹配。能力特點包括文字生成、SQL生成、多模態、知識檢索、多輪對話、提示詞長度等。
- 廠商需要提供大模型應用開發工具、LLMOps工具、AI Agent等工具層產品。 處於成本和安全等因素考量,企業需要實現大模型改造和開發能力的內化。除通用大模型和算力之外,廠商通常需要提供大模型應用開發工具、LLMOps工具、AI Agent等工具層產品。涵蓋大模型應用開發、大模型微調、大模型運維、AI Agent構建與運維等多個方面。
- 廠商需要具備足夠的高階AI晶片,並具備以華為昇騰為代表的國產化晶片替代方案。 企業需要“通用大模型+算力”的綜合解決方案來應對“卡荒”。相應地,廠商需要具備足夠的高階AI晶片,才能滿足企業需求。鑑於美國晶片供應的不確定性持續增加、國產晶片的崛起以及國產化替代事業的推進等多重因素,將國產晶片應用於微調、推理場景是大勢所趨。廠商應具備以國產化晶片替代方案。當前,華為昇騰910是最熱門的替代方案。
入選標準說明:
1. 符合通用大模型市場分析的廠商能力要求;
2. 近一年廠商在該市場至少服務1家企業(含POC)。
03 廠商評估:出門問問
廠商介紹:
出門問問是一家以生成式AI和語音互動為核心的人工智慧公司,為全球多個國家的創作者和企業提供AIGC工具、AI政企服務,以及AI智慧硬體。出門問問致力於打造國際領先的通用大模型,透過AI技術、產品及商業化三位一體發展,成為全球AI CoPilot的引領者。
產品服務介:
出門問問基於自研通用大模型——序列猴子,面向全球多個國家的創作者和企業提供一系列大模型產品及解決方案。「序列猴子」大模型以語言為核心的能力體系,涵蓋“知識、對話、數學、邏輯、推理、規劃”六個維度。特別的是,該模型擁有優秀的跨模態知識遷移能力,能夠將語言模型所涵蓋的常識知識有效轉化應用於其他非語言模態的模型當中。目前出門問問自研大模型「序列猴子」已透過備案,向全社會開放。
圖1:出門問問 AIGC SaaS
- 魔音工坊是一款AI配音及多人協同創作工具,具備軟體配音、雲剪輯、一鍵分析影片、文案提取、捏聲音等功能。目前,「序列猴子」賦能語音合成引擎,使其AI配音產品“魔音工坊”實現輕量資料極速克隆,情感效果媲美真人。魔音工坊還推出了面向海外內容創作者的海外版“DupDub”和企業可透過API整合部署的企業版。
- 奇妙元是一款數字人產品,可用於短影片製作以及網路直播,該產品不僅可以生成數字人形象,而且可以自動生成文案。
- 奇妙問是出門問問推出的“企業AI互動式數字員工生成平臺”,面向政企、文旅等行業,打造數字接待、數字客服、數字銷售等互動型數字員工。
並且,出門問問已推出三款AI Agent產品,分別為企業知識助手、資料分析助手和自定義流程助手。
圖2:序列猴子大模型
廠商評估:
出門問問深耕AI與大模型,具有深厚的技術和客戶積累。出門問問的大模型產品不侷限於單一文字模態,而是聚焦多模態。出門問問透過提供多模態大模型應用,為企業實現深度賦能。除多模態之外,出門問問還依託Agent技術打造企業知識助手、資料分析助手和自定義流程助手,致力於提升通用大模型的可用性和業務價值。在產品可用性方面,出門問問基於自研大模型解決“問答系統響應慢”難題,讓問答系統更可用。在商業化方面,出門問問在內容創作領域已建立完整的大模型產品業務價值評估體系,有利於企業快速推進大模型立項。
- 出門問問深耕AI與大模型,具有深厚的技術和客戶積累。 出門問問是一家以生成式AI和語音互動為核心的人工智慧公司,具有619項AI相關智慧財產權。該廠商已推出多款AI穿戴裝置,以及汽車、金融和醫療等行業AI解決方案,是業內少有的具備軟硬體整合能力的AI公司。在大模型方面,出門問問佈局時間早於大部分廠商,其在2021年6月釋出大模型“UCLAI”,並在2023年4月釋出大模型“序列猴子”。
- 出門問問持續關注大模型前沿技術,其在AI Agent方面具備一定研究成果,並推出了一款相關產品。出門問問的AI Agent產品為面試機器人,屬於奇妙問產品旗下。面試機器人主要應用於面試模擬場景,機器人基於面試背景設定以及使用者的簡歷資訊,可以主動與使用者進行交流。另外,出門問問正聚焦“文案一鍵智慧生成影片”技術研究,希望將其應用於網路短劇的快速製作。
- 出門問問具有深厚的客戶基礎,其在傳統AI時代推出的魔音工坊、奇妙元等產品已積累大量客戶。這些產品已完成大模型升級,提升了對客戶的價值和吸引力。當前,魔音工坊、奇妙元等產品已積累約60萬付費客戶。並且,出門問問在大模型時代全新推出的奇妙元產品也已簽約多家企業,進入交付階段。
圖3:魔音工坊產品能力與商業化程式
- 出門問問為企業提供多模態大模型應用,實現深度賦能。 出門問問聚焦多模態,致力於讓“序列猴子”大模型具備統轄音訊、影像、影片等不同模態內容的能力,實現對企業場景更全面、更深度的覆蓋。在音訊方面,出門問問打造魔音工坊;在影像方面,出門問問打造奇妙元;在影片方面,出門問問正聚焦“文案一鍵智慧生成影片”技術研究。
- 與業界聚焦多模態 Agent 方向的總趨勢一致,出門問問推出了全新產品——奇妙問。奇妙問是出門問問多模態能力的集大成者,其將聰明的大腦、動聽的聲音和好看的外表融為一體,並與不同場景的大屏進行結合,為企業打造具備數字接待、數字客服、數字銷售等職能的數字員工。
- 出門問問依託Agent,提升通用大模型的可用性和業務價值。 Agent興起,成為大模型價值落地的主要方式之一。出門問問依託Agent技術打造企業知識助手、資料分析助手和自定義流程助手,致力於提升通用大模型的可用性和業務價值。
- 企業知識助手透過整合企業私有知識庫來豐富大型模型的知識儲備。這種整合使得Agent能夠提供基於自然語言的、互動式的企業專有知識查詢服務。進而解決通用大型模型在應對企業應用場景時因領域知識不足而產生的誤導性問題,即幻覺問題。企業知識助手已在工商銀行私人銀行落地應用。
- 出門問問基於大模型構建的資料分析助手能夠透過將自然語言轉化為資料分析語言或程式碼,例如呼叫API、訪問資料庫乃至編寫資料分析程式碼,從而高效地獲取、分析和視覺化資料,為企業決策提供有力支援。克服傳統BI工具常面臨的使用難度大、高度依賴技術團隊、結果反饋慢等問題。資料分析助手已在某半導體顯示產品龍頭企業落地應用。
- 理想的Agent應當在接收一套工具集和相關知識後,它能依靠大型模型的理解和推理能力獨立地規劃並拆解任務,設計出具體的執行步驟。它能智慧地運用各種工具,檢索所需知識,生成內容,並最終完成任務。然而,在企業實際應用中,由於各企業的知識體系、應用場景和業務需求差異巨大,加上大型模型本身存在的不確定性,這種“放手”式的做法往往帶來不可預測的結果。出門問問基於此推出自定義流程助手,致力於滿足企業對Agent的可控性需求,即對AI的執行過程和細節進行更精細的控制,確保AI能夠按照人類確認過的工作流程來執行任務。自定義流程助手已在某智慧交通龍頭企業落地應用。
- 出門問問基於自研大模型解決“問答系統響應慢”難題,提升問答系統可用性。 問答系統是現階段大模型最主流的應用之一。當使用者向問答系統提出問題之後,一般會經過聲音轉文字,大模型推理等環節才能呈現答案。如果是數字員工形態的的問答系統,還需進行渲染處理。使用者耐心有限,問答系統必須壓縮各個環節時間,實現對問題的快速響應。然而,大模型推理環節一般耗時較長。因此,加快推理速度是廠商打造可用問答系統的“必答題”。
- 出門問問的解決方案是降低大模型“體積”,從而獲得推理速度的提升。該方案的核心要點在於找到大模型推理效果和推理時間的 平衡點。出門問問自主研發通用大模型“序列猴子”,其在大模型預訓練、微調等技術方面底蘊深厚。出門問問透過對自研大模型的靈活調整,已找到 平衡點,解決了“問答系統響應慢”難題,讓旗下的問答系統(奇妙問)更可用。
- 在內容創作領域,出門問問已建立完整的大模型產品業務價值評估體系。 大模型“出圈”效應顯著,許多企業高管表達出對大模型及其應用的濃厚興趣。但從實際立項情況來看,大模型專案立項並不順利。主要原因在於CEO等企業一把手希望看到大模型的業務價值,而較多IT負責人難以表達清楚。出門問問在內容創作領域深耕多年,積累數十萬名付費客戶。出門問問面對內容生產商和內容批發商等內容創作領域的參與者,總結出一套業務價值評估體系。該體系包括業務價值構成以及衡量價值的關鍵指標,有利於企業快速推進大模型立項。
典型客戶:
中國工商銀行、某能源類央企、某半導體顯示產品龍頭企業、某大型石化企業、某智慧交通龍頭企業