大模型時代，中關村科金的蛻變

大模型時代，幾乎所有應用軟體都值得被重做一次。

日前，中關村科金正式釋出了國內首個企業知識大模型、AgentGraph應用開發平臺，以及“超級員工”系列AIGC應用，為企業提供開箱即用、成本可負擔的專屬領域大模型服務，這意味著，作為對話式AI技術解決方案提供商，中關村科金完成了基於大模型的重構與蛻變。

大模型的實踐路徑

大模型作為AI領域最重要的突破性進展之一，為各行各業帶來了變革。幾周前，Gartner釋出了2024年企業機構需要探索的十大戰略技術趨勢。其中一半以上與AI有關，Gartner預測，到2026年，超過80%的企業將使用生成式AI的API或模型，或在生產環境中部署支援生成式AI的應用，而在2023年初這一比例不到5%。

生成式AI即AIGC，是大模型所具備的能力，現階段通用大模型雖然具備通用能力，但是專業能力弱，而且也容易出現幻覺問題，所以大模型的落地需要透過領域大模型，如此才能使大模型走進千行百業。

中關村科金技術副總裁張傑博士指出，大模型能夠低成本地、準確地理解非結構化文字，但基礎大模型為了遷就通用性，在專業性方面比較弱，為企業引入領域大模型帶來契機，中關村科金認為當前企業用大模型做知識中臺是現階段最佳切入點。

我們知道大模型需要結合場景落地，張傑博士指出，企業知識中臺並非孤立的場景，可以按照領域專業性和場景容錯性兩個維度劃分，延展出更多的場景應用。比如ChatGPT專業性比較弱，是閒聊的場景，容錯性也比較高。企業面向內部員工做的知識問答或者檢索場景，以及營銷文案場景，專業性強，容錯性高。未來，對大模型輸出的安全性和合規性有一定保障後，可以讓它基於企業知識中臺，與營銷、服務、運營、生產、研發各環節系統打通。

當然，企業想要引入大模型應用無法一蹴而就，張傑博士建議企業使用領域大模型+領域知識庫的技術組合方式引入大模型落地，這涉及一系列大模型微調、訓練等技術動作，來把行業的know-how投餵給大模型使其具有行業專業能力。

張傑博士在2023大模型前沿論壇上介紹稱，中關村科金根據不同企業體量和需求量，設計了通用大模型+提示工程、通用大模型+領域知識庫+提示工程、領域大模型+領域知識庫+提示工程三種不同的路徑，漸進式滿足企業對大模型應用的需求。

中關村科金開發了一體(企業知識大模型)兩翼(領域大模型工廠和領域知識庫工廠)技術底座，在此技術底座基礎上形成智慧營銷、智慧服務、智慧運營、超級員工四類產品，構建面向企業全生命週期的人機協作平臺。

其中，領域大模型工廠用來注入領域知識，把開源的基礎大模型變成企業專屬的領域大模型，這樣可以很大程度上緩解基礎大模型的幻覺問題，並且提升其專業性和合規性。領域知識庫工廠，是在大模型和知識圖譜的基礎之上，基於傳統的AI能力和多模態的能力，在大模型前後做了大量的預處理工作和後處理的工作，能被大模型隨時調取。就像我們學習做筆記一樣，通用大模型透過學習領域知識成為了領域大模型，但並非所有的資料都需要儲存在大模型裡，長尾的、低頻的或者企業特性的資料存放到領域知識庫工廠，並針對大模型對原始資料進行切分、轉化等一系列加工，變成大模型可以隨取隨用的知識語料庫。

此外，此次釋出的AgentGraph應用開發平臺作為連線一體兩翼和四類產品的中間層，靈活適配十餘款開源基礎大模型，相容性強支援一鍵切換，擁有50+應用模板，並將超過200+個AI能力元件化，可實現零程式碼、分鐘級建立新應用，進一步降低客戶創新成本、縮短開發週期。

中關村科金的變與不變

張傑博士介紹，實際上中關村科金仍然是對話式AI技術解決方案提供商的定位，仍然紮根於對話式AI賽道。這次的釋出，是將企業原有產品以及積累的AI能力基於大模型重構後的集中呈現。今年年初接受IT168698&ITPUB採訪時，張傑博士曾講到，中關村科金重點關注對話式AI如何在企業服務賽道上落地，例如：透過AI生成營銷文案、7*24小時線上回答客戶諮詢、模擬真實業務場景的新員工沉浸式陪練、以數字人的形態線上辦理業務。

企業客戶在對話式AI方面的需求，主要有以下幾類：

1、 業務增長需求：大部分客戶都會有此類需求，客戶關注系統對終端使用者的意向識別準確率，以及業務轉化效果。此類產品有時是外呼機器人、有時是銷售助手的形式。

2、 降本增效需求：大多出現在客服中心場景下，目標是替代坐席、降低投訴、或者是帶來二次營銷的機會。

3、 員工培訓需求：有些線下連鎖零售、勞動力密集型行業的客戶，面臨招工難、流失率高的挑戰，如何使新員工快速獲得技能、降低培訓成本是他們重點考慮的問題，要求產品低成本的構建知識庫、針對員工做個性化的覆盤分析報告。

4、 平臺建設需求：這類客戶往往是金融機構或行業龍頭企業，之前已經落地過多個AI專案，意識到要在平臺層做能力拉通，避免“建煙囪”和“重複造輪子”。

如今基於大模型重構後，中關村科金完成了AIGC時代的蛻變：始終不變堅持原有對話式AI的技術路線，充分利用大模型能力升級原有的全系對話式AI產品，讓他們變得更智慧、更高效、更準確。

比如，在金融行業，中關村科金融合自研的企業知識大模型、智慧客服等人工智慧技術，為諾亞財富打造了智慧知識庫，透過整合諾亞財富的企業微信和旗下財富管理平臺iNoah APP應用，以知識助手的形式為其員工和使用者提供基於企業知識文件的智慧問答查詢功能，大幅提升客服系統問答意圖識別和回覆的準確率，減少文字客服70%以上的運營工作量，回答效果提升50%+。在營銷領域，作為營銷文案助手，可以賦能理財師撰寫營銷文案，原先10分鐘一條營銷文案，現在10秒即可完成。

在零售行業，某頭部零售企業，以前在一個新場景構建外呼機器人，大概需要2-3周時間，且需要非常熟練的話術師才行。但現在，藉助中關村科金構造好的領域大模型，只需大約1-2天時間就可以成功交付，能明顯降低交付成本，加快交付效率。

張傑博士介紹到，客戶為應用場景買單，不為生產工具買單，中關村科金提供整體解決方案。客戶最終看的是準確率是否高，以及是否能降本增效，從上面例子可以看到這種提升是顯而易見的。據悉，中關村科金企業知識大模型耗費10萬卡天算力，整理出原子任務間的協同增益關係圖，從而高效微調，避免災難性遺忘，提升準確率。其模型靈活適配十多個基礎大模型，指令資料可持續積累，實現單週迭代、單卡推理，為企業提供開箱即用的智慧工具，加深業務與技術的耦合，提升生產力並降低成本，實現成本可負擔。這在降本增效的當下，更具有重要意義，而且企業可以不必綁死在某一款基礎大模型上。

近年來，中關村科金加速佈局出海市場，組建了出海事業部，並在新加坡設立了分公司。目前，中關村科金已服務了捷安特、基恩士(中國)、玫琳凱、馬來亞銀行、開泰銀行、富邦華一銀行、南銀法巴消費金融等知名企業。

當前，整體來看AIGC的落地還在初期階段，很多企業都是先從邊緣業務試點，然後逐步到核心業務上去應用。想要把大模型應用好，還需要企業自身語料庫足夠健康與準確，企業自身的資料治理能力也非常關鍵。大模型時代已來，還有更多場景值得去探索。