NLP產業化探索至今已有十餘年，從早期的正則技術到相似問技術、分類器技術，直到兩三年前的BERT預訓練技術，經過了若干技術思想和思潮的更迭，取得了巨大的進步。
然而這些技術都存在一些侷限性，包括生產週期長、需要大量手工調優和標註資料、泛化能力差、識別準確率低，無法為業務提供精準支撐，無法投入大規模應用。
日前，專注於銷售科技（SalesTech）的AI企業服務公司迴圈智慧（Recurrent AI）舉辦主題為「智見未來，有跡可循」的雲端釋出會，重磅釋出了「盤古」零樣本NLP平臺和包含三大產品矩陣在內的整體產品方案。
「盤古」零樣本NLP平臺
歷時一年，「盤古」從首箇中文千億引數預訓練模型已進化為僅需15億引數就能實現效能更強、在真實場景得到廣泛驗證並具備強大工程化支援的零樣本平臺，開啟了NLP生產新正規化。
迴圈智慧聯合創始人楊植麟博士在釋出會上介紹說：「零樣本意味著無需標註樣本，只需提供指令即可完成一個新語義建模，效果比肩甚至超越全量樣本微調。建模時間從3天降至3分鐘，準確率比當前主流模型提升15%。」
盤古零樣本平臺現已完成超過200個場景的落地驗證，透過極致工程最佳化，單GPU抽取一萬小時錄音僅需16分鐘。該平臺目前仍在不斷改進中，已覆蓋70%的客戶經營場景，每月新增超過100個持續學習任務。
作為首個千億級中文大模型，盤古的工程化落地並不容易，一臺伺服器顯然無法支援其引數矩陣。在盤古的預訓練階段，迴圈智慧和華為合作，利用3D並行化技術，使算力分散在大規模叢集上，並做了大量GPU硬體和網路通訊層面的最佳化，將模型分散在上千個GPU上進行訓練，充分利用這些計算資源。
然而如果要將這種大規模模型部署在生產環節中，成本會非常高昂。為了在真實的生產環境中讓盤古以成本可控的方式使用，研發團隊發現使用多工學習對模型進行預訓練時，可以透過增加任務的數量，在不損失模型精度的情況下壓縮模型的引數量，利用任務的規模化來代替模型的規模化。
此外，盤古研發團隊使用模型蒸餾技術減少了模型中引數的冗餘，進一步壓縮了模型的規模。現在，盤古模型能夠在幾乎不損失精度的情況下在單個GPU上執行，大幅度降低了成本。
研發團隊還根據真實業務場景中請求的潮汐週期性，實現了AI算力的動態排程，把任務拆分為實時任務和離線任務，彈性地分配計算資源，讓白天高峰期時的算力集中用於處理實時性要求比較高的任務，離線任務和模型訓練任務分配在空閒的時間。此外，該模型還可以根據業務型別按需分配權重，實現計算資源的動態隔離。透過彈性的資源排程，整套框架的硬體資源需求降低了50%。
經過這一系列的最佳化，盤古模型成功在多渠道溝通資料分析中落地，利用盤古模型強大的零樣本學習能力，用一套模型就可以泛化到客戶畫像抽取、智慧對話、合規質檢、意圖識別、文字情感分析等各個場景的NLP需求。
這些應用場景正是迴圈智慧在銷售科技領域的探索方向，並已實現產品落地。迴圈智慧聯合創始人&CEO陳麒聰表示：「迴圈智慧致力於以新一代AI銷售科技助力企業解決客戶溝通內容分析和管理難題。」
三大產品矩陣
後疫情時代，作為企業重要對外溝通場景的客戶管理等工作日益成為企業生存、發展的生命線。越來越多的企業希望透過更有效的營銷和服務手段為產品找到客戶，建立遠端瞭解客戶、傳遞產品及服務價值的強大能力。如何實現對客戶溝通內容更精準的分析和更高效智慧的銷售過程管理，已成為企業實現這些願景的關鍵瓶頸。
企業在客戶溝通內容的分析和管理中面臨著突出的降本增效難題：客戶溝通渠道多、人與人溝通比人機溝通更為複雜、客戶與業務員雙邊業務場景複雜多樣，而要實現全部溝通數字化、資料結構化，實現全業務場景支援並賦能每個團隊個性化需求的成本高昂。
在「智見未來，有跡可循」雲端釋出會上，迴圈智慧重磅釋出了其包含三大產品矩陣在內的整體產品方案，全面助力企業破解客戶溝通降本增效難題，實現銷售管理的智慧化提升、一線人員的實時賦能以及更全面的客戶洞察。
迴圈智慧本次釋出的業務增長型產品主要包括「會話分析洞察 Insight」、「智慧銷售助手 Expert」、「會話挖掘引擎 Discovery」；合規提升型產品主要包括「智慧合規質檢 Compliance」和「智慧雙錄助手 Compliance Now」，而AI能力平臺產品則主要包括「企業級NLP平臺」和「企業級ASR自訓練平臺」。
會話分析洞察可助力開啟銷售溝透過程的黑盒，透過視覺化看板洞察業務一線。該產品可透過對溝透過程資料的洞察和分析，精細化診斷業務問題、監督業務策略執行情況，可實現千人千面的管理配置、業務策略追蹤並賦能管理。
智慧銷售助手覆蓋了多個溝通場景，透過面向銷售過程的專家級「非侵入式」幫助系統，可為一線銷售人員插上翅膀，並具備實時推薦和內容日更，讓所有銷售都具備績優銷售的能力。還可一行程式碼嵌入CRM，不干擾原有系統操作流程。
會話挖掘引擎可從海量真實對話中，發現真正被使用的話術與知識，客觀、實時、規模化挖掘一線銷售在實際銷售過程中使用的優秀話術用語和知識。同時還具備啟發靈感和自動化更新功能。
智慧合規質檢面向需管理銷售、客服溝通質量的企業，提供基於AI模型的全渠道、全量質檢系統。支援複雜邏輯質檢、豐富的自定義欄位並具有獨有的違規值排序功能。
目前，迴圈智慧已賦能超100萬一線人員,日均處理上億次對話，在各行各業積累了豐富的銷售增長實踐、銷售分析模型和最佳溝通素材，累計生產了10000+面向各行業業務流程的AI資料模型。
在金融領域，迴圈智慧為多家標杆級銀行、保險機構提供服務，最近又連續中標和簽約了包括中信建投證券、招商證券等在內的頭部證券企業，實現金融三大核心領域的全覆蓋。
面向未來，迴圈智慧將基於「盤古」零樣本平臺強大的NLP能力，繼續深耕銷售、金融等實際領域，以AI生產效率的提升帶動商業產品的大幅落地。