創新實力強、應用落地廣，GenAI（生成式AI）技術棧領域，商湯科技位居國內榜首！
近日，權威研究機構弗若斯特沙利文（Frost & Sullivan, 簡稱“沙利文”）聯合頭豹研究院釋出《2024年中國GenAI技術棧市場報告》，商湯科技在11個GenAI廠商中超越阿里雲、百度智慧雲和華為雲，增長指數和創新指數均排名國內第一，在全球排名中僅次於亞馬遜雲科技。
報告認為，商湯積極投入技術創新，致力於為使用者提供行業領先的自研模型與高效能國產化的推理引擎，同時建立了包含機器與人工稽核、安全評測與內容安全策略迭代升級等在內的完整性安全管理方案，是GenAI技術棧領域的領導者。
基於商湯大裝置，創新力和增長力領跑國內市場
GenAI技術棧是連線硬體設施層與終端使用者互動的中間層，整合了包括基礎模型、資料處理、模型訓練調優、模型部署監控等技術和工具，提供從模型初始化到部署全過程的一站式解決方案。
《2024年中國GenAI技術棧市場報告》從創新和增長兩個維度、共10個一級評價指標進行GenAI技術棧競爭力分析。
報告顯示，商湯科技在兩個維度中均排名全球第二、國內第一，其中創新維度獲得“資源利用率最佳化管理、快取與記憶、精煉壓縮模型”三大模組最高分，展現出三大能力優勢：
- 高效的資源利用率最佳化能力：商湯自研高效能大模型推理引擎效能優勢明顯，在相同算力及電力成本下將每秒請求數（QPS）提升4倍。同時基於訓推一體、算電協同等技術創新，萬卡叢集GPU資源利用率最高達到80%以上。
- 高效的快取與記憶能力：建立了資料飛輪機制，形成自我強化的反饋迴圈，實現模型效能的不斷提升。
- 精煉的壓縮模型能力：在程式碼小浣熊辦公助手和程式碼助手應用場景中，透過模型體積壓縮，實現數倍的視訊記憶體節省、高比例的速度提升。
在增長維度，商湯科技斬獲“行業客戶與場景方案”模組最高分，展現出了商湯生成式AI落地應用的廣度和深度：
- 覆蓋領域廣：商湯“日日新”大模型已在金融、醫療、Copilot助手、擬人互動、智慧終端等關鍵領域確立了卓越的應用價值和領先地位。
- 應用觸達深：商湯科技與各行業頭部企業展開緊密合作，助力運營商提高算力資源利用，助力媒體創新內容生產模式，為生成式AI應用落地提供了豐富的標杆案例與行業經驗。
引領GenAI技術棧發展趨勢，加速GenAI應用落地
報告指出，高質模型的構建、安全合規的最佳化、推理成本的降低、資料價值的釋放、產品應用化的實現，是使用者在構建GenAI應用時的核心考量因素。
而商湯科技在GenAI技術棧領域取得領先，主要源於以下幾個方面：
- 積極的創新投入：不僅構建了自主算力平臺，商湯日日新大模型在多評測集上也均保持領先地位，讓使用者可以呼叫不同模態與不同行業性的基礎大模型。
- 高效能的推理引擎：商湯大型分散式推理系統，擁有高效能運算元庫與極致最佳化的推理框架，在軟硬體底層最佳化、自適應分離架構、國產化生態打造以及前瞻性的“多模態AGI+雲/邊/端系統”佈局等層面優勢顯著。
- 完善的安全管理框架：商湯針對GenAI場景，設計了符合大模型特質的內容安全運營體系，為使用者提供完整的安全管理方案。
報告認為，GenAI技術棧將呈現模組化、標準化、平臺化、簡易化、去中心化的發展趨勢，MaaS（模型即服務）的廣泛推廣還將重構生成式AI的商業化生態。同時，作為一項底層創新技術，GenAI還將催生全新型別的資訊商品，有望造就出全新的產品時代和超級產品。
商湯大裝置永珍，包含模型開發平臺和應用開發平臺，面向企業與開發者提供模型管理、模型微調、推理部署、資料管理，以及智慧體應用等一站式大模型服務，併成功應用於央國企、運營商、汽車、網際網路等行業客戶。
商湯大裝置將不斷完善GenAI技術棧，透過一系列工具與服務協助使用者降低模型開發門檻，以MaaS大模型即服務的創新模式，推動生成式AI應用的商業化落地和生態構建。