隨著科技的不斷進步與發展，瀾舟科技始終站在創新的前沿，致力於將最新的科技成果賦能企業數智化轉型。2024 年 3 月 18 日，瀾舟科技在中關村國家自主創新示範區展示中心隆重舉行了 “創新落地，生態共贏” 大模型技術和產品釋出會。此次釋出會取得了圓滿成功，不僅展示了瀾舟科技的大模型的最新進展和大模型技術的實際應用落地、生態構建的成果，更體現了其對未來發展的深度思考和戰略佈局。
開場致辭
北京市海淀區副區長徐振濤發表致辭
釋出會伊始，北京市海淀區副區長徐振濤發表致辭。首先對瀾舟科技大模型取得的突破和進展表示了祝賀。當前，全球人工智慧技術高速演進，大模型創新成果層出不窮，面對人工智慧發展機遇，海淀區時刻保持對於產業發展趨勢和演進的敏銳性，始終站在國家戰略高度，持續擴大已有發展基礎和優勢，全力打造人工智慧產業高地。
一是科研力量持續引領創新。集聚了北大、清華、中科院等頂尖高校院所，啟源、中關村兩個國家實驗室，智源、通研院、科學智慧研究院等新型研發機構和七家全國重點實驗室。
二是頂尖人才匯聚。區內擁有眾多人工智慧領域頂尖科學家和產業領軍人才，聚集了人工智慧學者 1.23 萬人，佔全市的 82%。AI2000 全球頂尖學者 89 人，佔全市 73%。
三是產業鏈企業高度集聚。圍繞重點環節，已基本形成晶片、框架、大模型等全產業鏈部署，集聚企業近千家，佔全市的 2/3，全國的 1/6。大模型企業、機構超 90 家，並且數量持續增長。透過備案的大模型 36 家，佔全市的 72% 以上，初步圍繞中關村、知春路、學院路等周邊地區在全國率先形成了人工智慧大模型產業集聚區。
四是產業創新生態較為完善。截止到目前已經培育 20 家獨角獸企業，佔全市的 60%，企業在人工智慧領域，授權發明專利數量 8.1 萬件，佔全市的 62%。去年，國家發改委公佈第一批 66 個國家級產業叢集評審結果，海淀區人工智慧產業叢集獲評優秀，也是全市唯一獲評優秀的產業叢集。同時海淀區緊抓通用人工智慧發展機遇，印發了《關於加快中關村科學城人工智慧大模型創新發展的若干措施》，圍繞大模型研發所需創新資源和共性需求，從演算法、算力、資料、全流程加強要素供給，從場景應用、資本、評測體系、人才與國際合作、孵化培育、監管、倫理等方面完善生態，加快推動人工智慧產業有序健康發展。
2023 年是生成式人工智慧大模型發展元年，行業應用出現井噴式增長，瀾舟科技作為北京市大模型合作伙伴計劃成員單位，是駐區代表性大模型企業，在預訓練技術、規模化技術、工具鏈技術、推理部署技術等方面均有深厚的積累，成立兩週年以來，也在產業應用方面做了大量的工作。大模型產品已經在金融、文娛、翻譯等領域落地應用，為產業智慧化發展提供了堅實的支撐。
下一步，海淀區將深入貫徹國家北京市關於加快新一代人工智慧發展的戰略部署，發揮中關村科學城在人工智慧領域產業資源密集、體系完備的發展優勢，持續支援大模型前沿研究及應用發展，加快打造具有國際影響力的通用人工智慧創新生態。
最後，希望瀾舟大模型持續取得重大突破進展，進一步促進與繁榮我國通用人工智慧大模型生態！
AI2.0 平臺變革進行式
隨後，創新工場董事長、零一萬物 CEO 李開復博士進行了《AI 2.0 平臺變革進行式》主題演講。
創新工場董事長、零一萬物 CEO 李開復博士正在演講
李開復博士指出， AI 2.0 模型能力突飛猛進，通識理解已經超越人類專家。AI 2.0 透過圖靈測試並趨於成熟，揭示下一個平臺級變革 。新一代創新應用需要新的技術平臺，基於強大的底層技術搭建出高效的開發工具，從而節約開發生態做創新產品的成本，促進包括新產品、新業態、新的商業模式的全新應用生態。
隨後，李開復博士展望了 AI 2.0 未來的四大趨勢：
- 最革命性的 AI 2.0 應用應該是 AI-First / AI-Native：最終脫穎而出的應用屬於那些敢於全力投入新技術的先驅者。大語言模型的引入為 AI-First 應用帶來了巨大的推動力。
- 大模型始於文字，未來將擴充至 “全模態”：跨模態生成技術是實現認知和決策智慧的轉折點。現實世界的資訊是文字、音訊、視覺、感測器以及人類各種觸覺的綜合體系，要更為精準地模擬現實世界，就需要將各種模態能力打通，例如文字 - 影像、文字 - 影片等跨模態甚至全模態的綜合能力。
- AI 2.0 將超越對話，從聊天工具到智慧生產力工具：使用者體驗以及未來互動介面和商業模式都會發生大的變革。
- AI 2.0 將走向實體，大幅提振社會生產力：具身智慧可以讓機器人制造機器人， 進一步實現 AI 2.0 + 生產線智慧規劃。
最後，李開復博士表示 AI2.0 趨勢要能落地，需要最優秀的、能專注場景實踐的合作伙伴。瀾舟在基於大模型面向企業市場落地方面已經有了非常好的基礎，零一萬物在千億級大模型、多模態方面會投入更多力量，此次大會瀾舟科技和零一萬物進行了戰略合作簽約，雙方優勢互補，強強聯手，預期一定會取得更大的突破。李開復博士作為零一萬物的創始人兼 CEO 和瀾舟科技創始人兼 CEO 周明博士在臺上握手致意，現場來賓共同見證了這一激動人心的時刻！
周明博士與李開復博士握手達成戰略合作
在議程中間環節，本次釋出會也很榮幸播放了眾多知名專家、學者和企業家們錄製的影片寄語，他們分別是：中國科學院院士張鈸、中國中文資訊學會名譽理事長李生、中國工程院外籍院士張亞勤、美國國家工程院外籍院士沈向洋、北京航空航天大學機器人研究所名譽所長王田苗、微軟全球資深副總裁周禮棟、阿里雲智慧集團 CTO 周靖人、同花順創始人易錚、中文線上創始人童之磊、傳神語聯網 CEO 何恩培、創新奇智 CEO 徐輝、創業黑馬董事長牛文文等。這些寄語不僅是對瀾舟科技的鼓勵與支援，更是對人工智慧產業發展前景的肯定與期待。
“一橫 N 縱” 孟子大模型系列及產品釋出
在瀾舟科技最新技術和產品釋出環節，瀾舟科技創始人 & CEO 周明博士發表了《大模型技術和應用雙輪驅動加速創新》主題演講。他回顧了瀾舟科技的發展歷程，並展望了未來的發展方向。他強調在數字化浪潮中，以大模型為代表的人工智慧正在重塑人類的未來。2024 年將是大模型落地元年，如何利用大模型技術助力企業成長已成為業界關注的焦點。
瀾舟科技科技創始人 & CEO 周明博士在演講
2021 年 6 月，瀾舟科技正式成立， 致力於自主研發大模型技術和行業應用，在去年 3 月釋出了孟子 GPT V1（MChat），今年 1 月孟子大模型 GPT V2（含孟子大模型 - 標準、孟子大模型 - 輕量、孟子大模型 - 金融、孟子大模型 - 編碼）對公眾開放。
周明博士強調，瀾舟科技注重技術和應用雙輪驅動。在積極研究和掌握前沿技術的同時，公司也致力於確保這些技術的有效應用。在每一個關鍵技術發展的時期，瀾舟科技都會攜手客戶及合作伙伴，如傳神、數說故事、華為雲、華夏基金、同花順、中金公司等，共同開展深入合作。透過深入應用場景、精準把握使用者需求，瀾舟科技不斷推動技術和產品的迭代升級，力求在激烈的市場競爭中保持領先地位。
周明博士回顧了過去一年來大模型的迅速發展：
- 大模型的能力得到快速提升：在更長的上下文處理能力、數學能力和推理能力、安全對齊等方面得到大幅度增強。
- RAG（檢索增強生成）：透過結合搜尋相關資料庫的結果與使用者指令進行生成，可有效改善模型幻象、實時性、資料安全等問題。
- GPTs：使用者基於大模型的超強能力方便地搭建自定義的 GPT。
- 多模態大模型：SORA 突破了 4 秒鐘限制，可以生成 60 秒的影片，而且生成的影片質量大幅度提升。
- 大模型原生應用方面略現端倪：譬如，利用大模型構建 AI 搜尋、角色扮演聊天、數字人等。
- 大模型開源：LLaMA 等開源模型有力地推動大模型的普及和發展，也顯著地改變了大模型的競爭格局。
2024 年將是大模型落地元年， 各界熱切期盼大模型能結合不同行業的場景應用，實現規模化效用。政府工作報告新鮮出爐，特別強調以人工智慧 +，驅動各行各業的轉型升級。周明認為要把握好這個歷史契機，透過落地，創造價值，拉動創新。要做好大模型落地，周明表示，網際網路的七字法則仍然適用：專注、極致、口碑和快，還要再加上成本，形成大模型落地九字法則。
周明強調，大模型 ToB 應用要解決四個大問題：訓練和部署成本、行業適配性、幻象、資料安全，並解釋了瀾舟科技在這四個方面所作的努力。
此次釋出會的核心為” 一橫 N 縱 " 體系，其中的 “一橫” 即為孟子大模型技術，而 “N 縱” 是基於孟子大模型的面向 ToB 應用最重要的技術和產品。希望透過 “一橫 N 縱”，徹底貫徹大模型落地九字法則：專注、極致、口碑、快、成本。
周明博士首先介紹了從預訓練，到 SFT，到強化學習，安全，降低幻覺的完備的孟子大模型訓練體系。孟子大模型離不開背後的高質量的資料集 —Mengzi-3 資料集，總規模為 3T tokens，包含了網頁、程式碼、書籍、論文等高質量資料來源。
最後，在 Mengzi-3 語料資料的加持下，瀾舟團隊在近期完成了 Mengzi3-13B 的大模型訓練，在常見公開資料集，如 MMLU，Chinese-MMLU，GSM8K，HUMAN-EVAL 等評估模型效果來看，該模型在各項基準測試中與相仿引數量大模型相比，中英文語言能力成績領先。
針對大模型訓練和部署的成本高的問題，瀾舟科技專注把 ToB 場景使用最多的 LLM 模型（引數量 7B、13B、40B 最高到 100B）做到最佳並大幅度提升大模型的推理效率。
3 月 30 日 Mengzi3-13B 的模型將在 GitHub、HuggingFace、魔搭和始智 AI 社群開源，屆時也期待社群更多的反饋。
針對大模型的行業落地適配問題，周明博士再次重申了 L1-L2-L3-L4 的層次化分級服務體系， 基於 L1 - 通用大模型，在此基礎上加入行業資料訓練出 L2 - 行業 / 垂直大模型，如金融、程式設計大模型。針對重要場景，在 L1 或者 L2 模型基礎上 finetune，實現 L3 大模型。最後 Agents 可以呼叫 L1-L2-L3 任何一層的模型形成完整的一個特定任務。
針對大模型的幻象問題和使用者資料安全問題，孟子大模型提出了改進的 RAG 能力。透過孟子大模型理解使用者意圖，可分別經過大模型自身，或者透過 RAG 查詢使用者知識庫，甚至透過 Web 搜尋，最後多路召回搜尋結果，經過排序輸出最可信結果。
在總結階段，周明博士強調大模型創業所需要的生態環境非常重要， 瀾舟一方面聚焦自己擅長的能力和場景，另外一方面會注重與開源社群、與客戶和合作夥伴攜手共進，共同擴充更廣闊的市場空間，實現互惠共贏的局面。
在孟子通用大模型這 “一橫” 之上，瀾舟科技合夥人、首席產品官李京梅向與會觀眾詳細介紹和釋出了 “一橫 N 縱” 的應用能力型產品，包括 AI 文件理解、文件問答、文件輔助寫作、機器翻譯、瀾舟智會、AI 搜尋。
瀾舟科技合夥人 & 首席產品官李京梅在演講
在值得關注的行業 / 垂直大模型中，瀾舟科技目前重點投入到了金融行業，輔助程式設計等領域，旨在透過更加全面、專業、優質的領域資料，打造更加貼近行業場景的垂直大模型。
AI 文件理解 – 基於孟子文件理解大模型提供專業的文件解析和資訊提取能力。該產品涵蓋專業的 PDF 文件解析能力和資訊抽取能力。它為 RAG 方案中的文件理解提供了更優的基礎能力。在與新華智雲共建文化大模型，以及其他眾多 AI 文件理解，資訊提取類客戶場景中均已使用。
AI 文件問答 – 助力構建企業智慧知識庫。該應用產品服務提供了文字、表格內容處理的高效、準確解析能力、基於 AI 搜尋賦能的基於文件的知識庫問答、生成摘要和觀點，以及可信的內容回溯。根據企業需要，提供私有化企業智慧知識庫構建的解決方案能力。日前，中金公司的中金點睛投研平臺已經開始整合瀾舟公司的針對研報等封閉式文件問答以及針對路演會等會議紀要的搜尋、問答和摘要。
除了文件理解、搜尋和問答，本次釋出也推出了面向場景的可控 AI 寫作助手 - AI 文件輔助寫作。該產品支援使用者上傳多個文件作為參考資料，支援自定義多級題目和寫作提綱，由大模型賦能自動化按要求生成完整的文章初稿，目前已經在聯通客戶專案落地，為其數智化投研平臺提供了智慧研報寫作的能力。
李京梅也提到，之前已經發布過的瀾舟智會和機器翻譯近期也都做了背後模型能力的升級。
瀾舟智會是一款專注會議內容的智慧分析和問答的產品， 是基於大模型打造的大模型原生的智慧會議助手。它採用大模型技術對文字進行可讀性最佳化，提供全文智慧摘要總結，基於話題智慧劃分章節，提供要點導航，以及針對 AI 搜尋結果提供可靠原文追溯。瀾舟智會目前已經在人保科技部署，為員工提供智慧會議助手服務。
瀾舟機器翻譯平臺專注以中文為中心的世界主要語種之間互譯和 20 幾個領域的專業翻譯，均具備了世界一流水準的翻譯精度和效能，已經為華為、傳神、中金等客戶提供服務。
除此之外，瀾舟還與新華智雲合作，利用文化歷史、地方誌、詩詞等資料共拓文化大模型；與某頭部企業合作，透過歷史客服對話資料進行大模型訓練，升級線上機器人 / 虛擬數字助理的效果，技術驗證可以實現意圖識別率提升 5%，問題解決率提升 14%。
產品釋出之後，李京梅邀請部分在京的客戶和合作夥伴公司代表上臺，請周明博士向他們回遞合作簽約協議併合影留念。瀾舟科技將積極與產業鏈上下游企業合作，共同打造一個開放、共享、協同的技術生態，推動整個行業的快速發展。
之後，瀾舟科技合夥人、演算法和應用 VP 馬永亮分享了《瀾舟 AI 搜尋 — 大語言模型時代的搜尋引擎》。
馬永亮指出當前我們正處在一場搜尋技術和產品體驗變革的浪潮之中。大模型和檢索增強架構的引入，為搜尋領域帶來了革命性的變化。大模型技術讓搜尋引擎能夠更好地理解使用者的搜尋意圖和上下文，從而提供更精準、更個性化的搜尋結果。此外，大模型的應用還使得搜尋結果的總結和推理能力得到了極大的提升。透過對海量資料的學習和分析，搜尋引擎能夠為使用者提供更加全面、準確的搜尋結果，並且能夠基於使用者的搜尋歷史和偏好進行智慧推薦，從而提升搜尋體驗的質量和效率。隨著大模型技術的發展，我們可以預見到搜尋引擎將會向著更加智慧化、情景化和個性化的方向發展。在這個過程中，人工智慧技術將會扮演著越來越重要的角色，而大模型技術則會成為推動搜尋引擎發展的核心驅動力。
馬永亮進一步深入分享了大模型技術應用在搜尋領域的一些實踐和探索。
首先，向量檢索模型是深度學習、預訓練廣泛應用於搜尋技術中最有代表性的技術之一。它改進了檢索召回的效果，對於基於關鍵詞的召回方法起到了非常好的補充作用，加強了在檢索階段語義理解和匹配的能力。我們正在探索如何透過大模型的領域資料合成來提升檢索模型在垂直領域的泛化能力。這一創新意味著我們能夠更好地適應不同領域的搜尋需求，從而提供更加準確和全面的搜尋結果。
其次， 馬永亮還講到他們在工作中引入了大模型和小模型結合的非對稱嵌入模型，在提高檢索的召回率的同時保持搜尋的效率。基於大模型的嵌入模型對比小模型優勢明顯，但是在實際應用中還是會因為大引數量造成計算資源和推理時間明顯增加。大模型和小模型結合的非對稱嵌入模型，充分利用了大模型的優勢，使得在保證檢索效率的同時，提升搜尋結果的質量和準確性。
最後，將檢索和排序模型進行聯合訓練，以進一步提升搜尋結果的質量和準確性。
此次 AI 搜尋分享還包含了搜尋 Agent 最佳化策略的創新與實踐。目前團隊正在探索如何透過基於領域知識和使用者搜尋反饋資料構建偏好資料，利用 DPO 演算法，為搜尋場景最佳化 Agent 大模型，使模型能夠準確地分析使用者的意圖和搜尋系統對當前搜尋的反應，為每個搜尋決定呼叫哪些搜尋模組，以及如何規劃搜尋流程。
另外，馬永亮為大家介紹了基於大模型技術的搜尋情景化和個性化。這意味著使用者無需過多關注搜尋關鍵詞的選擇，同時，流通在系統中的結構化的上下文資訊和個性化資訊可以以語言的形式表達出來，搜尋引擎能夠準確把握使用者的意圖，並提供滿足情景化和個性化搜尋需求的結果。其中涉及為情景化和個性化專門最佳化的大模型，基於大模型和場景語料等構建 Narrative 搜尋需求分析等資料專門訓練，表現更優。
目前，“瀾舟 AI 搜尋” 已經在瀾舟官網上線，歡迎大家試用。
在最後圓桌論壇中，瀾舟科技創始人兼 CEO 周明、中關村數智人工智慧產業聯盟理事長，原小米集團副總裁崔寶秋、智象未來創始人兼 CEO，加拿大工程院外籍院士梅濤、零一萬物聯合創始人祁瑞峰、瀾舟科技合夥人、首席產品官李京梅等五位嘉賓圍繞大模型技術的發展、應用和創新商業模式展開深入探討和交流。
2024 瀾舟科技大模型技術與產品釋出會的圓滿落幕，標誌著瀾舟科技在技術創新、應用落地和生態構建方面又向前邁出了堅實的一步。未來，瀾舟科技將繼續秉承 “創新落地，生態共贏” 的理念，與客戶和合作夥伴一道共同推動科技創新和產業發展。
再次感謝北京市、海淀區、中關村科學城，瀾舟的各位投資人（創新工場、科學家基金、聯想創投、斯道資本、中關村科學城等機構）、客戶、合作伙伴、媒體機構、和廣大關注我們的朋友們！