豆包大模型日均Tokens使用量破5000億,模型家族再升級

新闻助手發表於2024-07-25

7月25日,火山引擎2024“AI創新巡展”首站成都站透露了位元組豆包大模型的最新進展:截至7月,豆包大模型日均Tokens使用量已突破5000億,平均每家企業客戶日均Tokens使用量較5月15日模型釋出時期增長22倍。

豆包大模型日均Tokens使用量破5000億,模型家族再升級

豆包大模型由位元組跳動自研,原名“雲雀”,是國內首批透過演算法備案的大模型之一,目前透過位元組跳動旗下雲服務平臺火山引擎面向企業提供服務。自發布之初,豆包大模型便主打使用量大、應用場景豐富。

據火山引擎副總裁張鑫介紹,在位元組內部,有超過50多個業務在使用豆包大模型,覆蓋了協同辦公、資料分析、文案創作、輔助程式設計、內容稽核、客服、遊戲NPC、角色對話、教育等各種場景,基於豆包大模型打造的新技術引擎正在加速業務創新;此外,豆包大模型的外部客戶已覆蓋手機、汽車、金融、消費、互娛等30多個行業,並聯合OPPO、vivo、榮耀、小米、三星、華碩等知名終端廠商和吉利汽車、長城汽車、捷途汽車、賽力斯、智己汽車等20餘家汽車廠商分別成立了智慧終端大模型聯盟和汽車大模型生態聯盟。

豆包大模型日均Tokens使用量破5000億,模型家族再升級圖說:火山引擎副總裁張鑫在2024“AI創新巡展”活動現場

本次活動中,作為豆包大模型西南區域的企業客戶典型,藍領招聘平臺魚泡科技和智慧客服企業曉多科技也各自分享了接入豆包大模型實現業務增長的案例經驗。其中,魚泡科技的豆包大模型日均呼叫量已超1億Tokens,應用場景覆蓋了崗位要求識別、工種識別、求職意向識別、推薦系統相似度識別等。

火山引擎大模型服務演算法架構師孫帆指出,企業在使用大模型時,面臨的關鍵挑戰就是“模型效果”、“使用成本”和“落地難度”三個方面。豆包大模型和火山引擎正是從“更強模型”“更低價格”“更易落地”出發,幫企業解決難題。

據悉,豆包模型家族在5月正式釋出時,提供的就是一個有多模態能力的模型家族,主要包括通用模型pro、通用模型lite、語音識別模型、語音合成模型、文生圖模型等九款模型。主力模型豆包通用模型pro自5月釋出以來,在多個公開評測集以及專業的第三方評測中表現出眾,是得分最高的國產大模型。

本次,豆包模型家族升級了文生圖模型和語音模型。升級後的豆包·文生圖模型具備更精準的中英文長文字理解能力,能夠生成圖文一致的高美感圖片;豆包·語音合成模型在升級後實現了智慧識別文字情緒並對語速、語調動態調整,使之情緒更加飽滿;聲音復刻模型僅需5秒就能高保真復刻人聲,並支援多種小語種。

值得一提的是,豆包模型家族此次官宣了一位新成員——豆包·圖生圖模型。基於文生圖模型打造,豆包·圖生圖模型能實現高度還原人物特徵,50多種風格場景自由轉換,並提供多種富有創意的延展編輯。該模型能力已經在抖音、剪映、豆包、星繪等位元組系App中落地,並透過火山引擎服務了三星、努比亞等企業客戶,目前日均圖生圖數量達到數千萬張。

在模型定價方面,公開報導顯示,豆包主力模型的推理輸入價格只有0.0008元/千Tokens,比行業便宜99.3%。火山引擎總裁譚待此前接受採訪時曾對此表示,大模型的超低定價,來自對技術的信心,火山引擎能透過技術手段實現大模型推理成本的最佳化。

“一個人現在創業,如果要花1萬塊錢呼叫大模型,可能會覺得有點貴。我們把價格降到1%都不到,100塊錢就能用起來,他的想法也就更容易嘗試。”譚待表示,企業的AI轉型充滿不確定性,試錯成本要儘量低,才能更快更多地實現大模型的應用落地,從而讓整個行業受益。”

除了效果好,價格便宜,豆包大模型還給出了最高可達同梯隊模型數倍的每分鐘處理Tokens限額,讓模型服務具備更強的承載力。

據孫帆介紹,豆包通用模型pro為客戶提供了業內最高標準的初始TPM(每分鐘Tokens)和RPM(每分鐘請求數),有助於企業的業務在高併發場景中落地。

目前,位元組跳動還在持續加大對大模型技術研究的投入,近期在視覺、語音等方向有多項亮眼成果產出,其中,已有部分能力應用於豆包大模型相關產品中。

“我們希望用紮實的技術實力給客戶更好的選擇,幫助企業解除成本包袱,讓客戶更積極更大膽的嘗試、迭代,讓大模型應用大踏步向前。”孫帆說。

火山引擎還升級了頭條、抖音同款外掛服務,新增網頁解析、計算器等外掛,進一步擴寬模型能力的邊界,支援企業多樣的應用需求,同時帶來了釦子專業版、HiAgent平臺等多款產品和雲基礎設施的最新進展。

張鑫表示,火山引擎在高速自我迭代,走向更加智慧化、行業化和區域化。他說:“透過針對性的行業方案、產品和最佳化服務,相信在未來,會有更多西南區域的企業藉助豆包大模型和火山引擎的力量,實現業務創新,從而為經濟發展注入新的活力。”

相關文章