求索NoSQL的現在與未來,第五屆 Techo TVP 開發者峰會圓滿落幕!

騰訊雲加社群發表於2022-06-01

引言

日益劇增的資料洪流與變革迅速的新興業務,既引發了網際網路企業對資料庫技術的重新思考,也帶來了傳統行業對資料庫應用的二次迷思。以靈活、易擴充套件著稱的NoSQL在企業數字化轉型的過程中,究竟發揮著怎樣的作用?其重要性體現在哪?未來NoSQL資料庫又將迎來怎樣的發展?

2022年5月14-15日,第五屆 Techo TVP 開發者峰會 “數「聚」未來,豈止於快——NoSQL引爆資料效率與價值”正式落下帷幕,12位來自NoSQL領域的知名技術領袖和專家,從效能、效率與資料價值三大方向,與資料庫從業者一起共同探討了面向未來的NoSQL之路。

一、Day1:NoSQL前沿技術趨勢

(一)主持人開場

image.png
峰會第一天聚焦在NoSQL的未來趨勢分析與新技術解讀,由天翼雲首席專家、騰訊雲TVP 侯聖文老師擔任主持人。會議伊始,侯老師提出,大資料時代,資料量持續性爆炸式的增長,資料儲存結構的靈活多樣,新興業務的日益變革,這些需求催生出資料庫及應用系統的存在形式愈發豐富,也對資料庫的各類能力提供了非常多的一些場景和需求,也給技術人帶來了極大的挑戰和要求。

(二)嘉賓致辭

image.png

騰訊雲副總裁林曉斌的致辭,正式拉開了本屆 Techo TVP 開發者峰會的帷幕。他指出,數字化浪潮中,資料已成為企業最重要的資產,資料庫作為資料儲存的重要基礎設施,任務重大。過去十年間,基礎設施升級、數字化程式加速、雲端計算的普及,帶來了資料庫行業的二次高速發展期,雲端計算服務商在其中發揮了巨大的作用。

隨著雲資料庫服務進入雲原生時代,資料庫+雲的創新模式將進一步推進雲資料庫技術的革新。NoSQL是資料庫中非常重要的一大分支,其在海量併發訪問及大規模資料場景下優勢明顯,在軟體架構層面上具備高併發、易擴充套件、靈活易用等特點。簡而言之,NoSQL資料庫已經成為現代企業不可或缺的資料庫服務型別。

騰訊雲在NoSQL領域一直持續著戰略級的投入,從產品設計、技術創新、客戶服務、再到生態建設,都有著經年累月的探索和實踐。騰訊雲公有云已經提供了包括快取、文件、時序、KV等在內的資料庫服務,並仍在持續豐富服務種類。與此同時,騰訊雲也在積極推動外部合作,比如與MongoDB簽署戰略合作協議。

他最後總結道,騰訊雲NoSQL資料庫已經覆蓋了包括金融、電力、電商、遊戲、視訊等數十個典型行業應用場景,未來,騰訊雲將在NoSQL資料庫領域持續投入,堅持技術創新,以服務企業為根本,助力企業降本增效,提升生產力。

(三)解放生產力:騰訊雲NoSQL的順勢而為與變革創新

image.png

騰訊雲資料庫副總經理羅雲帶來了題為《解放生產力:騰訊雲 NoSQL 的順勢而為與變革創新》的主題演講。

他首先向與會者介紹了過去十年,NoSQL資料庫的發展歷程。他表示,隨著網際網路業務的快速增長,海量使用者、海量資料、實時體驗、快速迭代的要求帶來了NoSQL的飛速發展。騰訊雲NoSQL的發展史也是順勢而為,一脈相承,在快取、KV、文件、圖、時序、寬列、表格這系列的場景中,騰訊雲都有提供相應的產品服務。

眾所周知,Redis在過去5年間一直是最受歡迎的NoSQL資料庫產品,但是Redis的應用場景早已突破了快取的範疇,特別是在儲存場景中的應用越來越廣泛,但是企業在儲存場景中使用Redis會面臨著規模、成本、持久化的難題,業界今年多有推出Redis的持久化產品,但是大多數產品通常能夠滿足業務在效能、成本、持久化、規模4個訴求中的2~3個,很少有4個訴求能同時滿足的。羅雲老師表示,騰訊雲通過創新性的軟硬結合提供極致效能、三級儲存解決效能、持久化、成本、規模難題的解法,KeeWiDB團隊實現了極致的突破,做到了:

  • 效能(單節點):20萬讀取,18萬寫入,P99<2ms可水平堆疊,效能線性提升;
  • 成本:三級儲存,冷資料成本下降97%;
  • 持久化:命令級持久化;毫秒級穩定寫入延遲;SSD提供低成本持久化;
  • 大容量:單節點提供TB級容量空間;叢集方式提供100TB容量空間。
    分享最後,羅雲老師表示,技術人的終極目的是讓整個社會的生產效率變得更高,讓整個社會的生產力能夠變得更好,希望可以用技術的方式去實現這些美好的願望。

(四)新硬體賦能創新:資料發展趨勢及軟硬體融合解決方案

image.png

隨著技術的發展,新硬體的出現帶來了更多可能。英特爾資料庫及大資料資深首席工程師、騰訊雲TVP 程從超&英特爾資料平臺事業部傲騰產品事業部中國技術中心工程部經理吳國安聯手帶來了題為《新硬體賦能創新-資料發展趨勢及軟硬體融合解決方案》的主題演講。

程從超老師向與會者介紹道,資料處理架構領域目前有以下幾個非常明顯的趨勢:從Scale up到Scale out;從物理機到雲原生;從share-everything到share nothing再到share everything;記憶體資料庫+物件儲存;行存和列存並存。因此,資料處理端到端、系統優化端到端成了其中至關重要的部分。

image.png

吳國安老師接棒講解了英特爾傲騰新硬體的領先特性,其可以降低資料中心的成本、可以整合工作負載,嘗試對資料做更多的事情,在釋放資料潛能方面具備強大能力。英特爾傲騰在NoSQL資料庫、推薦系統、KV儲存等方面均有著傑出的用例。

吳國安老師最後總結道:

  • 資料分析的發展,需要更多的軟硬體一體的融合解決方案;
  • 英特爾®傲騰™帶來新的記憶體和儲存層,更容易的擴充套件記憶體和加速儲存;
  • 更加均衡的成本和效能,為你的業務提供更多、更好的選擇;
  • 新硬體帶來了新的業務創新,讓不可能成為可能;
  • 更加開放的生態,更加開放互連的系統,更多的客戶擁抱新硬體。

(五)MongoDB應用資料平臺技術洞悉與實踐分享

image.png

MongoDB北亞區技術總監林濤帶來了題為《MongoDB應用資料平臺技術洞悉與實踐分享》的主題演講。

分享伊始,林濤老師丟擲了一個令人觸目驚心的資料:70%的企業數字化轉型都以失敗告終。究其原因,在於大部分資料基礎設施仍然圍繞傳統的關聯式資料庫構建,無法滿足當前企業使用和處理資料、構建程式的需求。圍繞這些需求,選擇新增專用的NoSQL資料儲存,又帶來了新的問題。

林濤老師介紹道,改變複雜的資料儲存結構、讓開發效率變得更高、讓架構變得更簡單、同時具備安全性和易管理性等特性,正是MongoDB想要實現的。具體而言,MongoDB提供了以下產品能力助力企業騰飛:

  • 提供靈活的文件模型;
  • 提供統一的介面;
  • 分散式的架構;
  • 冷熱資料的自動遷移;
  • 客戶端欄位級加密。
    最後,林濤老師介紹了多個使用MongoDB構建資料平臺的最佳實踐案例,通過資料平臺的方式,讓開發人員和企業能夠以更低的成本加速創新。

(六)直面海量圖資料挑戰,騰訊在圖資料庫的業務實踐與應用

image.png

騰訊雲圖資料庫技術負責人肖品帶來了題為《直面海量圖資料挑戰,騰訊在圖資料庫的業務實踐與應用》的主題演講。

肖品老師表示,隨著大資料爆發式的增長,資料之間的關係更加複雜多樣,對關係資料的關聯性計算和分析成為常態需求,由此帶來了圖資料庫技術的騰飛。在騰訊內部,圖技術被廣泛應用在圖資料庫、圖計算、圖視覺化等領域。

肖品老師重點介紹了騰訊圖資料庫KonisGraph的架構、效能及使用案例等關鍵內容。KonisGraph在架構層面採用的是介面層、計算層、分散式快取、儲存層的模式,設計原則是存算分離,保證部署的靈活性。在優化策略上,也做了非同步並行、向量化、批量預取以及計算下推等優化。此外,在快取、索引等策略上也都有獨到的設計理念。

除此之外,肖品老師還分享了GraphIdex圖視覺化的設計理念及效能效果、Angel Graph圖計算及其框架效能,以及KonisGraph圖資料庫的相關用例。他最後表示,KonisGraph未來將在以下方向持續優化,完善自身。

  • 融合圖計算引擎;
  • GQL語法的支援;
  • 自研儲存層;
  • 快取層完善;
  • 完善周邊元件及平臺能力。

(七)雲原生多模NoSQL在特徵儲存上的應用實踐

image.png

騰訊PCG應用架構平臺部NoSQL開發負責人趙政,為我們帶來了題為《雲原生多模NoSQL在特徵儲存上的應用實踐》的主題演講。

趙政老師介紹道,雲原生多模資料庫是當前很多公有云廠商提供雲託管儲存服務的方式。騰訊自研的雲原生多模型NoSQL資料庫,通過抽象高擴充套件的資料以及高複用的工作流框架,構建了具備容災備份、資料分層、多種一致性等能力的通用平臺底座,根據業務需求靈活定製可外掛化的儲存引擎框架和擴充套件API,提供資料模型的靈活擴充套件和快速接入能力。

在特徵儲存的主題上,趙政老師具體分享了“特徵”儲存的特點、技術挑戰,企業需求和當前的解決方案等背景資訊。基於這樣的背景,騰訊雲原生多模NoSQL在系統設計和實踐上要考慮關鍵的兩點:首先要支援多級儲存能力,第二是存算分離。在儲存引擎方面,要考慮到同時適用於記憶體、持久化儲存的需求。除此之外,其他需求則可以靠多模NoSQL的平臺來提供支撐。這其中涉及到的諸多技術挑戰,趙政老師都非常細緻地向與會者做了分析。

分享最後,趙政老師表示,騰訊雲原生多模NoSQL平臺已接入五大業務,日均呼叫量超過千億,TB級全量資料更新低於1H,分鐘級GB增量資料更新,顯著實現了降本增效的業務收益。談到騰訊雲原生多模NoSQL的未來展望,他向與會者描繪了一幅搜廣推場景儲存和索引雲一體化解決方案的美妙藍圖。

二、Day2:NoSQL技術實踐與應用

峰會第二天聚焦於NoSQL資料庫在各行各業的最佳實踐應用,由CCIA常務理事、騰訊雲TVP 韓鋒老師擔任主持人。

(一)主持人開場

image.png

韓鋒老師提出,隨著數字化轉型的深入,資料越來越得到人們的重視,移動網際網路的蓬勃發展產生了大量語音、影像、視訊等非結構化的資料,這些資料蘊含了非常豐富的資訊,如何把這些資料的價值挖掘出來,如何利用NoSQL來助力創新業務的落地,賦能業務快速發展成為企業數字化轉型中至關重要的一環。

(二)金融場景下的NoSQL實戰:微眾銀行Redis應用實踐

image.png

微眾銀行資料平臺資料庫負責人、騰訊雲TVP 胡盼盼帶來了題為《金融場景下的NoSQL實踐:微眾銀行Redis應用實踐》的主題演講。

分享伊始,胡盼盼老師為與會者介紹了社群版Redis的痛點。他表示,分片架構主節點異常對叢集有影響,許可權管理功能有限,資源統計和資源控制功能非常有限,缺少統一的運維與管理平臺是微眾銀行在使用社群版Redis遇到的痛點問題。

為此,微眾銀行自研了基於Redis的分散式快取平臺WeRedis,除擁有開源 Redis的特性外,還有如下特性:

  • 多租戶與細粒度的鑑權;
  • 資源控制;
  • 子系統進行資源控制;
  • 高危操作隔離;
  • 擴充套件性更高;
  • 可用性更高;
  • 智慧分析與管控。
    胡盼盼老師表示,WeRedis目前已經應用在全行所有的業務場景,有300+ 系統接入、87套叢集、4000+例項數。隨後,他具體介紹了WeRedis的跨 IDC部署架構,以及運維過程中在效能、高可用、容量等問題上踩過的坑,並無私分享了從覆盤中不斷優化來的WeRedis應用開發規範。

隨後,他還分享了包括WeRedis管理臺功能、鑑權管理及高可用相關的設計與思考。他最後表示,未來WeRedis將在容器化、升級到Redis Cluster 6.0以及持久化架構等方面繼續打磨精進。

(三)騰訊音樂NoSQL應用與實踐:基於Redis和MongoDB構建社交類業務後臺

image.png

全民K歌基礎研發後臺Leader李革委帶來了題為《騰訊音樂NoSQL的應用與實踐:基於Redis和MongoDB構建社交類業務平臺》的主題演講。

分享伊始,李革委老師為與會者介紹了騰訊音樂NoSQL的應用概況,據他介紹,騰訊音樂旗下QQ音樂、酷狗音樂、酷我音樂、全民K歌四大App的特點是多媒體社交+多媒體內容,大量應用了NoSQL資料庫。

李革委老師表示,從業務架構的層面看,資料庫選型需要考慮的是匹配業務模型、扛住海量請求、平衡成本開銷三大關鍵點。在這樣的原則出發下,騰訊音樂在Redis和MongoDB兩種開源資料庫產品下都有深厚的應用實踐。

具體到Redis下,實踐維度包括:

  • KV讀寫;
  • CAS解決方案;
  • 分散式鎖;
  • 輕重分離;
  • 列表排序;
  • Bitmap;
  • 分散式定時器。

在MongoDB下,實踐維度包括:

  • Embed or Reference;
  • 列表儲存設計;
  • Replication策略;
  • maxTimeMS注意事項。
    李革委老師最後介紹道,這其中自研的很多相關技術方案已經在騰訊雲的資料庫產品中可以使用。他還特別提醒與會者,不要輕視生產環境下的資料庫應用與操作,避免發生影響重大的事故。

(四)Infinity:微信新一代大規模線上儲存系統

image.png

微信技術架構部基礎平臺的Leader鄭建軍帶來了題為《Infinity:微信新一代大規模線上儲存系統》的主題演講。

在微信的大規模體量下,對儲存的高可用性、高可靠性、效能、成本、低延時都提出了非常苛刻的要求,鄭建軍老師首先介紹了微信儲存的發展歷程。微信儲存的發展總體上可以分為四個階段:第一階段的QuorumKV;第二階段是2015年的PaxosStore;第三階段是2018年期間對PaxosStore的能力增強;第四階段是新一代大規模線上儲存系統Infinity。Infinity是微信新一代大規模線上儲存系統,支援多種資料模型,通過一套統一架構應對不同的業務場景,提供線性一致和近實時訪問模式。

鄭建軍老師解釋道,Infinity的誕生背景源於業務對可用性/可靠性提升、更加靈活的排程能力、更快的擴充套件速度、推薦/直播等業務場景單key/單表高效能需求。具體而言,Infinity的核心特性包括以下幾個方面:

  • 路由中心徹底去依賴:保持非租約高可用水平提升擴充套件性;
  • 資料儲存與複製日誌解耦:靈活支援儲存異構/外掛化和多種容災模式;
  • 機器故障自動極速恢復:實現可用性/可靠性的數量級提升;
  • 穩定可控的叢集擴充套件:解決高負載叢集的擴容悖論。
    分享最後,鄭建軍老師也介紹了Infinity在微信業務中的運營成效,其中動態負載均衡、模組混合排程部署,利用率提升,3萬+臺的規模每年節省約數億成本。此外在除夕零點峰值的更快擴充套件,視訊號奧運期間大量異構機型擴容的案例,也突出展現了Infinity的特效能力。

三、圓桌對話:上下十年,資料庫技術的發展與變遷

精彩的技術分享環節結束後,接踵而至的是啟發思考、碰撞價值的圓桌環節。本次圓桌對話以《上下十年,資料庫技術的發展與變遷》為話題,由CCIA常務理事、騰訊雲TVP 韓鋒老師主持,英特爾資料庫及大資料資深首席工程師、騰訊雲TVP 程從超老師,騰訊雲資料庫副總經理羅雲老師,微眾銀行資料平臺資料庫負責人、騰訊雲TVP 胡盼盼老師,全民K歌基礎研發後臺負責人李革委老師各抒己見,娓娓而談,展開了精彩的巔峰對話。

作為一個老牌的技術方向,資料庫技術已經走過了數十年,在最近十年間又有了飛速的發展。最受人關注的話題莫過於——未來十年,資料庫技術將有哪些新的發展趨勢?

程從超老師的觀點是,在底層算力沒有發生革命性變化的前提下,未來的發展方向是Serverless、記憶體化、分散式、計算儲存分離的形態。而這其中不可避免的是要考慮更多安全的問題,這又會對資料庫技術的發展帶來制約和新的契機。

羅雲老師表示,騰訊內部對於資料庫技術的發展趨勢早已有過討論,內部技術委員會比較明確地在幾個方向上達成了一致:第一是國產化,第二是多模型的融合化,第三是雲原生化趨勢下的軟硬體結合突破。

胡盼盼老師則從微眾銀行的業務實踐出發,提出了混合事務模式發展的趨勢,他表示混合架構的需求一定存在,未來也將成為很多資料庫具備的特性。另一個暢想的點是基於新興開源資料庫的一體機產品的出現,滿足中小金融機構無力運維的痛點。此外,國產化的趨勢也是胡盼盼老師認同的一個方向。

李革委老師則從騰訊內部業務的發展出發,表示了對資料庫技術融合的發展趨勢的贊同。融合一方面在業務側可以減少消耗,另一方面也可以促進技術上的推陳出新融會貫通。作為開源文化的擁躉,李革委老師表示開源也極有可能是資料庫技術的一大發展趨勢,通過開源的協同、社群哺育,必將推動業務的發展。

最後,主持人韓鋒老師總結了技術、業務、開源三個方向的理解和認知,從技術側,資源分離、資料分層、Serverless應用都是資料庫發展未來可期的方向;在業務側,大量差異化的場景會催生資料庫走分化的路線,但同時也會有分而治之之後融合的趨勢;同時,開源也是一種很好的商業模式,可以通過開源的模式去調動更多的資源來做底層的開發。韓鋒老師表示無論是從哪個方向出發,資料庫技術的發展都將幫助企業和開發者們受益其中。

結語

資料庫技術的發展史,幾乎可以視作技術人不斷突破極限,追求更高、更快、更強的奮鬥史。資料庫技術倏忽數十載,既有關係型資料庫的獨佔鰲頭,又有NoSQL的異軍突起,既有商業資料庫產品的強悍穩定,又有開源資料庫產品的持續創新,現在又迎來了雲與資料庫的美妙結合。這一方百花齊放的舞臺上,既不缺演員,也不少觀眾,但對於技術的思考、趨勢的判斷卻總不嫌多。

本次 Techo TVP 開發者峰會,一以貫之的理念正是通過最用心的分享、最前沿的洞察、最實際的觀點,為開發者朋友獻上“最有料、有趣、且有用”的開發者峰會。在這個時代轉型的浪潮下,堅守科技向善的初心和本心,助力企業與開發者一起通往技術發展的理想國。

相關文章