MySql分表、分庫、分片和分割槽

King_JW 發表於 2021-06-17
MySQL

資料庫的資料量達到一定程度之後,為避免帶來系統效能上的瓶頸。需要進行資料的處理,採用的手段是分割槽、分片、分庫、分表。

分片是把資料庫橫向擴充套件(Scale Out)到多個物理節點上的一種有效的方式,其主要目的是為突破單節點資料庫伺服器的 I/O 能力限制,解決資料庫擴充套件性問題。Shard這個詞的意思是“碎片”。如果將一個資料庫當作一塊大玻璃,將這塊玻璃打碎,那麼每一小塊都稱為資料庫的碎片(DatabaseShard)。將整個資料庫打碎的過程就叫做分片,可以翻譯為分片。

形式上,分片可以簡單定義為將大資料庫分佈到多個物理節點上的一個分割槽方案。每一個分割槽包含資料庫的某一部分,稱為一個片,分割槽方式可以是任意的,並不侷限於傳統的水平分割槽和垂直分割槽。一個分片可以包含多個表的內容甚至可以包含多個資料庫例項中的內容。每個分片被放置在一個資料庫伺服器上。一個資料庫伺服器可以處理一個或多個分片的資料。系統中需要有伺服器進行查詢路由轉發,負責將查詢轉發到包含該查詢所訪問資料的分片或分片集合節點上去執行。

Mysql的擴充套件方案包括Scale Out和Scale Up兩種。

Scale Out(橫向擴充套件)是指Application可以在水平方向上擴充套件。一般對資料中心的應用而言,Scale out指的是當新增更多的機器時,應用仍然可以很好的利用這些機器的資源來提升自己的效率從而達到很好的擴充套件性。

Scale Up(縱向擴充套件)是指Application可以在垂直方向上擴充套件。一般對單臺機器而言,Scale Up值得是當某個計算節點(機器)新增更多的CPU Cores,儲存裝置,使用更大的記憶體時,應用可以很充分的利用這些資源來提升自己的效率從而達到很好的擴充套件性。

MySql的Sharding策略包括垂直切分和水平切分兩種。

垂直(縱向)拆分:是指按功能模組拆分,以解決表與表之間的io競爭。比如分為訂單庫、商品庫、使用者庫…這種方式多個資料庫之間的表結構不同。

水平(橫向)拆分:將同一個表的資料進行分塊儲存到不同的資料庫中,來解決單表中資料量增長出現的壓力。這些資料庫中的表結構完全相同。

表結構設計垂直切分。常見的一些場景包括

  • 大欄位的垂直切分。單獨將大欄位建在另外的表中,提高基礎表的訪問效能,原則上在效能關鍵的應用中應當避免資料庫的大欄位

  • 按照使用用途垂直切分。例如企業物料屬性,可以按照基本屬性、銷售屬性、採購屬性、生產製造屬性、財務會計屬性等用途垂直切分

  • 按照訪問頻率垂直切分。例如電子商務、Web 2.0系統中,如果使用者屬性設定非常多,可以將基本、使用頻繁的屬性和不常用的屬性垂直切分開

表結構設計水平切分。常見的一些場景包括

  • 比如線上電子商務網站,訂單表資料量過大,按照年度、月度水平切分

  • Web 2.0網站註冊使用者、線上活躍使用者過多,按照使用者ID範圍等方式,將相關使用者以及該使用者緊密關聯的表做水平切分

  • 例如論壇的置頂帖子,因為涉及到分頁問題,每頁都需要顯示置頂貼,這種情況可以把置頂貼水平切分開來,避免取置頂帖子時從所有帖子的表中讀取

分表從表面意思說就是把一張表分成多個小表,分割槽則是把一張表的資料分成N多個區塊,這些區塊可以在同一個磁碟上,也可以在不同的磁碟上。

分表和分割槽的區別

  • 實現方式上

mysql的分表是真正的分表,一張表分成很多表後,每一個小表都是完正的一張表,都對應三個檔案(MyISAM引擎:一個.MYD資料檔案,.MYI索引檔案,.frm表結構檔案)。

  • 資料處理上

分表後資料都是存放在分表裡,總表只是一個外殼,存取資料發生在一個一個的分表裡面。分割槽則不存在分表的概念,分割槽只不過把存放資料的檔案分成了許多小塊,分割槽後的表還是一張表,資料處理還是由自己來完成。

  • 提高效能上

分表後,單表的併發能力提高了,磁碟I/O效能也提高了。分割槽突破了磁碟I/O瓶頸,想提高磁碟的讀寫能力,來增加mysql效能。

在這一點上,分割槽和分表的測重點不同,分表重點是存取資料時,如何提高mysql併發能力上;而分割槽呢,如何突破磁碟的讀寫能力,從而達到提高mysql效能的目的。

  • 實現的難易度上

分表的方法有很多,用merge來分表,是最簡單的一種方式。這種方式和分割槽難易度差不多,並且對程式程式碼來說可以做到透明的。如果是用其他分表方式就比分割槽麻煩了。分割槽實現是比較簡單的,建立分割槽表,跟建平常的表沒什麼區別,並且對程式碼端來說是透明的。

分割槽的適用場景

  1. 一張表的查詢速度已經慢到影響使用的時候。

  2. 表中的資料是分段的

  3. 對資料的操作往往只涉及一部分資料,而不是所有的資料

CREATE TABLE sales (

    id INT AUTO_INCREMENT,

    amount DOUBLE NOT NULL,

    order_day DATETIME NOT NULL,

    PRIMARY KEY(id, order_day)

) ENGINE=Innodb

PARTITION BY RANGE(YEAR(order_day)) (

    PARTITION p_2010 VALUES LESS THAN (2010),

    PARTITION p_2011 VALUES LESS THAN (2011),

    PARTITION p_2012 VALUES LESS THAN (2012),

PARTITION p_catchall VALUES LESS THAN MAXVALUE);

分表的適用場景

  1. 一張表的查詢速度已經慢到影響使用的時候。

  2. 當頻繁插入或者聯合查詢時,速度變慢。

分表的實現需要業務結合實現和遷移,較為複雜。

分表能夠解決單表資料量過大帶來的查詢效率下降的問題,但是,卻無法給資料庫的併發處理能力帶來質的提升。面對高併發的讀寫訪問,當資料庫master伺服器無法承載寫操作壓力時,不管如何擴充套件slave伺服器,此時都沒有意義了。因此,我們必須換一種思路,對資料庫進行拆分,從而提高資料庫寫入能力,這就是所謂的分庫。

與分表策略相似,分庫可以採用通過一個關鍵字取模的方式,來對資料訪問進行路由,如下圖所示

MySql分表、分庫、分片和分割槽

MySql分表、分庫、分片和分割槽

本作品採用《CC 協議》,轉載必須註明作者和本文連結