資料命名規範
- 所有資料庫物件名稱必須使用小寫字母並用下劃線分割。
- 所有資料庫物件名稱禁止使用 MySQL 保留關鍵字(如果表名中包含關鍵字查詢時,需要將其用單引號括起來)。
- 資料庫物件的命名要能做到見名識意,並且最後不要超過32個字元。
- 臨時庫表必須以 tmp 為字首並以日期為字尾,備份表必須以 bak 為字首並以日期 ( 時間戳 ) 為字尾。
- 所有儲存相同資料的列名和列型別必須一致(一般作為關聯列,如果查詢時關聯列型別不一致會自動進行資料型別隱式轉換,會造成列上的索引失效,導致查詢效率降低)。
資料庫基本設計規範
1、所有表必須使用 InnoDB 儲存引擎
沒有特殊要求(即 InnoDB 無法滿足的功能如:列儲存,儲存空間資料等)的情況下,所有表必須使用 InnoDB 儲存引擎
MySQL 5.5 之前預設使用 Myisam,5.6 以後預設的為 InnoDBInnoDB
支援事務,支援行級鎖,更好的恢復性,高併發下效能更好。
2、資料庫和表的字符集統一使用 UTF8MB4
相容性更好,統一字符集可以避免由於字符集轉換產生的亂碼,不同的字符集進行比較前需要進行轉換會造成索引失效。
3、所有表和欄位都需要新增註釋
使用 comment 從句新增表和列的備註 從一開始就進行資料字典的維護。
4、儘量控制單表資料量的大小,建議控制在 500 萬以內
500 萬並不是 MySQL 資料庫的限制,過大會造成修改表結構、備份、恢復都會有很大的問題,可以用歷史資料歸檔
(應用於日誌資料)
,分庫分表(應用於業務資料)
等手段來控制資料量大小。
5、謹慎使用 MySQL 分割槽表
分割槽表在物理上表現為多個檔案,在邏輯上表現為一個表 謹慎選擇分割槽鍵,跨分割槽查詢效率可能更低 建議採用物理分表的方式管理大資料。
6、儘量做到冷熱資料分離,減小表的寬度
MySQL 限制每個表最多儲存 4096 列,並且每一行資料的大小不能超過 65535 位元組 減少磁碟 IO,保證熱資料的記憶體快取命中率
(表越寬,把表裝載進記憶體緩衝池時所佔用的記憶體也就越大,也會消耗更多的 IO)
更有效的利用快取,避免讀入無用的冷資料 經常一起使用的列放到一個表中(避免更多的關聯操作)
7、禁止在表中建立預留欄位
預留欄位的命名很難做到見名識義 預留欄位無法確認儲存的資料型別,所以無法選擇合適的型別 對預留欄位型別的修改,會對錶進行鎖定
8、禁止在資料庫中儲存圖片,檔案等大的二進位制資料
通常檔案很大,會短時間內造成資料量快速增長,資料庫進行資料庫讀取時,通常會進行大量的隨機 IO 操作,檔案很大時,IO 操作很耗時 通常儲存於檔案伺服器,資料庫只儲存檔案地址資訊。。
9、禁止線上上做資料庫壓力測試
10、禁止從開發環境,測試環境直接連線生成環境資料庫
資料庫欄位設計規範
1. 優先選擇符合儲存需要的最小的資料型別
原因
列的欄位越大,建立索引時所需要的空間也就越大,這樣一頁中所能儲存的索引節點的數量也就越少也越少,在遍歷時所需要的IO次數也就越多, 索引的效能也就越差
方法
1、將字串轉換成數字型別儲存,如:將IP地址轉換成整形資料
- MySQL 提供了兩個方法來處理 IP 地址
- inet_aton 把ip轉為無符號整型(4-8位)
inet_ntoa 把整型的ip轉為地址 插入資料前,先用 inet_aton 把 IP 地址轉為整型,可以節省空間。顯示資料時,使用 inet_ntoa 把整型的 IP 地址轉為地址顯示即可。
2、對於非負型的資料(如自增 ID、整型 IP)來說,要優先使用無符號整型來儲存,因為無符號相對於有符號可以多出一倍的儲存空間。
- SIGNED INT -2147483648~2147483647
- UNSIGNED INT 0~4294967295
VARCHAR(N) 中的 N 代表的是字元數,而不是位元組數。使用 UTF8 儲存 255 個漢字 Varchar(255)=765 個位元組。過大的長度會消耗更多的記憶體
2. 避免使用 TEXT、BLOB 資料型別,最常見的TEXT型別可以儲存64k的資料
建議把 BLOB 或是TEXT列分離到單獨的擴充套件表中
MySQL 記憶體臨時表不支援 TEXT、BLOB 這樣的大資料型別,如果查詢中包含這樣的資料,在排序等操作時,就不能使用記憶體臨時表,必須使用磁碟臨時表進行。
而且對於這種資料,MySQL 還是要進行二次查詢,會使 SQL 效能變得很差,但是不是說一定不能使用這樣的資料型別。
如果一定要使用,建議把 BLOB 或是 TEXT 列分離到單獨的擴充套件表中,查詢時一定不要使用 select * 而只需要取出必要的列,不需要 TEXT 列的資料時不要對該列進行查詢。
TEXT 或 BLOB 型別只能使用字首索引
因為 MySQL 對索引欄位長度是有限制的,所以 TEXT 型別只能使用字首索引,並且 TEXT 列上是不能有預設值的。
3. 避免使用 ENUM 型別
- 修改 ENUM 值需要使用 ALTER 語句
- ENUM 型別的 ORDER BY 操作效率低,需要額外操作
- 禁止使用數值作為 ENUM 的列舉值
4. 儘可能把所有列定義為 NOT NULL
原因
- 索引 NULL 列需要額外的空間來儲存,所以要佔用更多的空間。
- 進行比較和計算時要對 NULL 值做特別的處理。
5. 使用 TIMESTAMP(4 個位元組)或 DATETIME 型別(8 個位元組)儲存時間
- TIMESTAMP 儲存的時間範圍 1970-01-01 00:00:01 ~ 2038-01-19-03:14:07。
- TIMESTAMP 佔用 4 位元組和 INT 相同,但比 INT 可讀性高,超出 TIMESTAMP 取值範圍的使用 DATETIME 型別儲存。
- 經常會有人用字串儲存日期型的資料(不正確的做法):
缺點 1:無法用日期函式進行計算和比較。
缺點 2:用字串儲存日期要佔用更多的空間。
6. 同財務相關的金額類資料必須使用 decimal 型別
- 非精準浮點:float,double
- 精準浮點:decimal
Decimal 型別為精準浮點數,在計算時不會丟失精度。佔用空間由定義的寬度決定,每 4 個位元組可以儲存 9 位數字,並且小數點要佔用一個位元組。可用於儲存比 bigint 更大的整型資料。
索引設計規範
1. 限制每張表上的索引數量,建議單張表索引不超過 5 個
- 索引並不是越多越好!索引可以提高效率同樣也可以降低效率;索引可以增加查詢效率,但同樣也會降低插入和更新的效率,甚至有些情況下會降低查詢效率。
- 因為 MySQL 最佳化器在選擇如何最佳化查詢時,會根據統一資訊,對每一個可以用到的索引來進行評估,以生成出一個最好的執行計劃,如果同時有很多個索引都可以用於查詢,就會增加 MySQL 最佳化器生成執行計劃的時間,同樣會降低查詢效能
2. 禁止給表中的每一列都建立單獨的索引
5.6 版本之前,一個 SQL 只能使用到一個表中的一個索引,5.6 以後,雖然有了合併索引的最佳化方式,但是還是遠遠沒有使用一個聯合索引的查詢方式好
3. 每個 InnoDB 表必須有個主鍵
- InnoDB 是一種索引組織表:資料的儲存的邏輯順序和索引的順序是相同的。每個表都可以有多個索引,但是表的儲存順序只能有一種 InnoDB是按照主鍵索引的順序來組織表的。
- 不要使用更新頻繁的列作為主鍵,不適用多列主鍵(相當於聯合索引) 不要使用 UUID、MD5、HASH、字串列作為主鍵(無法保證資料的順序增長)。主鍵建議使用自增 ID 值。
常見索引列建議
- 出現在 SELECT、UPDATE、DELETE 語句的 WHERE 從句中的列。
- 包含在 ORDER BY、GROUP BY、DISTINCT 中的欄位。
- 並不要將符合 1 和 2 中的欄位的列都建立一個索引,通常將 1、2 中的欄位建立聯合索引效果更好。
- 多表 JOIN 的關聯列。
如何選擇索引列的順序
建立索引的目的是:
希望透過索引進行資料查詢,減少隨機 IO,增加查詢效能 ,索引能過濾出越少的資料,則從磁碟中讀入的資料也就越少。
- 區分度最高的放在聯合索引的最左側(區分度 = 列中不同值的數量 / 列的總行數)。
- 儘量把欄位長度小的列放在聯合索引的最左側(因為欄位長度越小,一頁能儲存的資料量越大,IO 效能也就越好)。
- 使用最頻繁的列放到聯合索引的左側(這樣可以比較少的建立一些索引)。
避免建立冗餘索引和重複索引
- 因為這樣會增加查詢最佳化器生成執行計劃的時間。
- 重複索引示例:primary key(id)、index(id)、unique index(id)
- 冗餘索引示例:index(a,b,c)、index(a,b)、index(a)
優先考慮覆蓋索引
對於頻繁的查詢優先考慮使用覆蓋索引。
覆蓋索引
就是包含了所有查詢欄位(where,select,ordery by,group by包含的欄位)的索引
覆蓋索引的好處:
- 避免 InnoDB 表進行索引的二次查詢
- InnoDB 是以聚集索引的順序來儲存的,對於 InnoDB 來說,二級索引在葉子節點中所儲存的是行的主鍵資訊,如果是用二級索引查詢資料的話,在查詢到相應的鍵值後,還要透過主鍵進行二次查詢才能獲取我們真實所需要的資料。而在覆蓋索引中,二級索引的鍵值中可以獲取所有的資料,避免了對主鍵的二次查詢 ,減少了 IO 操作,提升了查詢效率。
- 可以把隨機 IO 變成順序 IO 加快查詢效率
- 由於覆蓋索引是按鍵值的順序儲存的,對於 IO 密集型的範圍查詢來說,對比隨機從磁碟讀取每一行的資料 IO 要少的多,因此利用覆蓋索引在訪問時也可以把磁碟的隨機讀取的 IO 轉變成索引查詢的順序 IO。
索引SET規範
- 儘量避免使用外來鍵約束。
- 不建議使用外來鍵約束(foreign key),但一定要在表與表之間的關聯鍵上建立索引。
- 外來鍵可用於保證資料的參照完整性,但建議在業務端實現。
- 外來鍵會影響父表和子表的寫操作從而降低效能。
資料庫SQL開發規範
- 建議使用預編譯語句進行資料庫操作
預編譯語句可以重複使用這些計劃,減少 SQL 編譯所需要的時間,還可以解決動態 SQL 所帶來的 SQL 注入的問題 只傳引數,比傳遞 SQL 語句更高效 相同語句可以一次解析,多次使用,提高處理效率。
- 避免資料型別的隱式轉換
隱式轉換會導致索引失效。如:
select name,phone from customer where id = '111';
3. 充分利用表上已經存在的索引
- 避免使用雙 % 號的查詢條件。
- 如a like '%123%',(如果無前置 %,只有後置 %,是可以用到列上的索引的)
- 一個 SQL 只能利用到複合索引中的一列進行範圍查詢
- 如:有 a,b,c 列的聯合索引,在查詢條件中有 a 列的範圍查詢,則在 b,c 列上的索引將不會被用到,在定義聯合索引時,如果a列要用到範圍查詢的話,就要把 a 列放到聯合索引的右側。
- 使用 left join 或 not exists 來最佳化 not in 操作, 因為 not in 也通常會使用索引失效。
4. 資料庫設計時,應該要對以後擴充套件進行考慮
5. 程式連線不同的資料庫使用不同的賬號,禁止跨庫查詢
- 為資料庫遷移和分庫分表留出餘地
- 降低業務耦合度
- 避免許可權過大而產生的安全風險
6. 禁止使用 SELECT * 必須使用 SELECT <欄位列表> 查詢
- 消耗更多的 CPU 和 IO 以網路頻寬資源
- 無法使用覆蓋索引
- 可減少表結構變更帶來的影響
7. 禁止使用不含欄位列表的 INSERT 語句
如:
insert into values ('a','b','c');
應使用:
insert into t(c1,c2,c3) values ('a','b','c');
8. 避免使用子查詢,可以把子查詢最佳化為 JOIN 操作
- 通常子查詢在 in 子句中,且子查詢中為簡單 SQL ( 不包含 union、group by、order by、limit 從句 ) 時,才可以把子查詢轉化為關聯查詢進行最佳化。
子查詢效能差的原因:
- 子查詢的結果集無法使用索引,通常子查詢的結果集會被儲存到臨時表中,不論是記憶體臨時表還是磁碟臨時表都不會存在索引,所以查詢效能會受到一定的影響。
- 特別是對於返回結果集比較大的子查詢,其對查詢效能的影響也就越大。
- 由於子查詢會產生大量的臨時表也沒有索引,所以會消耗過多的 CPU 和 IO 資源,產生大量的慢查詢。
9. 避免使用 JOIN 關聯太多的表
- 對於 MySQL 來說,是存在關聯快取的,快取的大小可以由 join_buffer_size 引數進行設定。
- 在 MySQL 中,對於同一個 SQL 多關聯(join)一個表,就會多分配一個關聯快取,如果在一個 SQL 中關聯的表越多,所佔用的記憶體也就越大。
- 如果程式中大量的使用了多表關聯的操作,同時 join_buffer_size 設定的也不合理的情況下,就容易造成伺服器記憶體溢位的情況,就會影響到伺服器資料庫效能的穩定性。
- 同時對於關聯操作來說,會產生臨時表操作,影響查詢效率 MySQL 最多允許關聯 61 個表,建議不超過 5 個。
10. 減少同資料庫的互動次數
資料庫更適合處理批次操作 合併多個相同的操作到一起,可以提高處理效率
11. 對應同一列進行 or 判斷時,使用 in 代替 or
In 的值不要超過 500 個, in 操作可以更有效的利用索引,or 大多數情況下很少能利用到索引。
12. 禁止使用 order by rand() 進行隨機排序
- 會把表中所有符合條件的資料裝載到記憶體中,然後在記憶體中對所有資料根據隨機生成的值進行排序,並且可能會對每一行都生成一個隨機值,如果滿足條件的資料集非常大,就會消耗大量的 CPU 和 IO 及記憶體資源。
- 推薦在程式中獲取一個隨機值,然後從資料庫中獲取資料的方式。
13. WHERE從句中禁止對列進行函式轉換和計算
對列進行函式轉換或計算時會導致無法使用索引。
不推薦
where date(create_time)='20190101'
推薦
where create_time >= '20190101' and create_time < '20190102'
14. 在明顯不會有重複值時使用 UNION ALL 而不是 UNION
- UNION 會把兩個結果集的所有資料放到臨時表中後再進行去重操作。
- UNION ALL 不會再對結果集進行去重操作。
15. 拆分複雜的大 SQL 為多個小 SQL
- 大 SQL:邏輯上比較複雜,需要佔用大量 CPU 進行計算的SQL 。
- MySQL:一個 SQL 只能使用一個 CPU 進行計算。
- SQL 拆分後可以透過並行執行來提高處理效率。
資料庫操作行為規範
1. 超 100 萬行的批次寫(UPDATE、DELETE、INSERT)操作,要分批多次進行操作
- 大批次操作可能會造成嚴重的主從延遲
- 主從環境中,大批次操作可能會造成嚴重的主從延遲,大批次的寫操作一般都需要執行一定長的時間,而只有當主庫上執行完成後,才會在其他從庫上執行,所以會造成主庫與從庫長時間的延遲情況
- Binlog 日誌為 row 格式時會產生大量的日誌
- 大批次寫操作會產生大量日誌,特別是對於 row 格式二進位制資料而言,由於在 row 格式中會記錄每一行資料的修改,我們一次修改的資料越多,產生的日誌量也就會越多,日誌的傳輸和恢復所需要的時間也就越長,這也是造成主從延遲的一個原因。
避免產生大事務操作
- 大批次修改資料,一定是在一個事務中進行的,這就會造成表中大批次資料進行鎖定,從而導致大量的阻塞,阻塞會對 MySQL 的效能產生非常大的影響。
- 特別是長時間的阻塞會佔滿所有資料庫的可用連線,這會使生產環境中的其他應用無法連線到資料庫,因此一定要注意大批次寫操作要進行分批。
2. 對於大表使用 pt-online-schema-change 修改表結構
- 避免大表修改產生的主從延遲
- 避免在對錶欄位進行修改時進行鎖表
- 對大表資料結構的修改一定要謹慎,會造成嚴重的鎖表操作,尤其是生產環境,是不能容忍的。
- pt-online-schema-change 它會首先建立一個與原表結構相同的新表,並且在新表上進行表結構的修改,然後再把原表中的資料複製到新表中,並在原表中增加一些觸發器。
- 把原表中新增的資料也複製到新表中,在行所有資料複製完成之後,把新表命名成原表,並把原來的表刪除掉,把原來一個 DDL 操作,分解成多個小的批次進行。
3. 禁止為程式使用的賬號賦予 super 許可權
當達到最大連線數限制時,還執行 1個 有 super 許可權的使用者連線 super 許可權只能留給 DBA 處理問題的賬號使用。
4. 對於程式連線資料庫賬號,遵循許可權最小原則
程式使用資料庫賬號只能在一個 DB 下使用,不準跨庫 程式使用的賬號原則上不準有 drop 許可權。
本作品採用《CC 協議》,轉載必須註明作者和本文連結