注意事項
模式設計,即在文件中表示資料的方式,對於資料表示來說時非常關鍵的。
為 MongoDB 做模式設計時,在效能、可伸縮性和簡單性方面是重中之重,也需要考慮一些特別的注意事項。
限制條件
與常見的 SQL 相比而言,MongoDB 有自己的限制條件:
- 文件最大限制為 16M 大小
- 從磁碟讀寫完整文件
- 更新會重寫整個文件
- 在文件級別進行原子更新
訪問模式
設計模式時最需要關注的就是資料庫的讀操作,在資料庫執行過程中,應儘量減少查詢的數量,這就需要在設計時確保一起查詢的資料儲存在同一個文件中。
其實,就是考慮是否是否可以將動態(讀/寫)資料和靜態(主要是讀)資料分離開,如未經常使用的資料應該移到不同的集合中。
在進行模式設計時,提高最常見查詢的優先順序會獲得最佳的效能。
關係型別
資料之間的關係影響著文件之間應該是內嵌還是引用。
比如說,需要弄清楚如何在不執行其他查詢的情況下引用文件,以及當關系發生變化時需要更新多少文件。
關係基數對於文件之間的關係非常重要,如一對一、一對多、多對多、一對百萬、多對百萬等等關係基礎,影響的程度差距非常大,應選取最佳格式去做建模。
在關係基數的基礎上,還需關注訪問的情況、重要資料更新與讀取的比例,這些充分考慮之後,將有助於確定應採用內嵌文件還是引用文件。
正規化化和反正規化化
基本概念
通常來說,多文件之間的關係可以使用反正規化化(內嵌)或正規化化(引用)。
正規化化是指在文件中引用外部資料的標識,同一份資料只存在一個地方。
在查詢時,查詢完整的資料需要做 JOIN 的操作,需要查詢多次才可能獲取到所需內容;但是在更改時僅需修改一處地方,不需要擔心破壞資料的完整性。
反正規化化是指將外部資料複製一份儲存在文件中,也就是說同一份資料存在多處地方。
在查詢時,只需查詢一次即可得到所需內容,查詢效率比較可觀;而在更改時,需要更新多處地方,可能會出現資料不一致的情況,不能保證完整性。
正規化化選擇
決定何時採用正規化化以及何時採用反正規化化是比較困難的:通常,正規化化的寫入速度更快,而反正規化化的讀取速度更快。
透過判斷以下因素可決策選擇使用正規化化還是反正規化化:
更適合正規化化 | 更適合反正規化化 |
---|---|
較大子文件 | 較小子文件 |
資料經常變更 | 資料不經常變更 |
資料要強一致 | 資料最終一致即可 |
文件資料大幅增加 | 文件資料小幅增加 |
資料通常不包含在結果中 | 資料通常需要執行二次查詢才能獲得 |
快速寫入 | 快速讀取 |
模型設計小技巧
指導原則
通常來說,具有類似模式的文件應該儲存在同一個集合中。
對於集合來說,需要考慮的一個大問題是鎖機制(每個文件都有一個讀/寫鎖)和儲存。
當使用 --directoryperdb
選項時,每個資料庫都可以保留在自己的目錄中,這允許你將不同的資料庫掛載到不同的卷中。
同一個應用程式連線的資料庫可以根據業務進行劃分,也許可以將高價值的業務資料儲存在 SSD 上,或者是使用 RAID10 進行儲存,而低價值的資料可以儲存在 RAID0 上。
刪除舊資料
有些資料只在短時間內比較重要,過了這段時間,儲存這些資料只是再浪費儲存空間。
刪除舊資料有 3 種常見的方式:使用固定集合、使用 TTL 索引、使用多個集合。
最簡單的方式是使用固定集合:將集合大小設定成一個較大的值,並讓舊資料從固定集合的末尾被“刪除”。
第二種方式是使用 TTL 集合:TTL 集合可以更精確地控制刪除文件的時間,但其在寫入量過大的集合中操作速度不夠快。
最後一種方式是使用多個集合:例如每個月的文件都單獨使用一個集合。
一致性管理
MongoDB 支援多種一致性級別,從總是能夠讀取自己所寫的資料到讀取不確定的舊資料。
其內部實現是伺服器端為每一個資料庫連線都維護了請求佇列,同一個連線發來的請求都會被新增到佇列的末尾,連線中的任何後續請求都將依次得到處理。
這個管理方式涉及到多個客戶端連線會出現併發問題,在一個連線中插入文件後,在另一個連線的後續查詢卻不一定會返回這個文件(實際上已經插入成功)。
同樣的一致性問題在 MongoDB 擁有副本集時也會出現,副本節點的資料與主節點的資料總是會有時間差,高併發的請求同樣存在讀取到舊資料的風險。
MongoDB 提供了 readConcern
選項來控制被讀取資料的一致性和隔離性。它通常與 writerConcern
組合使用,以控制為應用程式提供的一致性和可用性保證:
如果 readConcern=local
,從當前例項查詢並返回結果,不能保證資料已經寫入大多數副本整合員。預設在主庫讀,如果本次讀取使用了 causally consistent
則在從庫讀。
如果 readConcern=available
,從當前例項查詢並返回結果,不能保證資料已經寫入大多數副本整合員。預設在從庫讀,並且此選項與 causally consistent
不能同時使用。
如果 readConcern=majority
,查詢結果返回被副本集的大多數成員確認的資料,讀操作返回的文件是持久化的。前提是 MongoDB 必須是 WiredTiger 儲存引擎。
如果 readConcern=linearizable
,查詢可能會等待併發執行的寫操作傳播到大多數副本整合員,然後再返回結果。
如果 readConcern=snapshot
,這是適用於多文件事務中的操作,通常情況下使用較少。
模式遷移
隨著應用程式的增長和需求的變化,資料庫模式也可能需要隨之增長和改變。理想情況下,如果可以的話,應該考慮使用文件版本控制模式。
最簡單的方式是根據應用程式的需要改進資料庫模式,以確保應用程式支援所有的舊版模式。但是這種方式可能會導致混亂,特別是當不同版本的模式存在衝突時。
為了以一種更結構化的方式處理不斷變化的需求,可以在每個文件中包含一個 version
欄位,並使用它來確定應用程式將接受的文件結構。
最後一種方式是在模式變更時遷移所有資料。但這通常不是一個好主意:會給系統帶來壓力,還必須確保所有文件都被更新成功。
模式管理
MongoDB 3.2 引入了模式驗證,其可以在更新和插入操作期間對資料進行驗證。
MongoDB 3.6 又透過 $jsonSchema
運算子新增了 JSON 模式驗證,現在這是 MongoDB 中所有模式驗證的推薦方法。
只有當文件被更改時,驗證功能才會檢查這些文件,並且此功能是每個集合都需要單獨配置的。
要向現有集合新增驗證功能,可以在 collMod
命令中使用 validator
選項。在使用 db.createCollection()
時,可以透過指定 validator
選項將驗證新增到新集合中。
MongoDB 還提供了兩個額外的選項:
validationLevel
: 決定了在更新過程中驗證規則對現有文件檢查的嚴格程度validationAction
: 決定了是應該在發生錯誤時拒絕請求,還是允許請求併發出警告
當然,更詳細的相關內容可以檢視 官方文件。
編寫程式碼來處理資料完整性問題
為保證 MongoDB 資料的完整性,有可能需要在應用程式中增加必要的邏輯程式碼進行處理,也需要增加定時任務來保持資料的一致性。
有可能需要有以下的任務:
- 一致性修復程式:檢查計算和重複資料以確保每個人都具有一致的值
- 預填充器:建立將來需要的文件
- 聚合:保持內聯聚合為最新
- 架構檢查器:確保當前使用的文件集都具有一組欄位,可以自動更正它們
- 定時備份:定期鎖定和轉儲資料庫