MySQL Json有哪些缺點
導讀 | 今天的分享是再批 json, 去年分享過因為 mysql json 導致的故障,今天的 case 其實是去年的姊妹篇,原理一模一樣。上一篇弱智的 MySQL NULL, 居然有小夥伴留言說,在業務中依賴 NULL 使聯合索引不唯一的特性,比如有的使用者就要多條記錄,有的僅一條。我看了差點一口老血噴出來,把業務邏輯耦合在 DB 中這樣真的合適嘛? 要是外包另當別論,正常專案誰接手誰倒黴。 |
今天的分享是再批 json, 去年分享過因為 mysql json 導致的故障,今天的 case 其實是去年的姊妹篇,原理一模一樣。有兩個原因不建議用 json:
- Table Schema 就是強一致的,約束開發不要亂搞,json 這種弱約束的就是開後門,時間一長 json 欄位就成了下水道
- MySQL JSON 很垃圾,5.7 系列都有效能問題,測試 8.0 好很多。強烈建義大家,使用前壓測一下
上面提到的兩點有爭議?有爭議就對了,一致認同是垃圾的東西誰會討論它呢?
JSON 有兩種表示方法:文字可讀的在 mysql 中對應 json_dom.cc, binary 二進位制表示的對應 json_binary.cc
If the value is a JSON object, its binary representation will have a header that contains: - the member count - the size of the binary value in bytes - a list of pointers to each key - a list of pointers to each value The actual keys and values will come after the header, in the same order as in the header. Similarly, if the value is a JSON array, the binary representation will have a header with - the element count - the size of the binary value in bytes - a list of pointers to each value
原始碼中註釋也寫的比較清楚,二進位制分成兩部分 header + element. 實際上 mysql 只是 server 識別了 json, 各個儲存引擎仍儲存的二進位制 blob
換句話說,底層引擎對 json 是無感知的,就是一條資料而己
json-function-reference[1] 官方有好多在 server 層操作 json 的方法,感興趣的可以看一下
MySQL Client 讀取 json 時是 json_dom 呼叫 wrapper_to_string 方法,序列化成可讀格式資料
寫入 json 時,是由 json_binary 呼叫 serialize_json_value 方法,序列化成上面圖表示的 binary 資料,然後由引擎層儲存成 blob 格式
去年故障也有服務端的問題:載入單條資料失敗主動 panic, 坑人不淺 (理由是資料不一致,寧可不對外提供服務,問題是那條資料恰好是重不重要的一類)。所以這個故事告訴我們: 線上服務的可用性,遠高於資料一致性
慢的原因是 wrapper_to_string 遇到 json array 特別多的情況下反覆 mem_realloc 建立記憶體空間,導致效能下降
其實去年沒有 fix 完整,最近發現寫入也有類似問題,只不過是 serialize_json_value 寫入儲存引擎前反覆 mem_realloc 造成超時。這時前端頁面發現寫入超時了,(人工)重試繼續寫入 json 資料
恰好趕上聯合索引中有 NULL 欄位,由此引出了唯一索引不唯一的現象。那怎麼解決呢?前端按鈕 cooldown 治標不治本,sql 執行 12s 前端肯定又點選提交了,治本還得升級 mysql 8.0 並且移除 NULL 欄位, 那會不會又引入其它問題呢?
專案初期做了錯誤的決定,後人很容易買單。希望我們踩到的坑,能讓你決定使用 json 前猶豫幾秒鐘 ^^
在測試機上發現 8.0 是 ok 的,沒有效能問題,檢視提交的 commit, 2016 年就有人發現並 fix 了,不知道有沒有 back port 到 mysql 5.7 那幾個版本
commit a2f9ea422e4bdfd65da6dd0c497dc233629ec52e Author: Knut Anders HatlenDate: Fri Apr 1 12:56:23 2016 +0200 Bug#23031146: INSERTING 64K SIZE RECORDS TAKE TOO MUCH TIME If a JSON value consists of a large sub-document which is wrapped in many levels of JSON arrays or objects, serialization of the JSON value may take a very long time to complete. This is caused by how the serialization switches between the small storage format (used by documents that need less than 64KB) and the large storage format. When it detects that the large storage format has to be used, it redoes the serialization of the current sub-document using the large format. But this re-serialization has to be redone again when the parent of the sub-document is switched from small format to large format. For deeply nested documents, the inner parts end up getting re-serializing again and again. This patch changes how the switch between the formats is done. Instead of starting with re-serializing the inner parts, it now starts with the outer parts. If a sub-document exceeds the maximum size for the small format, we know that the parent document will exceed it and need to be re-serialized too. Re-serializing an inner document is therefore a waste of time if we haven't already expanded its parent. By starting with expanding the outer parts of the JSON document, we avoid the wasted work and speed up the serialization.
參考資料
[1]json-function-reference: https://dev.mysql.com/doc/refman/5.7/en/json-function-reference.html
原文來自:
來自 “ ITPUB部落格 ” ,連結:http://blog.itpub.net/69955379/viewspace-2783916/,如需轉載,請註明出處,否則將追究法律責任。
相關文章
- iframe有哪些優點和缺點?
- 低程式碼有哪些缺點?
- 奈學:資料湖有哪些缺點?
- ERP系統有哪些優點和缺點?
- MySQL有哪些儲存引擎,各自的優缺點,應用場景MySql儲存引擎
- 大資料的優缺點有哪些?_光點科技大資料
- RPA 技術的優缺點有哪些
- HTTPS協議的優缺點有哪些?HTTP協議
- Python有哪些優缺點,你瞭解嗎?Python
- 虛擬伺服器的優缺點有哪些?伺服器
- 專案管理軟體免費的有哪些缺點?專案管理
- 電子郵件營銷的優缺點有哪些?
- Python中爬蟲模組有哪些?優缺點介紹!Python爬蟲
- CRM客戶關係管理系統有哪些優缺點?
- (1)微服務是什麼?它的優缺點有哪些?微服務
- 谷歌的grpc和facebook的相比thrift 有哪些優勢,又有哪些缺點?谷歌RPC
- 那麼多人選擇Python,它的優缺點有哪些?Python
- 混合IT是什麼?基礎設施和優缺點有哪些?
- Python垃圾回收機制是什麼?有哪些優缺點?Python
- CRM系統雲部署和本地部署的優缺點有哪些
- Linux中靜態路由指什麼?優缺點有哪些?Linux路由
- MySQL索引的優缺點MySql索引
- 開源是什麼意思?開源軟體優缺點有哪些?
- Python的優缺點和應用領域有哪些? 【詳細】Python
- mysql和Oracle的特點,優缺點MySqlOracle
- 公共代理有什麼缺點?
- Python有什麼缺點?Python
- IPv6改造方案有幾種?分別有哪些優缺點?(中科三方)
- 雲資料庫MySQL有什麼作用?有哪些優點?資料庫MySql
- Linux系統和Windows系統的各自的優缺點有哪些LinuxWindows
- 什麼是閉包?有哪些使用場景?優缺點是什麼?
- 手工查殺病毒有哪些優缺點?網路安全學習入門
- Linux中LVM的工作原理是什麼?優缺點有哪些?LinuxLVM
- 網站指令碼語言有哪些優缺點?網路安全入門網站指令碼
- 什麼是mysql資料庫?MySQL的特點有哪些?MySql資料庫
- Linux中lvm分割槽是什麼?LVM優缺點有哪些?LinuxLVM
- 部署型CRM系統和託管型CRM系統的優缺點有哪些
- vivo X7手機全面評測 vivo X7有哪些優缺點?