高併發實戰之冪等處理
一、背景
1. 前端重複提交選中的資料,應該後臺只產生對應這個資料的一個反應結果。
2. 我們發起一筆付款請求,應該只扣使用者賬戶一次錢,當遇到網路重發或bug重發,也應該只扣一次錢;
3. 傳送訊息,也應該只發一次,同樣的簡訊發給使用者,使用者會哭的;
4. 建立業務訂單,一次業務請求只能建立一個,建立多個就會出大問題。
二、什麼事冪等
一個操作,不論執行多少次,產生的效果和返回的結果都是一樣的
三、實現冪等有哪些思路
1. 查詢操作
查詢一次和查詢多次,在資料不變的情況下,查詢結果是一樣的。select是天然的冪等操作
2. 刪除操作
刪除操作也是冪等的,刪除一次和多次刪除都是把資料刪除。(注意可能返回結果不一樣,刪除的資料不存在,返回0,刪除的資料多條,返回結果多個)
3.唯一索引,防止新增髒資料
比如:支付寶的資金賬戶,支付寶也有使用者賬戶,每個使用者只能有一個資金賬戶,怎麼防止給使用者建立資金賬戶多個,那麼給資金賬戶表中的使用者ID加唯一索引,所以一個使用者新增成功一個資金賬戶記錄
要點:
唯一索引或唯一組合索引來防止新增資料存在髒資料
(當表存在唯一索引,併發時新增報錯時,再查詢一次就可以了,資料應該已經存在了,返回結果即可)
4. token機制,防止頁面重複提交
業務要求:
頁面的資料只能被點選提交一次
發生原因:
由於重複點選或者網路重發,或者nginx重發等情況會導致資料被重複提交
解決辦法:
叢集環境:採用token加redis(redis單執行緒的,處理需要排隊)
單JVM環境:採用token加redis或token加jvm記憶體
處理流程:
1. 資料提交前要向服務的申請token,token放到redis或jvm記憶體,token有效時間
2. 提交後後臺校驗token,同時刪除token,生成新的token返回
token特點:
要申請,一次有效性,可以限流
注意:redis要用刪除操作來判斷token,刪除成功代表token校驗透過,如果用select+delete來校驗token,存在併發問題,不建議使用
5. 悲觀鎖
獲取資料的時候加鎖獲取
select * from table_xxx where id='xxx' for update;
注意:id欄位一定是主鍵或者唯一索引,不然是鎖表,會死人的
悲觀鎖使用時一般伴隨事務一起使用,資料鎖定時間可能會很長,根據實際情況選用
6. 樂觀鎖
樂觀鎖只是在更新資料那一刻鎖表,其他時間不鎖表,所以相對於悲觀鎖,效率更高。
樂觀鎖的實現方式多種多樣可以透過version或者其他狀態條件:
1). 透過版本號實現
update table_xxx set name=#name#,version=version+1 where version=#version#
2). 透過條件限制
update table_xxx set avai_amount=avai_amount-#subAmount# where avai_amount-#subAmount# >= 0
要求:quality-#subQuality# >= ,這個情景適合不用版本號,只更新是做資料安全校驗,適合庫存模型,扣份額和回滾份額,效能更高
注意:樂觀鎖的更新操作,最好用主鍵或者唯一索引來更新,這樣是行鎖,否則更新時會鎖表,上面兩個sql改成下面的兩個更好
update table_xxx set name=#name#,version=version+1 where id=#id# and version=#version#
update table_xxx set avai_amount=avai_amount-#subAmount# where id=#id# and avai_amount-#subAmount# >= 0
7. 分散式鎖
還是拿插入資料的例子,如果是分佈是系統,構建全域性唯一索引比較困難,例如唯一性的欄位沒法確定,這時候可以引入分散式鎖,透過第三方的系統(redis或zookeeper),在業務系統插入資料或者更新資料,獲取分散式鎖,然後做操作,之後釋放鎖,這樣其實是把多執行緒併發的鎖的思路,引入多多個系統,也就是分散式系統中得解決思路。
要點:某個長流程處理過程要求不能併發執行,可以在流程執行之前根據某個標誌(使用者ID+字尾等)獲取分散式鎖,其他流程執行時獲取鎖就會失敗,也就是同一時間該流程只能有一個能執行成功,執行完成後,釋放分散式鎖(分散式鎖要第三方系統提供)
8. select + insert
併發不高的後臺系統,或者一些任務JOB,為了支援冪等,支援重複執行,簡單的處理方法是,先查詢下一些關鍵資料,判斷是否已經執行過,在進行業務處理,就可以了
注意:核心高併發流程不要用這種方法
9. 狀態機冪等
在設計單據相關的業務,或者是任務相關的業務,肯定會涉及到狀態機(狀態變更圖),就是業務單據上面有個狀態,狀態在不同的情況下會發生變更,一般情況下存在有限狀態機,這時候,如果狀態機已經處於下一個狀態,這時候來了一個上一個狀態的變更,理論上是不能夠變更的,這樣的話,保證了有限狀態機的冪等。
注意:訂單等單據類業務,存在很長的狀態流轉,一定要深刻理解狀態機,對業務系統設計能力提高有很大幫助
10. 對外提供介面的api如何保證冪等
如銀聯提供的付款介面:需要接入商戶提交付款請求時附帶:source來源,seq序列號
source+seq在資料庫裡面做唯一索引,防止多次付款,(併發時,只能處理一個請求
)
11、mongodb的oplog冪等性:
每一條oplog,重放一次或多次,得到的結果是一樣的;為實現冪等 mongodb 對很多操作進行來轉換,比如將 insert 轉換為 upsert、$inc 操作轉換為 $set等等。
來自 “ ITPUB部落格 ” ,連結:http://blog.itpub.net/28686045/viewspace-2152966/,如需轉載,請註明出處,否則將追究法律責任。
相關文章
- 關於高併發和分散式中的冪等處理分散式
- 我們來談下高併發和分散式中的冪等處理分散式
- 高併發的核心技術-冪等的實現方案
- 騰訊二面:如何保證介面冪等性?高併發下的介面冪等性如何實現?
- 高併發下如何保證介面的冪等性?
- 高併發下的介面冪等性解決方案!
- 高併發核心技術 - 冪等性 與 分散式鎖分散式
- 高併發的處理方法
- 架構與思維:高併發下冪等性解決方案架構
- 高併發下資料冪等問題的9種解決方案
- mysql大資料高併發處理MySql大資料
- 處理高併發的一般思路
- 針對web高併發量的處理Web
- 分散式鎖不是控制併發冪等的方式分散式
- 高併發處理思路與手段(一):擴容
- Apache Tomcat如何高併發處理請求ApacheTomcat
- 轉載:Java處理高併發量訪問的處理總結Java
- 介面高併發壓測入門實戰
- RocketMQ實戰--高併發秒殺場景MQ
- Java高併發實戰,鎖的優化Java優化
- MySQL 併發處理MySql
- Postgres併發處理
- 處理高併發 IO瓶頸解決紅包程式
- 冪等最佳實踐
- React.js 實戰之 事件處理ReactJS事件
- Flink處理函式實戰之四:視窗處理函式
- c# 透過訊息佇列處理高併發請求實列C#佇列
- node.js為什麼能處理高併發情景?Node.js
- 處理併發衝突
- 分散式之介面冪等性分散式
- Flink處理函式實戰之五:CoProcessFunction(雙流處理)函式Function
- Django高階表單處理與驗證實戰Django
- Apache Spark技術實戰之7 -- CassandraRDD高併發資料讀取實現剖析ApacheSpark
- 實戰Java高併發程式設計模式視訊Java程式設計設計模式
- 【轉】從msql資料庫處理高併發商品超賣SQL資料庫
- JAVA多執行緒下高併發的處理經驗Java執行緒
- 併發問題處理方式
- PostgreSQL的MVCC併發處理SQLMVC