分散式唯一ID
- 使用RocketMQ時,需要使用到分散式唯一ID
- 訊息可能會發生重複,所以要在消費端做冪等性,為了達到業務的冪等性,生產者必須要有一個唯一ID, 需要滿足以下條件:
- 同一業務場景要全域性唯一
- 該ID必須是在訊息的傳送方進行生成傳送到MQ
- 消費端根據該ID進行判斷是否重複,確保冪等性
- 在哪裡產生以及消費端進行判斷做冪等性與該ID無關,此ID需要保證的特性:
- 區域性甚至全域性唯一
- 趨勢遞增
Snowflake演算法
- Snowflake是Twitter開源的分散式ID生成演算法, 結果是一個Long型的ID,核心思想是:
- 使用1位作為符號位,確定為0, 表示正
- 使用41位作為毫秒數
- 使用10位作為機器的ID : 高5位是資料中心ID, 低5位是機器ID
- 使用12位作為毫秒內的序列號, 意味著每個節點每秒可以產生4096(212) 個ID
該演算法通過二進位制的操作進行實現,單機每秒內理論上最多可以生成1000*(2^12), 即409.6萬個ID
SnowflakeIdWorker
- Snowflake演算法Java實現SnowflakeIdWorker:
/**
* Twitter_Snowflake<br>
* SnowFlake的結構如下(每部分用-分開):<br>
* 0 - 0000000000 0000000000 0000000000 0000000000 0 - 00000 - 00000 - 000000000000 <br>
* 1位標識，由於long基本型別在Java中是帶符號的，最高位是符號位，正數是0，負數是1，所以id一般是正數，最高位是0<br>
* 41位時間截(毫秒級)，注意，41位時間截不是儲存當前時間的時間截，而是儲存時間截的差值（當前時間截 - 開始時間截)
* 得到的值），這裡的的開始時間截，一般是我們的id生成器開始使用的時間，由我們程式來指定的（如下下面程式IdWorker類的startTime屬性）。41位的時間截，可以使用69年，年T = (1L << 41) / (1000L * 60 * 60 * 24 * 365) = 69<br>
* 10位的資料機器位，可以部署在1024個節點，包括5位datacenterId和5位workerId<br>
* 12位序列，毫秒內的計數，12位的計數順序號支援每個節點每毫秒(同一機器，同一時間截)產生4096個ID序號<br>
* 加起來剛好64位，為一個Long型。<br>
* SnowFlake的優點是，整體上按照時間自增排序，並且整個分散式系統內不會產生ID碰撞(由資料中心ID和機器ID作區分)，並且效率較高，經測試，SnowFlake每秒能夠產生26萬ID左右。
*/
public class SnowflakeIdWorker {
// ==============================Fields===========================================
/** 開始時間截 (2015-01-01) */
private final long twepoch = 1420041600000L;
/** 機器id所佔的位數 */
private final long workerIdBits = 5L;
/** 資料標識id所佔的位數 */
private final long datacenterIdBits = 5L;
/** 支援的最大機器id，結果是31 (這個移位演算法可以很快的計算出幾位二進位制數所能表示的最大十進位制數) */
private final long maxWorkerId = -1L ^ (-1L << workerIdBits);
/** 支援的最大資料標識id，結果是31 */
private final long maxDatacenterId = -1L ^ (-1L << datacenterIdBits);
/** 序列在id中佔的位數 */
private final long sequenceBits = 12L;
/** 機器ID向左移12位 */
private final long workerIdShift = sequenceBits;
/** 資料標識id向左移17位(12+5) */
private final long datacenterIdShift = sequenceBits + workerIdBits;
/** 時間截向左移22位(5+5+12) */
private final long timestampLeftShift = sequenceBits + workerIdBits + datacenterIdBits;
/** 生成序列的掩碼，這裡為4095 (0b111111111111=0xfff=4095) */
private final long sequenceMask = -1L ^ (-1L << sequenceBits);
/** 工作機器ID(0~31) */
private long workerId;
/** 資料中心ID(0~31) */
private long datacenterId;
/** 毫秒內序列(0~4095) */
private long sequence = 0L;
/** 上次生成ID的時間截 */
private long lastTimestamp = -1L;
//==============================Constructors=====================================
/**
* 建構函式
* @param workerId 工作ID (0~31)
* @param datacenterId 資料中心ID (0~31)
*/
public SnowflakeIdWorker(long workerId, long datacenterId) {
if (workerId > maxWorkerId || workerId < 0) {
throw new IllegalArgumentException(String.format("worker Id can't be greater than %d or less than 0", maxWorkerId));
}
if (datacenterId > maxDatacenterId || datacenterId < 0) {
throw new IllegalArgumentException(String.format("datacenter Id can't be greater than %d or less than 0", maxDatacenterId));
}
this.workerId = workerId;
this.datacenterId = datacenterId;
}
// ==============================Methods==========================================
/**
* 獲得下一個ID (該方法是執行緒安全的)
* @return SnowflakeId
*/
public synchronized long nextId() {
long timestamp = timeGen();
//如果當前時間小於上一次ID生成的時間戳，說明系統時鐘回退過這個時候應當丟擲異常
if (timestamp < lastTimestamp) {
throw new RuntimeException(
String.format("Clock moved backwards. Refusing to generate id for %d milliseconds", lastTimestamp - timestamp));
}
//如果是同一時間生成的，則進行毫秒內序列
if (lastTimestamp == timestamp) {
sequence = (sequence + 1) & sequenceMask;
//毫秒內序列溢位
if (sequence == 0) {
//阻塞到下一個毫秒,獲得新的時間戳
timestamp = tilNextMillis(lastTimestamp);
}
}
//時間戳改變，毫秒內序列重置
else {
sequence = 0L;
}
//上次生成ID的時間截
lastTimestamp = timestamp;
//移位並通過或運算拼到一起組成64位的ID
return ((timestamp - twepoch) << timestampLeftShift) //
| (datacenterId << datacenterIdShift) //
| (workerId << workerIdShift) //
| sequence;
}
/**
* 阻塞到下一個毫秒，直到獲得新的時間戳
* @param lastTimestamp 上次生成ID的時間截
* @return 當前時間戳
*/
protected long tilNextMillis(long lastTimestamp) {
long timestamp = timeGen();
while (timestamp <= lastTimestamp) {
timestamp = timeGen();
}
return timestamp;
}
/**
* 返回以毫秒為單位的當前時間
* @return 當前時間(毫秒)
*/
protected long timeGen() {
return System.currentTimeMillis();
}
//==============================Test=============================================
/** 測試 */
public static void main(String[] args) {
SnowflakeIdWorker idWorker = new SnowflakeIdWorker(0, 0);
for (int i = 0; i < 1000; i++) {
long id = idWorker.nextId();
System.out.println(Long.toBinaryString(id));
System.out.println(id);
}
}
}
- 優點:
- 生成速度快
- 實現簡單,沒有多餘的依賴
- 可以根據實際情況調整各個位段,方便靈活
- 缺點:
- 只能趨勢遞增
- 依賴機器時間. 如果發生回撥可能會造成生成的ID重複
SnowFlake演算法時間回撥問題:
- 時間回撥產生原因:
- 由於業務需要,機器需要同步時間伺服器
- 時間回撥問題解決辦法:
- 當回撥時間小於15ms,可以等待時間追上來以後再繼續生成
- 當回撥時間大於15ms時可以通過更換workId來產生之前都沒有產生過的Id來解決回撥問題
- 步驟:
- 首先將workId的位數進行調整至15位
- 然後將SnowflakeIdWorker實現調整位段
- 使用1位作為符號位, 即生成的分散式I唯一d為正數
- 使用38位作為時間戳, 表示當前時間相對於初始時間的增量值,單位為毫秒
- 使用15位作為機器ID, 最多可支援3.28萬個節點
- 使用10位作為毫秒內的序列號, 理論上可以生成210個序列號
- 因為服務的無狀態關係,正常情況下workId不會配置在具體配置檔案中,這裡可以選擇集中式的Redis作為中央儲存:
- 將workId調整位數後得到的多餘的3萬多個workId放置到一個基於Redis的佇列中,用來集中管理workId
- 每次當節點啟動的時候,先檢視本地是否有workId,如果有那麼就作為workId.如果沒有,就在佇列中取出一個當workId來使用,並從佇列中刪除
- 當發現時間回撥太多的時候,就再去佇列中去一個來當新的workId使用,將剛剛那個使用回撥的情況的workId存到佇列裡. 因為佇列每次都是從頭取出,從尾部插入,這樣可以避免剛剛A機器使用的workId又被B機器獲取的可能性
- 如果使用redis又會遇到新的小問題: redis一致性如何保證?redis掛了怎麼辦?怎麼同步?
- 從基礎元件的使用角度來說,對於SnowflakeIdWorker演算法當遇到時間回撥問題,只需要丟擲異常即可,這樣可以保證演算法實現的簡單性
- 也可以參考uid-generator 方法: 每次取一批workId, 集中之後批取,這樣可以解決各個節點訪問集中機器的效能問題.