1. 雪花演算法(Snowflake Algorithm)
雪花演算法(Snowflake Algorithm)是一種用於生成唯一識別符號(ID)的分散式演算法。最初由 Twitter 公司開發,用於生成其內部分散式系統中的唯一ID。雪花演算法的設計目標是在分散式系統中生成全域性唯一的ID,同時保證ID的有序性和趨勢遞增。
雪花演算法生成的ID是64位的整數,分為以下幾個部分:
- 符號位(1位) 為了適配部分預研沒有無符號整數,所以這一位空缺,並且一般為0。
- 時間戳(41位): 使用當前時間戳,精確到毫秒級別。這可以確保在一定時間內生成的ID是唯一的。由於使用的是41位,所以雪花演算法可以支援68年的唯一ID生成(2^41毫秒,大約69.7年)。
- 機器ID(10位): 分配給生成ID的機器的唯一識別符號。這樣可以確保在同一時間戳內,不同機器生成的ID不會衝突。一般情況下,需要提前配置每臺機器的唯一識別符號,然後在執行時使用。
- 序列號(12位): 在同一時間戳內,同一機器上生成的ID的序列號。用於防止同一毫秒內生成的ID發生衝突。當在同一毫秒內生成多個ID時,透過遞增序列號來區分它們。
1位 | 41位 | 5位 | 5位 | 12位 |
---|---|---|---|---|
0 | 0000000000 0000000000 0000000000 0000000000 0 | 00000 | 00000 | 0000000000 00 |
符號位(一般為0) | 時間戳ms 大約可以表示69.7年 | mac地址混淆 | mac地址與JVM-PID共同混淆 | 序列號 |
雪花演算法生成的ID具有以下特點:
- 全域性唯一性: 在整個分散式系統中,每個生成的ID都是唯一的。
- 有序性: 由於時間戳佔據了大部分位數,生成的ID是趨勢遞增的,使得生成的ID在資料庫索引上有較好的效能。
- 分散式: 不同機器上生成的ID不會衝突,可以在分散式系統中使用。
2. 流程
2.1 MyBatis-Plus全域性唯一ID生成器初始化
MyBatis-Plus
啟動後,會透過IdentifierGeneratorAutoConfiguration
類進行專案的自動配置。
注意:
IdentifierGeneratorAutoConfiguration
類是被@Lazy
註解了,所以他是懶載入,所以有的專案會在啟動後往日誌表插入一條記錄來預熱MyBatis-Plus
自動配置的內容是往專案注入Bean,該Bean主要是用於全域性唯一ID的生成。其中傳入的引數是第一個非迴環地址的InetAddress
類
注意:
IdentifierGenerator
是介面,DefaultIdentifierGenerator
是其一個實現類
@Bean
@ConditionalOnMissingBean
public IdentifierGenerator identifierGenerator(InetUtils inetUtils) {
return new DefaultIdentifierGenerator(inetUtils.findFirstNonLoopbackAddress());
}
會直接生成一個Sequence
public DefaultIdentifierGenerator(InetAddress inetAddress) {
this.sequence = new Sequence(inetAddress);
}
這是Sequence
的構造器。它會設定datacenterId
與workerId
public Sequence(InetAddress inetAddress) {
this.inetAddress = inetAddress;
this.datacenterId = getDatacenterId(maxDatacenterId);
this.workerId = getMaxWorkerId(datacenterId, maxWorkerId);
// 列印初始化語句
initLog();
}
這是datacenterId
的獲取部分,裡面可以看到它主要是mac地址混淆得到
注意:這裡得到的
datacenterId
還沒有經過擷取,是64位的
/**
* 資料標識id部分
*/
protected long getDatacenterId(long maxDatacenterId) {
long id = 0L;
try {
if (null == this.inetAddress) {
this.inetAddress = InetAddress.getLocalHost();
}
NetworkInterface network = NetworkInterface.getByInetAddress(this.inetAddress);
if (null == network) {
id = 1L;
} else {
// 獲取mac地址
byte[] mac = network.getHardwareAddress();
// 混淆
if (null != mac) {
id = ((0x000000FF & (long) mac[mac.length - 2]) | (0x0000FF00 & (((long) mac[mac.length - 1]) << 8))) >> 6;
id = id % (maxDatacenterId + 1);
}
}
} catch (Exception e) {
logger.warn(" getDatacenterId: " + e.getMessage());
}
return id;
}
這是獲取workerId
的方法,可以看到workerId
是由mac地址和JVM-PID共同混淆得出的
/**
* 獲取 maxWorkerId
*/
protected long getMaxWorkerId(long datacenterId, long maxWorkerId) {
StringBuilder mpid = new StringBuilder();
mpid.append(datacenterId);
String name = ManagementFactory.getRuntimeMXBean().getName();
if (StringUtils.isNotBlank(name)) {
/*
* GET jvmPid
*/
mpid.append(name.split(StringPool.AT)[0]);
}
/*
* MAC + PID 的 hashcode 獲取16個低位
*/
return (mpid.toString().hashCode() & 0xffff) % (maxWorkerId + 1);
}
2.2 獲取全域性唯一ID流程
注意:若之前沒有獲取過全域性唯一ID,那麼它會走一遍2.1的全部流程。
如果是使用MyBatis-Plus
的IdType.ASSIGN_ID
會到IdWorker
類中獲取全域性唯一ID
其中,會呼叫以下方法獲取全域性唯一ID(long)
/**
* 獲取唯一ID
*
* @return id
*/
public static long getId(Object entity) {
return IDENTIFIER_GENERATOR.nextId(entity).longValue();
}
進入nextId
方法的具體實現,發現它是使用sequence
的nextId
方法
@Override
public Long nextId(Object entity) {
return sequence.nextId();
}
下面包含一些自己的註釋
注意:
nextId
方法是被synchronized
修飾的,是同步方法
/**
* 獲取下一個 ID
*
* @return 下一個 ID
*/
public synchronized long nextId() {
long timestamp = timeGen();
// 閏秒
// 這裡會判斷是否發生時鐘偏移,若偏移在5ms以內會重新嘗試重新獲取時間,看是否能夠重新獲取正確的時間。
// 因為偶爾會有閏秒的存在
if (timestamp < lastTimestamp) {
long offset = lastTimestamp - timestamp;
if (offset <= 5) {
try {
wait(offset << 1);
timestamp = timeGen();
if (timestamp < lastTimestamp) {
throw new RuntimeException(String.format("Clock moved backwards. Refusing to generate id for %d milliseconds", offset));
}
} catch (Exception e) {
throw new RuntimeException(e);
}
} else {
throw new RuntimeException(String.format("Clock moved backwards. Refusing to generate id for %d milliseconds", offset));
}
}
if (lastTimestamp == timestamp) {
// 相同毫秒內,序列號自增
sequence = (sequence + 1) & sequenceMask;
if (sequence == 0) {
// 同一毫秒的序列數已經達到最大
// 序列數(毫秒內自增位)為12位,最大每毫秒分配4096個
// 序列數最大的時候會等待到下一毫秒才會分配時間戳
timestamp = tilNextMillis(lastTimestamp);
}
} else {
// 不同毫秒內,序列號置為 1 - 2 隨機數
// 這裡序列號置為1-2的隨機數是為了方便後續分庫分表的時候hash比較均勻
sequence = ThreadLocalRandom.current().nextLong(1, 3);
}
lastTimestamp = timestamp;
// twepoch 是 時間起始標記點,作為基準,一般取系統的最近時間(一旦確定不能變動)
// 因為前面已經說過41位的時間戳可以分配69.7年,如果從1970.1.1開始數,那麼時間戳可能在未來某一天大於41位
// 時間戳部分 | 資料中心部分 | 機器標識部分 | 序列號部分
return ((timestamp - twepoch) << timestampLeftShift)
| (datacenterId << datacenterIdShift)
| (workerId << workerIdShift)
| sequence;
}
這是生成時間的方法,其中使用了SystemClock
,這是一個有趣的實現
protected long timeGen() {
return SystemClock.now();
}
SystemClock
類,這個類的主要思想就是用一個任務執行緒池以固定速率去獲取系統時間,若在同一時間間隔內,那麼直接返回,而不需要再次訪問系統時間。其實主要是因為System.currentTimeMillis()
是jni
方法,jni
方法由於存在記憶體複製和資料轉換,所以是比較耗時的。
/**
* 高併發場景下System.currentTimeMillis()的效能問題的最佳化
*
* <p>System.currentTimeMillis()的呼叫比new一個普通物件要耗時的多(具體耗時高出多少我還沒測試過,有人說是100倍左右)</p>
* <p>System.currentTimeMillis()之所以慢是因為去跟系統打了一次交道</p>
* <p>後臺定時更新時鐘,JVM退出時,執行緒自動回收</p>
* <p>10億:43410,206,210.72815533980582%</p>
* <p>1億:4699,29,162.0344827586207%</p>
* <p>1000萬:480,12,40.0%</p>
* <p>100萬:50,10,5.0%</p>
*
* @author hubin
* @since 2016-08-01
*/
public class SystemClock {
// 定期更新時間戳的時間單位
private final long period;
// 記錄當前時間戳的原子類,因為可能存在併發執行緒使用
private final AtomicLong now;
private SystemClock(long period) {
this.period = period;
this.now = new AtomicLong(System.currentTimeMillis());
scheduleClockUpdating();
}
private static SystemClock instance() {
return InstanceHolder.INSTANCE;
}
public static long now() {
return instance().currentTimeMillis();
}
public static String nowDate() {
return new Timestamp(instance().currentTimeMillis()).toString();
}
// 這裡是有一個定期更新方法
// 裡面有一個定時執行緒池,它會以固定的時間間隔(period)在類裡面更新當前的時間戳
private void scheduleClockUpdating() {
ScheduledExecutorService scheduler = Executors.newSingleThreadScheduledExecutor(runnable -> {
Thread thread = new Thread(runnable, "System Clock");
thread.setDaemon(true);
return thread;
});
scheduler.scheduleAtFixedRate(() -> now.set(System.currentTimeMillis()), period, period, TimeUnit.MILLISECONDS);
}
// 獲取事件
private long currentTimeMillis() {
return now.get();
}
// 預設事件間隔為1ms
private static class InstanceHolder {
public static final SystemClock INSTANCE = new SystemClock(1);
}
}
至此,已經介紹完MyBatis-Plus
獲取全域性唯一ID的實現。如有錯誤,煩請指出。