阿里巴巴開源的通用快取訪問框架JetCache介紹

黃理發表於2018-04-24
阿里快取框架

JetCache是由阿里巴巴開源的通用快取訪問框架，如果你對Spring Cache很熟悉的話，請一定花一點時間瞭解一下JetCache，它更好用。

JetCache提供的核心能力包括：

  • 提供統一的，類似jsr-107風格的API訪問Cache，並可通過註解建立並配置Cache例項
  • 通過註解實現宣告式的方法快取，支援TTL和兩級快取
  • 分散式快取自動重新整理，分散式鎖 (2.2+)
  • 支援非同步Cache API
  • Spring Boot支援
  • Key的生成策略和Value的序列化策略是可以定製的
  • 針對所有Cache例項和方法快取的自動統計

我們直接看程式碼，最簡單的使用場景是這樣的：

public interface UserService {
    @Cached(expire = 3600, cacheType = CacheType.REMOTE)
    User getUserById(long userId);
}

這和Spring Cache很像，不過@Cached註解原生支援了TTL（超時時間），cacheType有LOCAL/REMOTE/BOTH三種選擇，
分別代表本地記憶體/遠端Cache Server（例如Redis）/兩級快取，可根據情況選用，合理的使用LOCAL或BOTH型別可以降低Cache Server的壓力以及我們提供的服務的響應時間。

再看個複雜點的例子：

public interface UserService {
    @Cached(name="userCache-", key="#userId", expire = 3600)
    User getUserById(long userId);

    @CacheUpdate(name="userCache-", key="#user.userId", value="#user")
    void updateUser(User user);

    @CacheInvalidate(name="userCache-", key="#userId")
    void deleteUser(long userId);
}

第一個例子中我們沒有指定key，JetCache會根據引數自動生成，這個例子我們指定了key，並且展示了快取的更新和刪除。

自動重新整理和載入保護是JetCache的大殺器，對於載入開銷比較大的物件，為了防止快取未命中時的高併發訪問打爆資料庫：

public interface SummaryService{
    @Cached(expire = 3600, cacheType = CacheType.REMOTE)
    @CacheRefresh(refresh = 1800, stopRefreshAfterLastAccess = 3600, timeUnit = TimeUnit.SECONDS)
    @CachePenetrationProtect
    BigDecimal salesVolumeSummary(int timeId, long catagoryId);
}

cacheType為REMOTE或者BOTH的時候，重新整理行為是全域性唯一的，也就是說，即使應用伺服器是一個叢集，也不會出現多個伺服器同時去重新整理一個key的情況。
CachePenetrationProtect註解保證當快取未命中的時候，一個JVM裡面只有一個執行緒去執行方法，其它執行緒等待結果。
一個key的重新整理任務，自該key首次被訪問後初始化，如果該key長時間不被訪問，在stopRefreshAfterLastAccess指定的時間後，相關的重新整理任務就會被自動移除，這樣就避免了浪費資源去進行沒有意義的重新整理。

加在方法上的註解畢竟不能提供最靈活的控制，所以JetCache提供了Cache API，使用起來就像Map一樣：

UserDO user = userCache.get(12345L);
userCache.put(12345L, loadUserFromDataBase(12345L));
userCache.remove(12345L);

userCache.computeIfAbsent(1234567L, (key) -> loadUserFromDataBase(1234567L));

實際上Cache API實現了jsr107規範Cache介面的部分方法，以後的大版本可能會完整實現。

Cache例項可以通過註解建立：

@CreateCache(expire = 100, cacheType = CacheType.BOTH, localLimit = 50)
private Cache<Long, UserDO> userCache;

也可以通過和guava cache/caffeine類似的builder來建立：

GenericObjectPoolConfig pc = new GenericObjectPoolConfig();
pc.setMinIdle(2);
pc.setMaxIdle(10);
pc.setMaxTotal(10);
JedisPool pool = new JedisPool(pc, "localhost", 6379);
Cache<Long, UserDO> userCache = RedisCacheBuilder.createRedisCacheBuilder()
                .keyConvertor(FastjsonKeyConvertor.INSTANCE)
                .valueEncoder(JavaValueEncoder.INSTANCE)
                .valueDecoder(JavaValueDecoder.INSTANCE)
                .jedisPool(pool)
                .keyPrefix("userCache-")
                .expireAfterWrite(200, TimeUnit.SECONDS)
                .buildCache();

Cache介面支援非同步：

CacheGetResult r = cache.GET(userId);
CompletionStage<ResultData> future = r.future();
future.thenRun(() -> {
    if(r.isSuccess()){
        System.out.println(r.getValue());
    }
});

可以實現不嚴格的分散式鎖：

cache.tryLockAndRun("key", 60, TimeUnit.SECONDS, () -> heavyDatabaseOperation());

使用Cache API也可以做自動重新整理哦：

@CreateCache
@CacheRefresh(timeUnit = TimeUnit.MINUTES, refresh = 60)
@CachePenetrationProtect
private Cache<String, Long> orderSumCache;

@PostConstruct
public void init(){
    orderSumCache.config().setLoader(this::loadOrderSumFromDatabase);
}

如果沒有使用註解，用builder一樣也可以做出自動重新整理：

Cache<String, Long> orderSumCache = RedisCacheBuilder.createRedisCacheBuilder()
    ......省略
    .refreshPolicy(RefreshPolicy.newPolicy(60, TimeUnit.SECONDS))
    .loader(this::loadOrderSumFromDatabase)
    .buildCache();

當前支援的快取系統包括以下4個，而且要支援一種新的快取也是非常容易的：

  • Caffeine（基於本地記憶體）
  • LinkedHashMap（基於本地記憶體，JetCache自己實現的簡易LRU快取）
  • Alibaba Tair（相關實現未在Github開源，在阿里內部Gitlab上可以找到）
  • Redis

使用JetCache的系統需求：

  • JDK：必須Java 8
  • Spring Framework：4.0.8以上，如果不使用註解就不需要
  • Spring Boot：1.1.9以上（可選）

更多文件可以在github的wiki上找到。

有了JetCache，我們就可以更方便的基於統一的介面訪問快取。有任何問題歡迎在github上與我討論。


相關文章