功能03-優惠券秒殺04
4.功能03-優惠券秒殺
4.7Redis最佳化秒殺
4.7.1最佳化分析
現在來回顧一下優惠券秒殺業務的兩個主要問題:
(1)首先是對優惠券的扣減,需要防止庫存超賣現象;
(2)其次,需要對每個使用者下單數量進行限制,實現一人一單的功能。
處理秒殺優惠券的業務:
-
先根據獲取到的優惠券id,先到資料庫中判斷是否存在,若存在;
-
再判斷優惠券是否在設定的有效期,如果是,則進行一人一單的業務處理:
-
2.1 利用分散式鎖,key儲存的是order+使用者id:當同一時間,一個使用者發起了多個執行緒請求,其中的某個執行緒獲取到了鎖,由於互斥性,無論這個使用者發起了多少個請求,只有一個執行緒能進入接下來的業務。(不同使用者發起的不同執行緒之間不影響)
-
2.2 接下來,查詢該使用者是否已經買過這張秒殺券了,如果買過了,則不允許重複購買,如果是第一次購買,就進入到防止超賣的業務:
- 2.2.1 到這一步可能會有多個使用者的單個執行緒進入這個業務,為了防止超賣問題,這裡使用樂觀鎖方案。樂觀鎖的關鍵是判斷之前查詢到的資料是否有被修改過,但缺點是失敗率高,因此我們又使用了mysql的行鎖解決。(詳見day05-優惠券秒殺01)
-
因為整個過程有很多對資料庫的操作(查詢優惠券、查詢訂單、減庫存、建立訂單),因此這個業務的效能並不是很好:
最佳化前:
上述業務看似複雜,實際上只有兩個過程:(1)對於使用者資格的校驗:庫存夠不夠,該使用者買沒買過(一人一單)(2)然後才是真正的下單業務。
我們可以對這兩個過程進行分離,別分使用兩個執行緒進行操作:主執行緒負責對使用者購買資格的校驗,如果有購買的資格,再開啟一個獨立的執行緒,來處理耗時較久的減庫存和建立訂單操作。
為了提高效率,使用redis判斷秒殺庫存和校驗一人一單,如果校驗透過,則redis會記錄優惠券資訊、使用者資訊、訂單資訊到阻塞佇列。一方面:tomcat伺服器去讀取這個佇列的資訊,完成下單。另一方面:redis給使用者返回一個訂單號,代表該使用者搶單成功,使用者可以根據這個訂單號去付款。
最佳化後:
這樣,整個秒殺流程就變為:直接在redis中判斷使用者的秒殺資格和庫存,然後將資訊儲存到佇列裡。
秒殺業務的流程變短了,而且是基於Redis,效能得到很大的提升,整個業務的吞吐能力、併發能力可以大大提高了。
那麼,如何在Redis中完成對秒殺庫存的判斷和一人一單的判斷呢?
首先是對資料的儲存:
- 使用String型別,key儲存 業務字首+秒殺券id,value儲存優惠券對應的庫存;
- 因為要保證一人一單,使用set型別,key儲存業務字首+秒殺券id,value儲存下單的使用者id,保證元素不可重複。
最佳化後,在Redis中需要執行的具體流程:
非同步秒殺最佳化總結:
上述的最佳化操作,一方面縮短了秒殺業務的流程,從而大大提高了秒殺業務的併發;另一方面,redis的操作和資料庫的操作是非同步的,對資料庫操作的時效性不再要求那麼高了,減輕了資料庫的壓力。
4.7.2程式碼實現
改進秒殺業務,提高併發效能。需求:
- 新增秒殺優惠券的同時,將優惠券資訊儲存到Redis中
- 基於Lua指令碼,判斷秒殺庫存、一人一單,決定使用者是否搶佔成功
- 如果搶佔成功,將優惠券id和使用者id封裝後存入阻塞佇列
- 開啟執行緒任務,不斷地從阻塞佇列中獲取資訊,實現非同步下單功能
需求1:新增秒殺優惠券的同時,將優惠券資訊儲存到Redis中
(1.1)修改IVoucherService
package com.hmdp.service;
import com.baomidou.mybatisplus.extension.service.IService;
import com.hmdp.dto.Result;
import com.hmdp.entity.Voucher;
/**
* 服務類
*
* @author 李
* @version 1.0
*/
public interface IVoucherService extends IService<Voucher> {
void addSeckillVoucher(Voucher voucher);
}
(1.2)修改VoucherServiceImpl
package com.hmdp.service.impl;
import com.baomidou.mybatisplus.extension.service.impl.ServiceImpl;
import com.hmdp.entity.Voucher;
import com.hmdp.mapper.VoucherMapper;
import com.hmdp.entity.SeckillVoucher;
import com.hmdp.service.ISeckillVoucherService;
import com.hmdp.service.IVoucherService;
import org.springframework.data.redis.core.StringRedisTemplate;
import org.springframework.stereotype.Service;
import org.springframework.transaction.annotation.Transactional;
import javax.annotation.Resource;
import static com.hmdp.utils.RedisConstants.SECKILL_STOCK_KEY;
/**
* 服務實現類
*
* @author 李
* @version 1.0
*/
@Service
public class VoucherServiceImpl extends ServiceImpl<VoucherMapper, Voucher> implements IVoucherService {
@Resource
private ISeckillVoucherService seckillVoucherService;
@Resource
private StringRedisTemplate stringRedisTemplate;
@Override
@Transactional
public void addSeckillVoucher(Voucher voucher) {
// 儲存優惠券到資料庫
save(voucher);
// 儲存秒殺優惠券資訊到資料庫
SeckillVoucher seckillVoucher = new SeckillVoucher();
seckillVoucher.setVoucherId(voucher.getId());
seckillVoucher.setStock(voucher.getStock());
seckillVoucher.setBeginTime(voucher.getBeginTime());
seckillVoucher.setEndTime(voucher.getEndTime());
seckillVoucherService.save(seckillVoucher);
//儲存秒殺庫存到Redis中
stringRedisTemplate.opsForValue().set(SECKILL_STOCK_KEY + voucher.getId(), voucher.getStock().toString());
}
}
(1.3)修改VoucherController
package com.hmdp.controller;
import com.hmdp.dto.Result;
import com.hmdp.entity.Voucher;
import com.hmdp.service.IVoucherService;
import org.springframework.web.bind.annotation.*;
import javax.annotation.Resource;
/**
* 前端控制器
*
* @author 李
* @version 1.0
*/
@RestController
@RequestMapping("/voucher")
public class VoucherController {
@Resource
private IVoucherService voucherService;
/**
* 新增秒殺券
* @param voucher 優惠券資訊,包含秒殺資訊
* @return 優惠券id
*/
@PostMapping("seckill")
public Result addSeckillVoucher(@RequestBody Voucher voucher) {
voucherService.addSeckillVoucher(voucher);
return Result.ok(voucher.getId());
}
}
(1.4)使用postman進行測試,返回結過顯示插入成功,data為插入的秒殺券的id
資料庫和Redis中也分別插入成功了:
需求2:基於Lua指令碼,判斷秒殺庫存、一人一單,決定使用者是否搶佔成功
在resources目錄下新建一個Lua指令碼
seckill.lua:
-- 1.引數列表
-- 1.1 優惠券id
local voucherId = ARGV[1]
-- 1.2 使用者id
local userId = ARGV[2]
-- 2.資料key
-- 2.1 庫存key
local stockKey = 'seckill:stock:' .. voucherId
-- 2.2 訂單key
local orderKey = 'seckill:order' .. voucherId
-- 3.指令碼業務
-- 3.1判斷庫存是否充足 get stockKey
if (tonumber(redis.call('get', stockKey)) <= 0) then
-- 3.2庫存不足,返回1
return 1
end
-- 3.3庫存充足,判斷使用者是否下過單(判斷使用者id是否在訂單key對應的集合中)
-- sismember orderKey userId
if (redis.call('sismember', orderKey, userId) == 1) then
-- 3.4 若存在,說明是重複下單,返回2
return 2
end
-- 3.5 扣庫存 incrby stockKey -1
redis.call('incrby', stockKey, -1)
-- 3.6 下單(儲存使用者) sadd orderKey userId
redis.call('sadd', orderKey, userId)
return 0
需求3:如果搶佔成功,將優惠券id和使用者id封裝後存入阻塞佇列
需求4:開啟執行緒任務,不斷地從阻塞佇列中獲取資訊,實現非同步下單功能
修改VoucherOrderServiceImpl:
- 請求先來到seckillVoucher()方法,該方法先呼叫lua指令碼,嘗試判斷使用者有沒有購買資格、庫存是否充足。如果有,建立訂單,放到阻塞對列中。此時整個秒殺業務就結束了,使用者可以得到結果。
- 建立阻塞佇列和執行緒池,在類初始化的時候就執行執行緒池。執行緒池的業務就是不斷地從阻塞佇列中獲取訂單資訊,然後建立訂單(呼叫handleVoucherOrder()方法)
package com.hmdp.service.impl;
import com.hmdp.dto.Result;
import com.hmdp.entity.VoucherOrder;
import com.hmdp.mapper.VoucherOrderMapper;
import com.hmdp.service.ISeckillVoucherService;
import com.hmdp.service.IVoucherOrderService;
import com.baomidou.mybatisplus.extension.service.impl.ServiceImpl;
import com.hmdp.utils.RedisIdWorker;
import com.hmdp.utils.UserHolder;
import lombok.extern.slf4j.Slf4j;
import org.redisson.api.RLock;
import org.redisson.api.RedissonClient;
import org.springframework.aop.framework.AopContext;
import org.springframework.core.io.ClassPathResource;
import org.springframework.data.redis.core.StringRedisTemplate;
import org.springframework.data.redis.core.script.DefaultRedisScript;
import org.springframework.stereotype.Service;
import org.springframework.transaction.annotation.Transactional;
import javax.annotation.PostConstruct;
import javax.annotation.Resource;
import java.util.Collections;
import java.util.concurrent.*;
/**
* 服務實現類
*
* @author 李
* @version 1.0
*/
@Service
@Slf4j
public class VoucherOrderServiceImpl extends ServiceImpl<VoucherOrderMapper, VoucherOrder> implements IVoucherOrderService {
@Resource
private ISeckillVoucherService seckillVoucherService;
@Resource
private RedisIdWorker redisIdWorker;
@Resource
private StringRedisTemplate stringRedisTemplate;
@Resource
private RedissonClient redissonClient;
private static final DefaultRedisScript<Long> SECKILL_SCRIPT;
//類一載入就初始化指令碼
static {
SECKILL_SCRIPT = new DefaultRedisScript<>();
SECKILL_SCRIPT.setLocation(new ClassPathResource("seckill.lua"));
SECKILL_SCRIPT.setResultType(Long.class);
}
//阻塞佇列:當一個執行緒嘗試從佇列中獲取元素時,如果佇列中沒有元素,那麼該執行緒就會被阻塞,直到佇列中有元素,執行緒才會被喚醒並獲取元素
private BlockingQueue<VoucherOrder> orderTasks = new ArrayBlockingQueue<>(1024 * 1024);
//執行緒池
private static final ExecutorService SECKILL_ORDER_EXECUTOR = Executors.newSingleThreadExecutor();
//在當前類初始化完畢之後就執行
@PostConstruct
private void init() {
SECKILL_ORDER_EXECUTOR.submit(new VoucherOrderHandler());
}
//執行非同步操作,從阻塞佇列中獲取訂單
private class VoucherOrderHandler implements Runnable {
@Override
public void run() {
while (true) {
try {
//1.獲取佇列中的訂單資訊
/* take()--獲取和刪除阻塞對列中的頭部,如果需要則等待直到元素可用
(因此不必擔心這裡的死迴圈會增加cpu的負擔) */
VoucherOrder voucherOrder = orderTasks.take();
//2.建立訂單
handleVoucherOrder(voucherOrder);
} catch (Exception e) {
log.error("處理訂單異常", e);
}
}
}
}
private IVoucherOrderService proxy;
private void handleVoucherOrder(VoucherOrder voucherOrder) {
//獲取使用者(因為目前的是執行緒池物件,不是主執行緒,不能使用UserHolder從ThreadLocal中獲取使用者id)
Long userId = voucherOrder.getUserId();
//建立鎖物件,指定鎖的名稱
RLock lock = redissonClient.getLock("lock:order:" + userId);
//獲取鎖(可重入鎖)
boolean isLock = lock.tryLock();
//判斷是否獲取鎖成功
if (!isLock) {
//獲取鎖失敗
log.error("不允許重複下單");
}
try {
proxy.createVoucherOrder(voucherOrder);
} finally {
//釋放鎖
lock.unlock();
}
}
@Override
public Result seckillVoucher(Long voucherId) {
//獲取使用者id
Long userId = UserHolder.getUser().getId();
//1.執行lua指令碼
Long result = stringRedisTemplate.execute(
SECKILL_SCRIPT,
Collections.emptyList(),
voucherId.toString(),
userId.toString()
);
//2.判斷指令碼執行結果是否為0
int r = result.intValue();
if (r != 0) {
//2.1如果不為0,代表沒有購買資格
return Result.fail(r == 1 ? "庫存不足" : "不能重複下單");
}
//2.2如果為0,代表有購買資格,將下單資訊儲存到阻塞對列中
VoucherOrder voucherOrder = new VoucherOrder();
//設定訂單id
long orderId = redisIdWorker.nextId("order");
voucherOrder.setId(orderId);
//設定使用者id
voucherOrder.setUserId(userId);
//設定秒殺券id
voucherOrder.setVoucherId(voucherId);
//將上述資訊儲存到阻塞佇列
orderTasks.add(voucherOrder);
//3.獲取代理物件
proxy = (IVoucherOrderService) AopContext.currentProxy();
//4.返回訂單id
return Result.ok(0);
}
@Transactional
public void createVoucherOrder(VoucherOrder voucherOrder) {
//一人一單
Long userId = voucherOrder.getUserId();
//查詢訂單
int count = query().eq("user_id", userId).eq("voucher_id", voucherOrder.getVoucherId()).count();
if (count > 0) {//說明已經該使用者已經對該優惠券下過單了
log.error("使用者已經購買過一次!");
return;
}
//庫存充足,則扣減庫存(操作秒殺券表)
boolean success = seckillVoucherService.update()
.setSql("stock = stock -1")//set stock = stock -1
//where voucher_id =? and stock>0
.gt("stock", 0).eq("voucher_id", voucherOrder.getVoucherId()).update();
if (!success) {//操作失敗
log.error("秒殺券庫存不足!");
return;
}
//將訂單寫入資料庫(操作優惠券訂單表)
save(voucherOrder);
}
}
重啟專案,進行測試:
(1)初始資料:
(2)使用jemeter進行測試:使用1000個不同的使用者同時向伺服器傳送搶購秒殺券的請求
測試結果:可以看到平均響應實現為216毫秒,最小值為17毫秒,比之前平均500毫秒的響應時間縮短了一半。
4.7.3秒殺最佳化總結
(1)秒殺業務的最佳化思路是什麼?
- 先利用Redis完成庫存餘量判斷、一人一單判斷,完成搶單業務
- 再將下單業務放入阻塞佇列,利用獨立執行緒非同步下單
(2)基於阻塞佇列的非同步秒殺存在哪些問題?
-
記憶體限制問題:
這裡我們使用的是JDK裡面的阻塞佇列,它使用的是JVM裡面的記憶體。如果不加以限制,在高併發的情況下,可能會有非常多的訂單物件需要去建立,放入阻塞佇列中,可能會導致記憶體溢位。雖然我們限制了佇列的長度,但是如果佇列存滿了,再有新的訂單來,就放不下了。
-
資料安全問題:
現在的程式碼基於記憶體來儲存訂單資訊,如果伺服器當機了,那麼阻塞佇列中的所有訂單資訊將會丟失
我們將在接下來的分析中對上述兩個問題進行解決。
4.8Redis訊息佇列實現非同步秒殺
要解決上面的兩個問題,最佳的解決方案就是使用訊息佇列。
4.8.1什麼是訊息佇列
訊息佇列(Message Queue,簡稱MQ),字面意思就是存放訊息的佇列。最簡單的訊息佇列模型包括3個角色:
- 訊息佇列:儲存和管理訊息,也被稱為訊息代理(Message Broker)
- 生產者:傳送訊息到訊息佇列
- 消費者:從訊息佇列獲取訊息並處理訊息
4.8.2訊息佇列實現非同步秒殺的優勢
使用訊息佇列實現非同步秒殺的優勢:
- 訊息佇列是JVM以外的獨立服務,不受JVM記憶體的限制,這就解決了之前的記憶體限制問題
- 訊息佇列不僅僅是做資料儲存,它還要確保資料安全,即訊息佇列裡的所有訊息都要做持久化,這樣不管是服務當機還是重啟,資料都不會丟失
- 訊息佇列將訊息投遞給消費者之後,要求消費者做訊息的確認。如果訊息沒有被確認,這個訊息就會在佇列中依然存在,下一次會再次投遞給消費者,直到收到訊息確認為止。
當下比較知名的訊息引擎,包括:ActiveMQ、RabbitMQ、Kafka、RocketMQ、Artemis 等
這裡使用Redis實現訊息佇列:
Redis提供了三種不同的方式來實現訊息佇列:
- list結構:基於List結構模擬訊息佇列
- PubSub:基本的點對點訊息模型
- Stream:比較完善的訊息佇列模型
4.8.3基於List結構模擬的訊息佇列
Redis的List資料結構是一個雙向連結串列,很容易模擬出佇列效果。佇列是入口和出口不在一邊,我們可以利用:LPUSH結合RPOP、或者RPUSH結合LPOP來實現。
不過要注意的是,當佇列中沒有訊息時,RPOP或LPOP操作會返回null,並不像JVM的阻塞佇列那樣會阻塞並等待訊息。因此這裡應該使用BRPOP或者BLPOP來實現阻塞效果。
BRPOP key [key ...] timeout
summary: Remove and get the last element in a list, or block until one is available
since: 2.0.0
RPOP key
summary: Remove and get the last element in a list
since: 1.0.0
基於List的訊息佇列有哪些優缺點?
優點:
- 利用Redis儲存,不受限於JVM記憶體上限
- 基於Redis的持久化機制,資料安全性有保證
- 可以滿足訊息有序性
缺點:
- 無法避免訊息丟失
- 只支援單消費者
4.8.4基於PubSub的訊息佇列
PubSub(釋出訂閱)是Redis2.0版本引入的訊息傳遞模型。顧名思義,消費者可以訂閱一個或者多個channel,生產者向對應channel傳送訊息後,所有訂閱者都能收到相關訊息。
- SUBSCRIBE channel [channel]:訂閱一個或者多個頻道
- PUBLISH channel msg:向一個頻道傳送訊息
- PSUBSCRIBE pattern [pattern]:訂閱與pattern格式相匹配的所有頻道
基於PubSub的訊息佇列有哪些優缺點?
優點:採用釋出訂閱模型,支援多生產、多消費
缺點:
- 不支援資料持久化
- 無法避免訊息丟失
- 訊息堆積有上限,超出時資料丟失
4.8.5基於Stream的訊息佇列
Stream是Redis5.0引入的一種新的資料型別,可以實現一個功能非常完善的訊息佇列。
傳送訊息的命令: