RabbitMQ使用教程(五)如何保證佇列裡的訊息99.99%被消費?

申城異鄉人發表於2019-05-31

1. 前情回顧

RabbitMQ使用教程(一)RabbitMQ環境安裝配置及Hello World示例

RabbitMQ使用教程(二)RabbitMQ使用者管理,角色管理及許可權設定

RabbitMQ使用教程(三)如何保證訊息99.99%被髮送成功?

RabbitMQ使用教程(四)如何通過持久化保證訊息99.99%不丟失?

截止目前,我們能夠保證訊息成功地被生產者傳送到RabbitMQ伺服器,也能保證RabbitMQ伺服器發生異常(重啟,當機等)後訊息不會丟失,也許你認為現在訊息應該很安全了吧?其實還不夠安全,不信你接著往下看。

2. 本篇概要

其實,還有1種場景需要考慮:當消費者接收到訊息後,還沒處理完業務邏輯,消費者掛掉了,那訊息也算丟失了?,比如使用者下單,訂單中心傳送了1個訊息到RabbitMQ裡的佇列,積分中心收到這個訊息,準備給這個下單的使用者增加20積分,但積分還沒增加成功呢,積分中心自己掛掉了,導致資料出現問題。

那麼如何解決這種問題呢?

為了保證訊息被消費者成功的消費,RabbitMQ提供了訊息確認機制(message acknowledgement),本文主要講解RabbitMQ中,如何使用訊息確認機制來保證訊息被消費者成功的消費,避免因為消費者突然當機而引起的訊息丟失。

3. 開啟顯式Ack模式

在第1篇部落格RabbitMQ使用教程(一)RabbitMQ環境安裝配置及Hello World示例中,我們開啟一個消費者的程式碼是這樣的:

// 建立佇列消費者
com.rabbitmq.client.Consumer consumer = new DefaultConsumer(channel) {
    @Override
    public void handleDelivery(String consumerTag, Envelope envelope,
                               AMQP.BasicProperties properties, byte[] body) throws IOException {
        String message = new String(body, "UTF-8");
        System.out.println("Received Message '" + message + "'");
    }
};
channel.basicConsume(QUEUE_NAME, true, consumer);

這裡的重點是channel.basicConsume(QUEUE_NAME, true, consumer);方法的第2個引數,讓我們先看下basicConsume()的原始碼:

public String basicConsume(String queue, boolean autoAck, Consumer callback) throws IOException {
    return this.basicConsume(queue, autoAck, "", callback);
}

這裡的autoAck引數指的是是否自動確認,如果設定為ture,RabbitMQ會自動把傳送出去的訊息置為確認,然後從記憶體(或者磁碟)中刪除,而不管消費者接收到訊息是否處理成功;如果設定為false,RabbitMQ會等待消費者顯式的回覆確認訊號後才會從記憶體(或者磁碟)中刪除。

建議將autoAck設定為false,這樣消費者就有足夠的時間處理訊息,不用擔心處理訊息過程中消費者當機造成訊息丟失。

此時,佇列裡的訊息就分成了2個部分:

  1. 等待投遞給消費者的訊息(下圖中的Ready部分)
  2. 已經投遞給消費者,但是還沒有收到消費者確認訊號的訊息(下圖中的Unacked部分)

RabbitMQ使用教程(五)如何保證佇列裡的訊息99.99%被消費?

如果RabbitMQ一直沒有收到消費者的確認訊號,並且消費此訊息的消費者已經斷開連線,則RabbitMQ會安排該訊息重新進入佇列,等待投遞給下一個消費者,當然也有可能還是原來的那個消費者。

RabbitMQ不會為未確認的訊息設定過期時間,它判斷此訊息是否需要重新投遞給消費者的唯一依據是消費該訊息的消費者連線是否已經斷開,這麼設計的原因是RabbitMQ允許消費者消費一條訊息的時間可以很久很久。

為了便於理解,我們舉個具體的例子,生產者的話的我們延用上文中的DurableProducer:

package com.zwwhnly.springbootaction.rabbitmq.durable;

import com.rabbitmq.client.AMQP;
import com.rabbitmq.client.Channel;
import com.rabbitmq.client.Connection;
import com.rabbitmq.client.ConnectionFactory;

import java.io.IOException;
import java.util.concurrent.TimeoutException;

public class DurableProducer {
    private final static String EXCHANGE_NAME = "durable-exchange";
    private final static String QUEUE_NAME = "durable-queue";

    public static void main(String[] args) throws IOException, TimeoutException {
        // 建立連線
        ConnectionFactory factory = new ConnectionFactory();
        // 設定 RabbitMQ 的主機名
        factory.setHost("localhost");
        // 建立一個連線
        Connection connection = factory.newConnection();
        // 建立一個通道
        Channel channel = connection.createChannel();
        // 建立一個Exchange
        channel.exchangeDeclare(EXCHANGE_NAME, "direct", true);
        channel.queueDeclare(QUEUE_NAME, true, false, false, null);
        channel.queueBind(QUEUE_NAME, EXCHANGE_NAME, "");

        // 傳送訊息
        String message = "durable exchange test";
        AMQP.BasicProperties props = new AMQP.BasicProperties().builder().deliveryMode(2).build();
        channel.basicPublish(EXCHANGE_NAME, "", props, message.getBytes());

        // 關閉頻道和連線
        channel.close();
        connection.close();
    }
}

然後新建一個消費者AckConsumer類:

package com.zwwhnly.springbootaction.rabbitmq.ack;

import com.rabbitmq.client.*;

import java.io.IOException;
import java.util.concurrent.TimeoutException;

public class AckConsumer {
    private final static String QUEUE_NAME = "durable-queue";

    public static void main(String[] args) throws IOException, TimeoutException {
        // 建立連線
        ConnectionFactory factory = new ConnectionFactory();
        // 設定 RabbitMQ 的主機名
        factory.setHost("localhost");
        // 建立一個連線
        Connection connection = factory.newConnection();
        // 建立一個通道
        Channel channel = connection.createChannel();
        // 建立佇列消費者
        com.rabbitmq.client.Consumer consumer = new DefaultConsumer(channel) {
            @Override
            public void handleDelivery(String consumerTag, Envelope envelope,
                                       AMQP.BasicProperties properties, byte[] body) throws IOException {
                String message = new String(body, "UTF-8");
                int result = 1 / 0;
                System.out.println("Received Message '" + message + "'");
            }
        };
        channel.basicConsume(QUEUE_NAME, true, consumer);
    }
}

我們先將autoAck引數設定為ture,即自動確認,並在消費訊息時故意寫個異常,然後先執行生產者客戶端將訊息寫入佇列中,然後執行消費者客戶端,發現訊息未消費成功但是卻消失了:

RabbitMQ使用教程(五)如何保證佇列裡的訊息99.99%被消費?

RabbitMQ使用教程(五)如何保證佇列裡的訊息99.99%被消費?

然後我們將autoAck設定為false:

channel.basicConsume(QUEUE_NAME, false, consumer);

再次執行生產者客戶端將訊息寫入佇列中,然後執行消費者客戶端,此時雖然消費者客戶端仍然程式碼異常,但是訊息仍然在佇列中:

RabbitMQ使用教程(五)如何保證佇列裡的訊息99.99%被消費?

然後我們刪除掉消費者客戶端中的異常程式碼,重新啟動消費者客戶端,發現訊息消費成功了,但是訊息一直未Ack:

RabbitMQ使用教程(五)如何保證佇列裡的訊息99.99%被消費?

RabbitMQ使用教程(五)如何保證佇列裡的訊息99.99%被消費?

手動停掉消費者客戶端,發現訊息又到了Ready狀態,準備重新投遞:

RabbitMQ使用教程(五)如何保證佇列裡的訊息99.99%被消費?

之所以消費掉訊息,卻一直還是Unacked狀態,是因為我們沒在程式碼中新增顯式的Ack程式碼:

String message = new String(body, "UTF-8");
//int result = 1 / 0;
System.out.println("Received Message '" + message + "'");

long deliveryTag = envelope.getDeliveryTag();
channel.basicAck(deliveryTag, false);

deliveryTag可以看做訊息的編號,它是一個64位的長整形值。

此時執行消費者客戶端,發現訊息消費成功,並且在佇列中被移除:

RabbitMQ使用教程(五)如何保證佇列裡的訊息99.99%被消費?

RabbitMQ使用教程(五)如何保證佇列裡的訊息99.99%被消費?

4. 原始碼

原始碼地址:https://github.com/zwwhnly/springboot-action.git,歡迎下載。

5. 參考

《RabbitMQ實戰指南》

相關文章