最完整的 Spring Cloud 元件-訊息中介軟體 Spring Cloud Stream 使用教程

古時的風箏發表於2020-03-17

微信搜尋公眾號「古時的風箏」,一個不只有技術的技術公眾號。 Spring Cloud 系列文章已經完成,可以到 我的github 上檢視系列完整內容。

Spring Cloud Stream 是訊息中介軟體元件,它整合了 kafka 和 rabbitmq 。本篇文章以 Rabbit MQ 為訊息中介軟體系統為基礎,介紹 Spring Cloud Stream 的使用。如果你沒有用過訊息中介軟體,可以到 RabbitMQ 的官網看一下,或者參考這個 http://rabbitmq.mr-ping.com/。理解了訊息中介軟體的設計,才能更好的使用它。

訊息中間的幾大應用場景

1、非同步處理

比如使用者在電商網站下單,下單完成後會給使用者推送簡訊或郵件,發簡訊和郵件的過程就可以非同步完成。因為下單付款是核心業務,發郵件和簡訊並不屬於核心功能,並且可能耗時較長,所以針對這種業務場景可以選擇先放到訊息佇列中,有其他服務來非同步處理。

2、應用解耦:

假設公司有幾個不同的系統,各系統在某些業務有聯動關係,比如 A 系統完成了某些操作,需要觸發 B 系統及 C 系統。如果 A 系統完成操作,主動呼叫 B 系統的介面或 C 系統的介面,可以完成功能,但是各個系統之間就產生了耦合。用訊息中介軟體就可以完成解耦,當 A 系統完成操作將資料放進訊息佇列,B 和 C 系統去訂閱訊息就可以了。這樣各系統只要約定好訊息的格式就好了。

3、流量削峰

比如秒殺活動,一下子進來好多請求,有的服務可能承受不住瞬時高併發而崩潰,所以針對這種瞬時高併發的場景,在中間加一層訊息佇列,把請求先入佇列,然後再把佇列中的請求平滑的推送給服務,或者讓服務去佇列拉取。

4、日誌處理

kafka 最開始就是專門為了處理日誌產生的。

當碰到上面的幾種情況的時候,就要考慮用訊息佇列了。如果你碰巧使用的是 RabbitMQ 或者 kafka ,而且同樣也是在使用 Spring Cloud ,那可以考慮下用 Spring Cloud Stream。

使用 Spring Cloud Stream && RabbitMQ

介紹下面的例子之前,假定你已經對 RabbitMQ 有一定的瞭解。

首先來認識一下 Spring Cloud Stream 中的幾個重要概念。

Destination Binders:目標繫結器,目標指的是 kafka 還是 RabbitMQ,繫結器就是封裝了目標中介軟體的包。如果操作的是 kafka 就使用 kafka binder ,如果操作的是 RabbitMQ 就使用 rabbitmq binder。

Destination Bindings:外部訊息傳遞系統和應用程式之間的橋樑,提供訊息的“生產者”和“消費者”(由目標繫結器建立)

Message:一種規範化的資料結構,生產者和消費者基於這個資料結構通過外部訊息系統與目標繫結器和其他應用程式通訊。

可能看完了上面的三個概念仍然是一頭霧水,沒有關係,實踐過程中自然就明白了。

先來一個最簡單的例子

因為用到的是 rabbitmq,所以在本地搭好 rabbitmq 環境,然後裝好 rabbitmq-management 外掛,這樣就可以訪問 web UI 介面了,預設是 15672 埠。

1、引用對應 rabbitmq 的 stream 包

<dependency> 
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-stream-rabbit</artifactId>
</dependency>
複製程式碼

2、在 application.yml 中增加配置

spring:
profiles: stream-rabbit-customer-group1
cloud:
stream:
bindings:
input:
destination: default.messages
binder: local_rabbit
output:
destination: default.messages
binder: local_rabbit
binders:
local_rabbit:
type: rabbit
environment:
spring:
rabbitmq:
host: localhost
port: 32775
username: guest
password: guest
server:
port: 8201
複製程式碼

理解配置檔案很重要,基本上理解清楚了配置,也就明白 spring cloud stream 是怎麼回事了。

spring.cloud.stream.binders,上面提到了 stream 的 3 個重要概念的第一個 「Destination binders」。上面的配置檔案中就配置了一個 binder,命名為 local_rabbit,指定 type 為 rabbit ,表示使用的是 rabbitmq 訊息中介軟體,如果用的是 kafka ,則 type 設定為 kafka。environment 就是設定使用的訊息中介軟體的配置資訊,包括 host、port、使用者名稱、密碼等。可以設定多了個 binder,適配不同的場景。

spring.cloud.stream.bindings ,對應上面提到到 「Destination Bindings」。這裡面可以配置多個 input 或者 output,分別表示訊息的接收通道和傳送通道,對應到 rabbitmq 上就是不同的 exchange。這個配置檔案裡定義了兩個input 、兩個output,名稱分別為 input、log_input、output、log_output。這個名稱不是亂起的,在我們的程式程式碼中會用到,用來標示某個方法接收哪個 exchange 或者傳送到哪個 exchange 。

每個通道下的 destination 屬性指 exchange 的名稱,binder 指定在 binders 裡設定的 binder,上面配置中指定了 local_rabbit 。

可以看到 input、output 對應的 destination 是相同的,log_input、log_output 對應的 destination 也相同, 也就是對應相同的 exchange。一個表示訊息來源,一個表示訊息去向。

另外還可以設定 group 。因為服務很可能不止一個例項,如果啟動多個例項,那麼沒必要每個例項都消費同一個訊息,只要把功能相同的例項的 group 設定為同一個,那麼就會只有一個例項來消費訊息,避免重複消費的情況。如果設定了 group,那麼 group 名稱就會成為 queue 的名稱,如果沒有設定 group ,那麼 queue 就會根據 destination + 隨機字串的方式命名。

3、接下來做一個最簡單的例子,來演示如何接收訊息。

首先來介紹一下 stream 內建的簡單訊息通道(訊息通道也就是指訊息的來源和去向)介面定義,一個 Source 和 一個 Sink 。

Source.java

import org.springframework.cloud.stream.annotation.Output;
import org.springframework.messaging.MessageChannel;

public interface Source {
String OUTPUT = "output";

@Output("output")
MessageChannel output();
}
複製程式碼

訊息傳送通道定義,定義了一個 MessageChannel 型別的 output() 方法,用 @Output 註解標示,並指定了 binding 的名稱為 output。

Sink.java

import org.springframework.cloud.stream.annotation.Input;
import org.springframework.messaging.SubscribableChannel;

public interface Sink {
String INPUT = "input";

@Input("input")
SubscribableChannel input();
}
複製程式碼

訊息接收通道定義,定義了一個 SubscribableChannel 型別的 input() 方法,表示訂閱一個訊息的方法,並用 @Input 註解標識,並且指定了 binging 的名稱為 input 。

建立一個簡單的訊息接收方法:

@SpringBootApplication
@EnableBinding(value = {Processor.class})
@Slf4j
public class DefaultApplication {

public static void main(String[] args) {
SpringApplication.run(DefaultApplication.class, args);
}
}
複製程式碼

在專案啟動類上加上註解 @EnableBinding(value = {Processor.class}) ,表明啟用 stream ,並指定定義的 Channel 定義介面類。

然後,建立一個 service 服務類,用來訂閱訊息,並對訊息進行處理。

@Slf4j
@Component
public class DefaultMessageListener {

@StreamListener(Processor.INPUT)
public void processMyMessage(String message) {
log.info("接收到訊息:" + message);
}
}
複製程式碼

在方法 processMyMessage() 上使用 @StreamListener 註解,表示對訊息進行訂閱監控,指定 binding 的名稱,其中 Processor.INPUT 就是 Sink 的 input ,也就是字串 input ,對應的上面的配置檔案,就是 spring.cloud.stream.bindings.input。

啟動 DefaultApplication ,可以在 rabbitmq 管理控制檯的 exchanges 中看到增加的這幾個 bindings 。

可以看到 exchange 的名稱對應的就是 bindings 的兩個 input 和 兩個 output 的 destination 的值。

用 rabbitmq UI 控制檯傳送訊息測試

點選上圖的 default.input.messages 進入 exchange 詳請頁面,在 publish message 部分填寫上 Payload ,然後點選 Publish message 按鈕。

之後回到 DefaultApplication 的輸出控制檯,會看到訊息已經被接收。

模擬一個日誌處理

接下來模擬生產者和消費者處理訊息的過程,模擬一個日誌處理的過程。

  • 原始日誌傳送到 kite.log.messages exchange
  • 接收器在 kite.log.messages exchange 接收原始日誌,經過處理格式化,傳送到 kite.log.format.messages exchange
  • 接收器在 kite.log.format.messages exchange 接收格式化後的日誌

1、自定義訊息通道介面,上面介紹了 stream 自帶的 Sink 和 Source,也僅僅能做個演示,真正的業務中還是需要自己定義更加靈活的介面。

@Component
public interface MyProcessor {

String MESSAGE_INPUT = "log_input";

String MESSAGE_OUTPUT = "log_output";

String LOG_FORMAT_INPUT = "log_format_input";

String LOG_FORMAT_OUTPUT = "log_format_output";

@Input(MESSAGE_INPUT)
SubscribableChannel logInput();

@Output(MESSAGE_OUTPUT)
MessageChannel logOutput();

@Input(LOG_FORMAT_INPUT)
SubscribableChannel logFormatInput();

@Output(LOG_FORMAT_OUTPUT)
MessageChannel logFormatOutput();

}
複製程式碼

2、建立消費者應用

**配置檔案如下 **:

spring:
profiles: stream-rabbit-customer-group1
cloud:
stream:
bindings:
log_input:
destination: kite.log.messages
binder: local_rabbit
group: logConsumer-group1
log_output:
destination: kite.log.messages
binder: local_rabbit
group: logConsumer-group1
log_format_input:
destination: kite.log.format.messages
binder: local_rabbit
group: logFormat-group1
log_format_input:
destination: kite.log.format.messages
binder: local_rabbit
group: logFormat-group1
binders:
local_rabbit:
type: rabbit
environment:
spring:
rabbitmq:
host: localhost
port: 32775
username: guest
password: guest
server:
port: 8201
複製程式碼

此配置檔案要參照 MyProcessor 介面檢視,定義了 4 個 binding,但是 destination 兩兩相同,也就是兩個 exchange。

建立 spring boot 啟動類

@SpringBootApplication
@EnableBinding(value = {MyProcessor.class})
@Slf4j
public class CustomerApplication {

public static void main(String[] args) {
SpringApplication.run(CustomerApplication.class, args);
}
}
複製程式碼

用 @EnableBinding(value = {MyProcessor.class}) 註解引入 MyProcessor

建立訊息接收處理服務

@Slf4j
@Component
public class LogMessageListener {

/**
* 通過 MyProcessor.MESSAGE_INPUT 接收訊息
* 然後通過 SendTo 將處理後的訊息傳送到 MyProcessor.LOG_FORMAT_OUTPUT
* @param message
* @return
*/

@StreamListener(MyProcessor.MESSAGE_INPUT)
@SendTo(MyProcessor.LOG_FORMAT_OUTPUT)
public String processLogMessage(String message) {
log.info("接收到原始訊息:" + message);
return "「" + message +"」";
}

/**
* 接收來自 MyProcessor.LOG_FORMAT_INPUT 的訊息
* 也就是加工後的訊息,也就是通過上面的 SendTo 傳送來的
* 因為 MyProcessor.LOG_FORMAT_OUTPUT 和 MyProcessor.LOG_FORMAT_INPUT 是指向同一 exchange
* @param message
*/

@StreamListener(MyProcessor.LOG_FORMAT_INPUT)
public void processFormatLogMessage(String message) {
log.info("接收到格式化後的訊息:" + message);
}
}
複製程式碼

3、建立一個訊息生產者,用於傳送原始日誌訊息

配置檔案

spring:
cloud:
stream:
bindings:
log_output:
destination: kite.log.messages
binder: local_rabbit
group: logConsumer-group1
binders:
local_rabbit:
type: rabbit
environment:
spring:
rabbitmq:
host: localhost
port: 32775
username: guest
password: guest
server:
port: 8202
複製程式碼

僅僅指定了一個 binding log_output,用來傳送訊息,如果只做生產者就不要指定 log_input,如果指定了 log_input ,應用就會認為這個生產者服務也會消費訊息,如果這時沒有在此服務中訂閱訊息,當訊息被髮送到這個服務時,因為並沒有訂閱訊息,也就是沒有 @StreamListener 註解的方法,就會出現如下異常:

org.springframework.messaging.MessageDeliveryException: Dispatcher has no subscribers for channel
複製程式碼

建立 spring boot 啟動類

@Slf4j
@RestController
@EnableBinding(value = {MyProcessor.class})
public class MyMessageController {

@Autowired
private MyProcessor myProcessor;

@GetMapping(value = "sendLogMessage")
public void sendLogMessage(String message){
Message<String> stringMessage = org.springframework.messaging.support.MessageBuilder.withPayload(message).build();
myProcessor.logOutput().send(stringMessage);
}
}
複製程式碼

同樣的引入 @EnableBinding(value = {MyProcessor.class})

建立一個 Controller 用來傳送訊息

@Slf4j
@RestController
@EnableBinding(value = {MyProcessor.class})
public class MyMessageController {

@Autowired
private MyProcessor myProcessor;

@GetMapping(value = "sendLogMessage")
public void sendLogMessage(String message){
Message<String> stringMessage = org.springframework.messaging.support.MessageBuilder.withPayload(message).build();
myProcessor.logOutput().send(stringMessage);
}
}
複製程式碼

之後,訪問連結:

http://localhost:8202/sendLogMessage?message=原始日誌

可以在消費服務端看到如下輸出:

其他

訊息除了可以是字串型別,還可以是其他型別,也可以是實體型別,例如

@GetMapping(value = "sendObjectLogMessage") 
public void sendObjectLogMessage() {
LogInfo logInfo = new LogInfo();
logInfo.setClientIp("192.168.1.111");
logInfo.setClientVersion("1.0");
logInfo.setUserId("198663383837434");
logInfo.setTime(Date.from(Instant.now()));
Message < LogInfo > stringMessage = org.springframework.messaging.support.MessageBuilder.withPayload(logInfo).build();
myProcessor.logOutput().send(stringMessage);
}
複製程式碼

上面程式碼傳送了一個 LogInfo 實體物件,在消費者端依然可以用字串型別接收,因為 @StreamListener 註解會預設把實體轉為 json 字串。

另外,可以試著啟動兩個消費者端,把 group 設定成相同的,這時,傳送的訊息只會被一個消費者接收。

如果把 group 設定成不一樣的,那麼傳送的訊息會被兩個消費者接收。

創作不易,點贊是美德,還能給我創作的動力。不用客氣了,讚我!

微信搜尋公眾號「古時的風箏」,也可以直接掃下面二維碼。關注之後可加微信,與群裡小夥伴交流學習,另有阿里等大廠同學可以直接內推。

本文對應的原始碼:請點這裡檢視

最完整的 Spring Cloud 元件-訊息中介軟體 Spring Cloud Stream 使用教程

相關文章