go-micro整合RabbitMQ實戰和原理

波斯馬發表於2022-05-07

在go-micro中非同步訊息的收發是通過Broker這個元件來完成的,底層實現有RabbitMQ、Kafka、Redis等等很多種方式,這篇文章主要介紹go-micro使用RabbitMQ收發資料的方法和原理。

Broker的核心功能

Broker的核心功能是Publish和Subscribe,也就是釋出和訂閱。它們的定義是:

Publish(topic string, m *Message, opts ...PublishOption) error
Subscribe(topic string, h Handler, opts ...SubscribeOption) (Subscriber, error)

釋出

釋出第一個引數是topic(主題),用於標識某類訊息。

釋出的資料是通過Message承載的,其包括訊息頭和訊息體,定義如下:

type Message struct {
	Header map[string]string
	Body   []byte
}

訊息頭是map,也就是一組KV(鍵值對)。

訊息體是位元組陣列,在傳送和接收時需要開發者進行編碼和解碼的處理。

訂閱

訂閱的第一個引數也是topic(主題),用於過濾出要接收的訊息。

訂閱的資料是通過Handler處理的,Handler是一個函式,其定義如下:

type Handler func(Event) error

其中的引數Event是一個介面,需要具體的Broker來實現,其定義如下:

type Event interface {
	Topic() string
	Message() *Message
	Ack() error
	Error() error
}
  • Topic() 用於獲取當前訊息的topic,也是釋出者傳送時的topic。
  • Message() 用於獲取訊息體,也是釋出者傳送時的Message,其中包括Header和Body。
  • Ack() 用於通知Broker訊息已經收到了,Broker可以刪除訊息了,可用來保證訊息至少被消費一次。
  • Error() 用於獲取Broker處理訊息過成功的錯誤。

開發者訂閱資料時,需要實現Handler這個函式,接收Event的例項,提取資料進行處理,根據不同的Broker,可能還需要呼叫Ack(),處理出現錯誤時,返回error。

go-micro整合RabbitMQ實戰

大概瞭解了Broker的定義之後,再來看下如何使用go-micro收發RabbitMQ訊息。

啟動一個RabbitMQ

如果你已經有一個RabbitMQ伺服器,請跳過這個步驟。

這裡介紹一個使用docker快速啟動RabbitMQ的方法,當然前提是你得安裝了docker。

執行如下命令啟動一個rabbitmq的docker容器:

docker run --name rabbitmq1 -p 5672:5672 -p 15672:15672 -d rabbitmq

然後進入容器進行一些設定:

docker exec -it rabbitmq1 /bin/bash

啟動管理工具、禁用指標採集(會導致某些API500錯誤):

rabbitmq-plugins enable rabbitmq_management
 
cd /etc/rabbitmq/conf.d/
echo management_agent.disable_metrics_collector = false > management_agent.disable_metrics_collector.conf

最後重啟容器:

docker restart rabbitmq1

最後瀏覽器中輸入 http://127.0.0.0:15672 即可訪問,預設使用者名稱和密碼都是 guest 。

編寫收發函式

為了方便演示,先來定義釋出訊息和接收訊息的函式。其中釋出函式使用了go-micro提供的Event型別,還有其它型別也可以提供Publish的功能,這裡傳送的資料格式是Json字串。接收訊息的函式名稱可以隨意取,但是引數和返回值必須符合規範,也就是下邊程式碼中的樣子,這個函式也可以是繫結到某個型別的。

// 定義一個釋出訊息的函式:每隔1秒釋出一條訊息
func loopPublish(event micro.Event) {
	for {
		time.Sleep(time.Duration(1) * time.Second)

		curUnix := strconv.FormatInt(time.Now().Unix(), 10)
		msg := "{\"Id\":" + curUnix + ",\"Name\":\"張三\"}"
		event.Publish(context.TODO(), msg)
	}
}

// 定義一個接收訊息的函式:將收到的訊息列印出來
func handle(ctx context.Context, msg interface{}) (err error) {
	defer func() {
		if r := recover(); r != nil {
			err = errors.New(fmt.Sprint(r))
			log.Println(err)
		}
	}()

	b, err := json.Marshal(msg)
	if err != nil {
		log.Println(err)
		return
	}

	log.Println(string(b))
	return
}

編寫主體程式碼

這裡先給出程式碼,裡面提供了一些註釋,後邊還會有詳細介紹。

func main() {
	// RabbitMQ的連線引數
	rabbitmqUrl := "amqp://guest:guest@127.0.0.1:5672/"
	exchangeName := "amq.topic"
	subcribeTopic := "test"
	queueName := "rabbitmqdemo_test"

	// 預設是application/protobuf,這裡演示用的是Json,所以要改下
	server.DefaultContentType = "application/json"

	// 建立 RabbitMQ Broker
	b := rabbitmq.NewBroker(
		broker.Addrs(rabbitmqUrl),           // RabbitMQ訪問地址,含VHost
		rabbitmq.ExchangeName(exchangeName), // 交換機的名稱
		rabbitmq.DurableExchange(),          // 訊息在Exchange中時會進行持久化處理
		rabbitmq.PrefetchCount(1),           // 同時消費的最大訊息數量
	)

	// 建立Service,內部會初始化一些東西,必須在NewSubscribeOptions前邊
	service := micro.NewService(
		micro.Broker(b),
	)
	service.Init()

	// 初始化訂閱上下文:這裡不是必需的,訂閱會有預設值
	subOpts := broker.NewSubscribeOptions(
		rabbitmq.DurableQueue(),   // 佇列持久化,消費者斷開連線後,訊息仍然儲存到佇列中
		rabbitmq.RequeueOnError(), // 訊息處理函式返回error時,訊息再次入佇列
		rabbitmq.AckOnSuccess(),   // 訊息處理函式沒有error返回時,go-micro傳送Ack給RabbitMQ
	)

	// 註冊訂閱
	micro.RegisterSubscriber(
		subcribeTopic,    // 訂閱的Topic
		service.Server(), // 註冊到的rpcServer
		handle,           // 訊息處理函式
		server.SubscriberContext(subOpts.Context), // 訂閱上下文,也可以使用預設的
		server.SubscriberQueue(queueName),         // 佇列名稱
	)

	// 釋出事件訊息
	event := micro.NewEvent(subcribeTopic, service.Client())
	go loopPublish(event)

	log.Println("Service is running ...")
	if err := service.Run(); err != nil {
		log.Println(err)
	}
}

主要邏輯是:

1、先建立一個RabbitMQ Broker,它實現了標準的Broker介面。其中主要的引數是RabbitMQ的訪問地址和RabbitMQ交換機,PrefetchCount是訂閱者(或稱為消費者)使用的。

2、然後通過 NewService 建立go-micro服務,並將broker設定進去。這裡邊會初始化很多東西,最核心的是建立一個rpcServer,並將rpcServer和這個broker繫結起來。

3、然後是通過 RegisterSubscriber 註冊訂閱,這個註冊有兩個層面的功能:一是如果RabbitMQ上還不存在這個佇列時建立佇列,並訂閱指定topic的訊息;二是定義go-micro程式從這個RabbitMQ佇列接收資料的處理方式。

這裡詳細看下訂閱的引數:

func RegisterSubscriber(topic string, s server.Server, h interface{}, opts ...server.SubscriberOption) error
  • topic:go-micro使用的是Topic模式,釋出者傳送訊息的時候要指定一個topic,訂閱者根據需要只接收某個或某幾個topic的訊息;
  • s:訊息從RabbitMQ接收後會進入這個Server進行處理,它是NewService的時候內部建立的;
  • h:使用了上一步建立的接收訊息的函式 handle,Server中的方法會呼叫這個函式;
  • opts 是訂閱的一些選項,這裡需要指定RabbitMQ佇列的名稱;另外SubscriberContext定義了訂閱的一些行為,這裡DurableQueue設定RabbitMQ訂閱訊息的持久化方式,一般我們都希望訊息不丟失,這個設定的作用是即使程式與RabbitMQ的連線斷開,訊息也會儲存在RabbitMQ佇列中;AckOnSuccess和RequeueOnError定義了程式處理訊息出現錯誤時的行為,如果handle返回error,訊息會重新返回RabbitMQ,然後再投遞給程式。

4、然後這裡為了演示,通過NewEvent建立了一個Event,通過它每隔一秒傳送1條訊息。

5、最後通過service.Run()把這個程式啟動起來。

辛苦寫了半天,看一下這個程式的執行效果:

image-20220429214626817

注意一般釋出者和訂閱者是在不同的程式中,這裡只是為了方便演示,才把他們放在一個程式中。所以如果只是釋出訊息,就不需要訂閱的程式碼,如果只是訂閱,也不需要釋出訊息的程式碼,大家使用的時候根據需要自己裁剪吧。

go-micro整合RabbitMQ的處理流程

這個部分來看一下訊息在go-micro和RabbitMQ中是怎麼流轉的,我畫了一個示意圖:

go-micro-rabbiitmq

這個圖有點複雜,這裡詳細講解下。

首先分成三塊:RabbitMQ、訊息釋出部分、訊息接收部分,這裡用不同的顏色進行了區分。

  • RabbitMQ不是本文的重點,就把它看成一個整體就行了。
  • 訊息釋出部分:從生產者程式呼叫Event.Publish開始,然後呼叫Client.Publish,到這裡為止,都是在go-micro的核心模組中進行處理;然後再呼叫Broker.Publish,這裡的Broker是RabbitMQ外掛的Broker例項,從這裡開始進入了RabbiitMQ外掛部分,然後再依次通過RabbitMQ Connection的Publish方法、RabbitMQ Channle的Publish方法,最終傳送到RabbitMQ中。
  • 訊息接收部分:Service.Run內部會呼叫rpcServer.Start,這個方法內部會呼叫Broker.Subscribe,這個方法是RabbitMQ外掛中定義的,它會讀取RegisterSubscriber時的一些RabbitMQ佇列設定,然後再依次傳遞到RabbitMQ Connection的Consume方法、RabbitMQ Channel的ConsumeQueue方法,最終連線到RabbitMQ,並在RabbitMQ上設定好要訂閱的佇列;這些方法還會返回一個型別為amqp.Delivery的Go Channel,Broker.Subscribe不斷的從這個Go Channel中讀取資料,然後再傳送到呼叫Broker.Subscribe時傳入的一個訊息處理方法中,這裡就是rpcServer.HandleEvnet,訊息經過一些處理後再進入rpcServer內部的路由處理模組,這裡就是route.ProcessMessage,這個方法內部會根據當前訊息的topic查詢RegisterSubscriber時註冊的訂閱,並最終呼叫到當時註冊的用於接收訊息的函式。

這個處理過程還可以劃分為業務部分、核心模組部分和外掛部分。

  • 首先建立一個外掛的Broker實現,把它註冊到核心模組的rpcServer中;
  • 訊息的傳送從業務部分進入核心模組部分,再進入具體實現Broker的外掛部分;
  • 訊息的接收則首先進入外掛部分,然後再流轉到核心模組部分,再流轉到業務部分。

從上邊的圖中可以看到訊息都需要經過這個RabbitMQ外掛進行處理,實際上可以只使用這個外掛,就能實現訊息的傳送和接收。這個演示程式碼我已經提交到了Github,有興趣的同學可以在文末獲取Github倉庫的地址。

從上邊這些劃分中,我們可以理解到設計者的整體設計思路,把握關鍵節點,用好用對,出現問題時可以快速定位。

填的幾個坑

不能接收其它框架釋出的訊息

這個是因為route.ProcessMessage查詢訂閱時使用了go-micro專用的一個頭資訊:

// get the subscribers by topic
	subs, ok := router.subscribers[msg.Topic()]

這個msg.Topic返回的是如下例項中的topic欄位:

	rpcMsg := &rpcMessage{
		topic:       msg.Header["Micro-Topic"],
		contentType: ct,
		payload:     &raw.Frame{Data: msg.Body},
		codec:       cf,
		header:      msg.Header,
		body:        msg.Body,
	}

其它框架不會有這麼一個頭資訊,除非專門適配go-micro。

因為使用RabbitMQ的場景下,整個開發都是圍繞RabbitMQ做的,而且go-micro的處理邏輯沒有考慮RabbitMQ訂閱可以使用萬用字元的情況,釋出訊息的Topic、接收訊息的Topic與Micro-Topic的值匹配時都是按照是否相等的原則處理的,因此可以用RabbitMQ訊息自帶的topic來設定這個訊息頭。rabbitmq.rbroker.Subscribe 中接收到訊息後,就可以進行這個設定:

// Messages sent from other frameworks to rabbitmq do not have this header.
		// The 'RoutingKey' in the message can be used as this header.
		// Then the message can be transfered to the subscriber which bind this topic.
		msgTopic := header["Micro-Topic"]
		if msgTopic == "" {
			header["Micro-Topic"] = msg.RoutingKey
		}

這樣go-micro開發的消費者程式就能接收其它框架釋出的訊息了,其它框架無需適配。

RabbitMQ重啟後訂閱者和釋出者無限阻塞

go-micro的RabbitMQ外掛底層使用另一個庫:github.com/streadway/amqp

對於釋出者,RabbitMQ斷開連線時amqp庫會通過Go Channel同步通知go-micro,然後go-micro可以發起重新連線。問題出現在這個同步通知上,go-micro的RabbitMQ外掛設定了接收連線和通道的關閉通知,但是隻處理了一個通知就去重新連線了,這就導致有一個Go Channel一直阻塞,而這個阻塞會導致某個鎖不能釋放,這個鎖又是Publish時候需要的,因此導致釋出者無限阻塞。解決辦法就是外層增加一個迴圈,等所有的通知都收到了,再去做重新連線。

對於訂閱者,RabbitMQ斷開連線時,它會一直阻塞在某個Go Channel上,直到它返回一個值,這個值代表連線已經重新建立,訂閱者可以重建消費通道。問題也是出現在這個阻塞的Go Channel上,因為這個Go Channel在每次收到amqp的關閉通知時會重新賦值,而訂閱者等待的Go Channel可能是之前的舊值,永遠也不會返回,訂閱者也就無限阻塞了。解決辦法呢,就是在select時增加一個time.After,讓等待的Go Channel有機會更新到新值。

程式碼就不貼了,有興趣的可以到Github中去看:https://github.com/go-micro/plugins/commit/9f64710807221f3cc649ba4fe05f75b07c66c00c

關於這兩個問題的修改已經合併到官方倉庫中,大家去get最新的程式碼就可以了。

這兩個坑填了,基本上就能滿足我的需要了。當然可能還有其它的坑,比如go-micro的RabbitMQ外掛好像沒有釋出者確認的功能,這個要實現,還得好好想想怎麼改。


好了,以上就是本文的主要內容。

老規矩,程式碼已經上傳到Github,歡迎訪問:https://github.com/bosima/go-demo/tree/main/go-micro-broker-rabbitmq

收穫更多架構知識,請關注微信公眾號 螢火架構。原創內容,轉載請註明出處。
掃描二維碼關注公眾號

相關文章