[![1](http://img.blog.itpub.net/blog/2023/03/07/8b9d9d822c6f5736.jpeg?x-oss-process=style/bb "1")](https://www.emqx.com/zh/blog/nanomq-newsletter-202302 "1")

*駑馬十駕，功在不捨*。新春之交，[NanoMQ](https://www.emqx.com/en/products/nanomq) 繼續保持穩步更新，最新的 0.16 版本將於三月初發布。NanoMQ 為使用者提供了 2 個重要新功能：MQTT over QUIC 的多流橋接和 DDS 協議轉換代理，拓寬了 NanoMQ 的弱網橋接傳輸效能和在邊緣端的使用場景。同時 NanoMQ 專案也在不懈努力提高專案的魯棒性和安全性，積極快速響應社群提出的 Issue 和使用問題，新增了模糊測試用例和自動化的程式碼覆蓋測試指令碼。另外還新增了綠色安裝版的 Windows 平臺安裝包。

*關於 MQTT over QUIC 的技術解析可參考：[MQTT over QUIC：物聯網訊息傳輸還有更多可能](https://www.emqx.com/zh/blog/mqtt-over-quic)

## QUIC 多流橋接

QUIC 協議相較於 TCP 的一大優勢在於解決了隊首阻塞的問題，但這是依賴於 QUIC 的單連結多 Stream 特性的。NanoMQ 之前釋出的 MQTT over QUIC 橋接功能中暫時只支援單流模式，所有的 MQTT 包都在單一訊息流（Stream）上面傳輸。單流傳輸當遇到網路擁塞或者網路抖動的情況時，會引起大量的訊息重傳，一樣會阻塞後續到達的訊息，從而造成逐步提高的訊息延時，甚至是連線斷開。 為瞭解決這一問題，NanoMQ 和 [EMQX 5.0](https://www.emqx.com/zh/products/emqx) 一起設計和引入了 Mutli-stream QUIC 協議標準，以提供更好訊息傳輸體驗。

### 何為 MQTT over QUIC + Mutli-Stream?

Stream 是 QUIC 協議中傳輸層輕量級的有序位元組流抽象，流可以是雙工或半雙工的。每個 QUIC 連結必須有大於等於一個的 Stream。客戶端發起連線和建立 Stream 後，在 Stream 的基礎上建立 [MQTT](https://www.emqx.com/zh/mqtt) 連線和進行報文互動。

[![2](http://img.blog.itpub.net/blog/2023/03/07/14f7b1ba17017285.png?x-oss-process=style/bb "2")](https://www.emqx.com/zh/blog/nanomq-newsletter-202302 "2")

而在 0.16 版本中 NanoMQ 正式支援了多流橋接，當使用者使用 MQTT over QUIC 橋接功能並開啟多流選項時，NanoMQ 會根據使用者配置的橋接上下行主題自動建立對應的 Topic-Stream 配對，每個主題之間的訊息互相隔離。

目前多流橋接將 Stream 分為以下兩種型別

- **控制流：** 對於每個 MQTT over QUIC 連線，建立時必須先建立此 Stream，所有 MQTT 控制信令如 CONNECT/PINGREQ/PINGRESP 都預設在此流上傳輸。連線以控制流作為探測當前網路環境和連線健康度的指標，控制流斷開將導致連線重連。但使用者也可以選擇在控制流上傳輸 PUBLISH 包。
- **資料流：** 橋接客戶端每次進行 PUBLISH 和 SUBSCRIBE 操作都會根據使用的主題建立一個對應的資料流。此流由訂閱或釋出行為開啟，服務端與客戶端都會標識記錄 PUBLISH 和 SUBSCRIBE 包中 Topic 和 此 Stream 的對應關係。所有釋出到此 Topic 的資料都會被定向到此資料流。有別於控制流，資料流斷開不會導致連線斷開，而是下次自動重建。

[![3](http://img.blog.itpub.net/blog/2023/03/07/8cd9e04c496c0ac9.png?x-oss-process=style/bb "3")](https://www.emqx.com/zh/blog/nanomq-newsletter-202302 "3")

如上圖所示，單路 Stream 的情況下若 Topic 1 QoS 1 訊息重傳，會導致 Topic 2 和 Topic 3 的訊息被阻塞。若使用多 Stream 橋接則可以在頻寬未耗盡的情況下讓多個主題的訊息並行傳輸。當然相對應而言只能夠保證在同一個主題內部的 QoS 訊息的傳輸和到達順序。

### 如何使用多流橋接？

目前使用多流橋接只需開啟對應的配置選項：

舊配置檔案格式：

```shell
## multi-stream: enable or disable the multi-stream bridging mode
## Value: true/false
## Default: false
bridge.mqtt.emqx.quic_multi_stream=false

## 在流中是否賦予Qos訊息高傳輸優先順序
## 針對每個流單獨生效，非主題優先順序
## Value: true/false
## Default: true
bridge.mqtt.emqx.quic_qos_priority=true
```

HOCON 格式:

```ini
quic_multi_stream = false
quic_qos_priority=true
```

之後根據使用者 Pub/Sub 的具體主題會建立對應的 Stream，可以在 log 中檢查功能是否生效，如訂閱 nanomq/1 主題就會自動建立一個 data stream：

```vbnet
quic_ack_cb: Quic bridge client subscribe to topic (QoS 1)nanomq/1.
mqtt_sub_stream: topic nanomq/1 qos 1
bridge client is connected!
quic_pipe_open: [strm][0x618000020080] Starting...
quic_pipe_open: [strm][0x618000020080] Done...
quic_strm_cb: quic_strm_cb triggered! 0
decode_pub_message: topic: [$SYS/brokers/connected], qos: 0
mqtt_sub_stream: create new pipe 0x61c000020080 for topic nanomq/1
quic_strm_cb: QUIC_STREAM_EVENT_START_COMPLETE [0x618000020080] ID: 4 Status: 0
```

之後 NanoMQ 就會自動根據 Topic 將資料包導流至不同的 Stream 傳送。經過內部測試，在使用模擬 2s 延遲和 40% 丟包的弱網環境時，能夠得到 stream 數量倍數的延時降低。

### Sub 包優先傳輸

在上一個版本中，NanoMQ 支援了 MQTT over QUIC 橋接中的 QoS 訊息的優先傳輸。從 0.16 版本開始，Subscribe/UnSubscribe 也將優先得到傳輸，來保證弱網下業務的正常執行。

## DDS 協議代理

DDS 即 Data Distribution Service 資料分發服務，是以資料為中心的分散式實時通訊中介軟體協議，採用釋出/訂閱體系架構，強調以資料為中心，提供豐富的 QoS 服務質量策略，以保障資料進行實時、高效、靈活地分發，可滿足各種去中心化的實時通訊應用需求。

DDS 多用於點對點形式將資料在程式間通訊。DDS 雖然也可以允許釋出者釋出資料，訂閱者訂閱資料，以及釋出者和訂閱者之間的雙向通訊，但僅侷限在同一個域內，難以進行跨域通訊。而在雲邊一體化的訊息場景中，結合 MQTT + DDS 兩種協議可以完美融合 broker + brokerless 兩種訊息模式。

NanoMQ 0.16 釋出了 DDS Proxy 外掛，其基於 [Cyclone DDS](https://cyclonedds.io/) （基於 OMG（Object Management Group）DDS 規範的開源 DDS 實現）開發，能夠完成將 DDS 訊息轉換為 MQTT 訊息並橋接上雲的功能，以支援使用者將 DDS 的資料透過 NanoMQ 來完成跨域傳輸並透過 MQTT 和雲端互通。

[![4](http://img.blog.itpub.net/blog/2023/03/07/f6addbb5832c7c7c.png?x-oss-process=style/bb "4")](https://www.emqx.com/zh/blog/nanomq-newsletter-202302 "4")

### DDS Proxy 使用方法

NanoMQ 的 DDS 協議轉換外掛透過 nanomq_cli 啟動。目前該功能尚未整合到 Release 安裝包中，如需使用還需要編譯安裝。

NanoMQ 並未直接引入 DDS 庫，所以需要在執行環境中安裝 CycloneDDS。在下一版本中，會在常見的平臺版本的官方發行安裝包裡內建 CycloneDDS 的靜態庫，但如需交叉編譯還需按照以下流程：

#### 安裝 Iceoryx

> iceoryx 是 CycloneDDS 透過共享記憶體通訊所需的依賴，如不需共享記憶體 IPC 可跳過本步驟

```shell
$ git clone https://github.com/eclipse-iceoryx/iceoryx.git
$ cd iceoryx
$ git checkout release_2.0
$ mkdir build && cd build
$ cmake -G Ninja -DCMAKE_INSTALL_PREFIX={USER_LIBRARY_PATH} ../iceoryx_meta
$ ninja
$ sudo ninja install
```

#### 安裝 CycloneDDS

```shell
$ git clone https://github.com/eclipse-cyclonedds/cyclonedds.git
$ cd cyclonedds
$ mkdir build && cd build
$ cmake -G Ninja -DCMAKE_INSTALL_PREFIX={USER_LIBRARY_PATH} -DCMAKE_PREFIX_PATH={YOUR_LIBRARY_PATH} -DBUILD_EXAMPLES=ON ..
$ ninja
$ sudo ninja install
```

#### 配置 DDS 的 IDL

DDS 相較於 MQTT 對於 payload 的定義方式不同，MQTT 協議並不關心訊息的 Payload 內容， 而 DDS 透過使用者編寫的 IDL 檔案來定義 DDS 訊息的資料格式和型別。IDL（Interface Description Language）是一種通用的描述語言，用於在不同的程式語言之間定義資料型別，以保證不同節點之間以正確的格式通訊。

CycloneDDS 庫中透過 CMake 工具來自動根據使用者內建的 IDL 檔案來生成訊息解析程式碼，其函式名和變數名會根據 IDL 中的定義改變。NanoMQ 保留了這個流程，每次編譯時會根據 nanomq_cli/dds2mqtt/dds_type.idl 這一 IDL 檔案來生成訊息序列化和反序列化的程式碼。目前還需要使用者自行將生成的程式碼 `dds_type.h` 和 `dds_type.c` 替換 [dds_mqtt_type_conversion.h](https://github.com/emqx/nanomq/blob/master/nanomq_cli/dds2mqtt/dds_mqtt_type_conversion.h)/[dds_mqtt_type_conversion.c](https://github.com/emqx/nanomq/blob/master/nanomq_cli/dds2mqtt/dds_mqtt_type_conversion.c)/[dds_client.c](https://github.com/emqx/nanomq/blob/master/nanomq_cli/dds2mqtt/dds_client.c) 檔案中的函式名和引用。

在後續的 NanoMQ 版本規劃中，將提供一個自動化的程式碼生成工具，能夠根據 IDL 來自動替換原始檔完成這部分工作，不再需要使用者手動修改原始碼適配 DDS 結構體定義。

### 編譯安裝 NanoMQ + DDS Proxy

```shell
$ git clone https://github.com/emqx/nanomq.git
$ cd nanomq
$ mkdir build && cd build
$ cmake -G Ninja -DCMAKE_PREFIX_PATH={USER_LIBRARY_PATH} -DBUILD_DDS_PROXY=ON ..
$ ninja 
$ sudo ninja install
```

### 配置開啟 DDS Proxy

配置 /etc/nanomq_dds_gateway.conf 來設定需要進行橋接和轉發的 MQTT 和 DDS 主題。

```nginx
## 轉發規則配置
forward_rules = {
    ## DDS to MQTT 主題
    dds_to_mqtt = {
        from_dds = "MQTTCMD/topic1"
        to_mqtt = "DDS/topic1"
    }
    ## MQTT to DDS 主題
    mqtt_to_dds = {
        from_mqtt = "DDSCMD/topic1"
        to_dds = "MQTT/topic1"
    }
}

## DDS 配置引數
dds {
    idl_type = topic1Type
    domain_id = 0

shared_memory = {
        enable = false
        log_level = info
    }
}

## MQTT 配置引數
mqtt {
    connector {
        server = "mqtt-tcp://127.0.0.1:1883"
        proto_ver = 4
        # clientid="bridge_client"
        keepalive = 60s
        clean_start = false
        username = username
        password = passwd

ssl {
            enable = false
            key_password = "yourpass"
            keyfile = "/etc/certs/key.pem"
            certfile = "/etc/certs/cert.pem"
            cacertfile = "/etc/certs/cacert.pem"
        }
    }
}
```

啟用 iceoryx 傳輸可參考檔案：[點選檢視](https://github.com/emqx/nanomq/blob/master/nanomq_cli/dds2mqtt/doc/Shared_memory.md)

### 啟動和測試

此處以 DDS - MQTT 雙向訊息橋接為例。

- 啟動 MQTT Broker

```powershell
$ nanomq start
```

或

```powershell
$ emqx start
```

- 啟動 DDS Proxy 橋接 MQTT 的`DDSCMD/topic1` 主題到 DDS 的 `MQTT/topic1` 主題。

```jboss-cli
$ ./nanomq_cli ddsproxy proxy --conf nanomq_dds_gateway.conf
```

- 啟動 MQTT 客戶端訂閱主題 `DDS/topic1` 以驗證訊息是否橋接成功。

```jboss-cli
$ ./nanomq_cli sub --url "mqtt-tcp://127.0.0.1:1883" -t "DDS/topic1"
```

現在我們釋出一些訊息到 DDS 主題來驗證橋接是否成功。

- 啟動 DDS 客戶端訂閱 DDS 主題 `MQTT/topic1`

```shell
$ ./nanomq_cli ddsproxy sub -t "MQTT/topic1"
```

- 啟動 MQTT 客戶端釋出訊息到 MQTT 主題 `DDSCMD/topic1`

```jboss-cli
$ ./nanomq_cli pub --url "mqtt-tcp://127.0.0.1:1883" -t "DDSCMD/topic1" -m '{
  "int8_test":    1,
  "uint8_test":   50,
  "int16_test":   27381,
  "uint16_test":  1,
  "int32_test":   0,
  "uint32_test":  32,
  "int64_test":   6820785120,
  "uint64_test":  25855901936,
  "message":      "aaabbbddd",
  "example_enum": 0,
  "example_stru": {
    "message":      "abc"
    }
}'
```

就能在訂閱 `MQTT/topic1` 的 DDS 客戶端處收到對應訊息。如此就完成了將 MQTT 訊息轉化為 DDS 訊息的過程，反之亦可。

## 其他最佳化

### 增加覆蓋率測試和模糊測試

為了繼續提高 NanoMQ 的工程質量和安全性，我們從 0.15.1 版本開始引入了 CodeCOV 來完成自動化程式碼覆蓋率測試。

在 2 月中，NanoMQ 收到了許多有價值的模糊測試資料集和 Issue，在使用者的幫助下找到了許多潛在安全隱患，在此對 Nereuxofficial 和 realsung 兩位使用者致以真摯的感謝。所有 Issue 都已經在一天內完全修復，所有他們提供的資料集都已納入專案的自動模糊測試。

### 推出 Windows 綠色版

為了更好的支援 Windows 平臺的使用者，我們基於之前釋出的 msi 安裝包基礎上，推出了綠色版的安裝包，解壓即可用。目前 Windows 版本只支援基礎的 MQTT broker 橋接、斷網續傳等功能。

## 問題修復

1. 修復 0.15.1 版本中多路橋接中訊息迴環觸發非同步 IO 越界的問題。
2. 修復若干由模糊測試發現的安全隱患和記憶體洩漏，提高魯棒性。
3. 修復 nanomq_cli 的 quic工具使用。
4. 修復 nanomq_cli 的無法將輸出重定向至檔案的問題。
5. 修復 TSAN 發現的 MQTT over QUIC 傳輸層的執行緒競爭問題。
6. 修復 NanoMQ 0.15 版本在 Windows 平臺的相容問題。
7. 增加了可以在 MQTT 5 橋接連線中定義連線屬性。

## 即將到來

NanoMQ 專案進入了第三個年頭，感謝大家對專案的使用和支援。在下一個版本，NanoMQ 專案計劃引入 SOME/IP 協議的橋接轉換。同時還會繼續改進 DDS Proxy 功能的易用性，推出包含此功能的安裝包，併為其加入 IDL 自動程式碼生成功能。此外，在 MQTT over QUIC 橋接部分還會增加雙向認證和證書配置功能。

>版權宣告： 本文為 EMQ 原創，轉載請註明出處。
>
>原文連結：[https://www.emqx.com/zh/blog/nanomq-newsletter-202302](https://www.emqx.com/zh/blog/nanomq-newsletter-202302)

QUIC 多流橋接、新增 DDS 協議轉換代理

相關文章