響應式程式設計總覽

Emac發表於2017-06-21

引子:被譽為“中國大資料第一人”的塗子沛先生在其成名作《資料之巔》裡提到,摩爾定律、社交媒體、資料探勘是大資料的三大成因。IBM的研究稱,整個人類文明所獲得的全部資料中,有90%是過去兩年內產生的。在此背景下,包括NoSQL,Hadoop, Spark, Storm, Kylin在內的大批新技術應運而生。其中以RxJavaReactor為代表的響應式(Reactive)程式設計技術針對的就是經典的大資料4V定義(Volume,Variety,Velocity,Value)中的Velocity,即高併發問題,而在即將釋出的Spring 5中,也引入了響應式程式設計的支援。在接下來的幾周,我會圍繞響應式程式設計分三期與你分享我的一些學習心得。本篇是第二篇,以Reactor框架為例介紹響應式程式設計的幾個關鍵特性。

前情概要:

1 響應式程式設計總覽

In computing, reactive programming is an asynchronous programming paradigm concerned with data streams and the propagation of change. - Reactive programming - Wikipedia

在上述響應式程式設計(後面簡稱RP)的定義中,除了非同步程式設計,還包含兩個重要的關鍵詞:

  • Data streams: 即資料流,分為靜態資料流(比如陣列,檔案)和動態資料流(比如事件流,日誌流)兩種。基於資料流模型,RP得以提供一套統一的Stream風格的資料處理介面。和Java 8中的Stream API相比,RP API除了支援靜態資料流,還支援動態資料流,並且允許複用和同時接入多個訂閱者。
  • The propagation of change: 變化傳播,簡單來說就是以一個資料流為輸入,經過一連串操作轉化為另一個資料流,然後分發給各個訂閱者的過程。這就有點像函數語言程式設計中的組合函式,將多個函式串聯起來,把一組輸入資料轉化為格式迥異的輸出資料。

一個容易混淆的概念是響應式設計,雖然它的名字中也包含了“響應式”三個字,但其實和RP完全是兩碼事。響應式設計是指網頁能夠自動調整佈局和樣式以適配不同尺寸的螢幕,屬於網站設計的範疇,而RP是一種關注系統可響應性,面向資料流的程式設計思想或者說程式設計框架。

特性

從本質上說,RP是一種非同步程式設計框架,和其他框架相比,RP至少包含了以下三個特性:

  • 描述而非執行:在你最終呼叫subscribe()方法之前,從釋出端到訂閱端,沒有任何事會發生。就好比無論多長的水管,只要水龍頭不開啟,水管裡的水就不會流動。為了提高描述能力,RP提供了比Stream豐富的多的多的API,比如buffer(), merge(), onErrorMap()等。
  • 提高吞吐量: 類似於HTTP/2中的連線複用,RP通過執行緒複用來提高吞吐量。在傳統的Servlet容器中,每來一個請求就會發起一個執行緒進行處理。受限於機器硬體資源,單臺伺服器所能支撐的執行緒數是存在一個上限的,假設為T,那麼應用同時能處理的請求數(吞吐量)必然也不會超過T。但對於一個使用Spring 5開發的RP應用,如果執行在像Netty這樣的非同步容器中,無論有多少個請求,用於處理請求的執行緒數是相對固定的,因此最大吞吐量就有可能超過T。
  • 背壓(Backpressure)支援:簡單來說,背壓就是一種反饋機制。在一般的Push模型中,釋出者既不知道也不關心訂閱者的處理速度,當資料的釋出速度超過處理速度時,需要訂閱者自己決定是快取還是丟棄。如果使用RP,決定權就交回給釋出者,訂閱者只需要根據自己的處理能力問釋出者請求相應數量的資料。你可能會問這不就是Pull模型嗎?其實是不同的。在Pull模型中,訂閱者每次處理完資料,都要重新發起一次請求拉取新的資料,而使用背壓,訂閱者只需要發起一次請求,就能連續不斷的重複請求資料。

適用場景

瞭解了RP的這些特性,你可能已經猜想到RP有哪些適用場景了。一般來說,RP適用於高併發、帶延遲操作的場景,比如以下這些情況(的組合):

  • 一次請求涉及多次外部服務呼叫
  • 非可靠的網路傳輸
  • 高併發下的訊息處理
  • 彈性計算網路

代價

Every coin has two sides.

和任何框架一樣,有優勢必然就有劣勢。RP的兩個比較大的問題是:

  • 雖然複用執行緒有助於提高吞吐量,但一旦在某個回撥函式中執行緒被卡住,那麼這個執行緒上所有的請求都會被阻塞,最嚴重的情況,整個應用會被拖垮。
  • 難以除錯。由於RP強大的描述能力,在一個典型的RP應用中,大部分程式碼都是以鏈式表示式的形式出現,比如flux.map(String::toUpperCase).doOnNext(s -> LOG.info("UC String {}", s)).next().subscribe(),一旦出錯,你將很難定位到具體是哪個環節出了問題。所幸的是,RP框架一般都會提供一些工具方法來輔助進行除錯。

2 Reactor實戰

為了幫助你理解上面說的一些概念,下面我就通過幾個測試用例,演示RP的兩個關鍵特性:提高吞吐量和背壓。完整的程式碼可參見我GitHub上的示例工程

提高吞吐量

    @Test
    public void testImperative() throws InterruptedException {
        _runInParallel(CONCURRENT_SIZE, () -> {
            ImperativeRestaurantRepository.INSTANCE.insert(load);
        });
    }

    private void _runInParallel(int nThreads, Runnable task) throws InterruptedException {
        ExecutorService executorService = Executors.newFixedThreadPool(nThreads);
        for (int i = 0; i < nThreads; i++) {
            executorService.submit(task);
        }
        executorService.shutdown();
        executorService.awaitTermination(1, TimeUnit.MINUTES);
    }

    @Test
    public void testReactive() throws InterruptedException {
        CountDownLatch latch = new CountDownLatch(CONCURRENT_SIZE);
        for (int i = 0; i < CONCURRENT_SIZE; i++) {
            ReactiveRestaurantRepository.INSTANCE.insert(load).subscribe(s -> {
            }, e -> latch.countDown(), latch::countDown);
        }
        latch.await();
    }複製程式碼

用例解讀:

  • 第一個測試用例使用的是多執行緒+MongoDB Driver,同時起100個執行緒,每個執行緒往MongoDB中插入10000條資料,總共100萬條資料,平均用時15秒左右。
  • 第二個測試用例使用的是Reactor+MongoDB Reactive Streams Driver,同樣是插入100萬條資料,平均用時不到10秒,吞吐量提高了50%!

背壓

在演示測試用例之前,先看兩張圖,幫助你更形象的理解什麼是背壓。

響應式程式設計總覽

響應式程式設計總覽

圖片出處:Dataflow and simplified reactive programming

兩張圖乍一看沒啥區別,但其實是完全兩種不同的背壓策略。第一張圖,釋出速度(100/s)遠大於訂閱速度(1/s),但由於背壓的關係,釋出者嚴格按照訂閱者的請求數量傳送資料。第二張圖,釋出速度(1/s)小於訂閱速度(100/s),當訂閱者請求100個資料時,釋出者會積滿所需個數的資料再開始傳送。可以看到,通過背壓機制,釋出者可以根據各個訂閱者的能力動態調整發布速度。

    @BeforeEach
    public void beforeEach() {
        // initialize publisher
        AtomicInteger count = new AtomicInteger();
        timerPublisher = Flux.create(s ->
                new Timer().schedule(new TimerTask() {
                    @Override
                    public void run() {
                        s.next(count.getAndIncrement());
                        if (count.get() == 10) {
                            s.complete();
                        }
                    }
                }, 100, 100)
        );
    }

    @Test
    public void testNormal() throws InterruptedException {
        CountDownLatch latch = new CountDownLatch(1);
        timerPublisher
                .subscribe(r -> System.out.println("Continuous consuming " + r),
                        e -> latch.countDown(),
                        latch::countDown);
        latch.await();
    }

    @Test
    public void testBackpressure() throws InterruptedException {
        CountDownLatch latch = new CountDownLatch(1);
        AtomicReference<Subscription> timerSubscription = new AtomicReference<>();
        Subscriber<Integer> subscriber = new BaseSubscriber<Integer>() {
            @Override
            protected void hookOnSubscribe(Subscription subscription) {
                timerSubscription.set(subscription);
            }

            @Override
            protected void hookOnNext(Integer value) {
                System.out.println("consuming " + value);
            }

            @Override
            protected void hookOnComplete() {
                latch.countDown();
            }

            @Override
            protected void hookOnError(Throwable throwable) {
                latch.countDown();
            }
        };
        timerPublisher.onBackpressureDrop().subscribe(subscriber);
        new Timer().schedule(new TimerTask() {
            @Override
            public void run() {
                timerSubscription.get().request(1);
            }
        }, 100, 200);
        latch.await();
    }複製程式碼

用例解讀:

  • 第一個測試用例演示了在理想情況下,即訂閱者的處理速度能夠跟上釋出者的釋出速度(以100ms為間隔產生10個數字),控制檯從0列印到9,一共10個數字,和釋出端一致。
  • 第二個測試用例故意調慢了訂閱者的處理速度(每200ms處理一個數字),同時釋出者採用了Drop的背壓策略,結果控制檯只列印了一半的數字(0,2,4,6,8),另外一半的數字由於背壓的原因被髮布者Drop掉了,並沒有發給訂閱者。

3 小結

通過上面的介紹,不難看出RP實際上是一種內建了釋出者訂閱者模型的非同步程式設計框架,包含了執行緒複用,背壓等高階特性,特別適用於高併發、有延遲的場景。

以上就是我對響應式程式設計的一些簡單介紹,歡迎你到我的留言板分享,和大家一起過過招。下一篇我將綜合前兩篇的內容,詳解一個完整的Spring 5示例應用,敬請期待。

4 參考

相關文章