10行C++程式碼實現高效能HTTP服務

Kevin Wan發表於2021-04-28
C++HTTP

前言

是不是覺得C++寫個服務太累，但又沉迷於C++的真香效能而無法自拔？作為一個老牌C++程式設計師（可以看我 github 上十幾年前的C++專案：https://github.com/kevwan ），這幾天聽一個好友跟我聊起他寫的C++框架，說極簡程式碼即可完成各種C++服務的開發，不禁讓我心生好奇！於是我去研究了一下，發現確實有點意思！

實戰（乾貨）

話不多說，我們來一起看看，10行C++程式碼怎麼實現一個高效能的Http服務，輕鬆QPS幾十萬。Linus說：talk is cheap，show me the code ↓

int main() {
    WFHttpServer server([](WFHttpTask *task) {
        task->get_resp()->append_output_body("Hello World!");
    });
    if (server.start(8888) == 0) {
        getchar(); // press "Enter" to end.
        server.stop();
    }
    return 0;
}

這個 server 使用了 workflow，安裝編譯都非常簡單，以 Linux 為例，把程式碼拉下來後，一行命令即搞定編譯：

➜ git clone https://github.com/sogou/workflow
➜ cd workflow
➜ make
➜ cd tutorial
➜ make
➜ ./helloworld

程式碼在 tutorial 目錄，編譯後的 helloworld 可以直接執行，偵聽在 8888 埠，curl 即可訪問：

➜ curl -i http://localhost:8888
HTTP/1.1 200 OK
Content-Length: 25
Connection: Keep-Alive

Hello World!

伴隨著以上這10行程式碼，我們詳細地解讀：

  1. 我們選用 Http 協議，因此構造了一個WFHttpServer；
  2. 一次網路互動就是一次任務，因為是 Http 協議，因此我們是WFHttpTask；
  3. 對server來說，我的互動任務就是收到請求之後，填好回覆，這些通過：task->get_req()和task->get_resp()可以獲得；
  4. 邏輯在一個函式中（即上面的 lambda），表示收到訊息之後要做的事情，這裡填了一句 “Hello World!”;
  5. Server啟動和退出使用start()和stop()兩個簡單的api，而中間要用getchar();卡住，是因為 workflow 是個純非同步的框架。

純非同步就是這個 Http 伺服器的高效能所在：

  • 第一，多執行緒提供服務

    如果我們收到請求之後在這個函式裡做了一些阻塞的事情（比如等鎖、io請求或者忙碌的計算等），那麼再有使用者請求我的時候，我就沒有執行緒去處理新使用者了

  • 第二，網路執行緒和執行執行緒有優秀的排程策略

    再多的執行緒也可能會有被霸佔完的時候。我們需要無論 server 函式想要做任何耗時的操作，都不會影響到網路執行緒

  • 第三，以 linux 為例，對epoll的封裝高效好用

    如果服務只打算支援一萬的QPS，其實底層怎麼實現都很簡單，但如果我們希望十萬，甚至接近百萬，則我們對server底層做收發的I/O模型有非常高的要求

我們來看看 workflow 是怎麼來實現以上這些高併發能力：

基於以上的架構，基於 workflow 的 server 輕輕鬆鬆就可以達到幾十萬 QPS，高吞吐、低成本、開發快，完美支撐了搜狗的所有後端線上服務！詳細程式碼實現請參考 workflow 原始碼。然後我們以資料說話，通過跟名譽全球的高效能 Http 伺服器 nginx 和國內開源框架先驅 brpc 一起做比較，看一下固定資料長度下 QPS 與併發度的關係：

以上是在同一臺機器上用相同的變數做的 wrk 壓測，具體可以到 github 檢視機器配置、引數及壓測工具程式碼。當資料長度保持不變，QPS 隨著併發度提高而增大，後趨於平穩。此過程中 workflow 一直有明顯優勢，高於 nginx 和 brpc。 特別是資料長度為64和512的兩條曲線， 併發度足夠的時候，可以保持50W的QPS。

總結

workflow 能在開源大半年在github上收穫4k星星的認可，當然是除了簡單和高效能以外，還有其他許多的特點，如果你對其他使用場景還有所好奇，或者希望嘗試壓測一下感受高QPS帶來的心跳加速，那麼歡迎點選 workflow 的 github 獵奇更多腦洞大開的功能和用法。

專案地址

https://github.com/sogou/workflow

歡迎使用 workflow 並 star 支援一下！

微信交流

關注『微服務實踐』公眾號並回復 進群 獲取微服務社群群二維碼。

相關文章