10行C++程式碼實現高效能HTTP服務

Kevin Wan發表於2021-04-28

前言

是不是覺得C++寫個服務太累,但又沉迷於C++的真香效能而無法自拔?作為一個老牌C++程式設計師(可以看我 github 上十幾年前的C++專案:https://github.com/kevwan ),這幾天聽一個好友跟我聊起他寫的C++框架,說極簡程式碼即可完成各種C++服務的開發,不禁讓我心生好奇!於是我去研究了一下,發現確實有點意思!

實戰(乾貨)

話不多說,我們來一起看看,10行C++程式碼怎麼實現一個高效能的Http服務,輕鬆QPS幾十萬。Linus說:talk is cheap,show me the code ↓

int main() {
    WFHttpServer server([](WFHttpTask *task) {
        task->get_resp()->append_output_body("Hello World!");
    });
    if (server.start(8888) == 0) {
        getchar(); // press "Enter" to end.
        server.stop();
    }
    return 0;
}

這個 server 使用了 workflow,安裝編譯都非常簡單,以 Linux 為例,把程式碼拉下來後,一行命令即搞定編譯:

➜ git clone https://github.com/sogou/workflow
➜ cd workflow
➜ make
➜ cd tutorial
➜ make
➜ ./helloworld

程式碼在 tutorial 目錄,編譯後的 helloworld 可以直接執行,偵聽在 8888 埠,curl 即可訪問:

➜ curl -i http://localhost:8888
HTTP/1.1 200 OK
Content-Length: 25
Connection: Keep-Alive

Hello World!

伴隨著以上這10行程式碼,我們詳細地解讀:

  1. 我們選用 Http 協議,因此構造了一個WFHttpServer
  2. 一次網路互動就是一次任務,因為是 Http 協議,因此我們是WFHttpTask
  3. 對server來說,我的互動任務就是收到請求之後,填好回覆,這些通過:task->get_req()task->get_resp()可以獲得;
  4. 邏輯在一個函式中(即上面的 lambda),表示收到訊息之後要做的事情,這裡填了一句 “Hello World!”;
  5. Server啟動和退出使用start()stop()兩個簡單的api,而中間要用getchar();卡住,是因為 workflow 是個純非同步的框架。

純非同步就是這個 Http 伺服器的高效能所在:

  • 第一,多執行緒提供服務

    如果我們收到請求之後在這個函式裡做了一些阻塞的事情(比如等鎖、io請求或者忙碌的計算等),那麼再有使用者請求我的時候,我就沒有執行緒去處理新使用者了

  • 第二,網路執行緒和執行執行緒有優秀的排程策略

    再多的執行緒也可能會有被霸佔完的時候。我們需要無論 server 函式想要做任何耗時的操作,都不會影響到網路執行緒

  • 第三,以 linux 為例,對epoll的封裝高效好用

    如果服務只打算支援一萬的QPS,其實底層怎麼實現都很簡單,但如果我們希望十萬,甚至接近百萬,則我們對server底層做收發的I/O模型有非常高的要求

我們來看看 workflow 是怎麼來實現以上這些高併發能力:

基於以上的架構,基於 workflow 的 server 輕輕鬆鬆就可以達到幾十萬 QPS,高吞吐、低成本、開發快,完美支撐了搜狗的所有後端線上服務!詳細程式碼實現請參考 workflow 原始碼。然後我們以資料說話,通過跟名譽全球的高效能 Http 伺服器 nginx 和國內開源框架先驅 brpc 一起做比較,看一下固定資料長度下 QPS 與併發度的關係:

以上是在同一臺機器上用相同的變數做的 wrk 壓測,具體可以到 github 檢視機器配置、引數及壓測工具程式碼。當資料長度保持不變,QPS 隨著併發度提高而增大,後趨於平穩。此過程中 workflow 一直有明顯優勢,高於 nginxbrpc。 特別是資料長度為64和512的兩條曲線, 併發度足夠的時候,可以保持50W的QPS。

總結

workflow 能在開源大半年在github上收穫4k星星的認可,當然是除了簡單高效能以外,還有其他許多的特點,如果你對其他使用場景還有所好奇,或者希望嘗試壓測一下感受高QPS帶來的心跳加速,那麼歡迎點選 workflow 的 github 獵奇更多腦洞大開的功能和用法。

專案地址

https://github.com/sogou/workflow

歡迎使用 workflowstar 支援一下!

微信交流

關注『微服務實踐』公眾號並回復 進群 獲取微服務社群群二維碼。

相關文章