面試官:說說你之前負責的系統,QPS 能達到多少?

犬小哈發表於2019-04-07

文章首發自個人微信公眾號:小哈學Java

個人網站地址:www.exception.site/wrk

被面試官經常問到之前開發的系統介面 QPS 能達到多少,經常給不出一個數值,支支吾吾,導致整體面試效果降低?

原因基本是一些公司中,做完功能測試就完了,壓根不會有效能測試這一步,或者說併發量較少,沒有必要進行效能測試,亦或者,交給測試人員後,只要整體問題不大,測試報告一般也是不會再給後端人員看的,這就導致我們在面試的時候,場面一度尷尬 !!!

其實,不單單是針對面試,作為一名後端開發者,我們在完成一個介面開發後,在交給測試工程師之前,經常也會想知道,自己寫的這個介面的效能如何呢?吞吐量能達到多少?QPS(Query per second 每秒處理完的請求數) 能達到多少呢?

這個時候,我們就需要藉助一些常用的效能測試工具,如 Apache ab, Apache JMeter (網際網路公司用的較多),LoadRunner 等。

我們今天主要說一說輕量級效能測試工具 wrk

目錄

一、什麼是 wrk 二、 wrk 的優勢&劣勢

  • 2.1 優勢
  • 2.2 劣勢

三、wrk 安裝

  • 3.1 Linux 安裝
  • 3.2 MacOS 安裝
  • 3.3 Window 10 安裝
  • 3.4 驗證一下,是否安裝成功

四、如何使用

  • 4.1 簡單使用
  • 4.2 wrk 子命令引數說明
  • 4.3 測試報告
  • 4.4 使用 Lua 指令碼進行復雜測試

五、總結

六、參考文件

七、贈送面試&學習福利資源

一、什麼是 wrk

摘自官方 GitHub 上的英文介紹:

wrk 官方說明
wrk 官方說明

翻譯一下:

wrk 是一款針對 Http 協議的基準測試工具,它能夠在單機多核 CPU 的條件下,使用系統自帶的高效能 I/O 機制,如 epoll,kqueue 等,通過多執行緒和事件模式,對目標機器產生大量的負載。

PS: 其實,wrk 是複用了 redis 的 ae 非同步事件驅動框架,準確來說 ae 事件驅動框架並不是 redis 發明的, 它來至於 Tcl 的直譯器 jim, 這個小巧高效的框架, 因為被 redis 採用而被大家所熟知。

二、 wrk 的優勢&劣勢

2.1 優勢

在說 wrk 的優勢之前,瞅一下 wrk 的 GitHub Star 數,也能側面反映下它的可靠性:

wrk Star 數
wrk Star 數

Wow ! 截止筆者截圖為止, Star 數已經達到了 19742 !!!

再來說說 wrk 的優勢:

  • 輕量級效能測試工具;

  • 安裝簡單(相對 Apache ab 來說);

  • 學習曲線基本為零,幾分鐘就能學會咋用了;

  • 基於系統自帶的高效能 I/O 機制,如 epoll, kqueue, 利用非同步的事件驅動框架,通過很少的執行緒就可以壓出很大的併發量;

2.2 劣勢

wrk 目前僅支援單機壓測,後續也不太可能支援多機器對目標機壓測,因為它本身的定位,並不是用來取代 JMeter, LoadRunner 等專業的測試工具,wrk 提供的功能,對我們後端開發人員來說,應付日常介面效能驗證還是比較友好的。

三、wrk 安裝

wrk 只能被安裝在類 Unix 系統上,所以我們需要一個 Linux 或者 MacOS 環境。Windows 10 安裝需要開啟自帶的 Ubuntu 子系統。

3.1 Linux 安裝

3.1.1 Ubuntu/Debian

依次執行如下命令:

sudo apt-get install build-essential libssl-dev git -y
git clone https://github.com/wg/wrk.git wrk
cd wrk
make
# 將可執行檔案移動到 /usr/local/bin 位置
sudo cp wrk /usr/local/bin
複製程式碼

3.2.2 CentOS / RedHat / Fedora

依次執行如下命令:

sudo yum groupinstall 'Development Tools'
sudo yum install -y openssl-devel git 
git clone https://github.com/wg/wrk.git wrk
cd wrk
make
# 將可執行檔案移動到 /usr/local/bin 位置
sudo cp wrk /usr/local/bin
複製程式碼

3.2 MacOS 安裝

Mac 系統也可以通過先編譯的方式來安裝,但是更推薦使用 brew 的方式來安裝, 步驟如下:

  1. 安裝 Homebrew,安裝方式參考官網 brew.sh (也就一行命令的事);
  2. 安裝 wrk: brew install wrk;

3.3 Window 10 安裝

Windown 10 需要在 Windows 功能 裡勾選 適用於 Linux 的 Windows 子系統, 然後通過 bash 命令切換到 Ubuntu 子系統。接下來,參考 3.1.1 Ubuntu 的操作系通中,安裝 wrk 的步驟。

由於筆者使用的是 MacOS, Windows 上的安裝步驟,並沒有實際操作過,具體安裝步驟,您可以參考官方 Windows 10 的安裝教程:github.com/wg/wrk/wiki… ,或者用您喜歡的搜尋引擎來搜尋 Windows 10 如何啟用 Ubuntu 子系統後,再安裝 wrk,亦或者通過安裝 Linux 虛擬機器的方式來使用 wrk。

3.4 驗證一下,是否安裝成功

命令列中輸入命令:

wrk -v
複製程式碼

檢視 wrk 是否安裝成功
檢視 wrk 是否安裝成功

輸出如上資訊,說明安裝成功了!

四、如何使用

安裝成功了,要如何使用呢?

4.1 簡單使用

wrk -t12 -c400 -d30s http://www.baidu.com
複製程式碼

這條命令表示,利用 wrk 對 www.baidu.com 發起壓力測試,執行緒數為 12,模擬 400 個併發請求,持續 30 秒。

4.2 wrk 子命令引數說明

除了上面簡單示例中使用到的子命令引數,wrk 還有其他更豐富的功能,命令列中輸入 wrk --help, 可以看到支援以下子命令:

[root@VM_0_5_centos ~]# wrk --help
Usage: wrk <options> <url>                            
  Options:                                            
    -c, --connections <N>  Connections to keep open   
    -d, --duration    <T>  Duration of test           
    -t, --threads     <N>  Number of threads to use   
                                                      
    -s, --script      <S>  Load Lua script file       
    -H, --header      <H>  Add header to request      
        --latency          Print latency statistics   
        --timeout     <T>  Socket/request timeout     
    -v, --version          Print version details      
                                                      
  Numeric arguments may include a SI unit (1k, 1M, 1G)
  Time arguments may include a time unit (2s, 2m, 2h)
複製程式碼

翻譯一下:

使用方法: wrk <選項> <被測HTTP服務的URL>                            
  Options:                                            
    -c, --connections <N>  跟伺服器建立並保持的TCP連線數量  
    -d, --duration    <T>  壓測時間           
    -t, --threads     <N>  使用多少個執行緒進行壓測   
                                                      
    -s, --script      <S>  指定Lua指令碼路徑       
    -H, --header      <H>  為每一個HTTP請求新增HTTP頭      
        --latency          在壓測結束後,列印延遲統計資訊   
        --timeout     <T>  超時時間     
    -v, --version          列印正在使用的wrk的詳細版本資訊
                                                      
  <N>代表數字引數,支援國際單位 (1k, 1M, 1G)
  <T>代表時間引數,支援時間單位 (2s, 2m, 2h)
複製程式碼

PS: 關於執行緒數,並不是設定的越大,壓測效果越好,執行緒設定過大,反而會導致執行緒切換過於頻繁,效果降低,一般來說,推薦設定成壓測機器 CPU 核心數的 2 倍到 4 倍就行了。

4.3 測試報告

執行壓測命令:

wrk -t12 -c400 -d30s --latency http://www.baidu.com
複製程式碼

執行上面的壓測命令,30 秒壓測過後,生成如下壓測報告:

Running 30s test @ http://www.baidu.com 
  12 threads and 400 connections
  Thread Stats   Avg      Stdev     Max   +/- Stdev
    Latency   386.32ms  380.75ms   2.00s    86.66%
    Req/Sec    17.06     13.91   252.00     87.89%
  Latency Distribution
     50%  218.31ms
     75%  520.60ms
     90%  955.08ms
     99%    1.93s 
  4922 requests in 30.06s, 73.86MB read
  Socket errors: connect 0, read 0, write 0, timeout 311
Requests/sec:    163.76
Transfer/sec:      2.46MB
複製程式碼

我們來具體說一說,報告中各項指標都代表什麼意思:

Running 30s test @ http://www.baidu.com (壓測時間30s)
  12 threads and 400 connections (共12個測試執行緒,400個連線)
			  (平均值) (標準差)  (最大值)(正負一個標準差所佔比例)
  Thread Stats   Avg      Stdev     Max   +/- Stdev
    (延遲)
    Latency   386.32ms  380.75ms   2.00s    86.66%
    (每秒請求數)
    Req/Sec    17.06     13.91   252.00     87.89%
  Latency Distribution (延遲分佈)
     50%  218.31ms
     75%  520.60ms
     90%  955.08ms
     99%    1.93s 
  4922 requests in 30.06s, 73.86MB read (30.06s內處理了4922個請求,耗費流量73.86MB)
  Socket errors: connect 0, read 0, write 0, timeout 311 (發生錯誤數)
Requests/sec:    163.76 (QPS 163.76,即平均每秒處理請求數為163.76)
Transfer/sec:      2.46MB (平均每秒流量2.46MB)
複製程式碼

可以看到,壓測報告還是非常直觀的!

標準差啥意思?標準差如果太大說明樣本本身離散程度比較高,有可能系統效能波動較大。

4.4 使用 Lua 指令碼進行復雜測試

您可能有疑問了,你這種進行 GET 請求還湊合,我想進行 POST 請求咋辦?而且我想每次的請求引數都不一樣,用來模擬使用者使用的實際場景,又要怎麼弄呢?

對於這種需求,我們可以通過編寫 Lua 指令碼的方式,在執行壓測命令時,通過引數 --script 來指定 Lua 指令碼,來滿足個性化需求。

4.4.1 wrk 對 Lua 指令碼的支援

wrk 支援在三個階段對壓測進行個性化,分別是啟動階段、執行階段和結束階段。每個測試執行緒,都擁有獨立的Lua 執行環境。

啟動階段:

function setup(thread)
複製程式碼

在指令碼檔案中實現 setup 方法,wrk 就會在測試執行緒已經初始化,但還沒有啟動的時候呼叫該方法。wrk會為每一個測試執行緒呼叫一次 setup 方法,並傳入代表測試執行緒的物件 thread 作為引數。setup 方法中可操作該 thread 物件,獲取資訊、儲存資訊、甚至關閉該執行緒。

thread.addr             - get or set the thread's server address
thread:get(name)        - get the value of a global in the thread's env
thread:set(name, value) - set the value of a global in the thread's env
thread:stop()           - stop the thread
複製程式碼

執行階段:

function init(args)
function delay()
function request()
function response(status, headers, body)
複製程式碼
  • init(args): 由測試執行緒呼叫,只會在進入執行階段時,呼叫一次。支援從啟動 wrk 的命令中,獲取命令列引數;
  • delay(): 在每次傳送請求之前呼叫,如果需要定製延遲時間,可以在這個方法中設定;
  • request(): 用來生成請求, 每一次請求都會呼叫該方法,所以注意不要在該方法中做耗時的操作;
  • response(status, headers, body): 在每次收到一個響應時被呼叫,為提升效能,如果沒有定義該方法,那麼wrk不會解析 headersbody

結束階段:

function done(summary, latency, requests)
複製程式碼

done() 方法在整個測試過程中只會被呼叫一次,我們可以從給定的引數中,獲取壓測結果,生成定製化的測試報告。

自定義 Lua 指令碼中可訪問的變數以及方法:

變數:wrk

wrk = {
    scheme  = "http",
    host    = "localhost",
    port    = 8080,
    method  = "GET",
    path    = "/",
    headers = {},
    body    = nil,
    thread  = <userdata>,
  }
複製程式碼

以上定義了一個 table 型別的全域性變數,修改該 wrk 變數,會影響所有請求。

方法:

  1. wrk.fomat
  2. wrk.lookup
  3. wrk.connect

上面三個方法解釋如下:

function wrk.format(method, path, headers, body)

    wrk.format returns a HTTP request string containing the passed parameters
    merged with values from the wrk table.
    # 根據引數和全域性變數 wrk,生成一個 HTTP rquest 字串。

function wrk.lookup(host, service)

    wrk.lookup returns a table containing all known addresses for the host
    and service pair. This corresponds to the POSIX getaddrinfo() function.
    # 給定 hostserviceport/well known service name),返回所有可用的伺服器地址資訊。

function wrk.connect(addr)

    wrk.connect returns true if the address can be connected to, otherwise
    it returns false. The address must be one returned from wrk.lookup().
    # 測試給定的伺服器地址資訊是否可以成功建立連線
複製程式碼

4.4.1 通過 Lua 指令碼壓測示例

呼叫 POST 介面:

wrk.method = "POST"
wrk.body   = "foo=bar&baz=quux"
wrk.headers["Content-Type"] = "application/x-www-form-urlencoded"
複製程式碼

注意: wrk 是個全域性變數,這裡對其做了修改,使得所有請求都使用 POST 的方式,並指定了 body 和 Content-Type頭。

自定義每次請求的引數:

request = function()
   uid = math.random(1, 10000000)
   path = "/test?uid=" .. uid
   return wrk.format(nil, path)
end
複製程式碼

在 request 方法中,隨機生成 1~10000000 之間的 uid,並動態生成請求 URL.

每次請求前,延遲 10ms:

function delay()
   return 10
end
複製程式碼

請求的介面需要先進行認證,獲取 token 後,才能發起請求,咋辦?

token = nil
path  = "/auth"

request = function()
   return wrk.format("GET", path)
end

response = function(status, headers, body)
   if not token and status == 200 then
      token = headers["X-Token"]
      path  = "/test"
      wrk.headers["X-Token"] = token
   end
end
複製程式碼

上面的指令碼表示,在 token 為空的情況下,先請求 /auth 介面來認證,獲取 token, 拿到 token 以後,將 token 放置到請求頭中,再請求真正需要壓測的 /test 介面。

壓測支援 HTTP pipeline 的服務:

init = function(args)
   local r = {}
   r[1] = wrk.format(nil, "/?foo")
   r[2] = wrk.format(nil, "/?bar")
   r[3] = wrk.format(nil, "/?baz")

   req = table.concat(r)
end

request = function()
   return req
end
複製程式碼

通過在 init 方法中將三個 HTTP請求拼接在一起,實現每次傳送三個請求,以使用 HTTP pipeline。

五、總結

本文中,我們學習了輕量級效能測試工具 wrk, 如何安裝,以及具體的使用方法,包括通過 Lua 指令碼來個性化定製請求等。希望讀完本文,能對您有所幫助哦!

六、參考文件:

七、贈送 | 面試&學習福利資源

最近在網上發現一個不錯的 PDF 資源《Java 核心面試知識.pdf》分享給大家,不光是面試,學習,你都值得擁有!!!

獲取方式: 關注公眾號: 小哈學Java, 後臺回覆 資源,既可獲取資源連結,下面是目錄以及部分截圖:

福利資源截圖
福利資源截圖

福利資源截圖
福利資源截圖

福利資源截圖
福利資源截圖

福利資源截圖
福利資源截圖

福利資源截圖
福利資源截圖

福利資源截圖
福利資源截圖

福利資源截圖
福利資源截圖

重要的事情說兩遍,獲取方式: 關注公眾號: 小哈學Java, 後臺回覆 資源,既可獲取資源連結 !!!

歡迎關注微信公眾號: 小哈學Java

小哈學Java
小哈學Java

相關文章