通過sysbench工具實現MySQL資料庫的效能測試

東山絮柳仔發表於2019-07-25
MySql資料庫

1.背景

 sysbench是一款壓力測試工具，可以測試系統的硬體效能，也可以用來對資料庫進行基準測試。sysbench 支援的測試有CPU運算效能測試、記憶體分配及傳輸速度測試、磁碟IO效能測試、POSIX執行緒效能測試、互斥性測試測試、資料庫效能測試(OLTP基準測試)。目前支援的資料庫主要是MySQL資料庫和PG資料庫。

在新伺服器上線時，建議對伺服器的效能做一次測試，最好與既往的同型別的伺服器的效能測試報表做一個橫線比較，發現潛在問題。及新機器上線前，對伺服器做一次體檢。

對資料庫而言，我們可以通過sysbench工具實現對資料庫的基準測試。在現在的系統架構中，前端都比較容易彈性水平擴充，資料庫相對較難，因此，基準測試對資料庫具有很重要的作用。而對資料庫的基準測試的作用，就是分析在當前的配置下（包括硬體配置、OS、資料庫設定等），資料庫的效能表現，從而找出MySQL的效能閾值，並根據實際系統的要求調整配置。

2.sysbench的安裝

1）安裝命令

yum -y install sysbench

2）檢視安裝的版本

sysbench --version

3）檢視已安裝軟體的資訊（主要是通 rpm 命令）。

 查詢sysbench的安裝資訊，主要是測試mysql時，需要使用sysbench自帶的lua指令碼進行測試。如果使用快速安裝的方式，預設的指令碼路徑為：/usr/share/sysbench。

 如果不在這個命令，我們我們執行以下命令檢視，查詢已安裝在本機Linux系統上面的所有的sysbench軟體的程式：

rpm -qa sysbench

列出該軟體所有的檔案與目錄所在完整檔名（list）：

rpm -ql sysbench

3.sysbench 語法

sysbench --help
Usage:
  sysbench [options]... [testname] [command]

Commands implemented by most tests: prepare run cleanup help

General options:
  --threads=N                     number of threads to use [1]
  --events=N                      limit for total number of events [0]
  --time=N                        limit for total execution time in seconds [10]
  --forced-shutdown=STRING        number of seconds to wait after the --time limit before forcing shutdown, or 'off' to disable [off]
  --thread-stack-size=SIZE        size of stack per thread [64K]
  --rate=N                        average transactions rate. 0 for unlimited rate [0]
  --report-interval=N             periodically report intermediate statistics with a specified interval in seconds. 0 disables intermediate reports [0]
  --report-checkpoints=[LIST,...] dump full statistics and reset all counters at specified points in time. The argument is a list of comma-separated values representing the amount of time in seconds elapsed from start of test when report checkpoint(s) must be performed. Report checkpoints are off by default. []
  --debug[=on|off]                print more debugging info [off]
  --validate[=on|off]             perform validation checks where possible [off]
  --help[=on|off]                 print help and exit [off]
  --version[=on|off]              print version and exit [off]
  --config-file=FILENAME          File containing command line options
  --tx-rate=N                     deprecated alias for --rate [0]
  --max-requests=N                deprecated alias for --events [0]
  --max-time=N                    deprecated alias for --time [0]
  --num-threads=N                 deprecated alias for --threads [1]

Pseudo-Random Numbers Generator options:
  --rand-type=STRING random numbers distribution {uniform,gaussian,special,pareto} [special]
  --rand-spec-iter=N number of iterations used for numbers generation [12]
  --rand-spec-pct=N  percentage of values to be treated as 'special' (for special distribution) [1]
  --rand-spec-res=N  percentage of 'special' values to use (for special distribution) [75]
  --rand-seed=N      seed for random number generator. When 0, the current time is used as a RNG seed. [0]
  --rand-pareto-h=N  parameter h for pareto distribution [0.2]

Log options:
  --verbosity=N verbosity level {5 - debug, 0 - only critical messages} [3]

  --percentile=N       percentile to calculate in latency statistics (1-100). Use the special value of 0 to disable percentile calculations [95]
  --histogram[=on|off] print latency histogram in report [off]

General database options:

  --db-driver=STRING  specifies database driver to use ('help' to get list of available drivers) [mysql]
  --db-ps-mode=STRING prepared statements usage mode {auto, disable} [auto]
  --db-debug[=on|off] print database-specific debug information [off]


Compiled-in database drivers:
  mysql - MySQL driver
  pgsql - PostgreSQL driver

mysql options:
  --mysql-host=[LIST,...]          MySQL server host [localhost]
  --mysql-port=[LIST,...]          MySQL server port [3306]
  --mysql-socket=[LIST,...]        MySQL socket
  --mysql-user=STRING              MySQL user [sbtest]
  --mysql-password=STRING          MySQL password []
  --mysql-db=STRING                MySQL database name [sbtest]
  --mysql-ssl[=on|off]             use SSL connections, if available in the client library [off]
  --mysql-ssl-cipher=STRING        use specific cipher for SSL connections []
  --mysql-compression[=on|off]     use compression, if available in the client library [off]
  --mysql-debug[=on|off]           trace all client library calls [off]
  --mysql-ignore-errors=[LIST,...] list of errors to ignore, or "all" [1213,1020,1205]
  --mysql-dry-run[=on|off]         Dry run, pretend that all MySQL client API calls are successful without executing them [off]

pgsql options:
  --pgsql-host=STRING     PostgreSQL server host [localhost]
  --pgsql-port=N          PostgreSQL server port [5432]
  --pgsql-user=STRING     PostgreSQL user [sbtest]
  --pgsql-password=STRING PostgreSQL password []
  --pgsql-db=STRING       PostgreSQL database name [sbtest]

Compiled-in tests:
  fileio - File I/O test
  cpu - CPU performance test
  memory - Memory functions speed test
  threads - Threads subsystem performance test
  mutex - Mutex performance test

 

基本語法如下：

sysbench [options]... [testname] [command]

command 是sysbench要執行的命令，包括prepare、run和cleanup。prepare是為測試提前準備資料，run是執行正式的測試，cleanup是在測試完成後對資料庫進行清理

testname  指定了要進行的測試，在老版本的sysbench中，可以通過--test引數指定測試的指令碼；而在新版本中，--test引數已經宣告為廢棄，可以不使用--test，而是直接指定指令碼。測試時使用的指令碼為lua指令碼，可以使用sysbench自帶指令碼，也可以自己開發。

options 關於MySQL的主要包括MySQL 連線資訊引數 和 MySQL 執行相關的引數。

4 測試 

Step 1 準備壓測資料

sysbench /usr/share/sysbench/oltp_insert.lua  --mysql-host=XXX.XXX.XXX.XXX  --mysql-port=3306 --mysql-user=testsbuser  --mysql-password='textpwd' --mysql-db=tssysbench --db-driver=mysql  --tables=15  --table-size=500000  --report-interval=10 --threads=128   --time=120 prepare

step 2  壓測

sysbench /usr/share/sysbench/oltp_insert.lua  --mysql-host=XXX.XXX.XXX.XXX  --mysql-port=3306 --mysql-user=testsbuser  --mysql-password='textpwd' --mysql-db=tssysbench --db-driver=mysql  --tables=15  --table-size=500000  --report-interval=10 --threads=128   --time=120 run

也可以將測試結果匯出到檔案中，便於後續分析。

 sysbench /usr/share/sysbench/oltp_insert.lua  --mysql-host=XXX.XXX.XXX.XXX  --mysql-port=3306 --mysql-user=testsbuser  --mysql-password='testpwd' --mysql-db=tssysbench --db-driver=mysql  --tables=15  --table-size=500000  --report-interval=10 --threads=128   --time=120 run >> ./mysysbench.log

step 3 清理壓測資料

sysbench /usr/share/sysbench/oltp_insert.lua  --mysql-host=XXX.XXX.XXX.XXX  --mysql-port=3306 --mysql-user=testsbuser  --mysql-password='testpwd' --mysql-db=tssysbench --db-driver=mysql  --tables=15  --table-size=500000  --report-interval=10 --threads=128   --time=120 cleanup

補充

OLTP基準測試模擬了一個簡單的事務處理系統的工作負載。若要對資料庫效能進行測試就要使用OLTP相關的指令碼。

在/usr/share/sysbench/目錄下有相關的lua指令碼：

壓測結果中包含了很多的資訊，其中重點需要我們關注的資訊是：
A：總的事務數 （total number of events）；
B：每秒事務數；
C：時間統計資訊（最小，平均，最大響應時間，以及95%百分比響應時間）；
D：執行緒公平性統計資訊，表示負載的公平性（thread-fairness)。

5.注意事項

(1) 測試資料庫需要提前建立，及時測試賬號擁有建立資料庫的許可權。

     --mysql-db 引數指定了測試的資料，預設是sbtest。

    不提前建立，報錯資訊如下;

FATAL: `sysbench.cmdline.call_command' function failed: /usr/share/sysbench/oltp_common.lua:83: connection creation failed
(last message repeated 3 times)
FATAL: error 1049: Unknown database 'sysbench_db'
FATAL: `sysbench.cmdline.call_command' function failed: /usr/share/sysbench/oltp_common.lua:83: connection creation failed
FATAL: unable to connect to MySQL server on host 'XXX.XXX.XXX.XXX', port 3306, aborting...
(last message repeated 1 times)
FATAL: error 1049: Unknown database 'sysbench_db'
(last message repeated 1 times)

或是（不指定資料庫）

FATAL: `sysbench.cmdline.call_command' function failed: /usr/share/sysbench/oltp_common.lua:83: connection creation failed
FATAL: error 1049: Unknown database 'sbtest'
FATAL: unable to connect to MySQL server on host 'XXX.XXX.XXX.XXX', port 3306, aborting...

（2）不要在MySQL伺服器執行的機器上進行測試，一方面可能無法體現網路（哪怕是區域網）的影響，另一方面，sysbench的執行（尤其是設定的併發數較高時）會影響MySQL伺服器的表現.

（3）逐步增加客戶端的併發連線數（--thread引數），觀察在連線數不同情況下，MySQL伺服器的表現。

（4）如果連續進行多次測試，注意確保之前測試的資料已經被清理乾淨。

（5）如果生成的報告，圖形化分析，可以通過gnuplot工具進行分析。

相關文章