数据库易用的MySQL官方压测工具

    作者:佚名更新于: 2021-07-12 17:16:56

    简单、易用的MySQL官方压测工具,建议收藏!严格来说,数据库是长期储存在计算机内、有组织的、可共享的数据集合。数据库中的数据指的是以一定的数据模型组织、描述和储存在一起、具有尽可能小的冗余度、较高的数据独立性和易扩展性的特点并可在一定范围内为多个用户共享。

    mysqlslap为mysql性能优化前后提供了直观的验证依据,系统运维和DBA人员应该掌握一些常见的压力测试工具,才能准确的掌握线上数据库支撑的用户流量上限及其抗压性等问题。

    数据库易用的MySQL官方压测工具

     一、MySQL自带的压力测试工具 Mysqlslap

    mysqlslap是mysql自带的基准测试工具,该工具查询数据,语法简单,灵活容易使用.该工具可以模拟多个客户端同时并发的向服务器发出查询更新,给出了性能测试数据而且提供了多种引擎的性能比较。mysqlslap为mysql性能优化前后提供了直观的验证依据,系统运维和DBA人员应该掌握一些常见的压力测试工具,才能准确的掌握线上数据库支撑的用户流量上限及其抗压性等问题。

    1、更改其默认的最大连接数

    在对MySQL进行压力测试之前,需要更改其默认的最大连接数,如下:

    1. [root@mysql ~]# vim /etc/my.cnf  
    2. ................  
    3. [mysqld]  
    4. max_connections=1024  
    5. [root@mysql ~]# systemctl restart mysqld 

    查看最大连接数

    1. mysql> show variables like 'max_connections';  
    2. +-----------------+-------+  
    3. | Variable_name   | Value |  
    4. +-----------------+-------+  
    5. | max_connections | 1024  |  
    6. +-----------------+--------+  
    7. 1 row in set (0.00 sec) 

    进行压力测试:

    1. [root@mysql ~]# mysqlslap --defaults-file=/etc/my.cnf --concurrency=100,200 --iterations=1 --number-int-cols=20 --number-char-cols=30 \\  
    2. --auto-generate-sql --auto-generate-sql-add-autoincrement --auto-generate-sql-load-type=mixed --engine=myisam,innodb --number-of-queries=2000 -uroot -p123 --verbose 

    上述命令测试说明:模拟测试两次读写并发,第一次100,第二次200,自动生成SQL脚本,测试表包含20个init字段,30个char字段,每次执行2000查询请求。测试引擎分别是myisam,innodb。(上述选项中有很多都是默认值,可以省略,如果想要了解各个选项的解释,可以使用mysqlslap --help进行查询)。

    测试结果说明:

    •  Myisam第一次100客户端同时发起增查用0.557/s,第二次200客户端同时发起增查用0.522/s
    •  Innodb第一次100客户端同时发起增查用0.256/s,第二次200客户端同时发起增查用0.303/s

    可以根据实际需求,一点点的加大并发数量进行压力测试。

    二、使用第三方sysbench工具进行压力测试

    1、安装sysbench工具

    1. [root@mysql ~]# yum -y install epel-release #安装第三方epel源  
    2. [root@mysql ~]# yum -y install sysbench #安装sysbench工具  
    3. [root@mysql ~]# sysbench --version #确定工具已安装  
    4. sysbench 1.0.17 

    sysbench可以进行以下测试:

    •  CPU 运算性能测试
    •  磁盘 IO 性能测试
    •  调度程序性能测试
    •  内存分配及传输速度测试
    •  POSIX 线程性能测试

    数据库性能测试(OLTP 基准测试,需要通过 /usr/share/sysbench/ 目录中的 Lua 脚本执行,例如 oltp_read_only.lua 脚本执行只读测试)。

    sysbench 还可以通过运行命令时指定自己的 Lua 脚本来自定义测试。

    2、查看sysbench工具的帮助选项

    1. [root@mysql ~]# sysbench --help  
    2. Usage:  
    3. sysbench [options]... [testname] [command]  
    4. Commands implemented by most tests: prepare run cleanup help # 可用的命令,四个  
    5. General options: # 通用选项  
    6. --threads=N 要使用的线程数,默认 1 个 [1]  
    7. --events=N 最大允许的事件个数 [0]  
    8. --time=N 最大的总执行时间,以秒为单位 [10]  
    9. --forced-shutdown=STRING 在 --time 时间限制到达后,强制关闭之前等待的秒数,默认“off”禁用(number of seconds to wait after the --time limit before forcing shutdown, or 'off' to disable) [off] 
    10. --thread-stack-size=SIZE 每个线程的堆栈大小 [64K]  
    11. --rate=N 平均传输速率。0 则无限制 [0]  
    12. --report-interval=N 以秒为单位定期报告具有指定间隔的中间统计信息 0 禁用中间报告 [0]  
    13. --report-checkpoints=[LIST,...] 转储完整的统计信息并在指定的时间点重置所有计数器。参数是一个逗号分隔的值列表,表示从测试开始经过这个时间量时必须执行报告检查点(以秒为单位)。报告检查点默认关闭。 [] 
    14. --debug[=on|off] 打印更多 debug 信息 [off]  
    15. --validate[=on|off] 尽可能执行验证检查 [off]  
    16. --help[=on|off] 显示帮助信息并退出 [off]  
    17. --version[=on|off] 显示版本信息并退出 [off]  
    18. --config-file=FILENAME 包含命令行选项的文件  
    19. --tx-rate=N 废弃,改用 --rate [0]  
    20. --max-requests=N 废弃,改用 --events [0]  
    21. --max-time=N 废弃,改用 --time [0]  
    22. --num-threads=N 废弃,改用 --threads [1]  
    23. Pseudo-Random Numbers Generator options: # 伪随机数发生器选项  
    24. --rand-type=STRING random numbers distribution {uniform,gaussian,special,pareto} [special]  
    25. --rand-spec-iter=N number of iterations used for numbers generation [12]  
    26. --rand-spec-pct=N percentage of values to be treated as 'special' (for special distribution) [1]  
    27. --rand-spec-res=N percentage of 'special' values to use (for special distribution) [75]  
    28. --rand-seed=N seed for random number generator. When 0, the current time is used as a RNG seed. [0]  
    29. --rand-pareto-h=N parameter h for pareto distribution [0.2]  
    30. Log options: # 日志选项  
    31. --verbosity=N verbosity level {5 - debug, 0 - only critical messages} [3]  
    32. --percentile=N percentile to calculate in latency statistics (1-100). Use the special value of 0 to disable percentile calculations [95]  
    33. --histogram[=on|off] print latency histogram in report [off]  
    34. General database options: # 通用的数据库选项  
    35. --db-driver=STRING 指定要使用的数据库驱动程序 ('help' to get list of available drivers)  
    36. --db-ps-mode=STRING prepared statements usage mode {auto, disable} [auto]  
    37. --db-debug[=on|off] print database-specific debug information [off]  
    38. Compiled-in database drivers: # 內建的数据库驱动程序,默认支持 MySQL 和 PostgreSQL  
    39. mysql - MySQL driver  
    40. pgsql - PostgreSQL driver  
    41. mysql options: # MySQL 数据库专用选项  
    42. --mysql-host=[LIST,...] MySQL server host [localhost]  
    43. --mysql-port=[LIST,...] MySQL server port [3306]  
    44. --mysql-socket=[LIST,...] MySQL socket  
    45. --mysql-user=STRING MySQL user [sbtest]  
    46. --mysql-password=STRING MySQL password []  
    47. --mysql-db=STRING MySQL database name [sbtest]  
    48. --mysql-ssl[=on|off] use SSL connections, if available in the client library [off]  
    49. --mysql-ssl-cipher=STRING use specific cipher for SSL connections []  
    50. --mysql-compression[=on|off] use compression, if available in the client library [off]  
    51. --mysql-debug[=on|off] trace all client library calls [off]  
    52. --mysql-ignore-errors=[LIST,...] list of errors to ignore, or "all" [1213,1020,1205]  
    53. --mysql-dry-run[=on|off] Dry run, pretend that all MySQL client API calls are successful without executing them [off]  
    54. pgsql options: # PostgreSQL 数据库专用选项  
    55. --pgsql-host=STRING PostgreSQL server host [localhost]  
    56. --pgsql-port=N PostgreSQL server port [5432]  
    57. --pgsql-user=STRING PostgreSQL user [sbtest]  
    58. --pgsql-password=STRING PostgreSQL password []  
    59. --pgsql-db=STRING PostgreSQL database name [sbtest]  
    60. Compiled-in tests: # 內建测试类型  
    61. fileio - File I/O test  
    62. cpu - CPU performance test  
    63. memory - Memory functions speed test  
    64. threads - Threads subsystem performance test  
    65. mutex - Mutex performance test  
    66. See 'sysbench <testname> help' for a list of options for each test. 

    3、sysbench测试MySQL数据库性能

    1)准备测试数据

    1. #查看sysbench自带的lua脚本使用方法  
    2. [root@mysql ~]# sysbench /usr/share/sysbench/oltp_common.lua help  
    3. #必须创建sbtest库,sbtest是sysbench默认使用的库名  
    4. [root@mysql ~]# mysqladmin -uroot -p123 create sbtest;  
    5. #然后,准备测试所用的表,这些测试表放在测试库sbtest中。这里使用的lua脚本为/usr/share/sysbench/oltp_common.lua。 
    6. [root@mysql ~]# sysbench --mysql-host=127.0.0.1 \\  
    7. --mysql-port=3306 \\  
    8. --mysql-user=root \\  
    9. --mysql-password=123 \\  
    10. /usr/share/sysbench/oltp_common.lua \\  
    11. --tables=10 \\  
    12. --table_size=100000 \\  
    13. prepare  
    14. #其中--tables=10表示创建10个测试表,  
    15. #--table_size=100000表示每个表中插入10W行数据,  
    16. #prepare表示这是准备数的过程。 

    2)确认测试数据以存在

    1. [root@mysql ~]# mysql -uroot -p123 sbtest; #登录到sbtest库  
    2. mysql> show tables; #查看相应的表  
    3. +------------------+  
    4. | Tables_in_sbtest |  
    5. +------------------+  
    6. | sbtest1 |  
    7. | sbtest10 |  
    8. | sbtest2 |  
    9. | sbtest3 |  
    10. | sbtest4 |  
    11. | sbtest5 | 
    12. | sbtest6 |  
    13. | sbtest7 |  
    14. | sbtest8 |  
    15. | sbtest9 |  
    16. +------------------+ 
    17. 10 rows in set (0.00 sec)  
    1. mysql> select count(*) from sbtest1; #随机选择一个表,确认其有100000条数据  
    2. +----------+  
    3. | count(*) |  
    4. +----------+  
    5. | 100000 |  
    6. +----------+  
    7. 1 row in set (0.01 sec) 

    3)数据库测试和结果分析

    稍微修改下之前准备数据的语句,就可以拿来测试了。需要注意的是,之前使用的lua脚本为oltp_common.lua,它是一个通用脚本,是被其它lua脚本调用的,它不能直接拿来测试。

    所以,我这里用oltp_read_write.lua脚本来做读、写测试。还有很多其它类型的测试,比如只读测试、只写测试、删除测试、大批量插入测试等等。可找到对应的lua脚本进行调用即可。

    #执行测试命令如下:

    1. [root@mysql ~]# sysbench --threads=4 \\  
    2. --time=20 \\  
    3. --report-interval=5 \\  
    4. --mysql-host=127.0.0.1 \\  
    5. --mysql-port=3306 \\  
    6. --mysql-user=root \\  
    7. --mysql-password=123 \\  
    8. /usr/share/sysbench/oltp_read_write.lua \\  
    9. --tables=10 \\  
    10. --table_size=100000 \\  
    11. run 

    上述命令返回的结果如下:

    1. [root@mysql ~]# sysbench --threads=4 --time=20 --report-interval=5 --mysql-host=127.0.0.1 --mysql-port=3306 --mysql-user=root --mysql-password=123 /usr/share/sysbench/oltp_read_write.lua --tables=10 --table_size=100000 run 
    2. sysbench 1.0.17 (using system LuaJIT 2.0.4)  
    3. Running the test with following options:  
    4. Number of threads: 4  
    5. Report intermediate results every 5 second(s)  
    6. Initializing random number generator from current time  
    7. Initializing worker threads...  
    8. Threads started!  
    9. #以下是每5秒返回一次的结果,统计的指标包括:  
    10. # 线程数、tps(每秒事务数)、qps(每秒查询数)、  
    11. # 每秒的读/写/其它次数、延迟、每秒错误数、每秒重连次数  
    12. [ 5s ] thds: 4 tps: 1040.21 qps: 20815.65 (r/w/o: 14573.17/4161.25/2081.22) lat (ms,95%): 7.17 err/s: 0.00 reconn/s: 0.00  
    13. [ 10s ] thds: 4 tps: 1083.34 qps: 21667.15 (r/w/o: 15165.93/4334.55/2166.68) lat (ms,95%): 6.55 err/s: 0.00 reconn/s: 0.00  
    14. [ 15s ] thds: 4 tps: 1121.57 qps: 22429.09 (r/w/o: 15700.64/4485.30/2243.15) lat (ms,95%): 6.55 err/s: 0.00 reconn/s: 0.00  
    15. [ 20s ] thds: 4 tps: 1141.69 qps: 22831.98 (r/w/o: 15982.65/4566.16/2283.18) lat (ms,95%): 6.09 err/s: 0.00 reconn/s: 0.00  
    16. SQL statistics:  
    17. queries performed:  
    18. read: 307146 # 执行的读操作数量  
    19. write: 87756 # 执行的写操作数量  
    20. other: 43878 # 执行的其它操作数量  
    21. total: 438780  
    22. transactions: 21939 (1096.57 per sec.) # 执行事务的平均速率  
    23. queries: 438780 (21931.37 per sec.) # 平均每秒能执行多少次查询  
    24. ignored errors: 0 (0.00 per sec.)  
    25. reconnects: 0 (0.00 per sec.)  
    26. General statistics:  
    27. total time: 20.0055s # 总消耗时间  
    28. total number of events: 21939 # 总请求数量(读、写、其它)  
    29. Latency (ms):  
    30. min: 1.39  
    31. avg: 3.64  
    32. max: 192.05  
    33. 95th percentile: 6.67 # 采样计算的平均延迟  
    34. sum: 79964.26  
    35. Threads fairness:  
    36. events (avg/stddev): 5484.7500/15.12  
    37. execution time (avg/stddev): 19.9911/0.00 

    4、cpu/io/内存等测试

    sysbench内置的几个测试指标如下:

    1. [root@mysql ~]# sysbench --help  
    2. .......... # 省略部分内容  
    3. Compiled-in tests:  
    4. fileio - File I/O test  
    5. cpu - CPU performance test  
    6. memory - Memory functions speed test  
    7. threads - Threads subsystem performance test  
    8. mutex - Mutex performance test 

    可以直接help输出测试方法,例如,fileio测试:

    1. [root@mysql ~]# sysbench fileio help  
    2. sysbench 1.0.17 (using system LuaJIT 2.0.4)  
    3. fileio options:  
    4. --file-num=N number of files to create [128]  
    5. --file-block-size=N block size to use in all IO operations [16384]  
    6. --file-total-size=SIZE total size of files to create [2G]  
    7. --file-test-mode=STRING test mode {seqwr, seqrewr, seqrd, rndrd, rndwr, rndrw}  
    8. --file-io-mode=STRING file operations mode {sync,async,mmap} [sync]  
    9. --file-async-backlog=N number of asynchronous operatons to queue per thread [128]  
    10. --file-extra-flags=[LIST,...] list of additional flags to use to open files {sync,dsync,direct} []  
    11. --file-fsync-freq=N do fsync() after this number of requests (0 - don't use fsync()) [100]  
    12. --file-fsync-all[=on|off] do fsync() after each write operation [off] 
    13. --file-fsync-end[=on|off] do fsync() at the end of test [on]  
    14. --file-fsync-mode=STRING which method to use for synchronization {fsync, fdatasync} [fsync] 
    15. --file-merged-requests=N merge at most this number of IO requests if possible (0 - don't merge) [0]  
    16. --file-rw-ratio=N reads/writes ratio for combined test [1.5] 

    1)测试io性能

    例如,创建5个文件,总共2G,每个文件大概400M。

    1. [root@mysql ~]# sysbench fileio --file-num=5 --file-total-size=2G prepare  
    2. [root@mysql ~]# ll -lh test*  
    3. -rw------- 1 root root 410M May 26 16:05 test_file.0  
    4. -rw------- 1 root root 410M May 26 16:05 test_file.1  
    5. -rw------- 1 root root 410M May 26 16:05 test_file.2  
    6. -rw------- 1 root root 410M May 26 16:05 test_file.3  
    7. -rw------- 1 root root 410M May 26 16:05 test_file.4 

    然后运行测试:

    1. [root@mysql ~]# sysbench --events=5000 \\  
    2. --threads=16 \\  
    3. fileio \\  
    4. --file-num=5 \\  
    5. --file-total-size=2G \\  
    6. --file-test-mode=rndrw \\  
    7. --file-fsync-freq=0 \\  
    8. --file-block-size=16384 \\  
    9. run 

    返回的结果如下:

    1. Running the test with following options:  
    2. Number of threads: 16  
    3. Initializing random number generator from current time  
    4. Extra file open flags: (none)  
    5. 5 files, 409.6MiB each  
    6. 2GiB total file size  
    7. Block size 16KiB  
    8. Number of IO requests: 5000  
    9. Read/Write ratio for combined random IO test: 1.50  
    10. Calling fsync() at the end of test, Enabled.  
    11. Using synchronous I/O mode  
    12. Doing random r/w test  
    13. Initializing worker threads...  
    14. Threads started!  
    15. File operations:  
    16. reads/s: 9899.03  
    17. writes/s: 6621.38  
    18. fsyncs/s: 264.33  
    19. Throughput: # 吞吐量  
    20. read, MiB/s: 154.66 #表示读带宽  
    21. written, MiB/s: 103.46 #表示写的带宽  
    22. General statistics:  
    23. total time: 0.3014s  
    24. total number of events: 5000  
    25. Latency (ms):  
    26. min: 0.00  
    27. avg: 0.81  
    28. max: 53.56  
    29. 95th percentile: 4.10  
    30. sum: 4030.48  
    31. Threads fairness:  
    32. events (avg/stddev): 312.5000/27.64  
    33. execution time (avg/stddev): 0.2519/0.02 

    2)测试cpu性能

    1. [root@mysql ~]# sysbench cpu --threads=40 --events=10000 --cpu-max-prime=20000 run 

    压测时,还请小心谨慎!!!!

    数据库(Database)是按照 数据结构来组织、 存储和管理数据的建立在计算机存储设备上的仓库。
    简单来说是本身可视为 电子化的文件柜——存储电子 文件的处所,用户可以对文件中的数据进行新增、截取、更新、删除等操作。

课课家教育

未登录