Mysql工具集

果果、

　　性能测试工具-MysqlBench
　　背景
　　在mysql性能调研和分布式数据库测试过程中，需要评估mysql某些方面的性能情况，如果单纯使用mysql自带的性能查看工具和命令，如mysqladmin、show innoDB status等，显然不能满足需求，无法得到所有的数据，如QPS、latency虽然可以通过参数值来计算得到，但不够自动化，并且如果需要得到大量实验数据时，手工计算是一种笨拙的方式。
　　使用方式
　　基本配置
　　MysqlBench.php需要配置基本信息：

　　$ip、$username、$password、$port、$database、$table分别对应数据库的ip、用户名、密码、端口、执行操作的database、执行性能测试的表名（可替换为自定义的表名，注意如果column与MysqlBench的不一致，需要自行修改）。
　　$logfile指定记录操作原始信息的文件，在分析结果时会使用到该文件
　　$resultfile分析结果保存到的文件
　　$fd数据库句柄，不用理会
　　$startID对应query操作时的起始ID
　　执行测试
　　可以直接运行php MysqlBench.php –h，查看下帮助信息，如下：

　　–h
　　php MysqlBench.php –h：输出帮助信息
　　–p
　　php MysqlBench.php –p type value num [allNum=?] [log=?] [item=?] [table=?] [startID=?] [logfile=?]：启动压力
　　1. type【必选】：目前支持5种方式：insert、update、select、delete、prepareInsert，其中prepareInsert用于快速插入而不关注insert性能状况的情况，一般来说type为prepareInsert时，log参数应该赋值为false，避免日志记录操作。
　　2. value【必选】：目前可支持1K、10K、100K、1M、10M，MysqlBench会随机生成对应大小的string并保存在大数据字段中，如默认的content字段，或其他column，这个可自定义。
　　3. num【必选】：支持所有正整数，即query的数量。当如果指定了allNum，则num需要不大于allNum。对于insert和prepareInsert操作，采用的是顺序插入的方式，id从$startID到num+$startID；而对于update和select操作，采用随机的方式，随机id范围为$startID到num+$startID，遇到重复的id不跳过；对于delete操作，也是采用随机的方式，但剔除重复的id，随机id范围为$startID到num+$startID，故执行delete请求时，强烈建议指定allNum，且最好allNum>=10*num，已包装重复的id不会太多，影响测试准确些。
　　4. allNum【可选】：指定table中一共有多少数据，强烈建议allNum的数量>=10*num，即query的数量至多为总数据量的1/10。默认值allNum=num
　　5. log【可选】：是否记录每条query的耗时时间，例如你仅仅想了解select的耗时，那在灌数据的时候，就可以指定log=false。默认值为log=true。耗时信息保存在$logfile中。
　　6. item【可选】：指定select大数据字段（1K、1M这些）或小数据字段（几十个字节），仅对select操作有效。默认值为item=large，还可取值small。
　　7. table【可选】：指定操作的table名，默认值为基本配置中的$table变量值。
　　8. startID【可选】：指定Query的起始id，默认值为基本配置中的$startID的值，多组实验时为了避免干扰，采用不同的id范围时这个参数就能起到隔离的作用。
　　9. logfile【可选】：指定log文件名，记录耗时信息。批量执行不同case时，需要指定不同的log文件，否则MysqlBench都会将耗时信息输出到基本配置中的$logfile指定的文件中。
　　–t/–d
　　php MysqlBench.php –t [table=?] [analyse=?] [ip=?] [port=?] [logfile=?]：清空表
　　php MysqlBench.php –d [table=?] [analyse=?] [ip=?] [port=?] [logfile=?]：删除表
　　1. table【可选】：指定truncate或drop的table名，默认值为基本配置中的$table变量值。
　　2. analyse【可选】：指定是否记录耗时时间。默认值为false。
　　3. ip、port【可选】：指定数据库的ip和port，默认值为基本配置中的ip、port对应值，这个在ddbs时有应用，因为dbproxy不支持drop和truncate table操作，故需要穿透直连后端数据库，故ip和port需要另外指定。
　　4. logfile【可选】：指定log文件名，记录耗时信息。默认值为基本配置中对应值。
　　–a
　　php MysqlBench.php [logfile=?] [resultfile=?]：分析logfile文件，产出QPS、latency等数据，输出到resultfile。
　　1. logfile【可选】：指定需要分析的log文件名。默认值为基本配置中对应值。
　　2. resultfile【可选】：分析结果保存文件，默认值为基本配置中的$resultfile值。
　　效果展示
　　Logfile文件为原始数据文件，每一行为每个query的耗时，如：

　　resultfile为分析结果文件，根据原始信息计算了QPS，平均耗时，latency区间，并可以直接看出是否有长耗时，如：

　　Result文件可直接ctrl+c & ctrl+v到excel中，如：

　　通过excel自带工具可生成图表，可以更直观的分析测试结果，如：

　　功能测试工具-AutoSQL
　　概述
　　功能测试工具AutoSQL用于SQL命令分发以及结果校验，不仅适用分布式数据库，也适合单机mysql，可以认为它就是带校验功能的一个mysql应用。
　　如何使用
　　你只需要根据规定的文件格式组织SQL命令和预期结果，通过php AutoSQL.php command.sql expect.result就可以自动化执行SQL命令，并与预期结果校验。
　　命令格式
　　通过php AutoSQL.php -h 可以获知AutoSQL工具可以支持的命令列表，如下：
　　php AutoSQL.php [command]
　　command:
　　-h print this usage
　　query_file expect_file
　　query_file store sql command, file pattern: case_name##sql command##
　　expect_file store expected result of query, file pattern: case_name##query fail or not##[NOCHECK##]effect rows[##ORDER(result order)]##false(insert,update,delete,replace) or result num(select)##row1##row2##...##
　　-r [-d pathname]: run cases in the path, default is current directory.
　　-c [-d logpath]: check run result from log files, default is log directory in current directory
　　如上所述，具体说明如下：
　　1. 执行单个文件：php AutoSQL.php query_file expect_file，文件格式见下文
　　2. 执行某个文件夹下的所有command文件：php AutoSQL.php -r -d pathname，支持绝对路径和相对路径，默认为当前路径
　　3. 批量查看case是否执行成功：php AutoSQL.php -c -d logpath，指定logs目录，自动化工具会列出所有fail的test suite和case，并展示在前台，默认为当前路径下的log目录
　　文件格式
　　query_file
　　query_file的格式如下：
　　case_name##sql command##
　　各个参数说明如下：
　　case_name： case名
　　sql command：sql命令，sql command的命令格式与mysql官方规定的一致。
　　例子：
　　case0##delete from singleC;##
　　case1##insert singleC (cID) values (30000), (30001);##
　　case2##select * from singleC;##
　　首先case0清空singleC表，然后case1插入两条记录，然后case2查询表singleC，确认记录是否插入成功
　　expect_file
　　expect_file的格式如下：
　　case_name##query fail or not##[NOCHECK##]effect rows[##ORDER(result order)]##false(insert, update,delete,replace) or result num(select)##row1##row2##...##
　　各个参数说明如下：
　　case_name：case名，与query_file中的case_name一一对应
　　query fail or not：命令预期执行失败与否
　　NOCHECK：该选项指明只需判断query是否正常，不判断结果
　　effect rows：insert、delete、update、replace操作时受影响的行数，select操作时effect rows为-1
　　ORDER(result order)：该选项只适合于select操作，配置为ORDER时，select结果要求与预期的结果完全一致，包括顺序。不指定ORDER时，select结果与预期结果内容一致即可，顺序不考虑。
　　false(insert,update,delete,replace) or result num(select)：select操作时为返回的结果行数，insert、update、delete、replace时为false
　　row1##row2##...##：每行的预期内容，一行中每个字段以逗号(,)分隔。
　　例子：
　　case0##true##NOCHECK##
　　case1##true##2##false##
　　case2##true##-1##2##30000,,,vincent,100##30001,,,vincent,100##
　　case0带NOCHECK，仅判断query是否成功，case1插入两条记录的作用是effected rows为2，case2查询出2两条记录，为case1插入的记录
　　帮助
　　mail：qablog@baidu.com
　　(baiduqa，留下邮箱：qablog@baidu.com)
【本文转自百度测试技术空间】http://hi.baidu.com/baiduqa/blog/item/13920ec01ebde90e0ef477a5.html【关注百度技术沙龙】