SQL自动审核-自助上线平台

mrbear

　　为了让DBA从日常繁琐的工作中解放出来，通过SQL自助平台，可以让开发自上线，开发提交SQL后就会自动返回优化建议，无需DBA的再次审核，从而提升上线效率，有利于建立数据库开发规范。
　　借鉴了去哪网Inception的思路并且把美团网SQLAdvisor（索引优化建议）集成在一起，并结合了之前写的《DBA的40条军规》纳入了审核规则里，用PHP实现。目前在我公司内部使用。
　　SQL自动审核主要完成两方面目的：
　　1、避免性能太差的SQL进入生产系统，导致整体性能降低。
　　2、检查开发设计的索引是否合理，是否需要添加索引。
　　思路其实很简单:
　　1、获取开发提交的SQL
　　2、对要执行的SQL做分析，触碰事先定义好的规则来判断这个SQL是否可以自动审核通过，未通过审核的需要人工处理。
　　下面是首页界面：

　　使用说明：
　　1、针对select/insert/update/create/alter加了规则，delete需要审批。

　　2、语句之间要有空格，例where>　　3、SQL语句后面要加分号; MySQL解析器规定分号才可以执行SQL。
　　4、反引号`会造成上线失败，需要用文本编辑器替换掉。
　　5、支持多条SQL解析，用一个分号;分割。例如：
　　insert into t1 values(1,'a');
　　insert into t1 values(2,'b');
　　6、JSON格式里的双引号要用反斜杠进行转义，例如：{\"dis_text\":\"nba\"}。
　　
　　

• 　　SELECT审核
  

　　1、开发人员可以直接将SQL语句提交到平台进行风险评估
　　2、平台对SQL语句进行分析，自动给出其不符合开发规范的改进意见
　　3、适用场景：应用开发阶段
　　检查项：
1、select * 是否有必要查询所有的字段？　　
2、警告！没有where条件，注意where后面的字段要加上索引
　　
3、没有limit会查询更多的数据
　　
4、警告！子查询性能低下，请转为join表关联
　　
5、提示：in里面的数值不要超过1000个
　　
6、提示：采用join关联，注意关联字段要都加上索引，如on a.id=b.id
　　
7、提示：MySQL对多表join关联性能低下，建议不要超过3个表以上的关联
　　
8、警告！like '%%'双百分号无法用到索引，like 'mysql%'这样是可以利用到索引的
　　
9、提示：默认情况下，MySQL对所有GROUP BY col1，col2...的字段进行排序。如果查询包括GROUP BY，
　　
想要避免排序结果的消耗，则可以指定ORDER BY NULL禁止排序。
　　
10、警告！MySQL里用到order by rand()在数据量比较多的时候是很慢的，因为会导致MySQL全表扫描，故也不会用到索引
　　
11、提示：是否要加一个having过滤下？
　　
12、警告！禁止不必要的order by排序,因为前面已经count统计了
　　
13、警告！MySQL里不支持函数索引，例DATE_FORMAT('create_time','%Y-%m-%d')='2016-01-01'是无法用到索引的，需要改写为
　　
create_time>='2016-01-01 00:00:00' and create_time集核对utf8_general_ci
　　4、避免使用外键）
　　https://pan.baidu.com/s/1KKw9aMWa-9Q_8efaiQndMQ
　　-------------------------------------------
　　2018-04-27更新
　　1、增加人工确认审核功能
　　上线流程为：开发提交SQL，系统自动审核（sql_review.php），审核通过后生成我的工单待管理员批复，管理员人工确认审核通过后，开发点击执行完成上线。
　　表
　　1、login_user.sql  用户登录验证表（权限功能）
　　2、sql_order_wait.sql  工单待审核生成表
　　3、dbinfo.sql（DB配置信息表）
　　脚本解释
　　1、index.html（用户登录入口）
　　2、login.php（用户密码校验）
　　3、main.php（首页框架栏）
　　4、header.php（用户登录欢迎页面，和注销）
　　5、left.php（导航栏）
　　6、sql_interface.php（SQL传参入口）
　　7、sql_review.php（SQL审核）
　　8、my_order.php（查看我的工单，执行，撤销）
　　9、wait_order.php（管理员人工批复：通过，否决）
　　10、update.php（管理员审批确认）
　　11、update_status.php（修改审批状态值）
　　12、execute.php（开发执行SQL工单）
　　13、execute_status.php（修改执行工单状态）
　　14、cancel.php（开发自行撤销工单）
　　15、cancel_status.php（修改撤销工单状态）
　　16、stat/show.html（工单动态统计图表）
　　17、db_config.php（DB配置信息的IP、端口、用户名、密码、库名）
　　18、sqladvisor_config.php（访问SQLAdvisor服务器的IP、SSH端口、SSH用户名、SSH密码）
　　---------------------
　　注：
　　1、客户端版本使用mysql5.5或者mariadb10.X。
　　5.6会出现Warning: Using a password on the command line interface can be insecure，导致上线失败。
　　2、php文件里的涉及连接数据库的用户名和密码要修改，这块没有做成统一个DB配置文件调用。
　　https://pan.baidu.com/s/194zXrat-GLJa0AZu2KxebQ
　　---------------------
　　2018-05-04更新
　　1、增加发邮件给管理员审核SQL工单功能
　　上线流程为：开发提交SQL，系统自动审核（sql_review.php），审核通过后生成我的工单待管理员批复并且发邮件通知，管理员人工确认审核通过后，开发点击执行完成上线。
　　脚本解释
　　1、mail/mail.php（邮件配置信息--修改你自己的邮箱用户名和密码）
　　2、mail/sendEmail（开源邮件perl脚本）
　　3、sql_review.php（触发发送邮件-覆盖掉之前的旧文件）
　　https://pan.baidu.com/s/1abduiOMV8UguxfHCfBw5sg