mrbear 发表于 2018-10-12 09:34:50

SQL自动审核-自助上线平台

  为了让DBA从日常繁琐的工作中解放出来,通过SQL自助平台,可以让开发自上线,开发提交SQL后就会自动返回优化建议,无需DBA的再次审核,从而提升上线效率,有利于建立数据库开发规范。
  借鉴了去哪网Inception的思路并且把美团网SQLAdvisor(索引优化建议)集成在一起,并结合了之前写的《DBA的40条军规》纳入了审核规则里,用PHP实现。目前在我公司内部使用。
  SQL自动审核主要完成两方面目的:
  1、避免性能太差的SQL进入生产系统,导致整体性能降低。
  2、检查开发设计的索引是否合理,是否需要添加索引。
  思路其实很简单:
  1、获取开发提交的SQL
  2、对要执行的SQL做分析,触碰事先定义好的规则来判断这个SQL是否可以自动审核通过,未通过审核的需要人工处理。
  下面是首页界面:

  使用说明:
  1、针对select/insert/update/create/alter加了规则,delete需要审批。

  2、语句之间要有空格,例where>  3、SQL语句后面要加分号; MySQL解析器规定分号才可以执行SQL。
  4、反引号`会造成上线失败,需要用文本编辑器替换掉。
  5、支持多条SQL解析,用一个分号;分割。例如:
  insert into t1 values(1,'a');
  insert into t1 values(2,'b');
  6、JSON格式里的双引号要用反斜杠进行转义,例如:{\"dis_text\":\"nba\"}。
  
  

[*]  SELECT审核
  1、开发人员可以直接将SQL语句提交到平台进行风险评估
  2、平台对SQL语句进行分析,自动给出其不符合开发规范的改进意见
  3、适用场景:应用开发阶段
  检查项:
1、select * 是否有必要查询所有的字段?  
2、警告!没有where条件,注意where后面的字段要加上索引
  
3、没有limit会查询更多的数据
  
4、警告!子查询性能低下,请转为join表关联
  
5、提示:in里面的数值不要超过1000个
  
6、提示:采用join关联,注意关联字段要都加上索引,如on a.id=b.id
  
7、提示:MySQL对多表join关联性能低下,建议不要超过3个表以上的关联
  
8、警告!like '%%'双百分号无法用到索引,like 'mysql%'这样是可以利用到索引的
  
9、提示:默认情况下,MySQL对所有GROUP BY col1,col2...的字段进行排序。如果查询包括GROUP BY,
  
想要避免排序结果的消耗,则可以指定ORDER BY NULL禁止排序。
  
10、警告!MySQL里用到order by rand()在数据量比较多的时候是很慢的,因为会导致MySQL全表扫描,故也不会用到索引
  
11、提示:是否要加一个having过滤下?
  
12、警告!禁止不必要的order by排序,因为前面已经count统计了
  
13、警告!MySQL里不支持函数索引,例DATE_FORMAT('create_time','%Y-%m-%d')='2016-01-01'是无法用到索引的,需要改写为
  
create_time>='2016-01-01 00:00:00' and create_time集核对utf8_general_ci
  4、避免使用外键)
  https://pan.baidu.com/s/1KKw9aMWa-9Q_8efaiQndMQ
  -------------------------------------------
  2018-04-27更新
  1、增加人工确认审核功能
  上线流程为:开发提交SQL,系统自动审核(sql_review.php),审核通过后生成我的工单待管理员批复,管理员人工确认审核通过后,开发点击执行完成上线。
  表
  1、login_user.sql用户登录验证表(权限功能)
  2、sql_order_wait.sql工单待审核生成表
  3、dbinfo.sql(DB配置信息表)
  脚本解释
  1、index.html(用户登录入口)
  2、login.php(用户密码校验)
  3、main.php(首页框架栏)
  4、header.php(用户登录欢迎页面,和注销)
  5、left.php(导航栏)
  6、sql_interface.php(SQL传参入口)
  7、sql_review.php(SQL审核)
  8、my_order.php(查看我的工单,执行,撤销)
  9、wait_order.php(管理员人工批复:通过,否决)
  10、update.php(管理员审批确认)
  11、update_status.php(修改审批状态值)
  12、execute.php(开发执行SQL工单)
  13、execute_status.php(修改执行工单状态)
  14、cancel.php(开发自行撤销工单)
  15、cancel_status.php(修改撤销工单状态)
  16、stat/show.html(工单动态统计图表)
  17、db_config.php(DB配置信息的IP、端口、用户名、密码、库名)
  18、sqladvisor_config.php(访问SQLAdvisor服务器的IP、SSH端口、SSH用户名、SSH密码)
  ---------------------
  注:
  1、客户端版本使用mysql5.5或者mariadb10.X。
  5.6会出现Warning: Using a password on the command line interface can be insecure,导致上线失败。
  2、php文件里的涉及连接数据库的用户名和密码要修改,这块没有做成统一个DB配置文件调用。
  https://pan.baidu.com/s/194zXrat-GLJa0AZu2KxebQ
  ---------------------
  2018-05-04更新
  1、增加发邮件给管理员审核SQL工单功能
  上线流程为:开发提交SQL,系统自动审核(sql_review.php),审核通过后生成我的工单待管理员批复并且发邮件通知,管理员人工确认审核通过后,开发点击执行完成上线。
  脚本解释
  1、mail/mail.php(邮件配置信息--修改你自己的邮箱用户名和密码)
  2、mail/sendEmail(开源邮件perl脚本)
  3、sql_review.php(触发发送邮件-覆盖掉之前的旧文件)
  https://pan.baidu.com/s/1abduiOMV8UguxfHCfBw5sg


页: [1]
查看完整版本: SQL自动审核-自助上线平台