设为首页 收藏本站
查看: 539|回复: 0

[经验分享] (转)MySQL的经典用法(三)----海量数据统计处理,模拟物化视图

[复制链接]

尚未签到

发表于 2016-10-23 10:51:27 | 显示全部楼层 |阅读模式
  一 物化视图
    物化视图,它是用于预先计算并保存表连接或聚集等耗时较多的操作的结果,这样,在执行查询时,就可以避免进行这些耗时的操作,而从快速的得到结果。
    只有大型数据库oracle10g,db2才支持这个功能,而MySQL5.1暂时还没有这个功能。本人通过事件调度和存储过程模拟了物化视图。下面大家一起来讨论吧。^-^

二 准备知识
    1)存储过程:玩过数据库的人,都知道他是啥~,~
    2)事件调度:在MySQL5.1开始才有的新功能。说白了就是个定时器。跟java里的timer差不多。

Sql代码 DSC0000.gif





  • show processlist; --这个命令能是查看线程,如果启动了时间调度器,则会多个event_scheduler   

  • set global event_scheduler = on--启动时间调度器,关闭就不用我说了吧,off就可以了   

  • show processlist\G;--查看线程,是不是多了个 User: event_scheduler   
  •   

  • --如果想启动单个事件,则执行下面命令   

  • ALTER EVENT `myEvent`    

  • ON COMPLETION PRESERVE    
  • ENABLE;   

  • --关闭   

  • ALTER EVENT `myEvent`    

  • ON COMPLETION PRESERVE    
  • DISABLE;  



show processlist; --这个命令能是查看线程,如果启动了时间调度器,则会多个event_scheduler
set global event_scheduler = on; --启动时间调度器,关闭就不用我说了吧,off就可以了
show processlist\G;--查看线程,是不是多了个 User: event_scheduler
--如果想启动单个事件,则执行下面命令
ALTER EVENT `myEvent`
ON COMPLETION PRESERVE
ENABLE;
--关闭
ALTER EVENT `myEvent`
ON COMPLETION PRESERVE
DISABLE;
  mysql默认不会启动event,所以需要修改你的my.ini或my.cnf[mysqld]的下面加入如下行
  event_scheduler=1

三 模拟物化视图
    1)先建个基表吧。

Sql代码





  • CREATE TABLE `user` (   

  •   `Id` int(11) NOT NULL AUTO_INCREMENT,   

  •   `namevarchar(255) DEFAULT NULL,   

  •   `age` int(11) DEFAULT NULL,   

  •   PRIMARY KEY (`Id`)   
  • );  



CREATE TABLE `user` (
`Id` int(11) NOT NULL AUTO_INCREMENT,
`name` varchar(255) DEFAULT NULL,
`age` int(11) DEFAULT NULL,
PRIMARY KEY (`Id`)
);
  

    2)设计视图
我想查询所有18岁员工的数量。
很简单,select count(*) from user where age=18;
如果是传统概念的视图,在MySQL中,每次访问视图的时候,他都会创建个临时表,然后执行一次。在海量数据的情况下,这样的效率是非常低的。而物化视图,则他会定时去刷新这个临时表,而不是你在用的时候才会去刷新。并且物化视图的"临时表"是一直存在的。所以效率高出非常多。拿空间换时间^-^

    3)创建"物化视图"的表

Sql代码





  • CREATE TABLE `user_view` (   

  •   `Id` int(11) NOT NULL AUTO_INCREMENT,   

  •   `c` int(11) DEFAULT NULL,   

  •   PRIMARY KEY (`Id`)   
  • );  



CREATE TABLE `user_view` (
`Id` int(11) NOT NULL AUTO_INCREMENT,
`c` int(11) DEFAULT NULL,
PRIMARY KEY (`Id`)
);
  
    4)设计存储过程

Sql代码





  • CREATE PROCEDURE demoSp()   

  • BEGIN  

  •     DECLARE z INT;   

  • SELECT COUNT(*) INTO z FROM user;   

  • delete from user_view;   

  • insert into user_view(c) values(z);   

  • END;  



CREATE PROCEDURE demoSp()
BEGIN
DECLARE z INT;
SELECT COUNT(*) INTO z FROM user;
delete from user_view;
insert into user_view(c) values(z);
END;
  

    5)设计调度并执行,为了使实验明显,我就把调度设置成5秒一次吧。周期可以自己调节。

Sql代码





  • CREATE EVENT `myEvent`    

  • ON SCHEDULE EVERY 5 SECOND    

  • ON COMPLETION PRESERVE    
  • DO call demoSp();  



CREATE EVENT `myEvent`
ON SCHEDULE EVERY 5 SECOND
ON COMPLETION PRESERVE
DO call demoSp();
  

四 总结
    上面的实现,可能不太明显,但在海量数据处理的时候进行统计,性能有明显的提升。大家做实验的时候,可以增加一个insert语句,方便观察。在更新数据的时候,如果数据量大,则需要按下面步骤来处理
1)delete 1条记录
2)insert 1条记录
3)提交
    如果一次性把数据全部删除,在查询的时候,有可能会出现空表的现象。而且会影响统计使用。
    通过利用这个事件调度,定时备份的事情也同时解决了.
  建议大家配合表分区,索引同时使用,这样可以提高性能.
  未完成:在更新表的时候,需要采用某种算法来执行,这样才能提高性能,而不是单纯的删除再插入.
  

有问题大家请留言交流。版权所有,转载请注明出处 ^-^

运维网声明 1、欢迎大家加入本站运维交流群:群②:261659950 群⑤:202807635 群⑦870801961 群⑧679858003
2、本站所有主题由该帖子作者发表,该帖子作者与运维网享有帖子相关版权
3、所有作品的著作权均归原作者享有,请您和我们一样尊重他人的著作权等合法权益。如果您对作品感到满意,请购买正版
4、禁止制作、复制、发布和传播具有反动、淫秽、色情、暴力、凶杀等内容的信息,一经发现立即删除。若您因此触犯法律,一切后果自负,我们对此不承担任何责任
5、所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其内容的准确性、可靠性、正当性、安全性、合法性等负责,亦不承担任何法律责任
6、所有作品仅供您个人学习、研究或欣赏,不得用于商业或者其他用途,否则,一切后果均由您自己承担,我们对此不承担任何法律责任
7、如涉及侵犯版权等问题,请您及时通知我们,我们将立即采取措施予以解决
8、联系人Email:admin@iyunv.com 网址:www.yunweiku.com

所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其承担任何法律责任,如涉及侵犯版权等问题,请您及时通知我们,我们将立即处理,联系人Email:kefu@iyunv.com,QQ:1061981298 本贴地址:https://www.yunweiku.com/thread-290190-1-1.html 上篇帖子: mysql left( right ) join使用on 与where 筛选的差异 下篇帖子: 在SQLServer/MySQL数据库中如何取得刚插入的标识值
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

扫码加入运维网微信交流群X

扫码加入运维网微信交流群

扫描二维码加入运维网微信交流群,最新一手资源尽在官方微信交流群!快快加入我们吧...

扫描微信二维码查看详情

客服E-mail:kefu@iyunv.com 客服QQ:1061981298


QQ群⑦:运维网交流群⑦ QQ群⑧:运维网交流群⑧ k8s群:运维网kubernetes交流群


提醒:禁止发布任何违反国家法律、法规的言论与图片等内容;本站内容均来自个人观点与网络等信息,非本站认同之观点.


本站大部分资源是网友从网上搜集分享而来,其版权均归原作者及其网站所有,我们尊重他人的合法权益,如有内容侵犯您的合法权益,请及时与我们联系进行核实删除!



合作伙伴: 青云cloud

快速回复 返回顶部 返回列表