设为首页 收藏本站
查看: 989|回复: 0

[经验分享] 优化zabbix表结构的一些思考

[复制链接]

尚未签到

发表于 2019-1-19 06:28:24 | 显示全部楼层 |阅读模式
  刚过完年,在日常检查服务器备份数据的时候发现zabbix的mysql备份文件异常庞大,考虑到zabbix会在日常监控服务器状态时定期发送一些告警信息以及监控时保存的SQL记录,所以查看了下zabbix的数据库表,发现mysql系统库文件下zabbix的数据库目录本身并不是很大,也就几百M,但发现同目录下的ibdata1文件异常庞大,达到了4.7G.
  

  zabbix本身日常的监控数据量很大是事实,但为什么感觉没保存在zabbix目录下?且ibdata1为什么这么巨大?
  

  网上查阅了zabbix的数据库存储原理,发现zabbix库是使用的innodb引擎的共享表空间,innodb把数据和索引都放在ibdata1下,随着数据增长,ibdata1会越来越大。性能方面会有影响。
  

  然后就很好奇zabbix为什么会使用innodb的共享表空间存储数据,网上查看到一段资料写到
  ----------------------------------------------------------------------------------------
  使用过MySQL的同学,刚开始接触最多的莫过于MyISAM表引擎了,这种引擎的数据库会分别创建三个文件:表结构、表索引、表数据空间。我们可以将某个数据库目录直接迁移到其他数据库也可以正常工作。
  然而当你使用InnoDB的时候,一切都变了。InnoDB 默认会将所有的数据库InnoDB引擎的表数据存储在一个共享空间中:ibdata1,这样就感觉不爽,增删数据库的时候,ibdata1文件不会自动收缩,单个数据库的备份也将成为问题。通常只能将数据使用mysqldump 导出,然后再导入解决这个问题。
  在MySQL的配置文件[mysqld]部分,增加innodb_file_per_table参数,可以修改InnoDB为独立表空间模式,每个数据库的每个表都会生成一个数据空间。
  

  独立表空间
  优点:
  1.每个表都有自已独立的表空间。
  2.每个表的数据和索引都会存在自已的表空间中。
  3.可以实现单表在不同的数据库中移动。
  4.空间可以回收(drop/truncate table方式操作表空间不能自动回收)
  5.对于使用独立表空间的表,不管怎么删除,表空间的碎片不会太严重的影响性能,而且还有机会处理。
  

  缺点:
  单表增加比共享空间方式更大。
  

  结论:
  共享表空间在Insert操作上有一些优势,但在其它都没独立表空间表现好。
  当启用独立表空间时,请合理调整一下 innodb_open_files 参数。
  ----------------------------------------------------------------------------------------
  原来默认情况下innodb会将所有的数据库InnoDB引擎的表数据存储在一个共享空间中ibdata1,而且增删数据库的时候,ibdata1文件不会自动收缩,单个数据库的备份也将成为问题。
  

  所以决定将innodb的共享表空间改成独立表空间,然后以后单独备份zabbix数据库时就不会备份整个数据库文件,导致系统资源浪费,最后再做一个定期的清理zabbix历史记录脚本,这样就不会担心以后备份文件过大,导致服务器硬盘容量紧张.
  

  OK,开始干活....
  

  系统环境:
  -------------------------------
  SYSYTEM: CentOS 6.3 x64
  APACHE:  httpd-2.4.4
  MYSQL:   mysql-5.6.10
  PHP:     php-5.4.13
  ZABBIX:  Zabbix 2.2.0rc2
  -------------------------------
  

  1.查看bdata1文件大小
  # cd /usr/local/mysql/data
  # du -sh *
  -------------------------------------
  4.0K    file-test.xxx.cn.pid
  4.0K    file-test-relay-bin.000001
  4.0K    file-test-relay-bin.index
  4.7G    ibdata1
  5.0M    ib_logfile0
  5.0M    ib_logfile1
  780K    mysql
  146M    Syslog
  4.0K    webserver01.xxx.cn.pid
  43M     zabbix
  --------------------------------------
  

  共享表数据空间文件ibdata1大小已经达到了4.7G
  

  登陆MySQL查看哪些表占用了空间
  # mysql -uroot -p
  -----------------------------------------
  > select table_name, (data_length+index_length)/1024/1024 as total_mb, table_rows from information_schema.tables where table_schema='zabbix';
  -----------------------------------------
  

  +-----------------------+---------------+------------+
  | table_name            | total_mb      | table_rows |
  +-----------------------+---------------+------------+
  | acknowledges          |    0.06250000 |          0 |
  ....
  | help_items            |    0.04687500 |        103 |
  | history               | 2841.00000000 |  34957883  |
  | history_log           |    0.04687500 |          0 |
  ...
  | history_text          |    0.04687500 |          0 |
  | history_uint          | 1563.98437500 |   23940661 |
  | history_uint_sync     |    0.04687500 |          0 |
  ...
  | timeperiods           |    0.01562500 |          0 |
  | trends                |   17.89564700 |     145780 |
  | trends_uint           |  25.567894000 |    271256  |
  ...
  103 rows in set (1.46 sec)
  

  可以看到,history表的记录已经达到了3G,34957883条,即3千多万条,同时history_unit也比较大,达到了1G,约2百多万条;
  另外就是trends,trends_uint中也存在一些数据。
  由于数据量太大,按照普通的方式delete数据的话基本上不太可能。
  因为我们每天会自动发送数据报表,所以决定直接采用truncate table的方式来快速清空这些表的数据,再使用mysqldump导出数据,删除共享表空间数据文件,重新导入数据。
  

  2.停止相关服务,避免改造时写入数据
  # /etc/init.d/zabbix_server stop
  # /usr/local/apache2/bin/apachectl stop
  

  3.清空历史数据
  # mysql -uroot -p123456
  ---------------------------------------------
  mysql > use zabbix;
  mysql > truncate table history;
  mysql > optimize table history;
  mysql > truncate table history_uint;
  mysql > optimize table history_uint;
  mysql > truncate table trends;
  mysql > optimize table trends;
  mysql > truncate table trends_uint;
  mysql > optimize table trends_uint;
  ------------------------------------------
  

  4.备份数据
  # mysqldump -uroot -p123456 zabbix > ~/zabbix_bak.sql
  

  5.停止数据库
  # service mysqld stop
  

  6.删除共享表空间数据文件
  # cd /usr/local/mysql/data
  # rm -rf ibdata1 ib_logfile0 ib_logfile1
  

  7.增加innodb_file_per_table独立表空间参数
  # vi /etc/my.cnf
  在[mysqld]下添加一行
  -------------------------------
  innodb_file_per_table=1
  -------------------------------
  

  8.启动MySQL
  # service mysqld start
  

  9.查看参数是否生效
  # mysql -uroot -p123456
  ----------------------------------------------
  mysql> show variables like '%per_table%';
  +-----------------------+-------+
  | Variable_name | Value |
  +-----------------------+-------+
  | innodb_file_per_table | ON |
  +-----------------------+-------+
  1 row in set (0.00 sec)
  ------------------------------------------------
  

  10.重新导入数据
  # mysql -uroot -p123456 zabbix < ~/zabbix.sql
  

  11.编写zabbix自动清理历史数据的脚本,保留30天的数据
  # vi /etc/rc.d/zabbix_olddata_clean.sh
  ---------------------------------------------
  #!/bin/bash
  

  DATE=`date -d "30 days ago"`
  CLOCK=`date +%s -d "${DATE}"`
  USER="root"
  PW="123456"
  DB="zabbix"
  MYSQL="mysql -u$USER -p$PW"
  

  function zabbix_olddata_clean(){
  for TABLE in history trends
  do
  ${MYSQL}

运维网声明 1、欢迎大家加入本站运维交流群:群②:261659950 群⑤:202807635 群⑦870801961 群⑧679858003
2、本站所有主题由该帖子作者发表,该帖子作者与运维网享有帖子相关版权
3、所有作品的著作权均归原作者享有,请您和我们一样尊重他人的著作权等合法权益。如果您对作品感到满意,请购买正版
4、禁止制作、复制、发布和传播具有反动、淫秽、色情、暴力、凶杀等内容的信息,一经发现立即删除。若您因此触犯法律,一切后果自负,我们对此不承担任何责任
5、所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其内容的准确性、可靠性、正当性、安全性、合法性等负责,亦不承担任何法律责任
6、所有作品仅供您个人学习、研究或欣赏,不得用于商业或者其他用途,否则,一切后果均由您自己承担,我们对此不承担任何法律责任
7、如涉及侵犯版权等问题,请您及时通知我们,我们将立即采取措施予以解决
8、联系人Email:admin@iyunv.com 网址:www.yunweiku.com

所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其承担任何法律责任,如涉及侵犯版权等问题,请您及时通知我们,我们将立即处理,联系人Email:kefu@iyunv.com,QQ:1061981298 本贴地址:https://www.yunweiku.com/thread-664928-1-1.html 上篇帖子: zabbix部署——安装配置zabbix agent详解 下篇帖子: zabbix上使用自定义监控项监控域名
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

扫码加入运维网微信交流群X

扫码加入运维网微信交流群

扫描二维码加入运维网微信交流群,最新一手资源尽在官方微信交流群!快快加入我们吧...

扫描微信二维码查看详情

客服E-mail:kefu@iyunv.com 客服QQ:1061981298


QQ群⑦:运维网交流群⑦ QQ群⑧:运维网交流群⑧ k8s群:运维网kubernetes交流群


提醒:禁止发布任何违反国家法律、法规的言论与图片等内容;本站内容均来自个人观点与网络等信息,非本站认同之观点.


本站大部分资源是网友从网上搜集分享而来,其版权均归原作者及其网站所有,我们尊重他人的合法权益,如有内容侵犯您的合法权益,请及时与我们联系进行核实删除!



合作伙伴: 青云cloud

快速回复 返回顶部 返回列表