lchl0388 发表于 2018-11-4 11:40:17

redis aof文件过大问题

  最近新安装了一台redis,版本为redis-3.2.5
  数据盘用的是固态硬盘。
  之前用的是普通硬盘,redis日志天天报
  Asynchronous AOF fsync is taking too long (disk is busy?). Writing the AOF buffer without waiting for fsync to complete, this may slow down Redis.
  换了固态硬盘,就没报了。
  用了3天,发现aof文件越来越大。
  -rw-r--r-- 1 root root 136672283898 Dec9 08:50 appendonly_6379.aof
  -rw-r--r-- 1 root root   5200941168 Dec7 18:09 temp-rewriteaof-26452.aof
  本身redis用了19G内存,但是aof文件达到了128G
  每天早上起床都要把磁盘扩容一次才行,不然磁盘就满了,烦死了。
  可是这样下去,不能解决问题,毕竟是云服务器,每天加钱扩容也不好。
  后来在网上,发现有一个命令BGREWRITEAOF,可以优化aof文件
  步骤如下:
  先进入redis
  redis-cli -p 6379 -h 127.0.0.1
  127.0.0.1:6379>BGREWRITEAOF
  再去查看aof文件的目录,发现多了一个文件
  -rw-r--r-- 1 root root 136672283898 Dec9 08:51 appendonly_6379.aof
  -rw-r--r-- 1 root root   5851018456 Dec9 08:51 temp-rewriteaof-1927.aof
  -rw-r--r-- 1 root root   5200941168 Dec7 18:09 temp-rewriteaof-26452.aof
  等待几分钟
  再次查看aof文件
  -rw-r--r-- 1 root root 22477825463 Dec9 09:11 appendonly_6380.aof
  -rw-r--r-- 1 root root   5200941168 Dec7 18:09 temp-rewriteaof-26452.aof
  已经明显减少了
  再把temp-rewriteaof-26452.aof文件删除,它已经没有用了
  我突然发现一个问题
  执行了BGREWRITEAOF之后,temp-rewriteaof之类的文件,就再也没有产生了,好神奇。
  引用相关解释:
  BGREWRITEAOF
  执行一个 AOF文件 重写操作。重写会创建一个当前 AOF 文件的体积优化版本。
  即使 BGREWRITEAOF 执行失败,也不会有任何数据丢失,因为旧的 AOF 文件在 BGREWRITEAOF 成功之前不会被修改。
  重写操作只会在没有其他持久化工作在后台执行时被触发,也就是说:
  如果 Redis 的子进程正在执行快照的保存工作,那么 AOF 重写的操作会被预定(scheduled),等到保存工作完成之后再执行 AOF 重写。在这种情况下, BGREWRITEAOF 的返回值仍然是 OK ,但还会加上一条额外的信息,说明 BGREWRITEAOF 要等到保存操作完成之后才能执行。在 Redis 2.6 或以上的版本,可以使用 INFO 命令查看 BGREWRITEAOF 是否被预定。
  如果已经有别的 AOF 文件重写在执行,那么 BGREWRITEAOF 返回一个错误,并且这个新的 BGREWRITEAOF 请求也不会被预定到下次执行。
  从 Redis 2.4 开始, AOF 重写由 Redis 自行触发, BGREWRITEAOF 仅仅用于手动触发重写操作。
  我都已经3.2.5,貌似redis没有自动触发BGREWRITEAOF
  算了,还是每天定期的去执行一次
  写了一个脚本
  brgewriteaof.sh
  内容如下:
  #!/bin/bash
  /usr/local/redis/redis-cli -p 6379 -h 127.0.0.1 BGREWRITEAOF
  添加权限
  chmod 755 brgewriteaof.sh
  设定任务计划,每天凌晨2点跑一次
  0 2 * * * /opt/brgewriteaof.sh
  经过几个月之后,发现还是存在aof文件过大的问题。所以,用定时任务来跑,不能解决根本问题。
  因为aof是记录了很多操作日志,就像Mysql的bin_log日志一样,体积比rdb方式持久化文件要大的多。
  理想情况下,aof的大小和当前内存使用的大小是一样的。
  更改配置文件
  /kuaibao/server/redis/conf/redis.conf
  auto-aof-rewrite-percentage 50
  然后重启redis
  这段配置,是指当aof文件增值率达到50%时,优化一次aof,也就是执行BGREWRITEAOF命令
  默认是100,因为线上写入比较频率,所以增长率要调低一点。
  之前100多个G的aof,重写一次之后,降至30G。
  最后发现,因为磁盘I/O,导致aof重写失败
  产生多个临时文件,把磁盘占满了。
  没办法,还是改回rdb方式了。确实比aof空间要小一点。

页: [1]
查看完整版本: redis aof文件过大问题