设为首页 收藏本站
查看: 533|回复: 0

[经验分享] rsync+inotify实现文件时实同步

[复制链接]
累计签到:1 天
连续签到:1 天
发表于 2014-7-2 10:07:24 | 显示全部楼层 |阅读模式
1、说明
   实验操作系统:CentOS release 5.6
   服务器端(代码更新服务器):192.168.0.5
   客户端(web服务器):192.168.0.6   192.168.0.7  192.168.0.8
   web目录:/data/httpd/wwwroot/
   原理:由192.168.0.5上inotify服务监测文件是否有更新,如果有更新(修改,删除,新建)inotify就会通过rsync命令将更新的文件推向三台web服务器
   架构图如下:
1015280241012247508.jpg
2、在三台web上配置rsync服务
   #mkdir -p /data/httpd/wwwroot       #创建web目录

   #vim /etc/rsyncd.conf               #配置文件
   uid = root
   gid = root
   use chroot = no
   max connections = 5
   pid file = /var/run/rsyncd.pid
   lock file = /var/run/rsync.lock
   log file = /var/log/rsyncd.log

   [www]
   path=/data/httpd/wwwroot/
   comment = update
   ignore errors
   read only = no
   list = no
   hosts allow = 192.168.0.0/255.255.255.0
   auth users = root
   uid = root
   gid = root
   secrets file = /etc/rsyncd.secrets
   
   #vim /etc/rsyncd.secrets                   #创建rsync证文件
   123456
   root:123456

   #chmod 0600 /etc/rsyncd.secrets            #设置权限
   #rsync --daemon                            #启动服务
   #echo "rsync --daemon"  >> /etc/rc.local   #开机自启动
  

   关于rsync详细配置请参考http://linux008.blog./2837805/570936
3、配置服务端(rsync+inotify)
   #mkdir -p /data/httpd/wwwroot   #创建目录存放代码
   (1)、安装inotify
   #cd /usr/local/src/
   #wget http://cloud.github.com/download ... y-tools-3.14.tar.gz
   #tar xzvf inotify-tools-3.14.tar.gz
   #cd inotify-tools-3.14
   #./configure
   #make
   #make install


   (2)、编写同步更新脚本

   #mkdir /root/bin
   #cd /root/bin
   #vim rsync.sh
   
   #!/bin/bash
   src=/data/httpd/wwwroot/
   des=www
   host="192.168.0.6 192.168.0.7 192.168.0.8"
   /usr/local/bin/inotifywait -mrq --timefmt '%d/%m/%y %H:%M' --format '%T %w%f' -e modify,delete,create,attrib $src | while read files
   do
     for hostip in $host
     do
        rsync -vzrtopg --delete --progress --password-file=/etc/rsyncd.secrets $src root@$hostip::$des
     done
     echo "${files} was rsynced" >>/tmp/rsync.log 2>&1
   done


   (3)、创建rsync认证文件
   
   #vim /etc/rsyncd.secrets                 
   123456

   root:123456
   #chmod u+x /etc/rsyncd.secrets


   (4)、启动
   #nohup /bin/bash /root/bin/rsync.sh &

   
   (5)、开机自启动
   #echo "nohup /bin/bash /root/bin/rsync.sh &" >> /etc/rc.local

   
   (6)、测试
   在192.168.0.5上进入目录/data/httpd/wwwroot/
   #touch a.txt
   在三台web机上/data/httpd/wwwroot/目录可以立马看a.txt。



 (参考文档http://www.examda.com/linux/fudao/20091030/093634971.html)rsync是类unix系统下的数据镜像备份工具,从软件的命名上就可以看出来了——remote sync。它的特性如下:
         可以镜像保存整个目录树和文件系统。
         可以很容易做到保持原来文件的权限、时间、软硬链接等等。
         无须特殊权限即可安装。
         优化的流程,文件传输效率高。
         可以使用rcp、ssh等方式来传输文件,当然也可以通过直接的socket连接。
         支持匿名传输,以方便进行网站镜象。
         软件下载
        rsync的主页地址为:http://rsync.samba.org/  (以上来自百度百科)

  服务器需求:
  需要备份文件的服务器(服务器端):59.151.24.209 (RHEL 5)
  接收备份文件的服务器(客户端):59.151.24.243 (RHEL 5)
  需要备份的目录:
        /docroot             网站服务器自动生成的静态页面实时备份
        /nchall                网站动态页面,一般情况下变化不大,一天备一次
        /usr/local/netcert     静态页面生成程序,基本无变化,一天备一次  
   rsync的配置如下:
  1.服务器端rsync的安装:使用系统自带的rsync工具,插入系统启动光盘,通过rpm安装rsync工具。
  若采用采用源码包安装,上传安装包到服务器
                 1)tar –zxvf rsyncrsync-2.6.9.tar.gz       #解压
                 2)cd rsyncrsync-2.6.9
                 3)./configure      #默认配置,生成编译环境
            4)make #编译
            5)make install   #安装完成,
任何步骤有疑问输入echo $?查返回值,0表示成功,其他都为失败
       配置:
    1)编辑/etc/rsyncd.conf文件,rsync的主要配置文件:

uid = root
gid = root
use chroot = no
max connections = 4
pid file = /var/run/rsyncd.pid
lock file = /var/run/rsyncd.lock
log file = /var/log/rsyncd.log
[docroot]
path = /docroot
ignore errors
read only = no
list = false
hosts allow = 59.151.24.244 59.151.24.243
hosts deny = 0.0.0.0/32
auth users = rsync
secrets file = /etc/rsyncd.scrt
[nchall]
path = /nchall
ignore errors
read only = no
list = false
hosts allow = 59.151.24.244 59.151.24.243
hosts deny = 0.0.0.0/32
auth users = rsync
secrets file = /etc/rsyncd.scrt
[netcert]
path = /usr/local/netcert
ignore errors
read only = no
list = false
hosts allow = 59.151.24.244 59.151.24.243
hosts deny = 0.0.0.0/32
auth users = rsync
secrets file = /etc/rsyncd.scrt


        2)编辑/etc/rsyncd.scrt文件,密码认证文件
  rsync:123456
  该更权限为600:chmod 600 /etc/rsyncd.scrt
        3) 运行rsync --daemon,并在/etc/rc.d/rc.local加入此语句,开机自动启动。
  备注:rsync默认端口873,若安装了iptables,如需改动启动时启动rsync –port 873,请在iptables 中开放该端口,语句如下:
  iptables -I INPUT -p tcp --dport 873 -j ACCEPT
  4)编辑/etc/xinetd.d/rsync
  rsync服务的监听由xinet来统一分配:
  service rsync
  {
  disable = no #将此项改为no
  socket_type = stream
  wait = no
  user = root
  server = /usr/bin/rsync
  server_args = --daemon
  log_on_failure += USERID
  }
重启xinetd以启动rsync服务
  service xinetd restart
  5)查看rsync事故正常运行
  输入命令:netstat -ant|grep :873若有显示以下一条语句,则说明rsync服务已经正常启动了。
  tcp      0    0 0.0.0.0:873               0.0.0.0:*                 LISTEN
               2.客户端的配置:使用系统自带的rsync工具,插入系统启动光盘,通过rpm安装rsync工具。
  1)编辑/etc/rsyncd.scrt文件,密码认证文件
       123456    (只写密码文件,不要写用户名,否则报错)
  该更权限为600:chmod 600 /etc/rsyncd.scrt
       2)编辑脚本vi /root/scrpit/rsync.sh并加入开机自动启动。
 [iyunv@selina ~]# cat rsync.sh
#!/bin/sh
/usr/bin/rsync -vazu --progress --delete rsync@59.151.24.209::docroot /docroot --password-file=/etc/rsyncd.scrt
   [iyunv@selina ~]# cat rsync1.sh
#!/bin/sh
/usr/bin/rsync -vazu --progress --delete rsync@59.151.24.209::nchall /nchall --password-file=/etc/rsyncd.scrt

修改权限:chmod u+x /root/scrpit/rsync.sh执行./rsync.sh 同步数据。
  3)编辑/etc/crontab文件,执行数据同步。
  [iyunv@selina ~]# crontab -l
*/1 * * * * /root/rsync.sh
0 1 * * * /root/rsync1.sh
客户端的配置到此就可以了

  客户端同步命令详解:
  v, --verbose 详细模式输出-q, --quiet 精简输出模式-c, --checksum 打开校验开关,强制对文件传输进行校验-a, --archive 归档模式,表示以递归方式传输文件,并保持所有文件属性,等于-rlptgoD -r, --recursive 对子目录以递归模式处理-R, --relative 使用相对路径信息-b, --backup 创建备份,也就是对于目的已经存在有同样的文件名时,将老的文件重新命名为~filename。可以使用--suffix选项来指定不同的备份文件前缀。
  --backup-dir 将备份文件(如~filename)存放在在目录下。
  -suffix=SUFFIX定义备份文件前缀
  -u, --update 仅仅进行更新,也就是跳过所有已经存在于DST,并且文件时间晚于要备份的文件。(不覆盖更新的文件) -l, --links 保留软链结-L, --copy-links 想对待常规文件一样处理软链结
  --copy-unsafe-links仅仅拷贝指向SRC路径目录树以外的链结
  --safe-links忽略指向SRC路径目录树以外的链结
  -H, --hard-links 保留硬链结-p, --perms 保持文件权限-o, --owner 保持文件属主信息-g, --group 保持文件属组信息-D, --devices 保持设备文件信息-t, --times 保持文件时间信息-S, --sparse 对稀疏文件进行特殊处理以节省DST的空间-n, --dry-run现实哪些文件将被传输-W, --whole-file 拷贝文件,不进行增量检测-x, --one-file-system 不要跨越文件系统边界-B, --block-size=SIZE 检验算法使用的块尺寸,默认是700字节-e, --rsh=COMMAND 指定替代rsh的shell程序
  --rsync-path=PATH指定远程服务器上的rsync命令所在路径信息
  -C, --cvs-exclude 使用和CVS一样的方法自动忽略文件,用来排除那些不希望传输的文件--existing 仅仅更新那些已经存在于DST的文件,而不备份那些新创建的文件
  --delete删除那些DST中SRC没有的文件
  --delete-excluded同样删除接收端那些被该选项指定排除的文件
  --delete-after传输结束以后再删除
--ignore-errors及时出现IO错误也进行删除
  --max-delete=NUM最多删除NUM个文件
  --partial 保留那些因故没有完全传输的文件,以是加快随后的再次传输--force 强制删除目录,即使不为空
  --numeric-ids不将数字的用户和组ID匹配为用户名和组名
  --timeout=TIME IP超时时间,单位为秒-I, --ignore-times 不跳过那些有同样的时间和长度的文件--size-only 当决定是否要备份文件时,仅仅察看文件大小而不考虑文件时间--modify-window=NUM 决定文件是否时间相同时使用的时间戳窗口,默认为0
  -T --temp-dir=DIR在DIR中创建临时文件
  --compare-dest=DIR同样比较DIR中的文件来决定是否需要备份
  -P等同于--partial
  --progress显示备份过程
  -z, --compress 对备份的文件在传输时进行压缩处理
  --exclude=PATTERN指定排除不需要传输的文件模式
  --include=PATTERN指定不排除而需要传输的文件模式
  --exclude-from=FILE排除FILE中指定模式的文件
  --include-from=FILE不排除FILE指定模式匹配的文件
  --version打印版本信息
  --address绑定到特定的地址
  --config=FILE 指定其他的配置文件,不使用默认的rsyncd.conf文件
  --port=PORT指定其他的rsync服务端口
  --blocking-io对远程shell使用阻塞IO
  -stats给出某些文件的传输状态
  --progress在传输时现实传输过程
  --log-format=formAT指定日志文件格式
  --password-file=FILE从FILE中得到密码
  --bwlimit=KBPS 限制I/O带宽,KBytes per second -h, --help 显示帮助信息



运维网声明 1、欢迎大家加入本站运维交流群:群②:261659950 群⑤:202807635 群⑦870801961 群⑧679858003
2、本站所有主题由该帖子作者发表,该帖子作者与运维网享有帖子相关版权
3、所有作品的著作权均归原作者享有,请您和我们一样尊重他人的著作权等合法权益。如果您对作品感到满意,请购买正版
4、禁止制作、复制、发布和传播具有反动、淫秽、色情、暴力、凶杀等内容的信息,一经发现立即删除。若您因此触犯法律,一切后果自负,我们对此不承担任何责任
5、所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其内容的准确性、可靠性、正当性、安全性、合法性等负责,亦不承担任何法律责任
6、所有作品仅供您个人学习、研究或欣赏,不得用于商业或者其他用途,否则,一切后果均由您自己承担,我们对此不承担任何法律责任
7、如涉及侵犯版权等问题,请您及时通知我们,我们将立即采取措施予以解决
8、联系人Email:admin@iyunv.com 网址:www.yunweiku.com

所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其承担任何法律责任,如涉及侵犯版权等问题,请您及时通知我们,我们将立即处理,联系人Email:kefu@iyunv.com,QQ:1061981298 本贴地址:https://www.yunweiku.com/thread-21431-1-1.html 上篇帖子: 利用Inotify和Rsync将web工程文件自动同步到多台应用服务器 下篇帖子: RadHat搭建内网YUM源服务器
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

扫码加入运维网微信交流群X

扫码加入运维网微信交流群

扫描二维码加入运维网微信交流群,最新一手资源尽在官方微信交流群!快快加入我们吧...

扫描微信二维码查看详情

客服E-mail:kefu@iyunv.com 客服QQ:1061981298


QQ群⑦:运维网交流群⑦ QQ群⑧:运维网交流群⑧ k8s群:运维网kubernetes交流群


提醒:禁止发布任何违反国家法律、法规的言论与图片等内容;本站内容均来自个人观点与网络等信息,非本站认同之观点.


本站大部分资源是网友从网上搜集分享而来,其版权均归原作者及其网站所有,我们尊重他人的合法权益,如有内容侵犯您的合法权益,请及时与我们联系进行核实删除!



合作伙伴: 青云cloud

快速回复 返回顶部 返回列表