Rsync

可以镜像保存整个目录树和文件系统

可以很容易做到保持原来文件的权限、时间、软硬链接等等

无须特殊权限即可安装

快速：第一次同步时rsync会复制全部内容，但在下一次只传输修改过的文件。rsync在传输数据的过程中可以实行压缩及解压缩操作，因此可以使用更少的带宽

安全：可以使用scp、ssh等方式来传输文件，当然也可以通过直接的socket连接支持匿名传输，以方便进行网站镜象

常用选项

-a, --archive       //归档
•    -v, --verbose       //啰嗦模式
•    -q, --quiet         //静默模式
•    -r, --recursive     //递归
•    -p, --perms         //保持原有的权限属性
•    -z, --compress     //在传输时压缩，节省带宽，加快传输速度
•    --delete           //在源服务器上做的删除操作也会在目标服务器上同步

环境

安装使用

slave

yum -y install rsync

vim /etc/rsync.conf

pid file = /var/run/rsyncd.pid
lock file=/var/run/rsync.lock
log file=/var/log/rsyncd.log
[web1]
path = /web1/wwwroot
comment = web1 file
ignore errrors
read only=no
write only=no
hosts allow=*
hosts deny=192.168.50.10
list=false
uid=root
gid=root
auth users=test
secrets file=/etc/web1.pass

创建密码文件

（文件格式：user:pass）

/etc/web1.pass

test:www123
chmod 600 /etc/web1.pass

启动和自启

systemctl start rsyncd

systemctl enable rsyncd

master (发布节点)

安装

yum install rsync gcc -y

wget http://github.com/downloads/rvoicilas/inotify-tools/

tar xf inotify-tools-3.14.tar.gz

cd inotify-tools-3.14

./configure

make && make install

密码文件

和节点服务器密码一致

vim /etc/server.pass

www123

chmod 600 /etc/server.pass

脚本编辑

#!/bin/bash

host1=192.168.50.61

src=/web/wwwroot/

dst1=web1

user1=test

/usr/local/inotify/bin/inotifywait -mrq --timefmt '%d/%m/%y %H:%M' --format '%T %w%f%e' -e close_write,delete,create,attrib $src  

| while read files

do

•       /usr/bin/rsync -vzrtopg --delete --progress --password-file=/etc/server.pass $src $user1@$host1::$dst1 > /dev/null 2>&1

•        echo "${files} was rsynced." >> /tmp/rsync.log 2>&1

done

脚本放入后台执行  

在master上面的/web/wwwroot 添加 删除 修改文件

slave 上面的 /web1/wwwroot 会同步变化

inotifywait 单独分析

/usr/local/bin/inotifywait -mrq --format '%Xe %w%f' -e modify,create,delete,attrib /data/

执行上面命令，是让inotifywait监听/data/目录，当监听到有发生modify,create,delete,attrib等事件发生时，按%Xe %w%f的格式输出。

在/data/目录touch几个文件

touch /data/{1..2}

观看inotify输出

ATTRIB /data/1           -- 表示发生了ATTRIB事件 路径为/data/1
ATTRIB /data/2

要做到实时同步数据，必须要减少rsync对目录的递归扫描判断，尽可能的做到只同步inotify监控到已发生更改的文件。

脚本如下

src=/data/                           # 源路径
des=data                             # 目标服务器上
rsync_passwd_file=/etc/rsyncd.passwd           # 验证的密码文件
user=root                           # 验证用户名
cd ${src}                            
/usr/local/bin/inotifywait -mrq --format '%Xe %w%f' -e modify,cree,delete,attrib,close_write,move ./ | while read file
do
      INO_EVENT=$(echo $file | awk '{print $1}')
      INO_FILE=$(echo $file | awk '{print $2}')
      echo $file
      if [[ $INO_EVENT =~ 'CREATE' ]] || [[ $INO_EVENT =~ 'MODIFY' ]] || [[ $INO_EVENT =~ 'CLOSE_WRITE' ]] || [[ $INO_EVENT =~ 'MOVED_TO' ]] 
      then
              echo 'CREATE or MODIFY or CLOSE_WRITE or MOVED_TO'
              rsync -avzcR --password-file=${rsync_passwd_file} $(dirname ${INO_FILE}) ${user}@${ip1}::${des} &&
              rsync -avzcR --password-file=${rsync_passwd_file} $(dirname ${INO_FILE}) ${user}@${ip2}::${des}
      fi
      if [[ $INO_EVENT =~ 'DELETE' ]] || [[ $INO_EVENT =~ 'MOVED_FROM' ]]
      then
              echo 'DELETE or MOVED_FROM'
              rsync -avzR --delete --password-file=${rsync_passwd_file} $(dirname ${INO_FILE}) ${user}@${ip1}::${des} &&
              rsync -avzR --delete --password-file=${rsync_passwd_file} $(dirname ${INO_FILE}) ${user}@${ip2}::${des}
      fi
     
      if [[ $INO_EVENT =~ 'ATTRIB' ]]
      then
              echo 'ATTRIB'
              if [ ! -d "$INO_FILE" ]
              then
                      rsync -avzcR --password-file=${rsync_passwd_file} $(dirname ${INO_FILE}) ${user}@${ip1}::${des} &&          
                      rsync -avzcR --password-file=${rsync_passwd_file} $(dirname ${INO_FILE}) ${user}@${ip2}::${des}
              fi
      fi
done

每三个小时1次全量同步

inotify只在启动时会监控目录，启动期间的文件发生更改,所以需要定时全量同步

crontab -e
* */3 * * * rsync -avz --password-file=/etc/rsync-client.pass /data/ root@192.168.0.18::data && rsync -avz --password-file=/etc/rsync-client.pass /data/ root@192.168.0.19::data

优化 Inotify

ll /proc/sys/fs/inotify/
总用量0
-rw-r--r--1 root root 09月923:36 max_queued_events
-rw-r--r--1 root root 09月923:36 max_user_instances
-rw-r--r--1 root root 09月923:36 max_user_watches

echo 10000000>/proc/sys/fs/inotify/max_user_watches -- 把他加入bashrc文件
echo 1000000>/proc/sys/fs/inotify/max_queued_events

max_user_watches #设置inotifywait或inotifywatch命令可以监视的文件数量(单进程)

max_user_instances #设置每个用户可以运行的inotifywait或inotifywatch命令的进程数

max_queued_events #设置inotify实例事件(event)队列可容纳的事件数量

inotify的参数说明

inotifywait events事件说明

Rsync的命令格式

rsync [OPTION]... SRC DEST  # 拷贝本地文件。当SRC和DES路径信息都不包含有单个冒号”:”分隔符时就启动这种工作模式。
rsync [OPTION]... SRC [USER@]HOST:DEST # 使用一个远程shell程序(如rsh、ssh)来实现将本地机器的内容拷贝到远程机器。当DST路径地址包含单个冒号”:”分隔符时启动该模式。
rsync [OPTION]... [USER@]HOST:SRC DEST # 使用一个远程shell程序(如rsh、ssh)来实现将远程机器的内容拷贝到本地机器。当SRC地址路径包含单个冒号”:”分隔符时启动该模式。
rsync [OPTION]... [USER@]HOST::SRC DEST # 从远程rsync服务器中拷贝文件到本地机。当SRC路径信息包含”::”分隔符时启动该模式。
rsync [OPTION]... SRC [USER@]HOST::DEST # 从本地机器拷贝文件到远程rsync服务器中。当DST路径信息包含”::”分隔符时启动该模式。
rsync [OPTION]... rsync://[USER@]HOST[:PORT]/SRC [DEST] # 列远程机的文件列表。这类似于rsync传输，不过只要在命令中省略掉本地机信息即可。

rsync参数：

-v, --verbose 详细模式输出
-q, --quiet 精简输出模式
-c, --checksum 打开校验开关，强制对文件传输进行校验
-a, --archive 归档模式，表示以递归方式传输文件，并保持所有文件属性，等于-rlptgoD
-r, --recursive 对子目录以递归模式处理
-R, --relative 使用相对路径信息
-b, --backup 创建备份，也就是对于目的已经存在有同样的文件名时，将老的文件重新命名为~filename。可以使用--suffix选项来指定不同的备份文件前缀。
--backup-dir 将备份文件(如~filename)存放在在目录下。
-suffix=SUFFIX 定义备份文件前缀
-u, --update 仅仅进行更新，也就是跳过所有已经存在于DST，并且文件时间晚于要备份的文件。(不覆盖更新的文件)
-l, --links 保留软链结
-L, --copy-links 想对待常规文件一样处理软链结
--copy-unsafe-links 仅仅拷贝指向SRC路径目录树以外的链结
--safe-links 忽略指向SRC路径目录树以外的链结
-H, --hard-links 保留硬链结
-p, --perms 保持文件权限
-o, --owner 保持文件属主信息
-g, --group 保持文件属组信息
-D, --devices 保持设备文件信息
-t, --times 保持文件时间信息
-S, --sparse 对稀疏文件进行特殊处理以节省DST的空间
-n, --dry-run现实哪些文件将被传输
-W, --whole-file 拷贝文件，不进行增量检测
-x, --one-file-system 不要跨越文件系统边界
-B, --block-size=SIZE 检验算法使用的块尺寸，默认是700字节
-e, --rsh=COMMAND 指定使用rsh、ssh方式进行数据同步
--rsync-path=PATH 指定远程服务器上的rsync命令所在路径信息
-C, --cvs-exclude 使用和CVS一样的方法自动忽略文件，用来排除那些不希望传输的文件
--existing 仅仅更新那些已经存在于DST的文件，而不备份那些新创建的文件
--delete 删除那些DST中SRC没有的文件
--delete-excluded 同样删除接收端那些被该选项指定排除的文件
--delete-after 传输结束以后再删除
--ignore-errors 及时出现IO错误也进行删除
--max-delete=NUM 最多删除NUM个文件
--partial 保留那些因故没有完全传输的文件，以是加快随后的再次传输
--force 强制删除目录，即使不为空
--numeric-ids 不将数字的用户和组ID匹配为用户名和组名
--timeout=TIME IP超时时间，单位为秒
-I, --ignore-times 不跳过那些有同样的时间和长度的文件
--size-only 当决定是否要备份文件时，仅仅察看文件大小而不考虑文件时间
--modify-window=NUM 决定文件是否时间相同时使用的时间戳窗口，默认为0
-T --temp-dir=DIR 在DIR中创建临时文件
--compare-dest=DIR 同样比较DIR中的文件来决定是否需要备份
-P 等同于 --partial
--progress 显示备份过程
-z, --compress 对备份的文件在传输时进行压缩处理
--exclude=PATTERN 指定排除不需要传输的文件模式
--include=PATTERN 指定不排除而需要传输的文件模式
--exclude-from=FILE 排除FILE中指定模式的文件
--include-from=FILE 不排除FILE指定模式匹配的文件
--version 打印版本信息
--address 绑定到特定的地址
--config=FILE 指定其他的配置文件，不使用默认的rsyncd.conf文件
--port=PORT 指定其他的rsync服务端口
--blocking-io 对远程shell使用阻塞IO
-stats 给出某些文件的传输状态
--progress 在传输时现实传输过程
--log-format=formAT 指定日志文件格式
--password-file=FILE 从FILE中得到密码
--bwlimit=KBPS 限制I/O带宽，KBytes per second
-h, --help 显示帮助信息

来源微信公众号： 步步运维步步坑