IT技术互动交流平台

rsync文件同步应用 服务器端的配置

作者:陈仲阳  发布日期:2013-06-18 10:15:56

    对于选择linux 作为应用平台的的中小型企业或网站来说,往往面临如何实现数据远程备份或者网站镜象的问题,虽然有商业化的备份和镜象产品可供选择,但这些产品的价格往往过于昂贵。因此如何利用自由软件高效实现远程备份和网站镜象就成为一个值得讨论的话题。

    通过网络进行远程数据备份或者网站镜象的最简单的方法就是使用wget,但是这种方式每次都需要将所有数据都重新在网络上传输一遍,而不考虑哪些文件是经过更新的,因此效率非常低下。尤其在需要备份的数据量很大的时候,往往需要花费数个小时来在网络上进行数据传输。
   因此这里就介绍一种高效的网络远程备份和镜象工具-rsync,它可以满足绝大多数要求不是特别严格的备份需求。

    rsync是类unix系统下的数据镜像备份工具,从软件的命名上就可以看出来了——remote sync

一,rsync特点

 

可以镜像保存整个目录树和文件系统。
可以很容易做到保持原来文件的权限、时间、软硬链接等等。
无须特殊权限即可安装。
快速:第一次同步时 rsync 会复制全部内容,但在下一次只传输修改过的文件。rsync 在传输数据的过程中可以实行压缩及解压缩操作,因此可以使用更少的带宽。
安全:可以使用scp、ssh等方式来传输文件,当然也可以通过直接的socket连接。

支持匿名传输,以方便进行网站镜象。

    需要注意的是必须在服务器test3和test4上都安装rsync,其中test3服务器上是以服务器模式运行rsync,而test4上则以客户端方式运行rsync。这样在服务器test3上运行rsync守护进程,在test4上定时运行客户程序来备份服务器test3上需要备份的内容。

一般的linux系统都自带了rsync的包,rhel和centos可以通过rpm或者yum来安装包,我这里使用的是centos 6.0,它的安装很简单:

[root@test3 ~]# yum install rsync

这里我就不通过yum安装rsync了,而是通过编译安装rsync包,其实编译安装也是很简单的,现在我通过源码包来编译安装rsync

 

二,rsync下载编译安装安装

我这里用的是最新的版本,下载的网站是http://rsync.samba.org,完整的下载如下http://rsync.samba.org/ftp/rsync/rsync-3.0.9.tar.gz

[root@test3 ~]# tar xzvf  rsync-3.0.9.tar.gz

[root@test3 ~]# cd rsync-3.0.9

[root@test3 rsync-3.0.9]# ./configure  --prefix=/usr/local/rsync  

    出现  rsync 3.0.9 configuration successful 才表示configure通过

[root@test3 rsync-3.0.9]# make

[root@test3 rsync-3.0.9]# make install

[root@test3 rsync-3.0.9]# cp  /usr/local/rsync/bin/rsync  /usr/bin/

 

三,rsync服务器test3

 在test3上以守护进程方式来启动rsync服务器

[root@test3 rsync-3.0.9]#      rsync  --daemon

这是会显示没有配置文件,不要紧后面慢慢介绍

Failed to parse config file: /etc/rsyncd.conf

rsync默认服务端口为873,服务器在该端口接收客户的匿名或者认证方式的备份请求。

如果想开机启动

/usr/local/rsync/bin/rsync --daemon 加到文件/etc/rc.d/rc.local中就可以 了

如果你的系统之中安装了xinetd,那么还需要在xinetd中进行配置

配置rsync servervi /etc/xinetd.d/rsync

将disable=yes改为no  
service rsync {
       disable = no
       socket_type     = stream        

       wait            = no        

       user            = root
       server          = /usr/bin/rsync        

       server_args     = --daemon        

       log_on_failure  += USERID }

 

四,rsync的配置参数说明

 rsync服务器的配置文件为/etc/rsyncd.conf,其控制认证、访问、日志记录等等。

该文件是由一个或多个模块结构组成。一个模块定义以方括弧中的模块名开始,直到下一个模块定义开始或者文件结束,模块中包含格式为name = value的参数定义。每个模块其实就对应需要备份的一个目录树,比方说在我们的实例环境中,有三个目录树需要备份:/www/、/home/web_user1/和/home/web_user2/,那么就需要在配置文件中定义三个模块,分别对应三个目录树。

全局参数
在文件中[modlue]之前的所有参数都是全局参数,当然也可以在全局参数部分定义模块参数,这时候该参数的值就是所有模块的默认值。
motd file
"motd file"参数用来指定一个消息文件,当客户连接服务器时该文件的内容显示给客户,默认是没有motd文件的。

log file
"log file"指定rsync的日志文件,而不将日志发送给syslog。

pid file
指定rsync的pid文件。

syslog facility
指定rsync发送日志消息给syslog时的消息级别,常见的消息级别是:uth, authpriv, cron, daemon, ftp, kern, lpr, mail, news, security, sys-log, user, uucp, local0, local1, local2, local3,local4, local5, local6和local7。

默认值是daemon。

 

模块参数

在全局参数之后就需要定义一个或多个模块了,模块中可以定义以下参数:

comment

给模块指定一个描述,该描述连同模块名在客户连接得到模块列表时显示给客户。默认没有描述定义。

path

指定该模块的供备份的目录树路径,该参数是必须指定的。

use chroot

如果"use chroot"指定为true,那么rsync在传输文件以前首先chroot到path参数所指定的目录下。这样做的原因是实现额外的安全防护,但是缺点是需要以roots权限,并且不能备份指向外部的符号连接所指向的目录文件。默认情况下chroot值为true。

max connections

指定该模块的最大并发连接数量以保护服务器,超过限制的连接请求将被告知随后再试。默认值是0,也就是没有限制。

lock file

指定支持max connections参数的锁文件,默认值是/var/run/rsyncd.lock。

read only

该选项设定是否允许客户上载文件。如果为true那么任何上载请求都会失败,如果为false并且服务器目录读写权限允许那么上载是允许的。默认值为true。

list

该选项设定当客户请求可以使用的模块列表时,该模块是否应该被列出。如果设置该选项为false,可以创建隐藏的模块。默认值是true。

uid

该选项指定当该模块传输文件时守护进程应该具有的uid,配合gid选项使用可以确定哪些可以访问怎么样的文件权限,默认值是"nobody"。

gid

该选项指定当该模块传输文件时守护进程应该具有的gid。默认值为"nobody"。

exlude

用来指定多个由空格隔开的多个模式列表,并将其添加到exclude列表中。这等同于在客户端命令中使用--exclude来指定模式,不过配置文件中指定的exclude模式不会传递给客户端,而仅仅应用于服务器。一个模块只能指定一个exlude选项,但是可以在模式前面使用"-"和"+"来指定是exclude还是include。

但是需要注意的一点是该选项有一定的安全性问题,客户很有可能绕过exlude列表,如果希望确保特定的文件不能被访问,那就最好结合uid/gid选项一起使用。

exlude from

指定一个包含exclude模式的定义的文件名,服务器从该文件中读取exlude列表定义。

include

用来指定多个由空格隔开的多个rsync并应该exlude的模式列表。这等同于在客户端命令中使用--include来指定模式,结合include和exlude可以定义复杂的exlude/include规则 。一个模块只能指定一个include选项,但是可以在模式前面使用"-"和"+"来指定是exclude还是include。

include from

指定一个包含include模式的定义的文件名,服务器从该文件中读取include列表定义。

auth users

该选项指定由空格或逗号分隔的用户名列表,只有这些用户才允许连接该模块。这里的用户和系统用户没有任何关系。如果"auth users"被设置,那么客户端发出对该模块的连接请求以后会被rsync请求challenged进行验证身份这里使用的challenge/response认证协议。用户的名和密码以明文方式存放在"secrets file"选项指定的文件中。默认情况下无需密码就可以连接模块(也就是匿名方式)。

secrets file

该选项指定一个包含定义用户名:密码对的文件。只有在"auth users"被定义时,该文件才有作用。文件每行包含一个username:passwd对。一般来说密码最好不要超过8个字符。没有默认的secures file名,需要限式指定一个。(例如:/etc/rsyncd.secrets)

strict modes

该选项指定是否监测密码文件的权限,如果该选项值为true那么密码文件只能被rsync服务器运行身份的用户访问,其他任何用户不可以访问该文件。默认值为true。

hosts allow

该选项指定哪些IP的客户允许连接该模块。客户模式定义可以是以下形式:

xxx.xxx.xxx.xxx,客户主机只有完全匹配该IP才允许访问。例如:192.167.0.1

a.b.c.d/n,属于该网络的客户都允许连接该模块。例如:192.168.0.0/24

a.b.c.d/e.f.g.h,属于该网络的客户都允许连接该模块。例如:192.168.0.0/255.255.255.0

一个主机名,客户主机只有拥有该主机名才允许访问,例如:backup.linuxaid.com.cn。


*.linuxaid.com.cn,所有属于该域的主机都允许。

默认是允许所有主机连接。

hosts deny

指定不允许连接rsync服务器的机器,可以使用hosts allow的定义方式来进行定义。默认是没有hosts deny定义。

ignore errors

指定rsyncd在判断是否运行传输时的删除操作时忽略server上的IP错误,一般来说rsync在出现IO错误时将将跳过--delete操作,以防止因为暂时的资源不足或其它IO错误导致的严重问题。

ignore nonreadable

指定rysnc服务器完全忽略那些用户没有访问权限的文件。这对于在需要备份的目录中有些文件是不应该被备份者得到的情况是有意义的。

transfer logging

使rsync服务器使用ftp格式的文件来记录下载和上载操作在自己单独的日志中。

log format

通过该选项用户在使用transfer logging可以自己定制日志文件的字段。其格式是一个包含格式定义符的字符串,可以使用的格式定义符如下所示:

%h 远程主机名

%a 远程IP地址

%l 文件长度字符数

%p 该次rsync会话的进程id

%o 操作类型:"send"或"recv"

%f 文件名

%P 模块路径

%m 模块名

%t 当前时间

%u 认证的用户名(匿名时是null)

%b 实际传输的字节数

%c 当发送文件时,该字段记录该文件的校验码

默认log格式为:"%o %h [%a] %m (%u) %f %l",一般来说,在每行的头上会添加"%t [%p] "。在源代码中同时发布有一个叫rsyncstats的perl脚本程序来统计这种格式的日志文件。

timeout

通过该选项可以覆盖客户指定的IP超时时间。通过该选项可以确保rsync服务器不会永远等待一个崩溃的客户。超时单位为秒钟,0表示没有超时定义,这也是默认值。对于匿名rsync服务器来说,一个理想的数字是600。

refuse options

通过该选项可以定义一些不允许客户对该模块使用的命令参数列表。这里必须使用命令全名,而不能是简称。但发生拒绝某个命令的情况时服务器将报告错误信息然后退出。如果要防止使用压缩,应该是:"dont compress = *"。

dont compress

用来指定那些不进行压缩处理再传输的文件,默认值是

*.gz *.tgz *.zip *.z *.rpm *.deb *.iso *.bz2 *.tbz

 

五,我的实例配置

   这里我们用来同步/var/www/html/ 目录 和/etc 目录 进行备份

[root@test3 ~]#  vim  /etc/rsyncd.conf
uid = root
gid = root
use chroot = no
max connections = 2
strict modes = yes
port = 873
pid file = /var/run/rsyncd.pid
lock file = /var/run/rsync.lock
log file = /var/log/rsyncd.log
read only = yes
list = no
hosts allow = 192.168.87.0/24

[www]
path = /var/www/html

comment = www

ignore errors

read only = no

write only = no

list = no

auth users = abc
secrets file = /etc/rsyncd.secrets

[etc]

path = /etc

comment = etc

ignore errors

read only = no

write only = no

list = no

auth users = abc
secrets file = /etc/rsyncd.secrets

[root@test3 ~]# vim  /etc/rsyncd.secrets
abc:123456

[root@test3 ~]# rsync --daemon
failed to create pid file /var/run/rsyncd.pid: File exists
[root@test3 ~]# rm -f  /var/run/rsyncd.pid
[root@test3 ~]# rsync --daemon
[root@test3 ~]# chown root.root /etc/rsyncd.secrets
[root@test3 ~]# chown  600  /etc/rsyncd.secrets

 

六,启动rsync守护进程
[root@test3 ~]# rsync --daemon
[root@test3 ~]# netstat -antup|grep rsync
tcp        0      0 0.0.0.0:873                 0.0.0.0:*                   LISTEN      34601/rsync        
tcp        0      0 :::873                      :::*                        LISTEN      34601/rsync


Tag标签: rsync   文件同步应用  
  • 专题推荐

About IT165 - 广告服务 - 隐私声明 - 版权申明 - 免责条款 - 网站地图 - 网友投稿 - 联系方式
本站内容来自于互联网,仅供用于网络技术学习,学习中请遵循相关法律法规