Sersync+Rsync實(shí)現(xiàn)觸發(fā)式文件同步實(shí)戰(zhàn)過(guò)程

背景

創(chuàng)新互聯(lián)堅(jiān)持“要么做到，要么別承諾”的工作理念，服務(wù)領(lǐng)域包括：網(wǎng)站設(shè)計(jì)、成都做網(wǎng)站、企業(yè)官網(wǎng)、英文網(wǎng)站、手機(jī)端網(wǎng)站、網(wǎng)站推廣等服務(wù)，滿足客戶于互聯(lián)網(wǎng)時(shí)代的延長(zhǎng)網(wǎng)站設(shè)計(jì)、移動(dòng)媒體設(shè)計(jì)的需求，幫助企業(yè)找到有效的互聯(lián)網(wǎng)解決方案。努力成為您成熟可靠的網(wǎng)絡(luò)建設(shè)合作伙伴！

通常我們?cè)?a title="服務(wù)器" target="_blank" >服務(wù)器上使用rsync加上crontab來(lái)定時(shí)地完成一些同步、備份文件的任務(wù)。隨著業(yè)務(wù)和應(yīng)用需求的不斷擴(kuò)大、實(shí)時(shí)性要求越來(lái)越高。一般rsync是通過(guò)校驗(yàn)所有文件后，進(jìn)行差量同步，如果文件量十分龐大，那么rsync進(jìn)行校驗(yàn)的過(guò)程也是十分耗時(shí)的。而且正在發(fā)生變化的往往是其中很少的一部分，這是非常低效的方式。其次，rsync不能實(shí)時(shí)的去監(jiān)測(cè)、同步數(shù)據(jù)，雖然它可以通過(guò)crontab方式進(jìn)行觸發(fā)同步，但是兩次觸發(fā)動(dòng)作一定會(huì)有時(shí)間差，這樣就導(dǎo)致了服務(wù)端和客戶端數(shù)據(jù)可能出現(xiàn)不一致，無(wú)法在應(yīng)用故障時(shí)完全的恢復(fù)數(shù)據(jù)。而Sersync+Rsync的組合能夠較好地解決這種問(wèn)題。

Sersync介紹

1、sersync是使用c++編寫(xiě)，而且對(duì)linux系統(tǒng)文件系統(tǒng)產(chǎn)生的臨時(shí)文件和重復(fù)的文件操作進(jìn)行過(guò)濾（詳細(xì)見(jiàn)附錄，這個(gè)過(guò)濾腳本程序沒(méi)有實(shí)現(xiàn)），所以在結(jié)合rsync同步的時(shí)候，節(jié)省了運(yùn)行時(shí)耗和網(wǎng)絡(luò)資源。因此更快。

2、sersync配置起來(lái)很簡(jiǎn)單，其中bin目錄下已經(jīng)有基本上靜態(tài)編譯的2進(jìn)制文件，配合bin目錄下的xml配置文件直接使用即可。

3、另外本項(xiàng)目相比較其他腳本開(kāi)源項(xiàng)目，使用多線程進(jìn)行同步，尤其在同步較大文件時(shí)，能夠保證多個(gè)服務(wù)器實(shí)時(shí)保持同步狀態(tài)。

4、本項(xiàng)目有出錯(cuò)處理機(jī)制，通過(guò)失敗隊(duì)列對(duì)出錯(cuò)的文件重新同步，如果仍舊失敗，則每10個(gè)小時(shí)對(duì)同步失敗的文件重新同步。

5、本項(xiàng)目自帶crontab功能，只需在xml配置文件中開(kāi)啟，即可按您的要求，隔一段時(shí)間整體同步一次。無(wú)需再額外配置crontab功能。

6、本項(xiàng)目socket與http插件擴(kuò)展，滿足您二次開(kāi)發(fā)的需要。

實(shí)戰(zhàn)過(guò)程

一、服務(wù)器環(huán)境

服務(wù)端：172.16.57.26 centos6.7 rsync-server 接收文件

客戶端：172.16.57.25 centos6.7 sersync+rsync-client 發(fā)送文件

二、服務(wù)端安裝rsync-server

1、安裝rsync

# rpm -qa | grep rsync #查看rsync是否已經(jīng)安裝，如果沒(méi)有安裝，yum install直接安裝即可

2、使用xinetd方式啟動(dòng)rsync

# vim /etc/xinetd.d/rsync #修改disable = no，flags = IPv4

3、修改rsync配置文件

# mkdir /etc/rsyncd
# vim /etc/rsyncd/rsyncd.conf #修改配置文件如下
# GLOBAL OPTIONS
motd file=/etc/motd
port=873
pid file=/var/run/rsyncd.pid
lock file = /var/lock/rsyncd
log file=/var/log/rsyncd
transfer logging = yes
log format = [op]:%o [ip]:%a [module]:%m [path]:%P [file]:%f [size]:%l
syslog facility=daemon
max connections=100
[recv]
comment = "recv data from 57.25"
path = /opt/rsync_data/recv #這邊的目錄的宿主要改為apprun，在這里同步過(guò)程中使用的是普通賬戶apprun
list = yes
use chroot = yes
uid = apprun
gid = apprun
read only = no
write only = no
exclude =
include =
auth users = rsync
secrets file = /etc/rsyncd/rsyncd.secrets
strict modes = yes
hosts allow = 172.16.57.25
hosts deny = *
# ln -s /etc/rsyncd/rsyncd.conf /etc/rsyncd.conf

4、建立用戶認(rèn)證文件

# vim /etc/rsyncd/rsyncd.secrets
rsync:111111   #格式  用戶名:口令
#chmod 600 /etc/rsyncd/rsyncd.secrets #權(quán)限設(shè)為600，否則啟動(dòng)會(huì)報(bào)錯(cuò)

5、啟動(dòng)rsync

# /etc/init.d/xinetd start
# netstat -tpln | grep 873 #查看873端口是否已經(jīng)在監(jiān)聽(tīng)了

三、客戶端安裝sersync+rsync-client

1、安裝rsync，和服務(wù)端一樣，沒(méi)有安裝的話yum install安裝

2、安裝sersync

# tar xzvf sersync2.5_64bit_binary_stable_final.tar.gz
# mv GNU-Linux-x86 /opt/programs/sersync #解壓并拷貝到安裝目錄

3、配置sersync

<?xml version="1.0" encoding="ISO-8859-1"?>
<head version="2.5">
  <host hostip="localhost" port="8008"></host>
  <debug start="false"/>
  <fileSystem xfs="false"/>
  <filter start="false">
  <exclude expression="(.*)\.svn"></exclude>
  <exclude expression="(.*)\.gz"></exclude>
  <exclude expression="^info/*"></exclude>
  <exclude expression="^static/*"></exclude>
  </filter>
  <inotify>
  <delete start="true"/>
  <createFolder start="true"/>
  <createFile start="true"/>
  <closeWrite start="true"/>
  <moveFrom start="true"/>
  <moveTo start="true"/>
  <attrib start="true"/>
  <modify start="true"/>
  </inotify>
  <sersync>
  <localpath watch="/opt/rsync_data/send"> #監(jiān)控目錄，一旦本地目錄有文件變化，將同步到服務(wù)端
    <remote ip="172.16.57.26" name="recv"/>#服務(wù)端ip和同步模塊
  </localpath>
  <rsync>
    <commonParams params="-artuz"/> #rsync同步參數(shù)
    <auth start="true" users="rsync" passwordfile="/etc/rsync.pas"/>?。７?wù)端認(rèn)證密碼
    <userDefinedPort start="false" port="873"/>
    <timeout start="false" time="100"/><!-- timeout=100 -->
    <ssh start="false"/>
  </rsync>
  <failLog path="/tmp/rsync_fail_log.sh" timeToExecute="60"/><!--default every 60mins execute once-->
  <crontab start="false" schedule="600"><!--600mins-->
    <crontabfilter start="false">
    <exclude expression="*.php"></exclude>
    <exclude expression="info/*"></exclude>
    </crontabfilter>
  </crontab>
  <plugin start="false" name="command"/>
  </sersync>
</head>

4、服務(wù)端密碼認(rèn)證

# vim /etc/rsync.pas #在相應(yīng)的目錄下配置身份驗(yàn)證文件，里面輸入服務(wù)端的密碼，并chmod 600
# chmod 600 /etc/rsync.pas

5、啟動(dòng)sersync

# ./sersync2 -d -o confxml.xml

四、測(cè)試認(rèn)證

在客戶端下監(jiān)控目錄/opt/rsync_data/send下添加文件或者刪除，服務(wù)端的接受目錄都會(huì)實(shí)時(shí)地進(jìn)行更新。

在此例中，服務(wù)器iptables和selinux均處于關(guān)閉狀態(tài)。

note: 這種方法同步文件的時(shí)候，同步文件的數(shù)量如果很多，可能會(huì)有部分文件在同步過(guò)程中缺失。查閱相關(guān)資料后，找到了如下的解決方案。由于本例中，使用的是xinetd方式啟動(dòng)的rsync服務(wù)，在xinetd的配置文件中，修改幾個(gè)參數(shù)如下：

# vim /etc/xinetd.conf

修改幾個(gè)參數(shù)：

 cps       = 500 30
 instances    = UNLIMITED
 per_source   = UNLIMITED

總結(jié)

以上所述是小編給大家介紹的Sersync+Rsync實(shí)現(xiàn)觸發(fā)式文件同步，希望對(duì)大家有所幫助，如果大家有任何疑問(wèn)請(qǐng)給我留言，小編會(huì)及時(shí)回復(fù)大家的。在此也非常感謝大家對(duì)創(chuàng)新互聯(lián)網(wǎng)站的支持！

網(wǎng)頁(yè)題目：Sersync+Rsync實(shí)現(xiàn)觸發(fā)式文件同步實(shí)戰(zhàn)過(guò)程
新聞來(lái)源：http://www.muchs.cn/article26/pcoojg.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián)，為您提供品牌網(wǎng)站建設(shè)、網(wǎng)站策劃、營(yíng)銷(xiāo)型網(wǎng)站建設(shè)、虛擬主機(jī)、企業(yè)網(wǎng)站制作、定制開(kāi)發(fā)

聲明：本網(wǎng)站發(fā)布的內(nèi)容（圖片、視頻和文字）以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主，如果涉及侵權(quán)請(qǐng)盡快告知，我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng)，如需處理請(qǐng)聯(lián)系客服。電話：028-86922220；郵箱：631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載，或轉(zhuǎn)載時(shí)需注明來(lái)源：創(chuàng)新互聯(lián)

猜你還喜歡下面的內(nèi)容