數(shù)據(jù)庫異步php 數(shù)據(jù)庫異步存儲

php redis做mysql的緩存,怎么異步redis同步到mysql數(shù)據(jù)庫

 對于變化頻率非??斓臄?shù)據(jù)來說,如果還選擇傳統(tǒng)的靜態(tài)緩存方式(Memocached、File System等)展示數(shù)據(jù),可能在緩存的存取上會有很大的開銷,并不能很好的滿足需要,而Redis這樣基于內(nèi)存的NoSQL數(shù)據(jù)庫,就非常適合擔(dān)任實時數(shù)據(jù)的容器。

創(chuàng)新互聯(lián)公司-專業(yè)網(wǎng)站定制、快速模板網(wǎng)站建設(shè)、高性價比邯鄲網(wǎng)站開發(fā)、企業(yè)建站全套包干低至880元,成熟完善的模板庫,直接使用。一站式邯鄲網(wǎng)站制作公司更省心,省錢,快速模板網(wǎng)站建設(shè)找我們,業(yè)務(wù)覆蓋邯鄲地區(qū)。費用合理售后完善,10年實體公司更值得信賴。

但是往往又有數(shù)據(jù)可靠性的需求,采用MySQL作為數(shù)據(jù)存儲,不會因為內(nèi)存問題而引起數(shù)據(jù)丟失,同時也可以利用關(guān)系數(shù)據(jù)庫的特性實現(xiàn)很多功能。

所以就會很自然的想到是否可以采用MySQL作為數(shù)據(jù)存儲引擎,Redis則作為Cache。而這種需求目前還沒有看到有特別成熟的解決方案或工具,因此采用Gearman+PHP+MySQL UDF的組合異步實現(xiàn)MySQL到Redis的數(shù)據(jù)復(fù)制。

MySQL到Redis數(shù)據(jù)復(fù)制方案

無論MySQL還是Redis,自身都帶有數(shù)據(jù)同步的機制,比較常用的MySQL的Master/Slave模式,就是由Slave端分析Master的binlog來實現(xiàn)的,這樣的數(shù)據(jù)復(fù)制其實還是一個異步過程,只不過當(dāng)服務(wù)器都在同一內(nèi)網(wǎng)時,異步的延遲幾乎可以忽略。

那么理論上也可以用同樣方式,分析MySQL的binlog文件并將數(shù)據(jù)插入Redis。但是這需要對binlog文件以及MySQL有非常深入的理解,同時由于binlog存在Statement/Row/Mixedlevel多種形式,分析binlog實現(xiàn)同步的工作量是非常大的。

因此這里選擇了一種開發(fā)成本更加低廉的方式,借用已經(jīng)比較成熟的MySQL UDF,將MySQL數(shù)據(jù)首先放入Gearman中,然后通過一個自己編寫的PHP Gearman Worker,將數(shù)據(jù)同步到Redis。比分析binlog的方式增加了不少流程,但是實現(xiàn)成本更低,更容易操作。

Gearman的安裝與使用

Gearman是一個支持分布式的任務(wù)分發(fā)框架。設(shè)計簡潔,獲得了非常廣泛的支持。一個典型的Gearman應(yīng)用包括以下這些部分:

Gearman Job Server:Gearman核心程序,需要編譯安裝并以守護進程形式運行在后臺

Gearman Client:可以理解為任務(wù)的收件員,比如在后臺執(zhí)行一個發(fā)送郵件的任務(wù),可以在程序中調(diào)用一個Gearman Client并傳入郵件的信息,然后就可以將執(zhí)行結(jié)果立即展示給用戶,而任務(wù)本身會慢慢在后臺運行。

Gearman Worker:任務(wù)的真正執(zhí)行者,一般需要自己編寫具體邏輯并通過守護進程方式運行,Gearman Worker接收到Gearman Client傳遞的任務(wù)內(nèi)容后,會按順序處理。

以前曾經(jīng)介紹過類似的后臺任務(wù)處理項目Resque。兩者的設(shè)計其實非常接近,簡單可以類比為:

Gearman Job Server:對應(yīng)Resque的Redis部分

Gearman Client:對應(yīng)Resque的Queue操作

Gearman Worker:對應(yīng)Resque的Worker和Job

這里之所以選擇Gearman而不是Resque是因為Gearman提供了比較好用的MySQL UDF,工作量更小。

安裝Gearman及PHP Gearman擴展

以下均以Ubuntu12.04為例。

apt-get install gearman gearman-server libgearman-dev

檢查Gearman的運行狀況:

/etc/init.d/gearman-job-server status

* gearmand is running

說明Gearman已經(jīng)安裝成功。

PHP的Gearman擴展可以通過pecl直接安裝

pecl install gearman

echo "extension=gearman.so"/etc/php5/conf.d/gearman.ini

service php5-fpm restart

但是實測發(fā)現(xiàn)ubuntu默認(rèn)安裝的gearman版本過低,直接運行pecl install gearman會報錯

configure: error: libgearman version 1.1.0or later required

因此Gearman + PHP擴展建議通過編譯方式安裝,這里為了簡單說明,選擇安裝舊版本擴展:

pecl install gearman-1.0.3

Gearman + PHP實例

為了更容易理解后文Gearman的運行流程,這里不妨從一個最簡單的Gearman實例來說明,比如要進行一個文件處理的操作,首先編寫一個Gearman Client并命名為client.php:

?php

$client =newGearmanClient();

$client-addServer();

$client-doBackground('writeLog','Log content');

echo '文件已經(jīng)在后臺操作';

運行這個文件,相當(dāng)于模擬用戶請求一個Web頁面后,將處理結(jié)束的信息返回用戶:

php client.php

查看一下Gearman的狀況:

(echo status ; sleep 0.1)| netcat127.0.0.14730

可以看到輸出為

writeLog ? ? ? ?100.

說明已經(jīng)在Gearman中建立了一個名為writeLog的任務(wù),并且有1個任務(wù)在隊列等待中。

而上面的4列分別代表當(dāng)前的Gearman的運行狀態(tài):

任務(wù)名稱

在等待隊列中的任務(wù)

正在運行的任務(wù)

正在運行的Worker進程

可以使用watch進行實時監(jiān)控:

watch -n 1"(echo status; sleep 0.1) | nc 127.0.0.1 4730"

然后我們需要編寫一個Gearman Worker命名為worker.php:

?php

$worker =newGearmanWorker();

$worker-addServer();

$worker-addFunction('writeLog','writeLog');while($worker-work());function writeLog($job){

$log = $job-workload();file_put_contents(__DIR__ .'/gearman.log', $log ."\n", FILE_APPEND | LOCK_EX);}

Worker使用一個while死循環(huán)實現(xiàn)守護進程,運行

php worker.php

可以看到Gearman狀態(tài)變?yōu)椋?/p>

writeLog ? ? ? ?001

同時查看同目錄下gearman.log,內(nèi)容應(yīng)為從Client傳入的值Log content。

通過MySQL UDF + Trigger同步數(shù)據(jù)到Gearman

MySQL要實現(xiàn)與外部程序互通的最好方式還是通過MySQL UDF(MySQL user defined functions)來實現(xiàn)。為了讓MySQL能將數(shù)據(jù)傳入Gearman,這里使用了lib_mysqludf_json和gearman-mysql-udf的組合。

安裝lib_mysqludf_json

使用lib_mysqludf_json的原因是因為Gearman只接受字符串作為入口參數(shù),可以通過lib_mysqludf_json將MySQL中的數(shù)據(jù)編碼為JSON字符串

apt-get install libmysqlclient-dev

wget

unzip master.zip

cd lib_mysqludf_json-master/

rm lib_mysqludf_json.so

gcc $(mysql_config --cflags)-shared -fPIC -o lib_mysqludf_json.so lib_mysqludf_json.c

可以看到重新編譯生成了 lib_mysqludf_json.so 文件,此時需要查看MySQL的插件安裝路徑:

mysql -u root -pPASSWORD --execute="show variables like '%plugin%';"+---------------+------------------------+|Variable_name|Value|+---------------+------------------------+| plugin_dir ? ?|/usr/lib/mysql/plugin/|+---------------+------------------------+

然后將 lib_mysqludf_json.so 文件復(fù)制到對應(yīng)位置:

cp lib_mysqludf_json.so /usr/lib/mysql/plugin/

最后登入MySQL運行語句注冊UDF函數(shù):

CREATE FUNCTION json_object RETURNS STRING SONAME 'lib_mysqludf_json.so';

安裝gearman-mysql-udf

方法幾乎一樣:

apt-get install libgearman-dev

wget

tar -xzf gearman-mysql-udf-0.6.tar.gz

cd gearman-mysql-udf-0.6./configure --with-mysql=/usr/bin/mysql_config

-libdir=/usr/lib/mysql/plugin/

make make install

登入MySQL運行語句注冊UDF函數(shù):

CREATE FUNCTION gman_do_background RETURNS STRING SONAME 'libgearman_mysql_udf.so';

CREATE FUNCTION gman_servers_set RETURNS STRING SONAME 'libgearman_mysql_udf.so';

最后指定Gearman服務(wù)器的信息:

SELECT gman_servers_set('127.0.0.1:4730');

通過MySQL觸發(fā)器實現(xiàn)數(shù)據(jù)同步

最終同步哪些數(shù)據(jù),同步的條件,還是需要根據(jù)實際情況決定,比如將數(shù)據(jù)表data的數(shù)據(jù)在每次更新時同步,那么編寫Trigger如下:

DELIMITER $$

CREATE TRIGGER datatoredis AFTER UPDATE ON data

FOR EACH ROW BEGIN

SET @ret=gman_do_background('syncToRedis', json_object(NEW.id as`id`, NEW.volume as`volume`));END$$

DELIMITER ;

嘗試在數(shù)據(jù)庫中更新一條數(shù)據(jù)查看Gearman是否生效。

Gearman PHP Worker將MySQL數(shù)據(jù)異步復(fù)制到Redis

Redis作為時下當(dāng)熱的NoSQL緩存解決方案無需過多介紹,其安裝及使用也非常簡單:

apt-get install redis-server

pecl install redis

echo "extension=redis.so"/etc/php5/conf.d/redis.ini

然后編寫一個Gearman Worker:redis_worker.php

#!/usr/bin/env php?

$worker =newGearmanWorker();

$worker-addServer();

$worker-addFunction('syncToRedis','syncToRedis');

$redis =newRedis();

$redis-connect('127.0.0.1',6379);while($worker-work());function syncToRedis($job){global $redis;

$workString = $job-workload();

$work = json_decode($workString);if(!isset($work-id)){returnfalse;}

$redis-set($work-id, $workString);}

最后需要將Worker在后臺運行:

nohup php redis_worker.php

通過這種方式將MySQL數(shù)據(jù)復(fù)制到Redis,經(jīng)測試單Worker基本可以瞬時完成。

在php中如何向數(shù)據(jù)庫中異步插入圖片

一般不向數(shù)據(jù)庫插入圖片 而是插入圖片的src 通過src找到圖片然后顯示。

(更多異步問題)

?php

session_start();

//array數(shù)組中放圖片的格式

$uptypes = array("image/jpg","image/jpeg","image/png","image/pjpeg","image/gif","image/bmp","image/x-png");

$files =$_FILES["uppic"];

if($files["size"]2097152){ //圖片大小判斷

echo "上傳圖片不能大于2M";

echo "meta http-equiv='REFRESH' CONTENT='1;URL=pic.php'";

exit;

}

$ftype =$files["type"];

if(!in_array($ftype,$uptypes)){ //圖片格式判斷

echo "上傳的圖片文件格式不正確";

echo "meta http-equiv='REFRESH' CONTENT='1;URL=pic.php'";

}

$fname = $files["tmp_name"]; //在服務(wù)器臨時存儲名稱

$image_info = getimagesize($fname);

$name = $files["name"];

$str_name = pathinfo($name); //以數(shù)組的形式返回文件路勁的信息

$extname = strtolower($str_name["extension"]); //把字符串改為小寫 extensiorn擴展名

$upload_dir = "upload/"; //upload文件夾

$file_name = date("YmdHis").rand(1000,9999).".".$extname;

$str_file = $upload_dir.$file_name; //文件目錄

//存入數(shù)據(jù)庫

$con=mysql_connect("localhost","root","");

if(!$con){

die(("數(shù)據(jù)庫連接失敗").mysql_error());

}

mysql_select_db("mywork",$con);

$sql="update user set picpath='$str_file' where user_name='$username'"; //將圖片地址插入數(shù)據(jù)庫mywork

mysql_query($sql,$con);

mysql_close($con);

if(!file_exists($upload_dir)){

mkdir($upload_dir); //創(chuàng)建目錄 成功則返回true 失敗則返回flase

}

if(!move_uploaded_file($files["tmp_name"],$str_file)){ //將上傳的文件移動到新的目錄 要移動文件 和文件新目錄 成功則返回true

echo "圖片上傳失敗";

echo "meta http-equiv='REFRESH' CONTENT='1;URL=插入失敗后希望跳轉(zhuǎn)的頁面";

}

else{

//echo "img src=".$str_file."";

echo "圖片上傳成功";

echo "meta http-equiv='REFRESH' CONTENT='1;URL=插入成功希望挑戰(zhàn)的頁面";

}

php 如何異步插入數(shù)據(jù)庫

頁面1.php里面寫具體的執(zhí)行語句

頁面2.php直接使用curl調(diào)用頁面1.php 并設(shè)置超時時間;根據(jù)你自己的需求寫但是你不一定如果超時時間內(nèi) 數(shù)據(jù)庫沒執(zhí)行玩 那你可能就獲取不到插入結(jié)果了

訪問2.php應(yīng)該就是你說的異步了

php 怎樣實現(xiàn)異步處理接口

首先 php 7以下 不支持異步方式(有個類庫 可以勉強算是支持了異步 名字忘了)

其次 php腳本 由于是逐行解析的,不常駐線程(當(dāng)然可以設(shè)置為永久連接,不自動超時退出) 異步意義不大。

第三 我懷疑你是想問javascript的異步請求? 如何用php處理?

如果沒問錯的話 可以用其他方式來解決異步問題,就是同時發(fā)出多個web request請求 等多個請求成功之后將結(jié)果寫入數(shù)據(jù)庫(文件) 然后 有一個 一直在等待結(jié)果的php請求進程 一旦讀取到了這個寫入完畢的(數(shù)據(jù)庫)文件結(jié)果 馬上返回給瀏覽器

名稱欄目:數(shù)據(jù)庫異步php 數(shù)據(jù)庫異步存儲
標(biāo)題來源:http://muchs.cn/article16/dosjjgg.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián),為您提供用戶體驗、電子商務(wù)、移動網(wǎng)站建設(shè)、網(wǎng)站改版、商城網(wǎng)站網(wǎng)站設(shè)計公司

廣告

聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主,如果涉及侵權(quán)請盡快告知,我們將會在第一時間刪除。文章觀點不代表本網(wǎng)站立場,如需處理請聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時需注明來源: 創(chuàng)新互聯(lián)

外貿(mào)網(wǎng)站建設(shè)