php多線程查詢數(shù)據(jù)庫 php多線程和多進(jìn)程實現(xiàn)

北大青鳥java培訓(xùn):PHP中的(偽)多線程與多進(jìn)程?

利用WEB服務(wù)器本身的多線程來處理,從WEB服務(wù)器多次調(diào)用我們需要實現(xiàn)多線程的程序。

成都創(chuàng)新互聯(lián)提供高防服務(wù)器、云服務(wù)器、香港服務(wù)器、四川電信科技城機房

PHP中也能多線程了,那么問題也來了,那就是同步的問題。

安徽電腦培訓(xùn)知道PHP本身是不支持多線程的,所以更不會有什么像Java中synchronize的方法了。

那我們該如何做呢?1.盡量不訪問同一個資源。

以避免沖突。

但是可以同時像數(shù)據(jù)庫操作。

因為數(shù)據(jù)庫是支持并發(fā)操作的。

所以在多線程的PHP中不要向同一個文件中寫入數(shù)據(jù)。

如果必須要寫的話,用別的方法進(jìn)行同步。

如調(diào)用flock對文件進(jìn)行加鎖等。

或建立臨時文件,并在另外的線程中等待這個文件的消失while(file_exits('xxx'));這樣就等于這個臨時文件存在時,表示其實線程正在操作。

如果沒有了這個文件,說明其它線程已經(jīng)釋放了這個。

2.盡量不要從runThread在執(zhí)行fputs后取這個socket中讀取數(shù)據(jù)。

因為要實現(xiàn)多線程,需要的用非阻塞模式。

即在像fgets這樣的函數(shù)時立即返回。

。

所以讀寫數(shù)據(jù)就會出問題。

如果使用阻塞模式的話,程序就不算是多線程了。

他要等上面的返回才執(zhí)行下面的程序。

所以如果需要交換數(shù)據(jù)最后利用外面文件或數(shù)據(jù)中完成。

實在想要的話就用socket_set_nonblock($fp)來實現(xiàn)。

說了這么多,倒底這個有沒有實際的意義呢?在什么時候需要這種用這種方法呢?答案是肯定的。

大家知道。

在一個不斷讀取網(wǎng)絡(luò)資源的應(yīng)用中,網(wǎng)絡(luò)的速度是瓶頸。

如果采多這種形式就可以同時以多個線程對不同的頁面進(jìn)行讀取。

如何在本地機上看php???

準(zhǔn)備工作 首先要下載如下軟件,推薦到官網(wǎng)下載,如果你是像我一樣只是測試,那么到skycn.com下載吧,這樣比較快。

Apache

最流行的HTTP服務(wù)器軟件之一。快速、可靠、可通過簡單的API擴(kuò)展,Perl/Python解釋器可被編譯到服務(wù)器中,完全免費,完全源代碼開放。

我下載的是for Windows版本,目前最新版本是:2.0.54

PHP

PHP 是一種 HTML 內(nèi)嵌式的語言。而PHP獨特的語法混合了 C、Java、Perl 以及 PHP 式的新語法。它可以比 CGI 或者 Perl 更快速的執(zhí)行動態(tài)網(wǎng)頁。

我下載的是for Windows版本,目前最新版本是:5.0.4

MySQL

是一個多線程的,結(jié)構(gòu)化查詢語言(SQL)數(shù)據(jù)庫服務(wù)器。SQL 在世界上是最流行的數(shù)據(jù)庫語言。MySQL 的執(zhí)行性能非常高,運行速度非???,并非常容易使用。

我下載的是for Windows版本,目前最新版本是:5.0.4 Beta

phpMyAdmin

phpMyAdmin 是一個用PHP編寫的,可以通過互聯(lián)網(wǎng)控制和操作MySQL。通過phpMyAdmin可以完全對數(shù)據(jù)庫進(jìn)行操作。

我下載的是for Windows版本,目前最新版本是:2.6.2-pl1

安裝apache和PHP

下面是我的安裝記錄:

選擇80端口,將apache安裝在 e:\apache下。

配置apache里的httpd.conf文件(conf目錄下)

找到 DocumentRoot E:/apache/Apache2/htdocs 將其改為WEB目錄E:/htdocs

找到 DirectoryIndex index.html index.html.var 在后面加入 index.htm index.php default.php default.html

選擇模塊化模式安裝

找到 #LoadModule ssl_module modules/mod_ssl.so 這行,在此行后加入一行

LoadModule php5_module e:/php/php5apache2.dll

找到 AddType application/x-gzip .gz .tgz 這行,在此行后加入一行

AddType application/x-httpd-php .php

將php-5.0.4-Win32.zip里內(nèi)容解壓到e:\php里,找到php.ini-recommended,重命名為php.ini并拷貝到windows目錄下。

NTFS上記得給服務(wù)器開PHP.ini的讀權(quán)限。

查找extension_dir后面的改為e:/php/ext

查找Windows Extensions,把下面有一排的;extension=php_***.dll的分號去掉,就是支持組件了。我把 extension=php_gd2.dll extension=php_mbstring.dll extension=php_mysql.dll 的分號去掉了。

php5默認(rèn)不支持mysql了,所以要為他添加支持,除了extension=php_mysql.dll去分號之外,在php目錄里有個libmysql.dll文件,把它復(fù)制到系統(tǒng)的system32文件夾下,復(fù)制php.ini到windows目錄下。

此時PHP環(huán)境基本已經(jīng)配置成功

在WEB根目錄里建一個名為test.php的文件內(nèi)容如下

? echo phpinfo(); ?

重新啟動apache服務(wù),用瀏覽器打開

如果可以看到php配置輸出信息就成功了

安裝mysql

將mysql安裝到指定目錄,然后安裝程序會引導(dǎo)你一步步配置。不過奇怪的是最后任務(wù)欄沒有出現(xiàn)Mysql的圖標(biāo)。

修改mysql數(shù)據(jù)庫的root密碼

用cmd進(jìn)入命今行模式輸入如下命令: ( 注: d:\mysql 為mysql安裝目錄)

cd d:\mysql\bin

mysqladmin -u root -p password 123456

回車出現(xiàn)

Enter password: ( 注:這是叫你輸入原密碼. 剛安裝時密碼為空,所以直接回車即可)

此時mysql 中賬號 root 的密碼 被改為 123456 安裝完畢

配置php.ini并測試mysql

找到extension_dir = ./ 改為 extension_dir = e:/php/ext

找到

;extension=php_mysql.dll

將';'去掉改為

extension=php_mysql.dll

找到

;session.save_path = /tmp

將';'去掉 設(shè)置你保存session的目錄,如

session.save_path = e:/php/session_temp

重啟apache服務(wù)

在Web根目錄下建立testdb.php文件內(nèi)容如下:

?php

$link=mysql_connect('localhost','root','123456');

if(!$link) echo fail;

else echo success;

mysql_close();

?

用瀏覽器打開 如果輸出success就OK了

phpmyadmin的安裝配置

將phpMyAdmin-V2.6.2-pl1.zip解壓到WEB根目錄中去,重命名文件夾為phpmyadmin或其它

打開phpmyadmin 目錄中的 config.inc.php

找到

$cfg['Servers'][$i]['user'] = 'root';

$cfg['Servers'][$i]['password'] = '123456';

分別填上用戶名和密碼

php怎么處理高并發(fā)

以下內(nèi)容轉(zhuǎn)載自徐漢彬大牛的博客?億級Web系統(tǒng)搭建——單機到分布式集群?

當(dāng)一個Web系統(tǒng)從日訪問量10萬逐步增長到1000萬,甚至超過1億的過程中,Web系統(tǒng)承受的壓力會越來越大,在這個過程中,我們會遇到很多的問題。為了解決這些性能壓力帶來問題,我們需要在Web系統(tǒng)架構(gòu)層面搭建多個層次的緩存機制。在不同的壓力階段,我們會遇到不同的問題,通過搭建不同的服務(wù)和架構(gòu)來解決。

Web負(fù)載均衡?

Web負(fù)載均衡(Load Balancing),簡單地說就是給我們的服務(wù)器集群分配“工作任務(wù)”,而采用恰當(dāng)?shù)姆峙浞绞剑瑢τ诒Wo(hù)處于后端的Web服務(wù)器來說,非常重要。

負(fù)載均衡的策略有很多,我們從簡單的講起哈。

1.?HTTP重定向

當(dāng)用戶發(fā)來請求的時候,Web服務(wù)器通過修改HTTP響應(yīng)頭中的Location標(biāo)記來返回一個新的url,然后瀏覽器再繼續(xù)請求這個新url,實際上就是頁面重定向。通過重定向,來達(dá)到“負(fù)載均衡”的目標(biāo)。例如,我們在下載PHP源碼包的時候,點擊下載鏈接時,為了解決不同國家和地域下載速度的問題,它會返回一個離我們近的下載地址。重定向的HTTP返回碼是302

這個重定向非常容易實現(xiàn),并且可以自定義各種策略。但是,它在大規(guī)模訪問量下,性能不佳。而且,給用戶的體驗也不好,實際請求發(fā)生重定向,增加了網(wǎng)絡(luò)延時。

2. 反向代理負(fù)載均衡

反向代理服務(wù)的核心工作主要是轉(zhuǎn)發(fā)HTTP請求,扮演了瀏覽器端和后臺Web服務(wù)器中轉(zhuǎn)的角色。因為它工作在HTTP層(應(yīng)用層),也就是網(wǎng)絡(luò)七層結(jié)構(gòu)中的第七層,因此也被稱為“七層負(fù)載均衡”??梢宰龇聪虼淼能浖芏啵容^常見的一種是Nginx。

Nginx是一種非常靈活的反向代理軟件,可以自由定制化轉(zhuǎn)發(fā)策略,分配服務(wù)器流量的權(quán)重等。反向代理中,常見的一個問題,就是Web服務(wù)器存儲的session數(shù)據(jù),因為一般負(fù)載均衡的策略都是隨機分配請求的。同一個登錄用戶的請求,無法保證一定分配到相同的Web機器上,會導(dǎo)致無法找到session的問題。

解決方案主要有兩種:

1.?配置反向代理的轉(zhuǎn)發(fā)規(guī)則,讓同一個用戶的請求一定落到同一臺機器上(通過分析cookie),復(fù)雜的轉(zhuǎn)發(fā)規(guī)則將會消耗更多的CPU,也增加了代理服務(wù)器的負(fù)擔(dān)。

2.?將session這類的信息,專門用某個獨立服務(wù)來存儲,例如redis/memchache,這個方案是比較推薦的。

反向代理服務(wù),也是可以開啟緩存的,如果開啟了,會增加反向代理的負(fù)擔(dān),需要謹(jǐn)慎使用。這種負(fù)載均衡策略實現(xiàn)和部署非常簡單,而且性能表現(xiàn)也比較好。但是,它有“單點故障”的問題,如果掛了,會帶來很多的麻煩。而且,到了后期Web服務(wù)器繼續(xù)增加,它本身可能成為系統(tǒng)的瓶頸。

3. IP負(fù)載均衡

IP負(fù)載均衡服務(wù)是工作在網(wǎng)絡(luò)層(修改IP)和傳輸層(修改端口,第四層),比起工作在應(yīng)用層(第七層)性能要高出非常多。原理是,他是對IP層的數(shù)據(jù)包的IP地址和端口信息進(jìn)行修改,達(dá)到負(fù)載均衡的目的。這種方式,也被稱為“四層負(fù)載均衡”。常見的負(fù)載均衡方式,是LVS(Linux Virtual Server,Linux虛擬服務(wù)),通過IPVS(IP Virtual Server,IP虛擬服務(wù))來實現(xiàn)。

在負(fù)載均衡服務(wù)器收到客戶端的IP包的時候,會修改IP包的目標(biāo)IP地址或端口,然后原封不動地投遞到內(nèi)部網(wǎng)絡(luò)中,數(shù)據(jù)包會流入到實際Web服務(wù)器。實際服務(wù)器處理完成后,又會將數(shù)據(jù)包投遞回給負(fù)載均衡服務(wù)器,它再修改目標(biāo)IP地址為用戶IP地址,最終回到客戶端。

上述的方式叫LVS-NAT,除此之外,還有LVS-RD(直接路由),LVS-TUN(IP隧道),三者之間都屬于LVS的方式,但是有一定的區(qū)別,篇幅問題,不贅敘。

IP負(fù)載均衡的性能要高出Nginx的反向代理很多,它只處理到傳輸層為止的數(shù)據(jù)包,并不做進(jìn)一步的組包,然后直接轉(zhuǎn)發(fā)給實際服務(wù)器。不過,它的配置和搭建比較復(fù)雜。

4. DNS負(fù)載均衡

DNS(Domain Name System)負(fù)責(zé)域名解析的服務(wù),域名url實際上是服務(wù)器的別名,實際映射是一個IP地址,解析過程,就是DNS完成域名到IP的映射。而一個域名是可以配置成對應(yīng)多個IP的。因此,DNS也就可以作為負(fù)載均衡服務(wù)。

這種負(fù)載均衡策略,配置簡單,性能極佳。但是,不能自由定義規(guī)則,而且,變更被映射的IP或者機器故障時很麻煩,還存在DNS生效延遲的問題。?

5. DNS/GSLB負(fù)載均衡

我們常用的CDN(Content Delivery Network,內(nèi)容分發(fā)網(wǎng)絡(luò))實現(xiàn)方式,其實就是在同一個域名映射為多IP的基礎(chǔ)上更進(jìn)一步,通過GSLB(Global Server Load Balance,全局負(fù)載均衡)按照指定規(guī)則映射域名的IP。一般情況下都是按照地理位置,將離用戶近的IP返回給用戶,減少網(wǎng)絡(luò)傳輸中的路由節(jié)點之間的跳躍消耗。

“向上尋找”,實際過程是LDNS(Local DNS)先向根域名服務(wù)(Root Name Server)獲取到頂級根的Name Server(例如.com的),然后得到指定域名的授權(quán)DNS,然后再獲得實際服務(wù)器IP。

CDN在Web系統(tǒng)中,一般情況下是用來解決大小較大的靜態(tài)資源(html/Js/Css/圖片等)的加載問題,讓這些比較依賴網(wǎng)絡(luò)下載的內(nèi)容,盡可能離用戶更近,提升用戶體驗。

例如,我訪問了一張imgcache.gtimg.cn上的圖片(騰訊的自建CDN,不使用qq.com域名的原因是防止http請求的時候,帶上了多余的cookie信息),我獲得的IP是183.60.217.90。

這種方式,和前面的DNS負(fù)載均衡一樣,不僅性能極佳,而且支持配置多種策略。但是,搭建和維護(hù)成本非常高?;ヂ?lián)網(wǎng)一線公司,會自建CDN服務(wù),中小型公司一般使用第三方提供的CDN。

Web系統(tǒng)的緩存機制的建立和優(yōu)化

剛剛我們講完了Web系統(tǒng)的外部網(wǎng)絡(luò)環(huán)境,現(xiàn)在我們開始關(guān)注我們Web系統(tǒng)自身的性能問題。我們的Web站點隨著訪問量的上升,會遇到很多的挑戰(zhàn),解決這些問題不僅僅是擴(kuò)容機器這么簡單,建立和使用合適的緩存機制才是根本。

最開始,我們的Web系統(tǒng)架構(gòu)可能是這樣的,每個環(huán)節(jié),都可能只有1臺機器。

我們從最根本的數(shù)據(jù)存儲開始看哈。

一、 MySQL數(shù)據(jù)庫內(nèi)部緩存使用

MySQL的緩存機制,就從先從MySQL內(nèi)部開始,下面的內(nèi)容將以最常見的InnoDB存儲引擎為主。

1. 建立恰當(dāng)?shù)乃饕?/p>

最簡單的是建立索引,索引在表數(shù)據(jù)比較大的時候,起到快速檢索數(shù)據(jù)的作用,但是成本也是有的。首先,占用了一定的磁盤空間,其中組合索引最突出,使用需要謹(jǐn)慎,它產(chǎn)生的索引甚至?xí)仍磾?shù)據(jù)更大。其次,建立索引之后的數(shù)據(jù)insert/update/delete等操作,因為需要更新原來的索引,耗時會增加。當(dāng)然,實際上我們的系統(tǒng)從總體來說,是以select查詢操作居多,因此,索引的使用仍然對系統(tǒng)性能有大幅提升的作用。

2. 數(shù)據(jù)庫連接線程池緩存

如果,每一個數(shù)據(jù)庫操作請求都需要創(chuàng)建和銷毀連接的話,對數(shù)據(jù)庫來說,無疑也是一種巨大的開銷。為了減少這類型的開銷,可以在MySQL中配置thread_cache_size來表示保留多少線程用于復(fù)用。線程不夠的時候,再創(chuàng)建,空閑過多的時候,則銷毀。

其實,還有更為激進(jìn)一點的做法,使用pconnect(數(shù)據(jù)庫長連接),線程一旦創(chuàng)建在很長時間內(nèi)都保持著。但是,在訪問量比較大,機器比較多的情況下,這種用法很可能會導(dǎo)致“數(shù)據(jù)庫連接數(shù)耗盡”,因為建立連接并不回收,最終達(dá)到數(shù)據(jù)庫的max_connections(最大連接數(shù))。因此,長連接的用法通常需要在CGI和MySQL之間實現(xiàn)一個“連接池”服務(wù),控制CGI機器“盲目”創(chuàng)建連接數(shù)。

建立數(shù)據(jù)庫連接池服務(wù),有很多實現(xiàn)的方式,PHP的話,我推薦使用swoole(PHP的一個網(wǎng)絡(luò)通訊拓展)來實現(xiàn)。

3. Innodb緩存設(shè)置(innodb_buffer_pool_size)

innodb_buffer_pool_size這是個用來保存索引和數(shù)據(jù)的內(nèi)存緩存區(qū),如果機器是MySQL獨占的機器,一般推薦為機器物理內(nèi)存的80%。在取表數(shù)據(jù)的場景中,它可以減少磁盤IO。一般來說,這個值設(shè)置越大,cache命中率會越高。

4. 分庫/分表/分區(qū)。

MySQL數(shù)據(jù)庫表一般承受數(shù)據(jù)量在百萬級別,再往上增長,各項性能將會出現(xiàn)大幅度下降,因此,當(dāng)我們預(yù)見數(shù)據(jù)量會超過這個量級的時候,建議進(jìn)行分庫/分表/分區(qū)等操作。最好的做法,是服務(wù)在搭建之初就設(shè)計為分庫分表的存儲模式,從根本上杜絕中后期的風(fēng)險。不過,會犧牲一些便利性,例如列表式的查詢,同時,也增加了維護(hù)的復(fù)雜度。不過,到了數(shù)據(jù)量千萬級別或者以上的時候,我們會發(fā)現(xiàn),它們都是值得的。?

二、 MySQL數(shù)據(jù)庫多臺服務(wù)搭建

1臺MySQL機器,實際上是高風(fēng)險的單點,因為如果它掛了,我們Web服務(wù)就不可用了。而且,隨著Web系統(tǒng)訪問量繼續(xù)增加,終于有一天,我們發(fā)現(xiàn)1臺MySQL服務(wù)器無法支撐下去,我們開始需要使用更多的MySQL機器。當(dāng)引入多臺MySQL機器的時候,很多新的問題又將產(chǎn)生。

1. 建立MySQL主從,從庫作為備份

這種做法純粹為了解決“單點故障”的問題,在主庫出故障的時候,切換到從庫。不過,這種做法實際上有點浪費資源,因為從庫實際上被閑著了。

2. MySQL讀寫分離,主庫寫,從庫讀。

兩臺數(shù)據(jù)庫做讀寫分離,主庫負(fù)責(zé)寫入類的操作,從庫負(fù)責(zé)讀的操作。并且,如果主庫發(fā)生故障,仍然不影響讀的操作,同時也可以將全部讀寫都臨時切換到從庫中(需要注意流量,可能會因為流量過大,把從庫也拖垮)。

3. 主主互備。

兩臺MySQL之間互為彼此的從庫,同時又是主庫。這種方案,既做到了訪問量的壓力分流,同時也解決了“單點故障”問題。任何一臺故障,都還有另外一套可供使用的服務(wù)。

不過,這種方案,只能用在兩臺機器的場景。如果業(yè)務(wù)拓展還是很快的話,可以選擇將業(yè)務(wù)分離,建立多個主主互備。

三、 MySQL數(shù)據(jù)庫機器之間的數(shù)據(jù)同步

每當(dāng)我們解決一個問題,新的問題必然誕生在舊的解決方案上。當(dāng)我們有多臺MySQL,在業(yè)務(wù)高峰期,很可能出現(xiàn)兩個庫之間的數(shù)據(jù)有延遲的場景。并且,網(wǎng)絡(luò)和機器負(fù)載等,也會影響數(shù)據(jù)同步的延遲。我們曾經(jīng)遇到過,在日訪問量接近1億的特殊場景下,出現(xiàn),從庫數(shù)據(jù)需要很多天才能同步追上主庫的數(shù)據(jù)。這種場景下,從庫基本失去效用了。

于是,解決同步問題,就是我們下一步需要關(guān)注的點。

1. MySQL自帶多線程同步

MySQL5.6開始支持主庫和從庫數(shù)據(jù)同步,走多線程。但是,限制也是比較明顯的,只能以庫為單位。MySQL數(shù)據(jù)同步是通過binlog日志,主庫寫入到binlog日志的操作,是具有順序的,尤其當(dāng)SQL操作中含有對于表結(jié)構(gòu)的修改等操作,對于后續(xù)的SQL語句操作是有影響的。因此,從庫同步數(shù)據(jù),必須走單進(jìn)程。

2. 自己實現(xiàn)解析binlog,多線程寫入。

以數(shù)據(jù)庫的表為單位,解析binlog多張表同時做數(shù)據(jù)同步。這樣做的話,的確能夠加快數(shù)據(jù)同步的效率,但是,如果表和表之間存在結(jié)構(gòu)關(guān)系或者數(shù)據(jù)依賴的話,則同樣存在寫入順序的問題。這種方式,可用于一些比較穩(wěn)定并且相對獨立的數(shù)據(jù)表。

國內(nèi)一線互聯(lián)網(wǎng)公司,大部分都是通過這種方式,來加快數(shù)據(jù)同步效率。還有更為激進(jìn)的做法,是直接解析binlog,忽略以表為單位,直接寫入。但是這種做法,實現(xiàn)復(fù)雜,使用范圍就更受到限制,只能用于一些場景特殊的數(shù)據(jù)庫中(沒有表結(jié)構(gòu)變更,表和表之間沒有數(shù)據(jù)依賴等特殊表)。?

四、 在Web服務(wù)器和數(shù)據(jù)庫之間建立緩存

實際上,解決大訪問量的問題,不能僅僅著眼于數(shù)據(jù)庫層面。根據(jù)“二八定律”,80%的請求只關(guān)注在20%的熱點數(shù)據(jù)上。因此,我們應(yīng)該建立Web服務(wù)器和數(shù)據(jù)庫之間的緩存機制。這種機制,可以用磁盤作為緩存,也可以用內(nèi)存緩存的方式。通過它們,將大部分的熱點數(shù)據(jù)查詢,阻擋在數(shù)據(jù)庫之前。

1. 頁面靜態(tài)化

用戶訪問網(wǎng)站的某個頁面,頁面上的大部分內(nèi)容在很長一段時間內(nèi),可能都是沒有變化的。例如一篇新聞報道,一旦發(fā)布幾乎是不會修改內(nèi)容的。這樣的話,通過CGI生成的靜態(tài)html頁面緩存到Web服務(wù)器的磁盤本地。除了第一次,是通過動態(tài)CGI查詢數(shù)據(jù)庫獲取之外,之后都直接將本地磁盤文件返回給用戶。

在Web系統(tǒng)規(guī)模比較小的時候,這種做法看似完美。但是,一旦Web系統(tǒng)規(guī)模變大,例如當(dāng)我有100臺的Web服務(wù)器的時候。那樣這些磁盤文件,將會有100份,這個是資源浪費,也不好維護(hù)。這個時候有人會想,可以集中一臺服務(wù)器存起來,呵呵,不如看看下面一種緩存方式吧,它就是這樣做的。

2. 單臺內(nèi)存緩存

通過頁面靜態(tài)化的例子中,我們可以知道將“緩存”搭建在Web機器本機是不好維護(hù)的,會帶來更多問題(實際上,通過PHP的apc拓展,可通過Key/value操作Web服務(wù)器的本機內(nèi)存)。因此,我們選擇搭建的內(nèi)存緩存服務(wù),也必須是一個獨立的服務(wù)。

內(nèi)存緩存的選擇,主要有redis/memcache。從性能上說,兩者差別不大,從功能豐富程度上說,Redis更勝一籌。

3. 內(nèi)存緩存集群

當(dāng)我們搭建單臺內(nèi)存緩存完畢,我們又會面臨單點故障的問題,因此,我們必須將它變成一個集群。簡單的做法,是給他增加一個slave作為備份機器。但是,如果請求量真的很多,我們發(fā)現(xiàn)cache命中率不高,需要更多的機器內(nèi)存呢?因此,我們更建議將它配置成一個集群。例如,類似redis cluster。

Redis cluster集群內(nèi)的Redis互為多組主從,同時每個節(jié)點都可以接受請求,在拓展集群的時候比較方便。客戶端可以向任意一個節(jié)點發(fā)送請求,如果是它的“負(fù)責(zé)”的內(nèi)容,則直接返回內(nèi)容。否則,查找實際負(fù)責(zé)Redis節(jié)點,然后將地址告知客戶端,客戶端重新請求。

對于使用緩存服務(wù)的客戶端來說,這一切是透明的。

內(nèi)存緩存服務(wù)在切換的時候,是有一定風(fēng)險的。從A集群切換到B集群的過程中,必須保證B集群提前做好“預(yù)熱”(B集群的內(nèi)存中的熱點數(shù)據(jù),應(yīng)該盡量與A集群相同,否則,切換的一瞬間大量請求內(nèi)容,在B集群的內(nèi)存緩存中查找不到,流量直接沖擊后端的數(shù)據(jù)庫服務(wù),很可能導(dǎo)致數(shù)據(jù)庫宕機)。

4. 減少數(shù)據(jù)庫“寫”

上面的機制,都實現(xiàn)減少數(shù)據(jù)庫的“讀”的操作,但是,寫的操作也是一個大的壓力。寫的操作,雖然無法減少,但是可以通過合并請求,來起到減輕壓力的效果。這個時候,我們就需要在內(nèi)存緩存集群和數(shù)據(jù)庫集群之間,建立一個修改同步機制。

先將修改請求生效在cache中,讓外界查詢顯示正常,然后將這些sql修改放入到一個隊列中存儲起來,隊列滿或者每隔一段時間,合并為一個請求到數(shù)據(jù)庫中更新數(shù)據(jù)庫。

除了上述通過改變系統(tǒng)架構(gòu)的方式提升寫的性能外,MySQL本身也可以通過配置參數(shù)innodb_flush_log_at_trx_commit來調(diào)整寫入磁盤的策略。如果機器成本允許,從硬件層面解決問題,可以選擇老一點的RAID(Redundant Arrays of independent Disks,磁盤列陣)或者比較新的SSD(Solid State Drives,固態(tài)硬盤)。

5. NoSQL存儲

不管數(shù)據(jù)庫的讀還是寫,當(dāng)流量再進(jìn)一步上漲,終會達(dá)到“人力有窮時”的場景。繼續(xù)加機器的成本比較高,并且不一定可以真正解決問題的時候。這個時候,部分核心數(shù)據(jù),就可以考慮使用NoSQL的數(shù)據(jù)庫。NoSQL存儲,大部分都是采用key-value的方式,這里比較推薦使用上面介紹過Redis,Redis本身是一個內(nèi)存cache,同時也可以當(dāng)做一個存儲來使用,讓它直接將數(shù)據(jù)落地到磁盤。

這樣的話,我們就將數(shù)據(jù)庫中某些被頻繁讀寫的數(shù)據(jù),分離出來,放在我們新搭建的Redis存儲集群中,又進(jìn)一步減輕原來MySQL數(shù)據(jù)庫的壓力,同時因為Redis本身是個內(nèi)存級別的Cache,讀寫的性能都會大幅度提升。

國內(nèi)一線互聯(lián)網(wǎng)公司,架構(gòu)上采用的解決方案很多是類似于上述方案,不過,使用的cache服務(wù)卻不一定是Redis,他們會有更豐富的其他選擇,甚至根據(jù)自身業(yè)務(wù)特點開發(fā)出自己的NoSQL服務(wù)。

6. 空節(jié)點查詢問題

當(dāng)我們搭建完前面所說的全部服務(wù),認(rèn)為Web系統(tǒng)已經(jīng)很強的時候。我們還是那句話,新的問題還是會來的??展?jié)點查詢,是指那些數(shù)據(jù)庫中根本不存在的數(shù)據(jù)請求。例如,我請求查詢一個不存在人員信息,系統(tǒng)會從各級緩存逐級查找,最后查到到數(shù)據(jù)庫本身,然后才得出查找不到的結(jié)論,返回給前端。因為各級cache對它無效,這個請求是非常消耗系統(tǒng)資源的,而如果大量的空節(jié)點查詢,是可以沖擊到系統(tǒng)服務(wù)的。

在我曾經(jīng)的工作經(jīng)歷中,曾深受其害。因此,為了維護(hù)Web系統(tǒng)的穩(wěn)定性,設(shè)計適當(dāng)?shù)目展?jié)點過濾機制,非常有必要。

我們當(dāng)時采用的方式,就是設(shè)計一張簡單的記錄映射表。將存在的記錄存儲起來,放入到一臺內(nèi)存cache中,這樣的話,如果還有空節(jié)點查詢,則在緩存這一層就被阻擋了。

異地部署(地理分布式)

完成了上述架構(gòu)建設(shè)之后,我們的系統(tǒng)是否就已經(jīng)足夠強大了呢?答案當(dāng)然是否定的哈,優(yōu)化是無極限的。Web系統(tǒng)雖然表面上看,似乎比較強大了,但是給予用戶的體驗卻不一定是最好的。因為東北的同學(xué),訪問深圳的一個網(wǎng)站服務(wù),他還是會感到一些網(wǎng)絡(luò)距離上的慢。這個時候,我們就需要做異地部署,讓W(xué)eb系統(tǒng)離用戶更近。

一、 核心集中與節(jié)點分散

有玩過大型網(wǎng)游的同學(xué)都會知道,網(wǎng)游是有很多個區(qū)的,一般都是按照地域來分,例如廣東專區(qū),北京專區(qū)。如果一個在廣東的玩家,去北京專區(qū)玩,那么他會感覺明顯比在廣東專區(qū)卡。實際上,這些大區(qū)的名稱就已經(jīng)說明了,它的服務(wù)器所在地,所以,廣東的玩家去連接地處北京的服務(wù)器,網(wǎng)絡(luò)當(dāng)然會比較慢。

當(dāng)一個系統(tǒng)和服務(wù)足夠大的時候,就必須開始考慮異地部署的問題了。讓你的服務(wù),盡可能離用戶更近。我們前面已經(jīng)提到了Web的靜態(tài)資源,可以存放在CDN上,然后通過DNS/GSLB的方式,讓靜態(tài)資源的分散“全國各地”。但是,CDN只解決的靜態(tài)資源的問題,沒有解決后端龐大的系統(tǒng)服務(wù)還只集中在某個固定城市的問題。

這個時候,異地部署就開始了。異地部署一般遵循:核心集中,節(jié)點分散。

·?核心集中:實際部署過程中,總有一部分的數(shù)據(jù)和服務(wù)存在不可部署多套,或者部署多套成本巨大。而對于這些服務(wù)和數(shù)據(jù),就仍然維持一套,而部署地點選擇一個地域比較中心的地方,通過網(wǎng)絡(luò)內(nèi)部專線來和各個節(jié)點通訊。

·?節(jié)點分散:將一些服務(wù)部署為多套,分布在各個城市節(jié)點,讓用戶請求盡可能選擇近的節(jié)點訪問服務(wù)。

例如,我們選擇在上海部署為核心節(jié)點,北京,深圳,武漢,上海為分散節(jié)點(上海自己本身也是一個分散節(jié)點)。我們的服務(wù)架構(gòu)如圖:

需要補充一下的是,上圖中上海節(jié)點和核心節(jié)點是同處于一個機房的,其他分散節(jié)點各自獨立機房。?

國內(nèi)有很多大型網(wǎng)游,都是大致遵循上述架構(gòu)。它們會把數(shù)據(jù)量不大的用戶核心賬號等放在核心節(jié)點,而大部分的網(wǎng)游數(shù)據(jù),例如裝備、任務(wù)等數(shù)據(jù)和服務(wù)放在地區(qū)節(jié)點里。當(dāng)然,核心節(jié)點和地域節(jié)點之間,也有緩存機制。?

二、 節(jié)點容災(zāi)和過載保護(hù)

節(jié)點容災(zāi)是指,某個節(jié)點如果發(fā)生故障時,我們需要建立一個機制去保證服務(wù)仍然可用。毫無疑問,這里比較常見的容災(zāi)方式,是切換到附近城市節(jié)點。假如系統(tǒng)的天津節(jié)點發(fā)生故障,那么我們就將網(wǎng)絡(luò)流量切換到附近的北京節(jié)點上。考慮到負(fù)載均衡,可能需要同時將流量切換到附近的幾個地域節(jié)點。另一方面,核心節(jié)點自身也是需要自己做好容災(zāi)和備份的,核心節(jié)點一旦故障,就會影響全國服務(wù)。

過載保護(hù),指的是一個節(jié)點已經(jīng)達(dá)到最大容量,無法繼續(xù)接接受更多請求了,系統(tǒng)必須有一個保護(hù)的機制。一個服務(wù)已經(jīng)滿負(fù)載,還繼續(xù)接受新的請求,結(jié)果很可能就是宕機,影響整個節(jié)點的服務(wù),為了至少保障大部分用戶的正常使用,過載保護(hù)是必要的。

解決過載保護(hù),一般2個方向:

·?拒絕服務(wù),檢測到滿負(fù)載之后,就不再接受新的連接請求。例如網(wǎng)游登入中的排隊。

·?分流到其他節(jié)點。這種的話,系統(tǒng)實現(xiàn)更為復(fù)雜,又涉及到負(fù)載均衡的問題。

小結(jié)

Web系統(tǒng)會隨著訪問規(guī)模的增長,漸漸地從1臺服務(wù)器可以滿足需求,一直成長為“龐然大物”的大集群。而這個Web系統(tǒng)變大的過程,實際上就是我們解決問題的過程。在不同的階段,解決不同的問題,而新的問題又誕生在舊的解決方案之上。

系統(tǒng)的優(yōu)化是沒有極限的,軟件和系統(tǒng)架構(gòu)也一直在快速發(fā)展,新的方案解決了老的問題,同時也帶來新的挑戰(zhàn)。

名稱欄目:php多線程查詢數(shù)據(jù)庫 php多線程和多進(jìn)程實現(xiàn)
文章起源:http://muchs.cn/article4/doshiie.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián),為您提供電子商務(wù)、網(wǎng)站改版、網(wǎng)站設(shè)計、企業(yè)建站、服務(wù)器托管、移動網(wǎng)站建設(shè)

廣告

聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主,如果涉及侵權(quán)請盡快告知,我們將會在第一時間刪除。文章觀點不代表本網(wǎng)站立場,如需處理請聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時需注明來源: 創(chuàng)新互聯(lián)

成都定制網(wǎng)站建設(shè)