高并發(fā)下如何縮短響應(yīng)時間-創(chuàng)新互聯(lián)

定義

網(wǎng)站響應(yīng)時間是指系統(tǒng)對請求作出響應(yīng)的時間。通俗來講就是我們把網(wǎng)址輸入進(jìn)瀏覽器然后敲回車鍵開始一直到瀏覽器把網(wǎng)站的內(nèi)容呈現(xiàn)給用戶的這段時間。網(wǎng)站響應(yīng)時間是越短越好，因?yàn)榫W(wǎng)站頁面打開速度越快，就意味著我們的用戶可以更快的訪問站點(diǎn)或者我們的服務(wù)器。一般我們網(wǎng)站的響應(yīng)時間保持在100~1000ms即可。1m=1000ms，打開速度越快對用戶體驗(yàn)度越好。據(jù)說響應(yīng)時間還會影響到網(wǎng)站SEO效果（請行業(yè)專家留言告訴我）。

創(chuàng)新互聯(lián)建站堅持“要么做到，要么別承諾”的工作理念，服務(wù)領(lǐng)域包括：成都網(wǎng)站建設(shè)、網(wǎng)站設(shè)計、企業(yè)官網(wǎng)、英文網(wǎng)站、手機(jī)端網(wǎng)站、網(wǎng)站推廣等服務(wù)，滿足客戶于互聯(lián)網(wǎng)時代的前進(jìn)網(wǎng)站設(shè)計、移動媒體設(shè)計的需求，幫助企業(yè)找到有效的互聯(lián)網(wǎng)解決方案。努力成為您成熟可靠的網(wǎng)絡(luò)建設(shè)合作伙伴！

響應(yīng)時間并不能直接反映網(wǎng)站性能的高低，但是在一定程度上反應(yīng)了網(wǎng)站系統(tǒng)的處理能力，也是給用戶最直觀上的感受。如果網(wǎng)站的響應(yīng)時間過長，比如10秒以上，用戶的流失率會大大增加，所以把響應(yīng)時間控制在一定范圍內(nèi)是提高用戶體驗(yàn)度的第一要素。

解決方案

當(dāng)用戶請求一個網(wǎng)站數(shù)據(jù)的時候，實(shí)際上是發(fā)送了一個http請求，在宏觀上可以分為兩個部分：

• 1. http請求到達(dá)目標(biāo)網(wǎng)站服務(wù)器之前

• 2. http請求到達(dá)目標(biāo)網(wǎng)站服務(wù)器之后

如果忽略其中硬件部分和部分細(xì)節(jié)，請求一個網(wǎng)站數(shù)據(jù)的大體過程如下圖所示（其中CDN和緩存部分可以省略）：

我們要想縮短一個網(wǎng)站的響應(yīng)時間，本質(zhì)上是提高數(shù)據(jù)的返回速度，說的直白一點(diǎn)就是要把請求數(shù)據(jù)過程中的各個步驟提高速度，這樣整體下來響應(yīng)時間就會縮短。

把數(shù)據(jù)放在離用戶越近的地方響應(yīng)時間越快

客戶端

客戶端是發(fā)起一個網(wǎng)站請求的源頭，其實(shí)這個源頭可以施加一定的策略來大大縮短某些數(shù)據(jù)的獲取時間。其中最為常用的就是緩存，一些常用的，很少變動的資源緩存在客戶端，不但能縮短獲取資源的時間，而且在很大程度上能減輕服務(wù)端的壓力。比如一些圖片，css，js文件，甚至一些接口的數(shù)據(jù)或者整個網(wǎng)頁內(nèi)容都可以在客戶端做緩存。另外http請求的合并也可以減少對服務(wù)端的請求次數(shù)，在一定程度上可以縮短請求的響應(yīng)時間。

DNS

一般網(wǎng)站的訪問方式都采用域名的方式（很少見IP方式），既然是域名就涉及到DNS解析速度的問題，如果DNS服務(wù)解析的速度比較慢，整體過程的響應(yīng)時間也會加長，不過這個過程其實(shí)很少出現(xiàn)慢的問題（不是說沒有）。

網(wǎng)絡(luò)

客戶端獲取到網(wǎng)站IP之后通過網(wǎng)卡把Http請求發(fā)送出去，目標(biāo)地址為相應(yīng)的網(wǎng)站服務(wù)器。在這個過程當(dāng)中如果客戶端和服務(wù)器端有一方帶寬比較小的話，就會加大響應(yīng)時間。我司曾經(jīng)就因?yàn)榉?wù)器帶寬過小導(dǎo)致客戶端響應(yīng)時間很長的情況，當(dāng)時排查了很長時間才發(fā)現(xiàn)。

當(dāng)然網(wǎng)絡(luò)是不可靠的，這個過程的響應(yīng)時間其實(shí)取決于很多因素，比如路由器的路由策略是否最優(yōu)，整個過程通過的網(wǎng)關(guān)數(shù)據(jù)量等。所以有很多網(wǎng)站其實(shí)是多地區(qū)多機(jī)房部署的，目的就是為了讓用戶通過很短的網(wǎng)絡(luò)路徑就能到達(dá)網(wǎng)站（其實(shí)這個過程運(yùn)營商的選擇也有影響）。

網(wǎng)站

當(dāng)一個請求到達(dá)網(wǎng)站服務(wù)器，服務(wù)器便開始處理請求，一般會有專門處理業(yè)務(wù)請求的一個業(yè)務(wù)層，有的體現(xiàn)為rpc協(xié)議的微服務(wù)，有的體現(xiàn)為簡單的一個代碼分層。最終請求的數(shù)據(jù)會通過查詢數(shù)據(jù)庫來返回。其實(shí)這個過程和車站購票流程一樣，每個窗口的處理能力是有限的，對應(yīng)到服務(wù)器處理能力。由于這個原因，所以誕生了負(fù)載均衡的策略，核心思想就是：分。一臺服務(wù)器不夠，那就兩臺，三臺，四臺..... 直到并發(fā)的所有請求的響應(yīng)時間都在可控范圍之內(nèi)。

數(shù)據(jù)庫的情況類似，一個數(shù)據(jù)庫扛不住壓力，就加到N個數(shù)據(jù)庫分散壓力。一個表扛不住壓力，就把這個表拆分開，拆分成多個表，甚至拆分到多個不同服務(wù)器數(shù)據(jù)庫，這就是我們常用的拆表策略。有的時候在同一個數(shù)據(jù)庫中進(jìn)行表拆分，性能的提升并非大化，因?yàn)橐慌_服務(wù)器的磁盤IO是有上限的，就算拆成100個表，還是在同一個物理磁盤上，當(dāng)然這樣可緩解鎖單表的情況。

現(xiàn)在有很多的場景采用NOsql代替關(guān)系型數(shù)據(jù)庫來縮短響應(yīng)時間，在正常情況下，由于關(guān)系型數(shù)據(jù)庫的本身因素在特定場景下的讀寫速度比Nosql要慢很多，所以系統(tǒng)設(shè)計初期，可以考慮采用關(guān)系型數(shù)據(jù)庫和Nosql混用的方案。

緩存

當(dāng)并發(fā)的請求到達(dá)一定程度，瓶頸大部分情況下發(fā)生在DB層面，甚至DB無論怎么優(yōu)化總有上限。為了避免頻繁查詢數(shù)據(jù)庫產(chǎn)生瓶頸，誕生了緩存。在訪問數(shù)據(jù)庫之前加入了緩存層，當(dāng)然這里的緩存采用的方案在數(shù)據(jù)的響應(yīng)時間上要比數(shù)據(jù)庫小很多，比如常用的redis，Memcache，但是這些第三方的緩存組件還是要走網(wǎng)絡(luò)，比起進(jìn)程內(nèi)的緩存還是要慢的多。

現(xiàn)在一般流行的設(shè)計在網(wǎng)站層和服務(wù)層都有緩存策略，只不過緩存的數(shù)據(jù)和策略有所不同，但是最終目的都是為了加快請求的響應(yīng)。當(dāng)然加了緩存之后，數(shù)據(jù)的一致性需要仔細(xì)設(shè)計才可以，如果發(fā)生數(shù)據(jù)不一致的情況，程序員可能要背鍋了。

緩解數(shù)據(jù)庫壓力并不是引入緩存的唯一因素。

CDN加速

一些小廠可能用不到cdn，但是cdn帶來的加速還是很客觀的。cdn依靠部署在各地的邊緣服務(wù)器，通過中心平臺的負(fù)載均衡、內(nèi)容分發(fā)、調(diào)度等功能模塊，使用戶就近獲取所需內(nèi)容，降低網(wǎng)絡(luò)擁塞，提高用戶訪問響應(yīng)速度和命中率。CDN就是把離用戶最近的數(shù)據(jù)返回給用戶。

寫在最后

程序異步化其實(shí)并不能縮短響應(yīng)時間，但是對提高吞吐量有很大作用。

---

本文的重點(diǎn)是你有沒有收獲與成長，其余的都不重要，希望讀者們能謹(jǐn)記這一點(diǎn)。同時我經(jīng)過多年的收藏目前也算收集到了一套完整的學(xué)習(xí)資料，包括但不限于：分布式架構(gòu)、高可擴(kuò)展、高性能、高并發(fā)、Jvm性能調(diào)優(yōu)、Spring，MyBatis，Nginx源碼分析，Redis，ActiveMQ、、Mycat、Netty、Kafka、Mysql、Zookeeper、Tomcat、Docker、Dubbo、Nginx等多個知識點(diǎn)高級進(jìn)階干貨，希望對想成為架構(gòu)師的朋友有一定的參考和幫助

需要以下資料的可以加一下三千人Java技術(shù)交流分享群：“708 701 457”免費(fèi)獲取

另外有需要云服務(wù)器可以了解下創(chuàng)新互聯(lián)scvps.cn，海內(nèi)外云服務(wù)器15元起步，三天無理由+7*72小時售后在線，公司持有idc許可證，提供“云服務(wù)器、裸金屬服務(wù)器、高防服務(wù)器、香港服務(wù)器、美國服務(wù)器、虛擬主機(jī)、免備案服務(wù)器”等云主機(jī)租用服務(wù)以及企業(yè)上云的綜合解決方案，具有“安全穩(wěn)定、簡單易用、服務(wù)可用性高、性價比高”等特點(diǎn)與優(yōu)勢，專為企業(yè)上云打造定制，能夠滿足用戶豐富、多元化的應(yīng)用場景需求。

網(wǎng)站題目：高并發(fā)下如何縮短響應(yīng)時間-創(chuàng)新互聯(lián)
鏈接URL：http://muchs.cn/article18/csppdp.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián)，為您提供外貿(mào)建站、網(wǎng)站收錄、網(wǎng)站制作、網(wǎng)站策劃、App設(shè)計、網(wǎng)站改版

廣告

聲明：本網(wǎng)站發(fā)布的內(nèi)容（圖片、視頻和文字）以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主，如果涉及侵權(quán)請盡快告知，我們將會在第一時間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場，如需處理請聯(lián)系客服。電話：028-86922220；郵箱：631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載，或轉(zhuǎn)載時需注明來源： 創(chuàng)新互聯(lián)