這一次,徹底弄懂“秒殺系統(tǒng)”

2021-02-02    分類: 網(wǎng)站建設(shè)

說到“秒殺”,恐怕大多數(shù)人想到的就是“雙 11”,“促銷”,“買買買”等火爆的場面吧。


圖片來自 Pexels

大家為了打折商品蜂擁而至,造成

技術(shù)隔離架構(gòu)圖

前面有了準(zhǔn)備工作,那么從技術(shù)上需要有以下幾個方面的考慮:

  • 客戶端,前端秒殺頁面使用專門的頁面,這些頁面包括靜態(tài)的 HTML 和動態(tài)的 JS,他們都需要在
  • 秒殺系統(tǒng)前端設(shè)計簡圖

    代理層設(shè)計

    說完了秒殺系統(tǒng)的前端設(shè)計,請求自然地來到了代理層。由于用戶的請求量大,我們需要用負(fù)載均衡加上服務(wù)器集群,來面對如此空前的壓力。

    代理層三大功能簡圖

    在這一層是可以做緩存,過濾和限流的:

    • 緩存,以 Nginx 為例,它可以緩存用戶的信息。假設(shè)用戶信息的修改沒有那么頻繁,即使有類似的修改也可以通過更新服務(wù)來刷新。總比從服務(wù)器上獲取效率要高得多。
    • 過濾,既然緩存了用戶信息,這里就可以過濾掉一些不滿足條件的用戶。注意,這里的用戶信息的過濾和緩存只是一個例子。

    主要想表達(dá)的意思是,可以將一些變化不頻繁的數(shù)據(jù),提到代理層來緩存,提高響應(yīng)的效率。

    同時,還可以根據(jù)風(fēng)控系統(tǒng)返回的信息,過濾一些疑似機(jī)器人或者惡意請求。例如:從固定 IP 過來的,頻率過高的請求。最重要的就是在這一層,可以識別來自秒殺系統(tǒng)的請求。

    如果是帶有秒殺系統(tǒng)的參數(shù),就要把請求路由到秒殺系統(tǒng)的服務(wù)器集群。這樣才能和正常的業(yè)務(wù)系統(tǒng)分割開來。

    • 限流,每個服務(wù)器集群能夠承受的壓力都是有限的。代理層可以根據(jù)服務(wù)器集群能夠承受的大壓力,設(shè)置流量的閥值。

    閥值的設(shè)置可以是動態(tài)調(diào)整的。例如:集群服務(wù)器中有 10 個服務(wù)器,其中一臺由于壓力過大掛掉了。

    此時就需要調(diào)整代理層的流量閥值,將能夠處理的請求流量減少,保護(hù)后端的應(yīng)用服務(wù)器。

    當(dāng)服務(wù)器恢復(fù)以后,又可以將閥值調(diào)回原位??梢酝ㄟ^ Nginx+Lua 合作完成,Lua 從服務(wù)注冊中心讀取服務(wù)健康狀態(tài),動態(tài)調(diào)整流量。

    應(yīng)用層設(shè)計

    “秒殺系統(tǒng)”秒殺的是什么?無非是商品。對于系統(tǒng)來說就是商品的庫存,購買的商品一旦超過了庫存就不能再賣了。

    防止超賣

    超過了庫存還可以賣給用戶,這就是“超賣”,也是系統(tǒng)設(shè)計需要避免的。為了承受大流量的訪問,我們用了水平擴(kuò)展的服務(wù),但是對于他們消費的資源“庫存”來說,卻只有一個。

    為了提高效率,會將這個庫存信息放到緩存中。以流行的 Redis 為例,用它存放庫存信息,由多個線程來訪問就會出現(xiàn)資源爭奪的情況。也就是分布式程序爭奪唯一資源,為了解決這個問題我們需要實現(xiàn)分布式鎖。

    假設(shè)這里有多個應(yīng)用響應(yīng)用戶的訂單請求,他們同時會去訪問 Redis 中存放的庫存信息,每接受用戶一次請求,都會從 Redis 的庫存中減去 1 個商品庫存量。

    當(dāng)任何一個進(jìn)程訪問 Redis 中的庫存資源時,其他進(jìn)程是不能訪問的,所以這里需要考慮鎖的情況(樂觀,悲觀)。

    Redis 緩存承載庫存變量

    如果鎖長期沒有釋放,需要考慮鎖的過期時間,需要設(shè)置兩個超時時間:

    • 資源本身的超時時間,一旦資源被使用一段時間還沒有被釋放,Redis 會自動釋放掉該資源給其他服務(wù)使用。
    • 服務(wù)獲取資源的超時時間,一旦一個服務(wù)獲取資源一段時間后,不管該服務(wù)是否處理完這個資源,都需要釋放該資源給其他服務(wù)使用。

    訂單處理流程

    這里的“扣減服務(wù)”完成了最簡單的扣減庫存工作,并沒有和其他項目服務(wù)打交道,更沒有訪問數(shù)據(jù)庫。

    訂單流程示意圖

    后面的流程相對比較復(fù)雜,我們先看圖,根據(jù)圖示來講解:

    • 首先,扣減服務(wù)作為下單流程的入口,會先對商品的庫存做扣減。同樣它會檢查商品是否還有庫存?
    • 由于訂單對應(yīng)的操作步驟比較多,為了讓流量變得平滑,這里使用隊列存放每個訂單請求,等待訂單處理服務(wù)完成具體業(yè)務(wù)。
    • 訂單處理服務(wù)實現(xiàn)多線程,或者水平擴(kuò)展的服務(wù)陣列,它們不斷監(jiān)聽隊列中的消息。一旦發(fā)現(xiàn)有新訂單請求,就取出訂單進(jìn)行后續(xù)處理。

    注意,這里可以加入類似 ZooKeeper 這樣的服務(wù)調(diào)度來幫助,協(xié)調(diào)服務(wù)調(diào)度和任務(wù)分配。

    • 訂單處理服務(wù),處理完訂單以后會把結(jié)果寫到數(shù)據(jù)庫。寫數(shù)據(jù)庫是 IO 操作,耗時長。
    • 所以,在寫數(shù)據(jù)庫的同時,會把結(jié)果先寫入緩存中,這樣用戶是可以第一時間查詢自己是否下單成功了。
    • 結(jié)果寫入數(shù)據(jù)庫,這個操作有可能成功也有可能失敗。
    • 為了保證數(shù)據(jù)的最終一致性,我們用訂單結(jié)果同步的服務(wù)不斷的對比,緩存和數(shù)據(jù)庫中的訂單結(jié)果信息。

    一旦發(fā)現(xiàn)不一致,會去做重試操作。如果重試依舊不成功,會重寫信息到緩存,讓用戶知道失敗原因。

    • 用戶下單以后,焦慮地刷新頁面查看下單的結(jié)果,實際上是讀到的緩存上的下單結(jié)果信息。

    雖然,這個信息和最終結(jié)果有偏差,但是在秒殺的場景,要求高性能是前提,結(jié)果的一致性,可以后期補(bǔ)償。

    數(shù)據(jù)庫設(shè)計

    講完了秒殺的處理流程,來談?wù)剶?shù)據(jù)庫設(shè)計要注意的點。

    數(shù)據(jù)估算

    前面說了秒殺場景需要注意隔離,這里的隔離包括“業(yè)務(wù)隔離”。就是說我們在秒殺之前,需要通過業(yè)務(wù)的手段,例如:熱場活動,問卷調(diào)查,歷史數(shù)據(jù)分析。通過他們?nèi)ス浪氵@次秒殺可能需要存儲的數(shù)據(jù)量。

    這里有兩部分的數(shù)據(jù)需要考慮:

    • 業(yè)務(wù)數(shù)據(jù)
    • 日志數(shù)據(jù)

    前者不言而喻是給業(yè)務(wù)系統(tǒng)用的。后者,是用來分析和后續(xù)處理問題訂單用的,秒殺完畢以后還可以用來復(fù)盤。

    分表分庫

    對于這些數(shù)據(jù)的存放,需要分情況討論,例如,MySQL 單表推薦的存儲量是 500W 條記錄(經(jīng)驗數(shù)字)。

    如果估算的時候超過了這個數(shù)據(jù),建議做分表。如果服務(wù)的連接數(shù)較多,建議進(jìn)行分庫的操作。

    數(shù)據(jù)隔離

    由于大量的數(shù)據(jù)操作是插入,有少部分的修改操作。如果使用關(guān)系型數(shù)據(jù)來存儲,建議用專門的表來存放,不建議使用業(yè)務(wù)系統(tǒng)正在使用的表。

    這個開頭提到了,數(shù)據(jù)隔離是必須的,一旦秒殺系統(tǒng)掛了,不會影響到正常業(yè)務(wù)系統(tǒng),這個風(fēng)險意識要有。表的設(shè)計除了 ID 以外,最好不要設(shè)置其他主鍵,保證能夠快速地插入。

    數(shù)據(jù)合并

    由于是用的專用表存儲,在秒殺活動完畢以后,需要將其和現(xiàn)有的數(shù)據(jù)做合并。其實,交易已經(jīng)完成,合并的目的也就是查詢。

    這個合并需要根據(jù)具體情況來分析,如果對于那些“只讀”的數(shù)據(jù),對于做了讀寫分離的公司,可以導(dǎo)入到專門負(fù)責(zé)讀的數(shù)據(jù)庫或者 NoSQL 數(shù)據(jù)庫中。

    壓力測試

    構(gòu)建了秒殺系統(tǒng),一定會面臨上線,那么在上線之前壓力測試是必不可少的。

    我們做壓力測試的目的是檢驗系統(tǒng)崩潰的邊緣在哪里?系統(tǒng)的極限在哪里?

    這樣才能合理地設(shè)置流量的上限,為了保證系統(tǒng)的穩(wěn)定性,多余的流量需要被拋棄。

    壓力測試的方法

    合理的測試方法可以幫助我們對系統(tǒng)有深入的了解,這里介紹兩種壓力測試的方法:

    • 正壓力測試
    • 負(fù)壓力測試

    正壓力測試。每次秒殺活動都會計劃,使用多少服務(wù)器資源,承受多少的請求量。

    可以在這個請求量上面不斷加壓,直到系統(tǒng)接近崩潰或者真正崩潰。簡單的說就是做加法。

    正壓力測試示意圖

    負(fù)壓力測試。在系統(tǒng)正常運行的情況下,逐步減少支撐系統(tǒng)的資源(服務(wù)器),看什么時候系統(tǒng)無法支撐正常的業(yè)務(wù)請求。

    例如:在系統(tǒng)正常運行的情況下,逐步減少服務(wù)器或者微服務(wù)的數(shù)量,觀察業(yè)務(wù)請求的情況。說白了就是做減法。

    負(fù)壓力測試示意圖

    壓力測試的步驟

    測試步驟

    有了測試方法的加持,我們來看看需要遵循哪些測試步驟。下面的操作偏套路化,大家在其他系統(tǒng)的壓力測試也可以這么做,給大家做個參考。

    第一,確定測試目標(biāo)。與性能測試不同的是,壓力測試的目標(biāo)是,什么時候系統(tǒng)會接近崩潰。比如:需要支撐 500W 訪問量。

    第二,確定關(guān)鍵功能。壓力測試其實是有重點的,根據(jù) 2/8 原則,系統(tǒng)中 20% 的功能被使用的是最多的,我們可以針對這些核心功能進(jìn)行壓力測試。例如:下單,庫存扣減。

    關(guān)注核心服務(wù)

    第三,確定負(fù)載。這個和關(guān)鍵服務(wù)的思路一致,不是每個服務(wù)都有高負(fù)載的,我們的測試其實是要關(guān)注那些負(fù)載量大的服務(wù),或者是一段時間內(nèi)系統(tǒng)中某些服務(wù)的負(fù)載有波動。這些都是測試目標(biāo)。

    第四,選擇環(huán)境,建議搭建和生產(chǎn)環(huán)境一模一樣的環(huán)境進(jìn)行測試。

    第五,確定監(jiān)視點,實際上就是對關(guān)注的參數(shù)進(jìn)行監(jiān)視,例如 CPU 負(fù)載,內(nèi)存使用率,系統(tǒng)吞吐量等等。

    第六,產(chǎn)生負(fù)載,這里需要從生產(chǎn)環(huán)境去獲取一些真實的數(shù)據(jù)作為負(fù)載數(shù)據(jù)源,這部分?jǐn)?shù)據(jù)源根據(jù)目標(biāo)系統(tǒng)的承受要求由腳本驅(qū)動,對系統(tǒng)進(jìn)行沖擊。

    建議使用往期秒殺系統(tǒng)的數(shù)據(jù),或者實際生產(chǎn)系統(tǒng)的數(shù)據(jù)進(jìn)行測試。

    第七,執(zhí)行測試,這里主要是根據(jù)目標(biāo)系統(tǒng),關(guān)鍵組件,用負(fù)載進(jìn)行測試,返回監(jiān)視點的數(shù)據(jù)。

    建議團(tuán)隊可以對測試定一個計劃,模擬不同的網(wǎng)絡(luò)環(huán)境,硬件條件進(jìn)行有規(guī)律的測試。

    第八,分析數(shù)據(jù),針對測試的目的,對關(guān)鍵服務(wù)的壓力測試數(shù)據(jù)進(jìn)行分析得知該服務(wù)的承受上限在哪里。

    對一段時間內(nèi)有負(fù)載波動或者大負(fù)載的服務(wù)進(jìn)行數(shù)據(jù)分析,得出服務(wù)改造的方向。

    總結(jié)

    秒殺系統(tǒng)的特點,并發(fā)量大,資源有限,操作相對簡單,訪問的都是熱點數(shù)據(jù)。因此,我們需要把它從業(yè)務(wù),技術(shù),數(shù)據(jù)上做隔離,保證不影響到現(xiàn)有的系統(tǒng)。

    因此,架構(gòu)設(shè)計需要分幾層來考慮,從客戶請求到數(shù)據(jù)庫存儲,到最后上線前的壓力測試。

    簡易的思維導(dǎo)圖送給大家

    思考順序如下,客戶端→代理層→應(yīng)用層→數(shù)據(jù)庫→壓力測試:

    客戶端 90% 靜態(tài) HTML+10% 動態(tài) JS;配合 CDN 做好緩存工作。

    接入層專注于過濾和限流。

    應(yīng)用層利用緩存+隊列+分布式處理好訂單。

    做好數(shù)據(jù)的預(yù)估,隔離,合并。

    上線之前記得進(jìn)行壓力測試。

    網(wǎng)站欄目:這一次,徹底弄懂“秒殺系統(tǒng)”
    當(dāng)前URL:http://www.muchs.cn/news18/98718.html

    成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián),為您提供App設(shè)計營銷型網(wǎng)站建設(shè)、響應(yīng)式網(wǎng)站全網(wǎng)營銷推廣、ChatGPT、網(wǎng)站內(nèi)鏈

    廣告

    聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主,如果涉及侵權(quán)請盡快告知,我們將會在第一時間刪除。文章觀點不代表本網(wǎng)站立場,如需處理請聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時需注明來源: 創(chuàng)新互聯(lián)

    外貿(mào)網(wǎng)站制作