java如何實(shí)現(xiàn)保證緩存與數(shù)據(jù)庫(kù)的雙寫的一致性-創(chuàng)新互聯(lián)

小編給大家分享一下java如何實(shí)現(xiàn)保證緩存與數(shù)據(jù)庫(kù)的雙寫的一致性,相信大部分人都還不怎么了解,因此分享這篇文章給大家參考一下,希望大家閱讀完這篇文章后大有收獲,下面讓我們一起去了解一下吧!

成都網(wǎng)站建設(shè)哪家好,找成都創(chuàng)新互聯(lián)公司!專注于網(wǎng)頁(yè)設(shè)計(jì)、重慶網(wǎng)站建設(shè)、微信開發(fā)、微信平臺(tái)小程序開發(fā)、集團(tuán)成都定制網(wǎng)站等服務(wù)項(xiàng)目。核心團(tuán)隊(duì)均擁有互聯(lián)網(wǎng)行業(yè)多年經(jīng)驗(yàn),服務(wù)眾多知名企業(yè)客戶;涵蓋的客戶類型包括:銅雕雕塑等眾多領(lǐng)域,積累了大量豐富的經(jīng)驗(yàn),同時(shí)也獲得了客戶的一致贊美!

Cache Aside Pattern

最經(jīng)典的緩存+數(shù)據(jù)庫(kù)讀寫的模式,就是 Cache Aside Pattern。  
讀的時(shí)候,先讀緩存,緩存沒(méi)有的話,就讀數(shù)據(jù)庫(kù),然后取出數(shù)據(jù)后放入緩存,同時(shí)返回響應(yīng)。

更新的時(shí)候,先更新數(shù)據(jù)庫(kù),然后再刪除緩存。

為什么是刪除緩存,而不是更新緩存?

原因很簡(jiǎn)單,很多時(shí)候,在復(fù)雜點(diǎn)的緩存場(chǎng)景,緩存不單單是數(shù)據(jù)庫(kù)中直接取出來(lái)的值。

比如可能更新了某個(gè)表的一個(gè)字段,然后其對(duì)應(yīng)的緩存,是需要查詢另外兩個(gè)表的數(shù)據(jù)并進(jìn)行運(yùn)算,才能計(jì)算出緩存新的值的。

另外更新緩存的代價(jià)有時(shí)候是很高的。是不是說(shuō),每次修改數(shù)據(jù)庫(kù)的時(shí)候,都一定要將其對(duì)應(yīng)的緩存更新一份?也許有的場(chǎng)景是這樣,但是對(duì)于比較復(fù)雜的緩存數(shù)據(jù)計(jì)算的場(chǎng)景,就不是這樣了。如果你頻繁修改一個(gè)緩存涉及的多個(gè)表,緩存也頻繁更新。但是問(wèn)題在于,這個(gè)緩存到底會(huì)不會(huì)被頻繁訪問(wèn)到?

舉個(gè)栗子,一個(gè)緩存涉及的表的字段,在 1 分鐘內(nèi)就修改了 20 次,或者是 100 次,那么緩存更新 20 次、100 次;但是這個(gè)緩存在 1 分鐘內(nèi)只被讀取了 1 次,有大量的冷數(shù)據(jù)。實(shí)際上,如果你只是刪除緩存的話,那么在 1 分鐘內(nèi),這個(gè)緩存不過(guò)就重新計(jì)算一次而已,開銷大幅度降低,用到緩存才去算緩存。

其實(shí)刪除緩存,而不是更新緩存,就是一個(gè) lazy 計(jì)算的思想,不要每次都重新做復(fù)雜的計(jì)算,不管它會(huì)不會(huì)用到,而是讓它到需要被使用的時(shí)候再重新計(jì)算。像 mybatis,hibernate,都有懶加載思想。查詢一個(gè)部門,部門帶了一個(gè)員工的 list,沒(méi)有必要說(shuō)每次查詢部門,都里面的 1000 個(gè)員工的數(shù)據(jù)也同時(shí)查出來(lái)啊。80% 的情況,查這個(gè)部門,就只是要訪問(wèn)這個(gè)部門的信息就可以了。先查部門,同時(shí)要訪問(wèn)里面的員工,那么這個(gè)時(shí)候只有在你要訪問(wèn)里面的員工的時(shí)候,才會(huì)去數(shù)據(jù)庫(kù)里面查詢 1000 個(gè)員工。

最初級(jí)的緩存不一致問(wèn)題及解決方案

問(wèn)題:先修改數(shù)據(jù)庫(kù),再刪除緩存。如果刪除緩存失敗了,那么會(huì)導(dǎo)致數(shù)據(jù)庫(kù)中是新數(shù)據(jù),緩存中是舊數(shù)據(jù),數(shù)據(jù)就出現(xiàn)了不一致。
java如何實(shí)現(xiàn)保證緩存與數(shù)據(jù)庫(kù)的雙寫的一致性

解決思路:先刪除緩存,再修改數(shù)據(jù)庫(kù)。如果數(shù)據(jù)庫(kù)修改失敗了,那么數(shù)據(jù)庫(kù)中是舊數(shù)據(jù),緩存中是空的,那么數(shù)據(jù)不會(huì)不一致。因?yàn)樽x的時(shí)候緩存沒(méi)有,則讀數(shù)據(jù)庫(kù)中舊數(shù)據(jù),然后更新到緩存中。

比較復(fù)雜的數(shù)據(jù)不一致問(wèn)題分析

數(shù)據(jù)發(fā)生了變更,先刪除了緩存,然后要去修改數(shù)據(jù)庫(kù),此時(shí)還沒(méi)修改。一個(gè)請(qǐng)求過(guò)來(lái),去讀緩存,發(fā)現(xiàn)緩存空了,去查詢數(shù)據(jù)庫(kù),查到了修改前的舊數(shù)據(jù),放到了緩存中。隨后數(shù)據(jù)變更的程序完成了數(shù)據(jù)庫(kù)的修改。

完了,數(shù)據(jù)庫(kù)和緩存中的數(shù)據(jù)不一樣了。。。

為什么上億流量高并發(fā)場(chǎng)景下,緩存會(huì)出現(xiàn)這個(gè)問(wèn)題?

只有在對(duì)一個(gè)數(shù)據(jù)在并發(fā)的進(jìn)行讀寫的時(shí)候,才可能會(huì)出現(xiàn)這種問(wèn)題。其實(shí)如果說(shuō)你的并發(fā)量很低的話,特別是讀并發(fā)很低,每天訪問(wèn)量就 1 萬(wàn)次,那么很少的情況下,會(huì)出現(xiàn)剛才描述的那種不一致的場(chǎng)景。但是問(wèn)題是,如果每天的是上億的流量,每秒并發(fā)讀是幾萬(wàn),每秒只要有數(shù)據(jù)更新的請(qǐng)求,就可能會(huì)出現(xiàn)上述的數(shù)據(jù)庫(kù)+緩存不一致的情況。

解決方案如下:

更新數(shù)據(jù)的時(shí)候,根據(jù)數(shù)據(jù)的標(biāo)識(shí),將操作路由之后,發(fā)送到一個(gè) jvm 內(nèi)部隊(duì)列中。讀取數(shù)據(jù)的時(shí)候,如果發(fā)現(xiàn)數(shù)據(jù)不在緩存中,那么將重新讀取數(shù)據(jù)+更新緩存的操作,根據(jù)標(biāo)識(shí)路由之后,也發(fā)送同一個(gè) jvm 內(nèi)部隊(duì)列中。

一個(gè)隊(duì)列對(duì)應(yīng)一個(gè)工作線程,每個(gè)工作線程串行拿到對(duì)應(yīng)的操作,然后一條一條的執(zhí)行。這樣的話,一個(gè)數(shù)據(jù)變更的操作,先刪除緩存,然后再去更新數(shù)據(jù)庫(kù),但是還沒(méi)完成更新。此時(shí)如果一個(gè)讀請(qǐng)求過(guò)來(lái),讀到了空的緩存,那么可以先將緩存更新的請(qǐng)求發(fā)送到隊(duì)列中,此時(shí)會(huì)在隊(duì)列中積壓,然后同步等待緩存更新完成。

這里有一個(gè)優(yōu)化點(diǎn),一個(gè)隊(duì)列中,其實(shí)多個(gè)更新緩存請(qǐng)求串在一起是沒(méi)意義的,因此可以做過(guò)濾,如果發(fā)現(xiàn)隊(duì)列中已經(jīng)有一個(gè)更新緩存的請(qǐng)求了,那么就不用再放個(gè)更新請(qǐng)求操作進(jìn)去了,直接等待前面的更新操作請(qǐng)求完成即可。

待那個(gè)隊(duì)列對(duì)應(yīng)的工作線程完成了上一個(gè)操作的數(shù)據(jù)庫(kù)的修改之后,才會(huì)去執(zhí)行下一個(gè)操作,也就是緩存更新的操作,此時(shí)會(huì)從數(shù)據(jù)庫(kù)中讀取新的值,然后寫入緩存中。

如果請(qǐng)求還在等待時(shí)間范圍內(nèi),不斷輪詢發(fā)現(xiàn)可以取到值了,那么就直接返回;如果請(qǐng)求等待的時(shí)間超過(guò)一定時(shí)長(zhǎng),那么這一次直接從數(shù)據(jù)庫(kù)中讀取當(dāng)前的舊值。

高并發(fā)的場(chǎng)景下,該解決方案要注意的問(wèn)題:

1、讀請(qǐng)求長(zhǎng)時(shí)阻塞

由于讀請(qǐng)求進(jìn)行了非常輕度的異步化,所以一定要注意讀超時(shí)的問(wèn)題,每個(gè)讀請(qǐng)求必須在超時(shí)時(shí)間范圍內(nèi)返回。

該解決方案,較大的風(fēng)險(xiǎn)點(diǎn)在于說(shuō),可能數(shù)據(jù)更新很頻繁,導(dǎo)致隊(duì)列中積壓了大量更新操作在里面,然后讀請(qǐng)求會(huì)發(fā)生大量的超時(shí),最后導(dǎo)致大量的請(qǐng)求直接走數(shù)據(jù)庫(kù)。務(wù)必通過(guò)一些模擬真實(shí)的測(cè)試,看看更新數(shù)據(jù)的頻率是怎樣的。

另外一點(diǎn),因?yàn)橐粋€(gè)隊(duì)列中,可能會(huì)積壓針對(duì)多個(gè)數(shù)據(jù)項(xiàng)的更新操作,因此需要根據(jù)自己的業(yè)務(wù)情況進(jìn)行測(cè)試,可能需要部署多個(gè)服務(wù),每個(gè)服務(wù)分?jǐn)傄恍?shù)據(jù)的更新操作。如果一個(gè)內(nèi)存隊(duì)列里居然會(huì)擠壓 100 個(gè)商品的庫(kù)存修改操作,每隔庫(kù)存修改操作要耗費(fèi) 10ms 去完成,那么最后一個(gè)商品的讀請(qǐng)求,可能等待 10 * 100 = 1000ms = 1s 后,才能得到數(shù)據(jù),這個(gè)時(shí)候就導(dǎo)致讀請(qǐng)求的長(zhǎng)時(shí)阻塞。

一定要做根據(jù)實(shí)際業(yè)務(wù)系統(tǒng)的運(yùn)行情況,去進(jìn)行一些壓力測(cè)試,和模擬線上環(huán)境,去看看最繁忙的時(shí)候,內(nèi)存隊(duì)列可能會(huì)擠壓多少更新操作,可能會(huì)導(dǎo)致最后一個(gè)更新操作對(duì)應(yīng)的讀請(qǐng)求,會(huì) hang 多少時(shí)間,如果讀請(qǐng)求在 200ms 返回,如果你計(jì)算過(guò)后,哪怕是最繁忙的時(shí)候,積壓 10 個(gè)更新操作,最多等待 200ms,那還可以的。

如果一個(gè)內(nèi)存隊(duì)列中可能積壓的更新操作特別多,那么你就要加機(jī)器,讓每個(gè)機(jī)器上部署的服務(wù)實(shí)例處理更少的數(shù)據(jù),那么每個(gè)內(nèi)存隊(duì)列中積壓的更新操作就會(huì)越少。

其實(shí)根據(jù)之前的項(xiàng)目經(jīng)驗(yàn),一般來(lái)說(shuō),數(shù)據(jù)的寫頻率是很低的,因此實(shí)際上正常來(lái)說(shuō),在隊(duì)列中積壓的更新操作應(yīng)該是很少的。像這種針對(duì)讀高并發(fā)、讀緩存架構(gòu)的項(xiàng)目,一般來(lái)說(shuō)寫請(qǐng)求是非常少的,每秒的 QPS 能到幾百就不錯(cuò)了。

實(shí)際粗略測(cè)算一下

如果一秒有 500 的寫操作,如果分成 5 個(gè)時(shí)間片,每 200ms 就 100 個(gè)寫操作,放到 20 個(gè)內(nèi)存隊(duì)列中,每個(gè)內(nèi)存隊(duì)列,可能就積壓 5 個(gè)寫操作。每個(gè)寫操作性能測(cè)試后,一般是在 20ms 左右就完成,那么針對(duì)每個(gè)內(nèi)存隊(duì)列的數(shù)據(jù)的讀請(qǐng)求,也就最多 hang 一會(huì)兒,200ms 以內(nèi)肯定能返回了。

經(jīng)過(guò)剛才簡(jiǎn)單的測(cè)算,我們知道,單機(jī)支撐的寫 QPS 在幾百是沒(méi)問(wèn)題的,如果寫 QPS 擴(kuò)大了 10 倍,那么就擴(kuò)容機(jī)器,擴(kuò)容 10 倍的機(jī)器,每個(gè)機(jī)器 20 個(gè)隊(duì)列。

2、讀請(qǐng)求并發(fā)量過(guò)高

這里還必須做好壓力測(cè)試,確保恰巧碰上上述情況的時(shí)候,還有一個(gè)風(fēng)險(xiǎn),就是突然間大量讀請(qǐng)求會(huì)在幾十毫秒的延時(shí) hang 在服務(wù)上,看服務(wù)能不能扛的住,需要多少機(jī)器才能扛住較大的極限情況的峰值。

但是因?yàn)椴⒉皇撬械臄?shù)據(jù)都在同一時(shí)間更新,緩存也不會(huì)同一時(shí)間失效,所以每次可能也就是少數(shù)數(shù)據(jù)的緩存失效了,然后那些數(shù)據(jù)對(duì)應(yīng)的讀請(qǐng)求過(guò)來(lái),并發(fā)量應(yīng)該也不會(huì)特別大。

3、多服務(wù)實(shí)例部署的請(qǐng)求路由

可能這個(gè)服務(wù)部署了多個(gè)實(shí)例,那么必須保證說(shuō),執(zhí)行數(shù)據(jù)更新操作,以及執(zhí)行緩存更新操作的請(qǐng)求,都通過(guò) Nginx 服務(wù)器路由到相同的服務(wù)實(shí)例上。

比如說(shuō),對(duì)同一個(gè)商品的讀寫請(qǐng)求,全部路由到同一臺(tái)機(jī)器上??梢宰约喝プ龇?wù)間的按照某個(gè)請(qǐng)求參數(shù)的 hash 路由,也可以用 Nginx 的 hash 路由功能等等。

4、熱點(diǎn)商品的路由問(wèn)題,導(dǎo)致請(qǐng)求的傾斜

萬(wàn)一某個(gè)商品的讀寫請(qǐng)求特別高,全部打到相同的機(jī)器的相同的隊(duì)列里面去了,可能會(huì)造成某臺(tái)機(jī)器的壓力過(guò)大。就是說(shuō),因?yàn)橹挥性谏唐窋?shù)據(jù)更新的時(shí)候才會(huì)清空緩存,然后才會(huì)導(dǎo)致讀寫并發(fā),所以其實(shí)要根據(jù)業(yè)務(wù)系統(tǒng)去看,如果更新頻率不是太高的話,這個(gè)問(wèn)題的影響并不是特別大,但是的確可能某些機(jī)器的負(fù)載會(huì)高一些。

以上是“java如何實(shí)現(xiàn)保證緩存與數(shù)據(jù)庫(kù)的雙寫的一致性”這篇文章的所有內(nèi)容,感謝各位的閱讀!相信大家都有了一定的了解,希望分享的內(nèi)容對(duì)大家有所幫助,如果還想學(xué)習(xí)更多知識(shí),歡迎關(guān)注創(chuàng)新互聯(lián)行業(yè)資訊頻道!

網(wǎng)頁(yè)名稱:java如何實(shí)現(xiàn)保證緩存與數(shù)據(jù)庫(kù)的雙寫的一致性-創(chuàng)新互聯(lián)
網(wǎng)站路徑:http://muchs.cn/article6/eggig.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián),為您提供微信小程序、App設(shè)計(jì)網(wǎng)站維護(hù)、企業(yè)建站動(dòng)態(tài)網(wǎng)站、靜態(tài)網(wǎng)站

廣告

聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主,如果涉及侵權(quán)請(qǐng)盡快告知,我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng),如需處理請(qǐng)聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時(shí)需注明來(lái)源: 創(chuàng)新互聯(lián)

成都網(wǎng)站建設(shè)公司