mysql多條數(shù)據(jù)存到不同表id唯一分布式系統(tǒng)中的唯一ID生成

2024-01-21    分類(lèi): 網(wǎng)站建設(shè)

我們目前主流的服務(wù)端系統(tǒng)都是分布式的架構(gòu)。業(yè)務(wù)分布在不同的機(jī)器節(jié)點(diǎn)上產(chǎn)生數(shù)據(jù),數(shù)據(jù)也存儲(chǔ)在不同的機(jī)器節(jié)點(diǎn)。為了方便標(biāo)識(shí)數(shù)據(jù),我們使用 唯一且有序 的ID來(lái)標(biāo)識(shí)數(shù)據(jù)。即:

整個(gè)分布式系統(tǒng)中,新生成的ID永遠(yuǎn)不會(huì)產(chǎn)生與之前已經(jīng)生成的ID重復(fù);

生成的所有ID可以根據(jù)生成的時(shí)間進(jìn)行排序(生成時(shí)間晚的排序順序靠后)

我們來(lái)看一下市面上的幾種主流的ID生成方案。

一、Mysql 集群

由于我們的討論前提是分布式架構(gòu)的系統(tǒng),所以這里的 Mysql 我們默認(rèn)是集群版。

眾所周知,Mysql 有自帶的唯一ID機(jī)制,即自增主鍵,可以保證在同一個(gè)數(shù)據(jù)庫(kù)中,表內(nèi)生成的每一條記錄都是唯一且有序的。


但是如果放在分布式系統(tǒng)里面,我們用分庫(kù)/分表的架構(gòu)存儲(chǔ)記錄,那就會(huì)導(dǎo)致在系統(tǒng)中產(chǎn)生重復(fù)的ID。

如下圖,表1 2 3都是存儲(chǔ)相同記錄的不同表(可以在同一個(gè)數(shù)據(jù)庫(kù)里,也可以在不同數(shù)據(jù)庫(kù)里),表1 2 3都會(huì)產(chǎn)生id相同的數(shù)據(jù)。


為了解決這個(gè)問(wèn)題,mysql 官方支持?jǐn)?shù)據(jù)庫(kù) ID 生成時(shí)設(shè)置步長(zhǎng),可以保證不同數(shù)據(jù)庫(kù)中相同表的id唯一性。


如上圖,每個(gè)表都有 不同的起始id和相同的步長(zhǎng) ,這就能保證業(yè)務(wù)記錄Id的唯一性。

設(shè)置步長(zhǎng)的方案雖然解決了id生成的唯一性,但是也有很大的缺點(diǎn)

不能保證ID的有序性和時(shí)間的強(qiáng)相關(guān)。(由于是分布式系統(tǒng),不能保證id=4的數(shù)據(jù)一定在id=3的數(shù)據(jù)后面生成)

每次新增加一個(gè)節(jié)點(diǎn),要重置所有節(jié)點(diǎn)的起始值和步長(zhǎng)。

第二點(diǎn)只是數(shù)據(jù)庫(kù)管理會(huì)麻煩一些,但是第一點(diǎn)不能滿(mǎn)足我們對(duì)有序性的要求。

二、ID數(shù)據(jù)庫(kù)

這里泛指一套單獨(dú)維護(hù)的ID數(shù)據(jù)庫(kù),目的是為了保證業(yè)務(wù)系統(tǒng)內(nèi)所有的ID的唯一性和有序性。

舉幾個(gè)例子,比如Mysql維護(hù)一條表記錄,Redis 維護(hù)一個(gè)key,zookeeper 維護(hù)一個(gè)序列號(hào)。當(dāng)所有業(yè)務(wù)都通過(guò)調(diào)用這些存儲(chǔ)服務(wù)來(lái)生成+獲取唯一ID的時(shí)候,就可以保證生成Id的唯一性和有序性。

缺點(diǎn):

需要資源單獨(dú)維護(hù)一個(gè)服務(wù)

如果ID數(shù)據(jù)庫(kù)掛掉,整個(gè)業(yè)務(wù)就會(huì)停擺。如果ID數(shù)據(jù)庫(kù)出現(xiàn)數(shù)據(jù)錯(cuò)亂,可能會(huì)影響到唯一性和有序性

總結(jié)一下就是,ID數(shù)據(jù)庫(kù)可以提供唯一有序的ID,但是有一定的維護(hù)成本且系統(tǒng)的風(fēng)險(xiǎn)很高。

三、雪花算法

SnowFlake是Twitter公司采用的一種算法,目的是在分布式系統(tǒng)中產(chǎn)生 全局唯一且整體遞增 的ID。

3.1 生成ID的結(jié)構(gòu)


3.2 生成原理

我們先看一下雪花ID的生成過(guò)程:

生成毫秒級(jí)別的時(shí)間戳,填充到 41bit 的位置

序列號(hào)默認(rèn)為 000000000000 。如果 新生成的時(shí)間戳上次生成的相等 ,序列號(hào)就會(huì) + 1。將序列號(hào)填充到 12bit 位置

存儲(chǔ)當(dāng)前生成的時(shí)間戳到內(nèi)存中,以便下次生成時(shí)判斷

獲取到當(dāng)前機(jī)器+進(jìn)程的唯一標(biāo)識(shí),填充到 10bit 的位置

通過(guò)上述整個(gè)流程我們可以看到,雪花算法可以確保唯一性,單機(jī)內(nèi)在同一毫秒生成的ID會(huì)有序列號(hào)的遞增,多機(jī)環(huán)境在同一毫秒生成的ID會(huì)有機(jī)器+進(jìn)程的唯一標(biāo)識(shí)。

但是無(wú)法保證強(qiáng)有序性,比如多個(gè)機(jī)器在同一毫秒內(nèi)生成的ID,就無(wú)法按照時(shí)間規(guī)則進(jìn)行排序

3.3 缺點(diǎn)

雪花算法除了無(wú)法實(shí)現(xiàn)嚴(yán)格按照時(shí)間的有序性之外,還有一個(gè)可能存在的風(fēng)險(xiǎn)點(diǎn),就是 單機(jī)時(shí)鐘回?fù)?。

如果一個(gè)機(jī)器之前已經(jīng)生成過(guò)ID,將機(jī)器的時(shí)間改為之前的時(shí)間,那么就有一定幾率會(huì)生成與之前相同的ID。

四、mongoDB 的唯一ID生成策略

mongo唯一ID生成策略——ObjectId,和雪花算法相似度極高。區(qū)別在于雪花算法要占用64個(gè)字節(jié),而 ObjectId 只需要占用 12個(gè)字節(jié),但是objectId只能存儲(chǔ)秒級(jí)別時(shí)間戳。

ObjectId如果用字符串表示則有24個(gè)字符,但實(shí)際上它是由一組十六進(jìn)制的字符構(gòu)成,每個(gè)字節(jié)兩位的十六進(jìn)制數(shù)字,總共用了12字節(jié)的存儲(chǔ)空間。


比如:6331500a7cac81af7136236b 這個(gè)ID

秒級(jí)時(shí)間戳
機(jī)器碼
進(jìn)程的pid
序號(hào)
mongoDB 的 ObjectId 和雪花算法一樣,無(wú)法實(shí)現(xiàn)嚴(yán)格按照時(shí)間的有序性,并且由于是秒級(jí)別的時(shí)間戳,所以不同機(jī)器生成的ID,不按照時(shí)間排序的可能性會(huì)大很多。而且如果單機(jī)時(shí)鐘回?fù)?,也?huì)產(chǎn)生與之前重復(fù)的ID。

總結(jié)

特性/方案Mysql 集群ID數(shù)據(jù)庫(kù)雪花算法mongoDB ObjectId
唯一性:white_check_mark::white_check_mark::white_check_mark::white_check_mark:
按照生成時(shí)間的有序性:x::white_check_mark::x::x:
維護(hù)的難易程度較難易維護(hù)易維護(hù)

在分布式系統(tǒng)中:

以上四種方案都可以保證生成ID的唯一性
如果并發(fā)量很小的系統(tǒng),可以考慮 雪花算法/mongoDB ObjectId 方案來(lái)保證有序性
如果并發(fā)量很大,只能用ID數(shù)據(jù)庫(kù)來(lái)保證有序性,但是會(huì)比 雪花算法/mongoDB ObjectId 方案增加維護(hù)成本?

網(wǎng)站標(biāo)題:mysql多條數(shù)據(jù)存到不同表id唯一分布式系統(tǒng)中的唯一ID生成
地址分享:http://www.muchs.cn/news10/314710.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián),為您提供關(guān)鍵詞優(yōu)化軟件開(kāi)發(fā)、網(wǎng)站設(shè)計(jì)公司、面包屑導(dǎo)航、網(wǎng)站排名靜態(tài)網(wǎng)站

廣告

聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶(hù)投稿、用戶(hù)轉(zhuǎn)載內(nèi)容為主,如果涉及侵權(quán)請(qǐng)盡快告知,我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng),如需處理請(qǐng)聯(lián)系客服。電話(huà):028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時(shí)需注明來(lái)源: 創(chuàng)新互聯(lián)

綿陽(yáng)服務(wù)器托管