怎么用數(shù)據(jù)庫(kù)中間件Mycat+SpringBoot完成分庫(kù)分表

這篇文章主要講解了“怎么用數(shù)據(jù)庫(kù)中間件Mycat+SpringBoot完成分庫(kù)分表”，文中的講解內(nèi)容簡(jiǎn)單清晰，易于學(xué)習(xí)與理解，下面請(qǐng)大家跟著小編的思路慢慢深入，一起來(lái)研究和學(xué)習(xí)“怎么用數(shù)據(jù)庫(kù)中間件Mycat+SpringBoot完成分庫(kù)分表”吧！

創(chuàng)新互聯(lián)公司服務(wù)項(xiàng)目包括零陵網(wǎng)站建設(shè)、零陵網(wǎng)站制作、零陵網(wǎng)頁(yè)制作以及零陵網(wǎng)絡(luò)營(yíng)銷策劃等。多年來(lái)，我們專注于互聯(lián)網(wǎng)行業(yè)，利用自身積累的技術(shù)優(yōu)勢(shì)、行業(yè)經(jīng)驗(yàn)、深度合作伙伴關(guān)系等，向廣大中小型企業(yè)、政府機(jī)構(gòu)等提供互聯(lián)網(wǎng)行業(yè)的解決方案，零陵網(wǎng)站推廣取得了明顯的社會(huì)效益與經(jīng)濟(jì)效益。目前，我們服務(wù)的客戶以成都為中心已經(jīng)輻射到零陵省份的部分城市，未來(lái)相信會(huì)繼續(xù)擴(kuò)大服務(wù)區(qū)域并繼續(xù)獲得客戶的支持與信任！

一、背景

隨著時(shí)間和業(yè)務(wù)的發(fā)展，數(shù)據(jù)庫(kù)中的數(shù)據(jù)量增長(zhǎng)是不可控的，庫(kù)和表中的數(shù)據(jù)會(huì)越來(lái)越大，隨之帶來(lái)的是更高的磁盤、IO、系統(tǒng)開(kāi)銷，甚至性能上的瓶頸，而一臺(tái)服務(wù)的資源終究是有限的，因此需要對(duì)數(shù)據(jù)庫(kù)和表進(jìn)行拆分，從而更好的提供數(shù)據(jù)服務(wù)。

當(dāng)用戶表達(dá)到千萬(wàn)級(jí)別，在做很多操作的時(shí)候都會(huì)很吃力，所以當(dāng)數(shù)據(jù)增長(zhǎng)到1000萬(wàn)以上就需要分庫(kù)分表來(lái)緩解單庫(kù)（表）的壓力。

二、什么是分庫(kù)分表[1]

簡(jiǎn)單來(lái)說(shuō)，就是指通過(guò)某種特定的條件，將我們存放在同一個(gè)數(shù)據(jù)庫(kù)中的數(shù)據(jù)分散存放到多個(gè)數(shù)據(jù)庫(kù)（主機(jī)）上面，以達(dá)到分散單臺(tái)設(shè)備負(fù)載的效果。

數(shù)據(jù)的切分（Sharding）根據(jù)其切分規(guī)則的類型，可以分為兩種切分模式。一種是按照不同的表（或者Schema）來(lái)切分到不同的數(shù)據(jù)庫(kù)（主機(jī)）之上，這種切可以稱之為數(shù)據(jù)的垂直（縱向）切分；另外一種則是根據(jù)表中的數(shù)據(jù)的邏輯關(guān)系，將同一個(gè)表中的數(shù)據(jù)按照某種條件拆分到多臺(tái)數(shù)據(jù)庫(kù)（主機(jī)）上面，這種切分稱之為數(shù)據(jù)的水平（橫向）切分。

垂直切分的最大特點(diǎn)就是規(guī)則簡(jiǎn)單，實(shí)施也更為方便，尤其適合各業(yè)務(wù)之間的耦合度非常低，相互影響很小，業(yè)務(wù)邏輯非常清晰的系統(tǒng)。在這種系統(tǒng)中，可以很容易做到將不同業(yè)務(wù)模塊所使用的表分拆到不同的數(shù)據(jù)庫(kù)中。根據(jù)不同的表來(lái)進(jìn)行拆分，對(duì)應(yīng)用程序的影響也更小，拆分規(guī)則也會(huì)比較簡(jiǎn)單清晰。

水平切分于垂直切分相比，相對(duì)來(lái)說(shuō)稍微復(fù)雜一些。因?yàn)橐獙⑼粋€(gè)表中的不同數(shù)據(jù)拆分到不同的數(shù)據(jù)庫(kù)中，對(duì)于應(yīng)用程序來(lái)說(shuō)，拆分規(guī)則本身就較根據(jù)表名來(lái)拆分更為復(fù)雜，后期的數(shù)據(jù)維護(hù)也會(huì)更為復(fù)雜一些。

三、垂直切分 [1]

個(gè)數(shù)據(jù)庫(kù)由很多表的構(gòu)成，每個(gè)表對(duì)應(yīng)著不同的業(yè)務(wù)，垂直切分是指按照業(yè)務(wù)將表進(jìn)行分類，分布到不同的數(shù)據(jù)庫(kù)上面，這樣也就將數(shù)據(jù)或者說(shuō)壓力分擔(dān)到不同的庫(kù)上面，如下圖：

系統(tǒng)被切分成了，用戶，訂單交易，支付幾個(gè)模塊。一個(gè)架構(gòu)設(shè)計(jì)較好的應(yīng)用系統(tǒng)，其總體功能肯定是由很多個(gè)功能模塊所組成的，而每一個(gè)功能模塊所需要的數(shù)據(jù)對(duì)應(yīng)到數(shù)據(jù)庫(kù)中就是一個(gè)或者多個(gè)表。而在架構(gòu)設(shè)計(jì)中，各個(gè)功能模塊相互之間的交互點(diǎn)越統(tǒng)一越少，系統(tǒng)的耦合度就越低，系統(tǒng)各個(gè)模塊的維護(hù)性以及擴(kuò)展性也就越好。這樣的系統(tǒng)，實(shí)現(xiàn)數(shù)據(jù)的垂直切分也就越容易。

但是往往系統(tǒng)之有些表難以做到完全的獨(dú)立，存在這擴(kuò)庫(kù)  join  的情況，對(duì)于這類的表，就需要去做平衡，是數(shù)據(jù)庫(kù)讓步業(yè)務(wù)，共用一個(gè)數(shù)據(jù)源，還是分成多個(gè)庫(kù)，業(yè)務(wù)之間通過(guò)接口來(lái)做調(diào)用。在系統(tǒng)初期，數(shù)據(jù)量比較少，或者資源有限的情況下，會(huì)選擇共用數(shù)據(jù)源，但是當(dāng)數(shù)據(jù)發(fā)展到了一定的規(guī)模，負(fù)載很大的情況，就需要必須去做分割。

一般來(lái)講業(yè)務(wù)存在著復(fù)雜 join 的場(chǎng)景是難以切分的，往往業(yè)務(wù)獨(dú)立的易于切分。如何切分，切分到何種程度是考驗(yàn)技術(shù)架構(gòu)的一個(gè)難題。下面來(lái)分析下垂直切分的優(yōu)缺點(diǎn)：

優(yōu)點(diǎn)：

拆分后業(yè)務(wù)清晰，拆分規(guī)則明確；

系統(tǒng)之間整合或擴(kuò)展容易；

數(shù)據(jù)維護(hù)簡(jiǎn)單。

缺點(diǎn)：

部分業(yè)務(wù)表無(wú)法 join，只能通過(guò)接口方式解決，提高了系統(tǒng)復(fù)雜度；

受每種業(yè)務(wù)不同的限制存在單庫(kù)性能瓶頸，不易數(shù)據(jù)擴(kuò)展跟性能提高；

事務(wù)處理復(fù)雜。

由于垂直切分是按照業(yè)務(wù)的分類將表分散到不同的庫(kù)，所以有些業(yè)務(wù)表會(huì)過(guò)于龐大，存在單庫(kù)讀寫與存儲(chǔ)瓶頸，所以就需要水平拆分來(lái)做解決。

四、水平切分 [1]

相對(duì)于垂直拆分，水平拆分不是將表做分類，而是按照某個(gè)字段的某種規(guī)則來(lái)分散到多個(gè)庫(kù)之中，每個(gè)表中包含一部分?jǐn)?shù)據(jù)。簡(jiǎn)單來(lái)說(shuō)，我們可以將數(shù)據(jù)的水平切分理解為是按照數(shù)據(jù)行的切分，就是將表中的某些行切分到一個(gè)數(shù)據(jù)庫(kù)，而另外的某些行又切分到其他的數(shù)據(jù)庫(kù)中，如圖：

拆分?jǐn)?shù)據(jù)就需要定義分片規(guī)則。關(guān)系型數(shù)據(jù)庫(kù)是行列的二維模型，拆分的第一原則是找到拆分維度。比如：從會(huì)員的角度來(lái)分析，商戶訂單交易類系統(tǒng)中查詢會(huì)員某天某月某個(gè)訂單，那么就需要按照會(huì)員結(jié)合日期來(lái)拆分，不同的數(shù)據(jù)按照會(huì)員  ID 做分組，這樣所有的數(shù)據(jù)查詢 join 都會(huì)在單庫(kù)內(nèi)解決；如果從商戶的角度來(lái)講，要查詢某個(gè)商家某天所有的訂單數(shù)，就需要按照商戶 ID  做拆分；但是如果系統(tǒng)既想按會(huì)員拆分，又想按商家數(shù)據(jù)，則會(huì)有一定的困難。如何找到合適的分片規(guī)則需要綜合考慮衡。幾種典型的分片規(guī)則包括：

按照用戶 ID 求模，將數(shù)據(jù)分散到不同的數(shù)據(jù)庫(kù)，具有相同數(shù)據(jù)用戶的數(shù)據(jù)都被分散到一個(gè)庫(kù)中；

按照日期，將不同月甚至日的數(shù)據(jù)分散到不同的庫(kù)中；

按照某個(gè)特定的字段求摸，或者根據(jù)特定范圍段分散到不同的庫(kù)中。

如圖，切分原則都是根據(jù)業(yè)務(wù)找到適合的切分規(guī)則分散到不同的庫(kù)，下面用用戶 ID 求模舉

既然數(shù)據(jù)做了拆分有優(yōu)點(diǎn)也就優(yōu)缺點(diǎn)。

優(yōu)點(diǎn)：

拆分規(guī)則抽象好，join 操作基本可以數(shù)據(jù)庫(kù)做；

不存在單庫(kù)大數(shù)據(jù)，高并發(fā)的性能瓶頸；

應(yīng)用端改造較少；

提高了系統(tǒng)的穩(wěn)定性跟負(fù)載能力。

缺點(diǎn)：

拆分規(guī)則難以抽象；

分片事務(wù)一致性難以解決；

數(shù)據(jù)多次擴(kuò)展難度跟維護(hù)量極大；

跨庫(kù) join 性能較差

五、什么是Mycat

它是一個(gè)開(kāi)源的分布式數(shù)據(jù)庫(kù)系統(tǒng)，是一個(gè)實(shí)現(xiàn)了  MySQL 協(xié)議的的Server，前端用戶可以把它看作是一個(gè)數(shù)據(jù)庫(kù)代理，用 MySQL 客戶端工具和命令行訪問(wèn)，而其后端可以用MySQL  原生（Native）協(xié)議與多個(gè) MySQL 服務(wù)器通信，也可以用 JDBC  協(xié)議與大多數(shù)主流數(shù)據(jù)庫(kù)服務(wù)器通信，其核心功能是分表分庫(kù)，即將一個(gè)大表水平分割為 N 個(gè)小表，存儲(chǔ)在后端 MySQL 服務(wù)器里或者其他數(shù)據(jù)庫(kù)里。

常見(jiàn)應(yīng)用場(chǎng)景:

單純的讀寫分離，此時(shí)配置最為簡(jiǎn)單，支持讀寫分離，主從切換；

分表分庫(kù)，對(duì)于超過(guò) 1000 萬(wàn)的表進(jìn)行分片，最大支持 1000 億的單表分片；

多租戶應(yīng)用，每個(gè)應(yīng)用一個(gè)庫(kù)，但應(yīng)用程序只連接 Mycat，從而不改造程序本身，實(shí)現(xiàn)多租戶化；

報(bào)表系統(tǒng)，借助于 Mycat 的分表能力，處理大規(guī)模報(bào)表的統(tǒng)計(jì)；? 替代 Hbase，分析大數(shù)據(jù)；

作為海量數(shù)據(jù)實(shí)時(shí)查詢的一種簡(jiǎn)單有效方案，比如 100 億條頻繁查詢的記錄需要在 3 秒內(nèi)查詢出來(lái)結(jié)果，除了基于主鍵的查詢，還可能存在范圍查詢或其他屬性查詢，此時(shí) Mycat 可能是最簡(jiǎn)單有效的選

六、SpringBoot+Mycat+MySQL實(shí)現(xiàn)分表分庫(kù)案例

關(guān)于分庫(kù)分表，Mycat已經(jīng)幫我們?cè)趦?nèi)部實(shí)現(xiàn)了路由的功能，我們只需要在Mycat中配置以下切分規(guī)則即可，對(duì)于開(kāi)發(fā)者來(lái)說(shuō)，我們就可以把Mycat看做是一個(gè)數(shù)據(jù)庫(kù)，接下來(lái)我們開(kāi)始搭建環(huán)境:

步驟一:

Mycat是使用java寫的數(shù)據(jù)庫(kù)中間件，所以要運(yùn)行Mycat前要準(zhǔn)備要jdk的環(huán)境，要求是jdk1.7以上的環(huán)境。所以需要在系統(tǒng)中配置JAVA_HOME的環(huán)境變量.

步驟二:

從官網(wǎng)下載Mycat，http://dl.mycat.io/1.6-RELEASE/我們是基于CentOS7來(lái)搭建Mycat環(huán)境的，所以下載版本：Mycat-server-1.6-RELEASE-20161028204710-linux.tar.gz

步驟三:

將下載好的安裝包上傳到服務(wù)器上并解壓.解壓之后目錄結(jié)構(gòu)如下：

步驟四:

配置切分規(guī)則：將如下配置復(fù)制粘貼覆蓋mycat/conf/schema.xml的內(nèi)容。


<?xml version="1.0"?> <!DOCTYPE mycat:schema SYSTEM "schema.dtd"> <mycat:schema xmlns:mycat="http://io.mycat/">     <schema name="TESTDB" checkSQLschema="false" sqlMaxLimit="100">            <table name="user" primaryKey="id" dataNode="dn01,dn02" rule="rule1" />      </schema>        <!-- 設(shè)置dataNode 對(duì)應(yīng)的數(shù)據(jù)庫(kù),及 mycat 連接的地址dataHost -->      <dataNode name="dn01" dataHost="dh01" database="db01" />      <dataNode name="dn02" dataHost="dh01" database="db02" />          <!-- mycat 邏輯主機(jī)dataHost對(duì)應(yīng)的物理主機(jī).其中也設(shè)置對(duì)應(yīng)的mysql登陸信息 -->      <dataHost name="dh01" maxCon="1000" minCon="10" balance="0" writeType="0" dbType="mysql" dbDriver="native">              <heartbeat>select user()</heartbeat>              <writeHost host="server1" url="127.0.0.1:3306" user="root" password="WolfCode_2017"/>      </dataHost> </mycat:schema>

<schema>:表示的是在mycat中的邏輯庫(kù)配置，邏輯庫(kù)名稱為:TESTDB

<table>:表示在mycat中的邏輯表配置，邏輯表名稱為:user,映射到兩個(gè)數(shù)據(jù)庫(kù)節(jié)點(diǎn)dataNode中,切分規(guī)則為:rule1(在rule.xml配置)

<dataNode>:表示數(shù)據(jù)庫(kù)節(jié)點(diǎn),這個(gè)節(jié)點(diǎn)不一定是單節(jié)點(diǎn)，可以配置成讀寫分離.

<dataHost>:真實(shí)的數(shù)據(jù)庫(kù)的地址配置

<heartbeat>:用戶心跳檢測(cè)

<writeHost>:寫庫(kù)的配置

將如下配置復(fù)制粘貼覆蓋mycat/conf/rule.xml的內(nèi)容。

這里定義的是切分規(guī)則，是按照id列進(jìn)行切分，切分規(guī)則是采取取模的方式,<property  name="count">2</property>:這里配置了我們有拆分了多個(gè)庫(kù)(表)，需要和前面配置<table  name="user" primaryKey="id" dataNode="dn01,dn02" rule="rule1"  />中的dataNode個(gè)數(shù)一致，否則會(huì)出錯(cuò).

步驟五:

在數(shù)據(jù)庫(kù)中創(chuàng)建兩個(gè)數(shù)據(jù)庫(kù)db01,db02.每個(gè)庫(kù)中執(zhí)行如下建表語(yǔ)句:

CREATE TABLE `user` (  `id` bigint(20) NOT NULL,  `name` varchar(255) DEFAULT NULL,  PRIMARY KEY (`id`) ) ENGINE=InnoDB DEFAULT CHARSET=utf8;

步驟六:

啟動(dòng)mycat,執(zhí)行mycat/bin/startup_nowrap.sh

步驟七:

項(xiàng)目已經(jīng)上傳到githubhttps://github.com/javalanxiongwei/springboot-mycat搭建SpringBoot環(huán)境，執(zhí)行插入語(yǔ)句.application.properties配置如下：

步驟八:

測(cè)試:在地址欄輸入:http://localhost:8080/user/save?id=1&name=tomhttp://localhost:8080/user/save?id=2&name=jack查看數(shù)據(jù)庫(kù)發(fā)現(xiàn)：id為1的數(shù)據(jù)插入到數(shù)據(jù)庫(kù)db02中的user表。id為2的數(shù)據(jù)插入到數(shù)據(jù)庫(kù)db01中的user表。在地址欄輸入:http://localhost:8080/user/list是可以看到剛剛插入的兩條記錄.

好到這一步，我們就已經(jīng)完成了分表分庫(kù)了。

感謝各位的閱讀，以上就是“怎么用數(shù)據(jù)庫(kù)中間件Mycat+SpringBoot完成分庫(kù)分表”的內(nèi)容了，經(jīng)過(guò)本文的學(xué)習(xí)后，相信大家對(duì)怎么用數(shù)據(jù)庫(kù)中間件Mycat+SpringBoot完成分庫(kù)分表這一問(wèn)題有了更深刻的體會(huì)，具體使用情況還需要大家實(shí)踐驗(yàn)證。這里是創(chuàng)新互聯(lián)，小編將為大家推送更多相關(guān)知識(shí)點(diǎn)的文章，歡迎關(guān)注！

名稱欄目：怎么用數(shù)據(jù)庫(kù)中間件Mycat+SpringBoot完成分庫(kù)分表
文章起源：http://muchs.cn/article32/pppdpc.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián)，為您提供手機(jī)網(wǎng)站建設(shè)、域名注冊(cè)、做網(wǎng)站、、定制網(wǎng)站、微信公眾號(hào)

廣告

聲明：本網(wǎng)站發(fā)布的內(nèi)容（圖片、視頻和文字）以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主，如果涉及侵權(quán)請(qǐng)盡快告知，我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng)，如需處理請(qǐng)聯(lián)系客服。電話：028-86922220；郵箱：631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載，或轉(zhuǎn)載時(shí)需注明來(lái)源： 創(chuàng)新互聯(lián)