分布式系統(tǒng)的概念和原理-創(chuàng)新互聯(lián)

分布式系統(tǒng)概念

分布式系統(tǒng)（distributed system）是建立在網(wǎng)絡(luò)之上的軟件系統(tǒng)。正是因?yàn)檐浖奶匦裕苑植际较到y(tǒng)具有高度的內(nèi)聚性和透明性。因此，網(wǎng)絡(luò)和分布式系統(tǒng)之間的區(qū)別更多的在于高層軟件（特別是操作系統(tǒng)），而不是硬件。

成都創(chuàng)新互聯(lián)專注于市中企業(yè)網(wǎng)站建設(shè),響應(yīng)式網(wǎng)站開發(fā),購物商城網(wǎng)站建設(shè)。市中網(wǎng)站建設(shè)公司,為市中等地區(qū)提供建站服務(wù)。全流程按需網(wǎng)站開發(fā)，專業(yè)設(shè)計(jì)，全程項(xiàng)目跟蹤，成都創(chuàng)新互聯(lián)專業(yè)和態(tài)度為您提供的服務(wù)

那么分布式系統(tǒng)怎么將任務(wù)分發(fā)到這些計(jì)算機(jī)節(jié)點(diǎn)呢，很簡單的思想，分而治之，即分片（partition）。對于計(jì)算，那么就是對計(jì)算任務(wù)進(jìn)行切換，每個(gè)節(jié)點(diǎn)算一些，最終匯總就行了，這就是MapReduce的思想；對于存儲，更好理解一下，每個(gè)節(jié)點(diǎn)存一部分?jǐn)?shù)據(jù)就行了。當(dāng)數(shù)據(jù)規(guī)模變大的時(shí)候，Partition是唯一的選擇，同時(shí)也會帶來一些好處：

（1）提升性能和并發(fā)，操作被分發(fā)到不同的分片，相互獨(dú)立

（2）提升系統(tǒng)的可用性，即使部分分片不能用，其他分片不會受到影響

理想的情況下，有分片就行了，但事實(shí)的情況卻不大理想。原因在于，分布式系統(tǒng)中有大量的節(jié)點(diǎn)，且通過網(wǎng)絡(luò)通信。單個(gè)節(jié)點(diǎn)的故障（進(jìn)程crash、斷電、磁盤損壞）是個(gè)小概率事件，但整個(gè)系統(tǒng)的故障率會隨節(jié)點(diǎn)的增加而指數(shù)級增加，網(wǎng)絡(luò)通信也可能出現(xiàn)斷網(wǎng)、高延遲的情況。在這種一定會出現(xiàn)的“異常”情況下，分布式系統(tǒng)還是需要繼續(xù)穩(wěn)定的對外提供服務(wù)，即需要較強(qiáng)的容錯(cuò)性。最簡單的辦法，就是冗余或者復(fù)制集（Replication），即多個(gè)節(jié)點(diǎn)負(fù)責(zé)同一個(gè)任務(wù)，最為常見的就是分布式存儲中，多個(gè)節(jié)點(diǎn)復(fù)雜存儲同一份數(shù)據(jù)，以此增強(qiáng)可用性與可靠性。同時(shí)，Replication也會帶來性能的提升，比如數(shù)據(jù)的locality可以減少用戶的等待時(shí)間。

下面這種來自Distributed systems for fun and profit  的圖形象生動說明了Partition與Replication是如何協(xié)作的。

Partition和Replication是解決分布式系統(tǒng)問題的一記組合拳，很多具體的問題都可以用這個(gè)思路去解決。但這并不是銀彈，往往是為了解決一個(gè)問題，會引入更多的問題，比如為了可用性與可靠性保證，引用了冗余（復(fù)制集）。有了冗余，各個(gè)副本間的一致性問題就變得很頭疼，一致性在系統(tǒng)的角度和用戶的角度又有不同的等級劃分。如果要保證強(qiáng)一致性，那么會影響可用性與性能，在一些應(yīng)用（比如電商、搜索）是難以接受的。如果是最終一致性，那么就需要處理數(shù)據(jù)沖突的情況。CAP、FLP這些理論告訴我們，在分布式系統(tǒng)中，沒有最佳的選擇，都是需要權(quán)衡，做出最合適的選擇。

分布式系統(tǒng)挑戰(zhàn)

分布式系統(tǒng)需要大量機(jī)器協(xié)作，面臨諸多的挑戰(zhàn)：

第一，異構(gòu)的機(jī)器與網(wǎng)絡(luò)：

分布式系統(tǒng)中的機(jī)器，配置不一樣，其上運(yùn)行的服務(wù)也可能由不同的語言、架構(gòu)實(shí)現(xiàn)，因此處理能力也不一樣；節(jié)點(diǎn)間通過網(wǎng)絡(luò)連接，而不同網(wǎng)絡(luò)運(yùn)營商提供的網(wǎng)絡(luò)的帶寬、延時(shí)、丟包率又不一樣。怎么保證大家齊頭并進(jìn)，共同完成目標(biāo)，這四個(gè)不小的挑戰(zhàn)。

第二，普遍的節(jié)點(diǎn)故障：

雖然單個(gè)節(jié)點(diǎn)的故障概率較低，但節(jié)點(diǎn)數(shù)目達(dá)到一定規(guī)模，出故障的概率就變高了。分布式系統(tǒng)需要保證故障發(fā)生的時(shí)候，系統(tǒng)仍然是可用的，這就需要監(jiān)控節(jié)點(diǎn)的狀態(tài)，在節(jié)點(diǎn)故障的情況下將該節(jié)點(diǎn)負(fù)責(zé)的計(jì)算、存儲任務(wù)轉(zhuǎn)移到其他節(jié)點(diǎn)

第三，不可靠的網(wǎng)絡(luò)：

節(jié)點(diǎn)間通過網(wǎng)絡(luò)通信，而網(wǎng)絡(luò)是不可靠的?？赡艿木W(wǎng)絡(luò)問題包括：網(wǎng)絡(luò)分割、延時(shí)、丟包、亂序。

相比單機(jī)過程調(diào)用，網(wǎng)絡(luò)通信最讓人頭疼的是超時(shí)：節(jié)點(diǎn)A向節(jié)點(diǎn)B發(fā)出請求，在約定的時(shí)間內(nèi)沒有收到節(jié)點(diǎn)B的響應(yīng)，那么B是否處理了請求，這個(gè)是不確定的，這個(gè)不確定會帶來諸多問題，最簡單的，是否要重試請求，節(jié)點(diǎn)B會不會多次處理同一個(gè)請求。

總而言之，分布式的挑戰(zhàn)來自不確定性，不確定計(jì)算機(jī)什么時(shí)候crash、斷電，不確定磁盤什么時(shí)候損壞，不確定每次網(wǎng)絡(luò)通信要延遲多久，也不確定通信對端是否處理了發(fā)送的消息。而分布式的規(guī)模放大了這個(gè)不確定性，不確定性是令人討厭的，所以有諸多的分布式理論、協(xié)議來保證在這種不確定性的情況下，系統(tǒng)還能繼續(xù)正常工作。

而且，很多在實(shí)際系統(tǒng)中出現(xiàn)的問題，來源于設(shè)計(jì)時(shí)的盲目樂觀，覺得這個(gè)、那個(gè)應(yīng)該不會出問題。Fallacies_of_distributed_computing很有意思，介紹了分布式系統(tǒng)新手可能的錯(cuò)誤的假設(shè)：

The network is reliable.
Latency is zero.
Bandwidth is infinite.
The network is secure.
Topology doesn't change.
There is one administrator.
Transport cost is zero.
The network is homogeneous.

劉杰在《分布式系統(tǒng)原理介紹》中指出，處理這些異常的最佳原則是：在設(shè)計(jì)、推導(dǎo)、驗(yàn)證分布式系統(tǒng)的協(xié)議、流程時(shí),最重要的工作之一就是思考在執(zhí)行流程的每個(gè)步驟時(shí)一旦發(fā)生各種異常的情況下系統(tǒng)的處理方式及造成的影響。

分布式系統(tǒng)特性與衡量標(biāo)準(zhǔn)

透明性：使用分布式系統(tǒng)的用戶并不關(guān)心系統(tǒng)是怎么實(shí)現(xiàn)的，也不關(guān)心讀到的數(shù)據(jù)來自哪個(gè)節(jié)點(diǎn)，對用戶而言，分布式系統(tǒng)的最高境界是用戶根本感知不到這是一個(gè)分布式系統(tǒng)，在《Distributed Systems Principles and Paradigms》一書中，作者是這么說的：

A distributed system is a collection of independent computers that appears to its users as a single coherent system.

可擴(kuò)展性：分布式系統(tǒng)的根本目標(biāo)就是為了處理單個(gè)計(jì)算機(jī)無法處理的任務(wù)，當(dāng)任務(wù)增加的時(shí)候，分布式系統(tǒng)的處理能力需要隨之增加。簡單來說，要比較方便的通過增加機(jī)器來應(yīng)對數(shù)據(jù)量的增長，同時(shí)，當(dāng)任務(wù)規(guī)?？s減的時(shí)候，可以撤掉一些多余的機(jī)器，達(dá)到動態(tài)伸縮的效果

可用性與可靠性：一般來說，分布式系統(tǒng)是需要長時(shí)間甚至7*24小時(shí)提供服務(wù)的。可用性是指系統(tǒng)在各種情況對外提供服務(wù)的能力，簡單來說，可以通過不可用時(shí)間與正常服務(wù)時(shí)間的必知來衡量；而可靠性而是指計(jì)算結(jié)果正確、存儲的數(shù)據(jù)不丟失。

高性能：不管是單機(jī)還是分布式系統(tǒng)，大家都非常關(guān)注性能。不同的系統(tǒng)對性能的衡量指標(biāo)是不同的，最常見的：高并發(fā)，單位時(shí)間內(nèi)處理的任務(wù)越多越好；低延遲：每個(gè)任務(wù)的平均時(shí)間越少越好。這個(gè)其實(shí)跟操作系統(tǒng)CPU的調(diào)度策略很像

一致性：分布式系統(tǒng)為了提高可用性可靠性，一般會引入冗余（復(fù)制集）。那么如何保證這些節(jié)點(diǎn)上的狀態(tài)一致，這就是分布式系統(tǒng)不得不面對的一致性問題。一致性有很多等級，一致性越強(qiáng)，對用戶越友好，但會制約系統(tǒng)的可用性；一致性等級越低，用戶就需要兼容數(shù)據(jù)不一致的情況，但系統(tǒng)的可用性、并發(fā)性很高很多。

組件、理論、協(xié)議

假設(shè)這是一個(gè)對外提供服務(wù)的大型分布式系統(tǒng)，用戶連接到系統(tǒng)，做一些操作，產(chǎn)生一些需要存儲的數(shù)據(jù)，那么在這個(gè)過程中，會遇到哪些組件、理論與協(xié)議呢

用一個(gè)請求串起來

用戶使用Web、APP、SDK，通過HTTP、TCP連接到系統(tǒng)。在分布式系統(tǒng)中，為了高并發(fā)、高可用，一般都是多個(gè)節(jié)點(diǎn)提供相同的服務(wù)。那么，第一個(gè)問題就是具體選擇哪個(gè)節(jié)點(diǎn)來提供服務(wù)，這個(gè)就是負(fù)載均衡（load balance）。負(fù)載均衡的思想很簡單，但使用非常廣泛，在分布式系統(tǒng)、大型網(wǎng)站的方方面面都有使用，或者說，只要涉及到多個(gè)節(jié)點(diǎn)提供同質(zhì)的服務(wù)，就需要負(fù)載均衡。

通過負(fù)載均衡找到一個(gè)節(jié)點(diǎn)，接下來就是真正處理用戶的請求，請求有可能簡單，也有可能很復(fù)雜。簡單的請求，比如讀取數(shù)據(jù)，那么很可能是有緩存的，即分布式緩存，如果緩存沒有命中，那么需要去數(shù)據(jù)庫拉取數(shù)據(jù)。對于復(fù)雜的請求，可能會調(diào)用到系統(tǒng)中其他的服務(wù)。

承上，假設(shè)服務(wù)A需要調(diào)用服務(wù)B的服務(wù)，首先兩個(gè)節(jié)點(diǎn)需要通信，網(wǎng)絡(luò)通信都是建立在TCP/IP協(xié)議的基礎(chǔ)上，但是，每個(gè)應(yīng)用都手寫socket是一件冗雜、低效的事情，因此需要應(yīng)用層的封裝，因此有了HTTP、FTP等各種應(yīng)用層協(xié)議。當(dāng)系統(tǒng)愈加復(fù)雜，提供大量的http接口也是一件困難的事情。因此，有了更進(jìn)一步的抽象，那就是RPC（remote produce call），是的遠(yuǎn)程調(diào)用就跟本地過程調(diào)用一樣方便，屏蔽了網(wǎng)絡(luò)通信等諸多細(xì)節(jié)，增加新的接口也更加方便。

一個(gè)請求可能包含諸多操作，即在服務(wù)A上做一些操作，然后在服務(wù)B上做另一些操作。比如簡化版的網(wǎng)絡(luò)購物，在訂單服務(wù)上發(fā)貨，在賬戶服務(wù)上扣款。這兩個(gè)操作需要保證原子性，要么都成功，要么都不操作。這就涉及到分布式事務(wù)的問題，分布式事務(wù)是從應(yīng)用層面保證一致性：某種守恒關(guān)系。

上面說道一個(gè)請求包含多個(gè)操作，其實(shí)就是涉及到多個(gè)服務(wù)，分布式系統(tǒng)中有大量的服務(wù)，每個(gè)服務(wù)又是多個(gè)節(jié)點(diǎn)組成。那么一個(gè)服務(wù)怎么找到另一個(gè)服務(wù)（的某個(gè)節(jié)點(diǎn)呢）？通信是需要地址的，怎么獲取這個(gè)地址，最簡單的辦法就是配置文件寫死，或者寫入到數(shù)據(jù)庫，但這些方法在節(jié)點(diǎn)數(shù)據(jù)巨大、節(jié)點(diǎn)動態(tài)增刪的時(shí)候都不大方便，這個(gè)時(shí)候就需要服務(wù)注冊與發(fā)現(xiàn)：提供服務(wù)的節(jié)點(diǎn)向一個(gè)協(xié)調(diào)中心注冊自己的地址，使用服務(wù)的節(jié)點(diǎn)去協(xié)調(diào)中心拉取地址。

從上可以看見，協(xié)調(diào)中心提供了中心化的服務(wù)：以一組節(jié)點(diǎn)提供類似單點(diǎn)的服務(wù)，使用非常廣泛，比如命令服務(wù)、分布式鎖。協(xié)調(diào)中心最出名的就是chubby，zookeeper。

回到用戶請求這個(gè)點(diǎn)，請求操作會產(chǎn)生一些數(shù)據(jù)、日志，通常為信息，其他一些系統(tǒng)可能會對這些消息感興趣，比如個(gè)性化推薦、監(jiān)控等，這里就抽象出了兩個(gè)概念，消息的生產(chǎn)者與消費(fèi)者。那么生產(chǎn)者怎么講消息發(fā)送給消費(fèi)者呢，RPC并不是一個(gè)很好的選擇，因?yàn)镽PC肯定得指定消息發(fā)給誰，但實(shí)際的情況是生產(chǎn)者并不清楚、也不關(guān)心誰會消費(fèi)這個(gè)消息，這個(gè)時(shí)候消息隊(duì)列就出馬了。簡單來說，生產(chǎn)者只用往消息隊(duì)列里面發(fā)就行了，隊(duì)列會將消息按主題（topic）分發(fā)給關(guān)注這個(gè)主題的消費(fèi)者。消息隊(duì)列起到了異步處理、應(yīng)用解耦的作用。

上面提到，用戶操作會產(chǎn)生一些數(shù)據(jù)，這些數(shù)據(jù)忠實(shí)記錄了用戶的操作習(xí)慣、喜好，是各行各業(yè)最寶貴的財(cái)富。比如各種推薦、廣告投放、自動識別。這就催生了分布式計(jì)算平臺，比如Hadoop，Storm等，用來處理這些海量的數(shù)據(jù)。

最后，用戶的操作完成之后，用戶的數(shù)據(jù)需要持久化，但數(shù)據(jù)量很大，大到按個(gè)節(jié)點(diǎn)無法存儲，那么這個(gè)時(shí)候就需要分布式存儲：將數(shù)據(jù)進(jìn)行劃分放在不同的節(jié)點(diǎn)上，同時(shí)，為了防止數(shù)據(jù)的丟失，每一份數(shù)據(jù)會保存多分。傳統(tǒng)的關(guān)系型數(shù)據(jù)庫是單點(diǎn)存儲，為了在應(yīng)用層透明的情況下分庫分表，會引用額外的代理層。而對于NoSql，一般天然支持分布式。

一個(gè)簡化的架構(gòu)圖

下面用一個(gè)不大精確的架構(gòu)圖，盡量還原分布式系統(tǒng)的組成部分（不過只能體現(xiàn)出技術(shù)，不好體現(xiàn)出理論）

概念與實(shí)現(xiàn)

那么對于上面的各種技術(shù)與理論，業(yè)界有哪些實(shí)現(xiàn)呢，下面進(jìn)行簡單羅列。

當(dāng)然，下面的這些實(shí)現(xiàn)，小部分我用過，知其所以然；大部分聽說過，知其然；還有一部分之前聞所未聞，分類也不一定正確，只是從其他文章抄過來的。羅列在這里，以便日后或深或淺的學(xué)習(xí)。

• 負(fù)載均衡：

Nginx：高性能、高并發(fā)的web服務(wù)器；功能包括負(fù)載均衡、反向代理、靜態(tài)內(nèi)容緩存、訪問控制；工作在應(yīng)用層

LVS： Linux virtual server，基于集群技術(shù)和Linux操作系統(tǒng)實(shí)現(xiàn)一個(gè)高性能、高可用的服務(wù)器；工作在網(wǎng)絡(luò)層

• webserver：

Java：Tomcat，Apache，Jboss

Python：gunicorn、uwsgi、twisted、webpy、tornado

• service：　　

SOA、微服務(wù)、spring boot，django

• 容器：

docker，kubernetes

• cache：

memcache、redis等

• 協(xié)調(diào)中心：

zookeeper、etcd等

zookeeper使用了Paxos協(xié)議Paxos是強(qiáng)一致性，高可用的去中心化分布式。zookeeper的使用場景非常廣泛，之后細(xì)講。

• rpc框架：

grpc、dubbo、brpc

dubbo是阿里開源的Java語言開發(fā)的高性能RPC框架，在阿里系的諸多架構(gòu)中，都使用了dubbo + spring boot

• 消息隊(duì)列：

kafka、rabbitMQ、rocketMQ、QSP

消息隊(duì)列的應(yīng)用場景：異步處理、應(yīng)用解耦、流量削鋒和消息通訊

• 實(shí)時(shí)數(shù)據(jù)平臺：

storm、akka

• 離線數(shù)據(jù)平臺：

hadoop、spark

PS: apark、akka、kafka都是scala語言寫的，看到這個(gè)語言還是很牛逼的

• dbproxy：

cobar也是阿里開源的，在阿里系中使用也非常廣泛，是關(guān)系型數(shù)據(jù)庫的sharding + replica 代理

• db：

mysql、oracle、MongoDB、HBase

• 搜索：

elasticsearch、solr

• 日志：

rsyslog、elk、flume

另外有需要云服務(wù)器可以了解下創(chuàng)新互聯(lián)scvps.cn，海內(nèi)外云服務(wù)器15元起步，三天無理由+7*72小時(shí)售后在線，公司持有idc許可證，提供“云服務(wù)器、裸金屬服務(wù)器、高防服務(wù)器、香港服務(wù)器、美國服務(wù)器、虛擬主機(jī)、免備案服務(wù)器”等云主機(jī)租用服務(wù)以及企業(yè)上云的綜合解決方案，具有“安全穩(wěn)定、簡單易用、服務(wù)可用性高、性價(jià)比高”等特點(diǎn)與優(yōu)勢，專為企業(yè)上云打造定制，能夠滿足用戶豐富、多元化的應(yīng)用場景需求。

文章題目：分布式系統(tǒng)的概念和原理-創(chuàng)新互聯(lián)
文章起源：http://muchs.cn/article36/dhepsg.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián)，為您提供網(wǎng)站策劃、商城網(wǎng)站、靜態(tài)網(wǎng)站、網(wǎng)站制作、網(wǎng)站設(shè)計(jì)公司、小程序開發(fā)

廣告

聲明：本網(wǎng)站發(fā)布的內(nèi)容（圖片、視頻和文字）以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主，如果涉及侵權(quán)請盡快告知，我們將會在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場，如需處理請聯(lián)系客服。電話：028-86922220；郵箱：631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載，或轉(zhuǎn)載時(shí)需注明來源： 創(chuàng)新互聯(lián)