YARN是什么-創(chuàng)新互聯(lián)

這篇文章主要講解了“YARN是什么”,文中的講解內容簡單清晰,易于學習與理解,下面請大家跟著小編的思路慢慢深入,一起來研究和學習“YARN是什么”吧!

創(chuàng)新互聯(lián)專業(yè)為企業(yè)提供朗縣網(wǎng)站建設、朗縣做網(wǎng)站、朗縣網(wǎng)站設計、朗縣網(wǎng)站制作等企業(yè)網(wǎng)站建設、網(wǎng)頁設計與制作、朗縣企業(yè)網(wǎng)站模板建站服務,十載朗縣做網(wǎng)站經(jīng)驗,不只是建網(wǎng)站,更提供有價值的思路和整體網(wǎng)絡服務。

  YARN是一種新的 Hadoop 資源管理器,它是一個通用資源管理系統(tǒng),可為上層應用提供統(tǒng)一的資源管理和調度,它的引入為集群在利用率、資源統(tǒng)一管理和數(shù)據(jù)共享等方面帶來了巨大好處。

  YARN總體上仍然是master/slave結構,在整個資源管理框架中,resourcemanager為master,nodemanager是slave。Resourcemanager負責對各個nademanger上資源進行統(tǒng)一管理和調度。當用戶提交一個應用程序時,需要提供一個用以跟蹤和管理這個程序的ApplicationMaster,它負責向ResourceManager申請資源,并要求NodeManger啟動可以占用一定資源的任務。由于不同的ApplicationMaster被分布到不同的節(jié)點上,因此它們之間不會相互影響。

  YARN的基本組成結構,YARN主要由ResourceManager、NodeManager、ApplicationMaster和Container等幾個組件構成。

  ResourceManager是Master上一個獨立運行的進程,負責集群統(tǒng)一的資源管理、調度、分配等等;NodeManager是Slave上一個獨立運行的進程,負責上報節(jié)點的狀態(tài);App Master和Container是運行在Slave上的組件,Container是yarn中分配資源的一個單位,包涵內存、CPU等等資源,yarn以Container為單位分配資源。Client向ResourceManager提交的每一個應用程序都必須有一個Application Master,它經(jīng)過ResourceManager分配資源后,運行于某一個Slave節(jié)點的Container中,具體做事情的Task,同樣也運行與某一個Slave節(jié)點的Container中。RM,NM,AM乃至普通的Container之間的通信,都是用RPC機制。

  YARN的架構設計使其越來越像是一個云操作系統(tǒng),數(shù)據(jù)處理操作系統(tǒng)。

  最后提及YARN的資源管理,我們可以從以下幾個方面進行理解:

  1.資源調度和隔離是yarn作為一個資源管理系統(tǒng),最重要且最基礎的兩個功能。資源調度由resourcemanager完成,而資源隔離由各個nodemanager實現(xiàn)。

  2.Resourcemanager將某個nodemanager上資源分配給任務(這就是所謂的“資源調度”)后,nodemanager需按照要求為任務提供相應的資源,甚至保證這些資源應具有獨占性,為任務運行提供基礎和保證,這就是所謂的資源隔離。

  3.當談及到資源時,我們通常指內存、cpu、io三種資源。Hadoop yarn目前為止僅支持cpu和內存兩種資源管理和調度。

  4.內存資源多少決定任務的生死,如果內存不夠,任務可能運行失??;相比之下,cpu資源則不同,它只會決定任務的快慢,不會對任務的生死產(chǎn)生影響。

感謝各位的閱讀,以上就是“YARN是什么”的內容了,經(jīng)過本文的學習后,相信大家對YARN是什么這一問題有了更深刻的體會,具體使用情況還需要大家實踐驗證。這里是創(chuàng)新互聯(lián),小編將為大家推送更多相關知識點的文章,歡迎關注!

分享題目:YARN是什么-創(chuàng)新互聯(lián)
鏈接URL:http://muchs.cn/article8/dspjip.html

成都網(wǎng)站建設公司_創(chuàng)新互聯(lián),為您提供云服務器、小程序開發(fā)、Google、外貿網(wǎng)站建設網(wǎng)站設計、移動網(wǎng)站建設

廣告

聲明:本網(wǎng)站發(fā)布的內容(圖片、視頻和文字)以用戶投稿、用戶轉載內容為主,如果涉及侵權請盡快告知,我們將會在第一時間刪除。文章觀點不代表本網(wǎng)站立場,如需處理請聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內容未經(jīng)允許不得轉載,或轉載時需注明來源: 創(chuàng)新互聯(lián)

h5響應式網(wǎng)站建設