Hadoop棧由哪些組件組成-創(chuàng)新互聯(lián)

本篇內(nèi)容介紹了“Hadoop棧由哪些組件組成”的有關(guān)知識(shí),在實(shí)際案例的操作過(guò)程中,不少人都會(huì)遇到這樣的困境,接下來(lái)就讓小編帶領(lǐng)大家學(xué)習(xí)一下如何處理這些情況吧!希望大家仔細(xì)閱讀,能夠?qū)W有所成!

成都創(chuàng)新互聯(lián)-專業(yè)網(wǎng)站定制、快速模板網(wǎng)站建設(shè)、高性價(jià)比石嘴山網(wǎng)站開(kāi)發(fā)、企業(yè)建站全套包干低至880元,成熟完善的模板庫(kù),直接使用。一站式石嘴山網(wǎng)站制作公司更省心,省錢,快速模板網(wǎng)站建設(shè)找我們,業(yè)務(wù)覆蓋石嘴山地區(qū)。費(fèi)用合理售后完善,10余年實(shí)體公司更值得信賴。

 一、Hadoop生態(tài)體系?

Hadoop?是一個(gè)分布式系統(tǒng)基礎(chǔ)架構(gòu),由Apache基金會(huì)開(kāi)發(fā)。用戶可以在不了解分布式底層細(xì)節(jié)的情況下,開(kāi)發(fā)分布式程序。充分利用集群的威力高速運(yùn)算和存儲(chǔ)。Hadoop實(shí)現(xiàn)了一個(gè)分布式文件系統(tǒng)(Hadoop?Distributed?File?System),簡(jiǎn)稱HDFS。?

Hadoop?“?!庇啥鄠€(gè)組件組成。包括:?

1.Hadoop分布式文件系統(tǒng)(HDFS):所有Hadoop集群的默認(rèn)存儲(chǔ)層

2.名稱節(jié)點(diǎn):在Hadoop集群中,提供數(shù)據(jù)存儲(chǔ)位置以及節(jié)點(diǎn)失效信息的節(jié)點(diǎn)。?

3.?二級(jí)節(jié)點(diǎn):名稱節(jié)點(diǎn)的備份,它會(huì)定期復(fù)制和存儲(chǔ)名稱節(jié)點(diǎn)的數(shù)據(jù),以防名稱節(jié)點(diǎn)失效。?

4.作業(yè)跟蹤器:Hadoop集群中發(fā)起和協(xié)調(diào)MapReduce作業(yè)或數(shù)據(jù)處理任務(wù)的節(jié)點(diǎn)。

5.從節(jié)點(diǎn):Hadoop集群的普通節(jié)點(diǎn),從節(jié)點(diǎn)存儲(chǔ)數(shù)據(jù)并且從作業(yè)跟蹤器那里獲取數(shù)據(jù)處理指令。?

  二、Spark生態(tài)體系?

Spark?是一種與?Hadoop?相似的開(kāi)源集群計(jì)算環(huán)境,但是兩者之間還存在一些不同之處,這些有用的不同之處使?Spark?在某些工作負(fù)載方面表現(xiàn)得更加優(yōu)越,換句話說(shuō),Spark?啟用了內(nèi)存分布數(shù)據(jù)集,除了能夠提供交互式查詢外,它還可以優(yōu)化迭代工作負(fù)載。?

Spark?是在?Scala?語(yǔ)言中實(shí)現(xiàn)的,它將?Scala?用作其應(yīng)用程序框架。與?Hadoop?不同,Spark?和?Scala?能夠緊密集成,其中的?Scala?可以像操作本地集合對(duì)象一樣輕松地操作分布式數(shù)據(jù)集。?

  三、Storm實(shí)時(shí)開(kāi)發(fā)?

Storm是一個(gè)免費(fèi)并開(kāi)源的分布式實(shí)時(shí)計(jì)算系統(tǒng)。利用Storm可以很容易做到可靠地處理無(wú)限的數(shù)據(jù)流,像Hadoop批量處理大數(shù)據(jù)一樣,Storm可以實(shí)時(shí)處理數(shù)據(jù)。Storm簡(jiǎn)單,可以使用任何編程語(yǔ)言。?

Storm有如下特點(diǎn):?

1.編程簡(jiǎn)單:開(kāi)發(fā)人員只需要關(guān)注應(yīng)用邏輯,而且跟Hadoop類似,Storm提供的編程原語(yǔ)也很簡(jiǎn)單?

2.高性能,低延遲:可以應(yīng)用于廣告搜索引擎這種要求對(duì)廣告主的操作進(jìn)行實(shí)時(shí)響應(yīng)的場(chǎng)景。?

3.分布式:可以輕松應(yīng)對(duì)數(shù)據(jù)量大,單機(jī)搞不定的場(chǎng)景?

4.可擴(kuò)展:?隨著業(yè)務(wù)發(fā)展,數(shù)據(jù)量和計(jì)算量越來(lái)越大,系統(tǒng)可水平擴(kuò)展?

5.容錯(cuò):?jiǎn)蝹€(gè)節(jié)點(diǎn)掛了不影響應(yīng)用?

6.消息不丟失:保證消息處理?

“Hadoop棧由哪些組件組成”的內(nèi)容就介紹到這里了,感謝大家的閱讀。如果想了解更多行業(yè)相關(guān)的知識(shí)可以關(guān)注創(chuàng)新互聯(lián)-成都網(wǎng)站建設(shè)公司網(wǎng)站,小編將為大家輸出更多高質(zhì)量的實(shí)用文章!

分享題目:Hadoop棧由哪些組件組成-創(chuàng)新互聯(lián)
本文地址:http://muchs.cn/article2/piooc.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián),為您提供網(wǎng)站收錄外貿(mào)建站、GoogleChatGPT、做網(wǎng)站、App開(kāi)發(fā)

廣告

聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主,如果涉及侵權(quán)請(qǐng)盡快告知,我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng),如需處理請(qǐng)聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時(shí)需注明來(lái)源: 創(chuàng)新互聯(lián)

手機(jī)網(wǎng)站建設(shè)