分布式計(jì)算Hadoop指的是什么

這篇文章給大家介紹分布式計(jì)算Hadoop指的是什么，內(nèi)容非常詳細(xì)，感興趣的小伙伴們可以參考借鑒，希望對大家能有所幫助。

我們提供的服務(wù)有：成都做網(wǎng)站、成都網(wǎng)站設(shè)計(jì)、微信公眾號開發(fā)、網(wǎng)站優(yōu)化、網(wǎng)站認(rèn)證、六盤水ssl等。為1000多家企事業(yè)單位解決了網(wǎng)站和推廣的問題。提供周到的售前咨詢和貼心的售后服務(wù)，是有科學(xué)管理、有技術(shù)的六盤水網(wǎng)站制作公司

Hadoop是什么：Hadoop是一個開發(fā)和運(yùn)行處理大規(guī)模數(shù)據(jù)的軟件平臺，是Appach的一個用java語言實(shí)現(xiàn)開源軟件框架，實(shí)現(xiàn)在大量計(jì)算機(jī)組成的集群中對海量數(shù)據(jù)進(jìn)行分布式計(jì)算。

Hadoop框架中最核心設(shè)計(jì)就是：HDFS和MapReduce。HDFS提供了海量數(shù)據(jù)的存儲,MapReduce提供了對數(shù)據(jù)的計(jì)算。

數(shù)據(jù)在Hadoop中處理的流程可以簡單的按照下圖來理解：數(shù)據(jù)通過Haddop的集群處理后得到結(jié)果。

HDFS：Hadoop Distributed File System,Hadoop的分布式文件系統(tǒng)。

大文件被分成默認(rèn)64M一塊的數(shù)據(jù)塊分布存儲在集群機(jī)器中。

如下圖中的文件 data1被分成3塊,這3塊以冗余鏡像的方式分布在不同的機(jī)器中。

MapReduce：Hadoop為每一個input split創(chuàng)建一個task調(diào)用Map計(jì)算，在此task中依次處理此split中的一個個記錄(record),map會將結(jié)果以key--value的形式輸出,hadoop負(fù)責(zé)按key值將map的輸出整理后作為Reduce的輸入,Reduce Task的輸出為整個job的輸出，保存在HDFS上。

Hadoop的集群主要由 NameNode,DataNode,Secondary NameNode,JobTracker,TaskTracker組成。

如下圖所示：

NameNode中記錄了文件是如何被拆分成block以及這些block都存儲到了那些DateNode節(jié)點(diǎn)。

NameNode同時保存了文件系統(tǒng)運(yùn)行的狀態(tài)信息。

DataNode中存儲的是被拆分的blocks。

Secondary NameNode幫助NameNode收集文件系統(tǒng)運(yùn)行的狀態(tài)信息。

JobTracker當(dāng)有任務(wù)提交到Hadoop集群的時候負(fù)責(zé)Job的運(yùn)行,負(fù)責(zé)調(diào)度多個TaskTracker。

TaskTracker負(fù)責(zé)某一個map或者reduce任務(wù)。

關(guān)于分布式計(jì)算Hadoop指的是什么就分享到這里了，希望以上內(nèi)容可以對大家有一定的幫助，可以學(xué)到更多知識。如果覺得文章不錯，可以把它分享出去讓更多的人看到。

當(dāng)前文章：分布式計(jì)算Hadoop指的是什么
網(wǎng)頁路徑：http://muchs.cn/article10/gdehdo.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián)，為您提供、軟件開發(fā)、企業(yè)建站、網(wǎng)站排名、電子商務(wù)、微信小程序

廣告

聲明：本網(wǎng)站發(fā)布的內(nèi)容（圖片、視頻和文字）以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主，如果涉及侵權(quán)請盡快告知，我們將會在第一時間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場，如需處理請聯(lián)系客服。電話：028-86922220；郵箱：631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載，或轉(zhuǎn)載時需注明來源： 創(chuàng)新互聯(lián)