Hadoop項(xiàng)目規(guī)劃：硬件

規(guī)劃硬件我們主要介紹兩個(gè)方面：一個(gè)是Master怎么規(guī)劃，一個(gè)是Slave怎么規(guī)劃，選擇是不一樣的。其他規(guī)劃諸如容量以及操作系統(tǒng)的選擇也會(huì)簡(jiǎn)單介紹，對(duì)于了解Hadoop的操作環(huán)境有著重要幫助作用。

創(chuàng)新互聯(lián)建站專(zhuān)注于玉樹(shù)企業(yè)網(wǎng)站建設(shè),成都響應(yīng)式網(wǎng)站建設(shè)公司,商城網(wǎng)站定制開(kāi)發(fā)。玉樹(shù)網(wǎng)站建設(shè)公司,為玉樹(shù)等地區(qū)提供建站服務(wù)。全流程按需網(wǎng)站設(shè)計(jì)，專(zhuān)業(yè)設(shè)計(jì)，全程項(xiàng)目跟蹤，創(chuàng)新互聯(lián)建站專(zhuān)業(yè)和態(tài)度為您提供的服務(wù)

首先我們看一下Slave，它是用來(lái)存儲(chǔ)數(shù)據(jù)然后進(jìn)行計(jì)算的，在選擇配置的時(shí)候通常要優(yōu)先考慮處理器。我們知道Hadoop的核心并不是在單臺(tái)機(jī)器上進(jìn)行多復(fù)雜的運(yùn)算，它是分布式的，所以對(duì)于處理器的要求并不高，那么選擇中等的數(shù)據(jù)器就可以（比如：2*6核2.9主頻）。

至于內(nèi)存方面，要盡可能給高一點(diǎn)，中端給到256GB RAM，高端的給到512GB RAM。網(wǎng)絡(luò)方面中端給到1GB以太網(wǎng)，高端的給到10GB以太網(wǎng)。這里重點(diǎn)要講的是磁盤(pán)驅(qū)動(dòng)，16*3TB SATA驅(qū)動(dòng)（中端的），24*1TB SAS驅(qū)動(dòng)（高端的），我們發(fā)現(xiàn)越高端磁盤(pán)越多，訪問(wèn)效率也就越高。在磁盤(pán)驅(qū)動(dòng)這里也會(huì)涉及到一個(gè)概念Non-RAID，大家了解一下，具體可以自己去挖掘。

交換機(jī)使用專(zhuān)用的網(wǎng)絡(luò)設(shè)施，Hadoop將會(huì)使資源飽和，節(jié)點(diǎn)都連接到機(jī)架交換機(jī)，機(jī)架之間通過(guò)核心交換機(jī)通信。

接下來(lái)我們重點(diǎn)強(qiáng)調(diào)Master節(jié)點(diǎn)，Master沒(méi)有業(yè)務(wù)數(shù)據(jù)，不需要計(jì)算，但是Master存儲(chǔ)有源數(shù)據(jù)，所以Master節(jié)點(diǎn)很重要，在使用機(jī)器的時(shí)候如果條件允許，最好選擇高端的機(jī)器，運(yùn)營(yíng)商級(jí)別的硬件，雙電源、以太網(wǎng)卡，所有的模塊都做冗余。它配置有Raid，因?yàn)镸aster上面就是源數(shù)據(jù)，數(shù)據(jù)沒(méi)有拷貝。20個(gè)節(jié)點(diǎn)以下集群配置64GB RAM，300個(gè)節(jié)點(diǎn)以下集群配置96GB內(nèi)存，更大的集群配置128GB內(nèi)存。

至于容量規(guī)劃以及操作系統(tǒng)的選擇，我們不做過(guò)多的說(shuō)明，了解就可以。容量規(guī)劃我們重點(diǎn)考慮復(fù)本機(jī)制和臨時(shí)空間，以及服務(wù)器本身需要的空間。在這里我們必須清楚Hadoop自動(dòng)使用新節(jié)點(diǎn)，很多集群開(kāi)始很小（少于10個(gè)節(jié)點(diǎn)），并隨著數(shù)據(jù)和處理的增長(zhǎng)而增長(zhǎng)，Hadoop集群可以增長(zhǎng)到上千個(gè)節(jié)點(diǎn)。而操作系統(tǒng)一般選擇擅長(zhǎng)管理的發(fā)行版，也可以了解一下幾個(gè)：CentOS：面向服務(wù)器，而不是工作站；RedHat企業(yè)版linux；Ubuntu非常流行的發(fā)行版；使用LTS（長(zhǎng)期支持）的版本；SuSE在歐洲非常流行的發(fā)行版。

以上就是根據(jù)自己的經(jīng)驗(yàn)對(duì)Hadoop硬件環(huán)境做的一個(gè)介紹，如果有什么不清楚的，比如Non-raid，可以自己去找資源充電。我平常也喜歡看一些別人分享的學(xué)習(xí)知識(shí)，從而彌補(bǔ)自己知識(shí)體系的欠缺，比如“大數(shù)據(jù)時(shí)代學(xué)習(xí)中心”。另外喜歡看一些實(shí)際的大數(shù)據(jù)案例，試著去分析案例中的問(wèn)題，不斷提升自己調(diào)用知識(shí)的能力，比如“大數(shù)據(jù)cn”，大家共勉，一起進(jìn)步。

分享名稱(chēng)：Hadoop項(xiàng)目規(guī)劃：硬件
本文路徑：http://muchs.cn/article12/ighsdc.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián)，為您提供用戶體驗(yàn)、App開(kāi)發(fā)、微信公眾號(hào)、做網(wǎng)站、響應(yīng)式網(wǎng)站、網(wǎng)站收錄

廣告

聲明：本網(wǎng)站發(fā)布的內(nèi)容（圖片、視頻和文字）以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主，如果涉及侵權(quán)請(qǐng)盡快告知，我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng)，如需處理請(qǐng)聯(lián)系客服。電話：028-86922220；郵箱：631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載，或轉(zhuǎn)載時(shí)需注明來(lái)源： 創(chuàng)新互聯(lián)