windows上部署hadoop(單機版)-創(chuàng)新互聯(lián)

  在window系統(tǒng)開發(fā)程序時,遠程linux服務器上的hadoop速度很慢,影響開發(fā)效率,能不能在本地搭建hadoop環(huán)境的?答案肯定的,且看下文如何在window上部署hadoop;

(源文地址:https://www.cnblogs.com/lfhappy/p/11482195.html)

發(fā)展壯大離不開廣大客戶長期以來的信賴與支持,我們將始終秉承“誠信為本、服務至上”的服務理念,堅持“二合一”的優(yōu)良服務模式,真誠服務每家企業(yè),認真做好每個細節(jié),不斷完善自我,成就企業(yè),實現(xiàn)共贏。行業(yè)涉及成都辦公窗簾等,在成都網(wǎng)站建設、全網(wǎng)營銷推廣、WAP手機網(wǎng)站、VI設計、軟件開發(fā)等項目上具有豐富的設計經(jīng)驗。

1、下載hadoop(建議下載穩(wěn)定版本):http://mirror.bit.edu.cn/apache/hadoop/common/stable/

2、hadoop需要JDK,如果已經(jīng)安裝,跳過此步驟,還沒有,需要安裝JDK-->配置JAVA_HOME

3、解壓下載好的hadoop安裝包到指定的位置。

==》沒有JKD則會報異常: Caused by: java.io.FileNotFoundException: HADOOP_HOME and hadoop.home.dir are unset.

4、GitHub上下了個3.1的winutils.exe,鏈接https://github.com/s911415/apache-hadoop-3.1.0-winutils/blob/master/bin/hadoop.dll覆蓋原bin目錄下面的內(nèi)容即可

5、配置信息

==>首先配置環(huán)境變量HADOOP_HOME:[安裝位置],再配置系統(tǒng)變量path中添加%HADOOP_HOME%in

5.1 hadoop-env.sh

修改JDK的路徑

@rem The java implementation to use. Required.
set JAVA_HOME=D:JavaJDK1.8


5.2 mapred-site.xml --配置調(diào)度框架名稱
1 <configuration>2 <property>3   <name>mapreduce.framework.name</name>4   <value>yarn</value>5 </property>6 </configuration>

5.3 core-site.xml--配置NameNode訪問名字

1 <configuration>2 <property>3   <name>fs.default.name</name>4   <value>hdfs://localhost:9001</value>5 </property>6 </configuration>

5.4 hdfs-site.xml--分布式系統(tǒng)高可用配置

 1 <configuration> 2 <property> 3   <name>dfs.replication</name> 4   <value>1</value> 5 </property> 6 <property> 7   <name>dfs.namenode.name.dir</name> 8   <value>../dfs/name</value> 9 </property>10 <property>11   <name>dfs.datanode.data.dir</name>12   <value>../dfs/data</value>13 </property>14 </configuration>15 <!--注釋不用復制16 * dfs.namenode.name.dir,dfs.datanode.data.dir
17 必須重新配置,否則搭建成功后,下次重新運行直接報錯,因為默認數(shù)據(jù)文件都是放置在tmp目錄下,這個目錄中文件會在服務器關閉情況下刪除
18 * 路徑從bin當前目錄下開始算起.寫先對路徑,或者以“/”開頭寫絕對路徑
19 -->
?

5.5 yarn-site.xml

1 <configuration>2 <!-- Site specific YARN configuration properties-->3 <property>4   <name>yarn.nodemanager.aux-services</name>5   <value>mapreduce_shuffle</value>6 </property>7 </configuration>

6、cmd運行hadoop

 說明window下hadoop部署成功

注:在本地不需要啟動hadoop。

7、本地如果需要啟動hadoop

1.運行cmd窗口,切換到hadoop的bin目錄執(zhí)行hdfs namenode -format。

2.運行cmd窗口,切換到hadoop的sbin目錄,執(zhí)行start-all.cmd。

如果該文章對你有所幫助,請點個贊支持下,謝謝!

文章標題:windows上部署hadoop(單機版)-創(chuàng)新互聯(lián)
本文網(wǎng)址:http://muchs.cn/article2/eehic.html

成都網(wǎng)站建設公司_創(chuàng)新互聯(lián),為您提供網(wǎng)站設計、App開發(fā)外貿(mào)網(wǎng)站建設、網(wǎng)站收錄、域名注冊、面包屑導航

廣告

聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主,如果涉及侵權請盡快告知,我們將會在第一時間刪除。文章觀點不代表本網(wǎng)站立場,如需處理請聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時需注明來源: 創(chuàng)新互聯(lián)

成都app開發(fā)公司