CentOS7如何編譯Hadoop-2.7.2

這篇文章主要介紹CentOS7如何編譯Hadoop-2.7.2,文中介紹的非常詳細,具有一定的參考價值,感興趣的小伙伴們一定要看完!

西塞山網(wǎng)站建設(shè)公司成都創(chuàng)新互聯(lián)公司,西塞山網(wǎng)站設(shè)計制作,有大型網(wǎng)站制作公司豐富經(jīng)驗。已為西塞山超過千家提供企業(yè)網(wǎng)站建設(shè)服務(wù)。企業(yè)網(wǎng)站搭建\成都外貿(mào)網(wǎng)站制作要多少錢,請找那個售后服務(wù)好的西塞山做網(wǎng)站的公司定做!

先說明,32位Linux操作系統(tǒng)可以直接下載編譯好的Hadoop使用,但是64位Linux操作系統(tǒng)需要自己編譯。

后來官網(wǎng)從hadoop2.5版本開始就提供了64位。可以直接下載使用。

不過自己動手,豐衣足食,就當是學習了。下面開始:

1.工具準備,最靠譜的是hadoop說明文檔里要求具備的那些工具。

到hadoop官網(wǎng),點擊source下載hadoop-2.7.2-src.tar.gz。

解壓之

tar -zxvf hadoop-2.7.2-src.tar.gz

得到hadoop-2.7.2-src文件夾。

進入hadoop-2.7.2-src文件夾,查看BUILDING.txt

cd hadoop-2.7.1-src
vim BUILDING.txt

可以看到編譯所需的庫或者工具:

CentOS7如何編譯Hadoop-2.7.2

包括:

  • JDK1.7+

  • maven 3.0 or later

  • findbugs 1.3.9

  • protocolBuffer 2.5.0

  • cmake 2.6

  • zlib-devel

  • openssl-devel

除了上面這些,為了不出錯,實際還需要autoconf  automake  gcc等。

下面開始準備這些工具:

首先使用su命令獲取root權(quán)限,以免受到各種限制

2.下載jdk-8u65-linux-x64.tar.gz,解壓后移動到/opt目錄下

tar -zxvf jdk-8u65-linux-x64.tar.gz

mv jdk1.8.0_65 /opt

然后打開/etc/profile配置jdk環(huán)境變量

vim /etc/profile

按 i 進入插入模式,在文件末尾添加

export JAVA_HOME=/opt/jdk1.8.0_65

export CLASSPATH=.:$JAVA_HOME/jre/lib/rt.jar:$JAVA_HOME/lib/tools.jar

export PATH=$PATH:$JAVA_HOME/bin

export JRE_HOME=/opt/jdk1.8.0_65/jre

export PATH=$PATH:$JRE_HOME/bin

先后按Esc, Shift+:, wq, 回車即可保存并退出編輯。

輸入 source /etc/profile 回車即可保存更改。

運行javac -version 查看狀態(tài):

[root@server1 java]# javac -version
javac 1.8.0_65
[root@server1 java]#

3.下面安裝各種庫,

yum -y install svn ncurses-devel gcc*

yum -y install lzo-devel zlib-devel autoconf automake libtool cmake openssl-devel

4.安裝protobuf-2.5.0.tar.gz(注意版本必須是2.5.0)

tar zxvf protobuf-2.5.0.tar.gz

進入protobuf-2.5.0依次執(zhí)行

cd protobuf-2.5.0

./configure

make

make install

驗證安裝是否完成

protoc --version

出現(xiàn)

[root@server1 protobuf-2.5.0]# protoc --version
libprotoc 2.5.0
[root@server1 protobuf-2.5.0]#

5.安裝maven

下載apache-maven-3.3.9-bin.tar.gz

解壓縮并配置環(huán)境變量

解壓:

tar -zxvf apache-maven-3.3.9-bin.tar.gz

移動到/opt目錄下:

mv apache-maven-3.3.9 /opt

配置環(huán)境變量:

vim /etc/profile

在末尾添加:

export MAVEN_HOME=/opt/apache-maven-3.3.9

export MAVEN_OPTS="-Xms256m -Xmx512m"

export PATH=$PATH:$MAVEN_HOME/bin

先按Esc, Shift+:, wq, 回車即可保存并推出編輯。

輸入 source /etc/profile 回車即可保存更改。

查看安裝狀態(tài): mvn -version

[root@server1 ~]# mvn -version
Apache Maven 3.3.9 (bb52d8502b132ec0a5a3f4c09453c07478323dc5; 2015-11-11T00:41:47+08:00)
Maven home: /usr/local/maven-3.3.9
Java version: 1.8.0_65, vendor: Oracle Corporation
Java home: /usr/java/jdk1.8.0_65/jre
Default locale: en_US, platform encoding: UTF-8
OS name: "linux", version: "3.10.0-229.el7.x86_64", arch: "amd64", family: "unix"
[root@server1 ~]#

6.安裝ant

下載apache-ant-1.9.7-bin.tar.gz

解壓縮并配置環(huán)境變量

解壓:

tar -zxvf apache-ant-1.9.7-bin.tar.gz

移動到/opt目錄下

mv apache-ant-1.9.7 /opt

配置環(huán)境變量

同上,在/etc/profile文件末未添加:

export ANT_HOME=/opt/apache-ant-1.9.7

export PATH=$PATH:$ANT_HOME/bin

然后保存,退出,并使更改生效。

查看安裝結(jié)果:

ant -version

[root@server1 ~]# ant -version
Apache Ant(TM) version 1.9.7 compiled on April 9 2016
[root@server1 ~]#

7.安裝findbugs

下載findbugs-3.0.1.tar.gz,選擇上面的standard version即可

解壓縮并配置環(huán)境變量

解壓:

tar -zxvf findbugs-3.0.1.tar.gz

移動到 /opt目錄下

mv findbugs-3.0.1 /opt

配置環(huán)境變量:

在 /etc/profile 文件末尾添加:

export FINDBUGS_HOME=/opt/findbugs-3.0.1

export PATH=$PATH:$FINDBUGS_HOME/bin

保存退出,并使更改生效。

查看安裝結(jié)果

[root@server1 ~]# findbugs -version
3.0.1
[root@server1 ~]#

8.準備完成,下面開始編譯hadoop

進入到hadoop-2.7.2-src目錄

使用命令:

mvn clean package –Pdist,native –DskipTests –Dtar

或者:

mvn package -Pdist,native -DskipTests -Dtar

進行編譯。

務(wù)必保持網(wǎng)絡(luò)暢通,經(jīng)過漫長的等待,看到下圖即表明編譯成功!

由于本人的網(wǎng)絡(luò)中途出現(xiàn)問題,重新編譯了一次,差不多折騰了3個小時。

CentOS7如何編譯Hadoop-2.7.2

編譯好的文件在/hadoop-dist/target/hadoop-2.7.2.tar.gz下。

注意事項:

1.所有命令,建議手敲,不建議復制粘貼,以避免因為頁面空格造成的不必要錯誤。

2.務(wù)必保持網(wǎng)絡(luò)暢通,如果出現(xiàn)缺少某個文件,則要先清理maven(使用命令 mvn clean) 再重新編譯。

3.如果總是出現(xiàn)同一個錯誤導致編譯失敗,則可能是缺少某個庫或者工具,檢查上述工具是否都安裝成功,并且版本正確。

以上是“CentOS7如何編譯Hadoop-2.7.2”這篇文章的所有內(nèi)容,感謝各位的閱讀!希望分享的內(nèi)容對大家有幫助,更多相關(guān)知識,歡迎關(guān)注創(chuàng)新互聯(lián)行業(yè)資訊頻道!

名稱欄目:CentOS7如何編譯Hadoop-2.7.2
當前鏈接:http://muchs.cn/article30/jpeppo.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián),為您提供網(wǎng)站收錄、網(wǎng)站制作微信小程序、商城網(wǎng)站、手機網(wǎng)站建設(shè)、網(wǎng)站設(shè)計

廣告

聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主,如果涉及侵權(quán)請盡快告知,我們將會在第一時間刪除。文章觀點不代表本網(wǎng)站立場,如需處理請聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時需注明來源: 創(chuàng)新互聯(lián)

微信小程序開發(fā)