Hadoop和pig怎么安裝

本篇內(nèi)容主要講解“Hadoop和pig怎么安裝”，感興趣的朋友不妨來看看。本文介紹的方法操作簡單快捷，實(shí)用性強(qiáng)。下面就讓小編來帶大家學(xué)習(xí)“Hadoop和pig怎么安裝”吧!

為吉林等地區(qū)用戶提供了全套網(wǎng)頁設(shè)計(jì)制作服務(wù)，及吉林網(wǎng)站建設(shè)行業(yè)解決方案。主營業(yè)務(wù)為成都網(wǎng)站制作、做網(wǎng)站、吉林網(wǎng)站設(shè)計(jì)，以傳統(tǒng)方式定制建設(shè)網(wǎng)站，并提供域名空間備案等一條龍服務(wù)，秉承以專業(yè)、用心的態(tài)度為用戶提供真誠的服務(wù)。我們深信只要達(dá)到每一位用戶的要求，就會(huì)得到認(rèn)可，從而選擇與我們長期合作。這樣，我們也可以走得更遠(yuǎn)！

我們用MapReduce進(jìn)行數(shù)據(jù)分析。當(dāng)業(yè)務(wù)比較復(fù)雜的時(shí)候，使用MapReduce將會(huì)是一個(gè)很復(fù)雜的事情，比如你需要對數(shù)據(jù)進(jìn)行很多預(yù)處理或轉(zhuǎn)換，以便能夠適應(yīng)MapReduce的處理模式,另一方面，編寫MapReduce程序，發(fā)布及運(yùn)行作業(yè)都將是一個(gè)比較耗時(shí)的事情。
Pig的出現(xiàn)很好的彌補(bǔ)了這一不足。Pig能夠讓你專心于數(shù)據(jù)及業(yè)務(wù)本身，而不是糾結(jié)于數(shù)據(jù)的格式轉(zhuǎn)換以及MapReduce程序的編寫。本質(zhì)是上來說，當(dāng)你使用Pig進(jìn)行處理時(shí)，Pig本身會(huì)在后臺(tái)生成一系列的MapReduce操作來執(zhí)行任務(wù)，但是這個(gè)過程對用戶來說是透明的。
Pig的安裝
Pig作為客戶端程序運(yùn)行，即使你準(zhǔn)備在Hadoop集群上使用Pig，你也不需要在集群上做任何安裝。Pig從本地提交作業(yè)，并和Hadoop進(jìn)行交互。
1）下載Pig
前往http://mirror.bit.edu.cn/apache/pig/ 下載合適的版本，比如 pig-0.17.0.tar.gz
2）解壓文件到合適的目錄
[root@hadp-node1 hadoop]# tar -zxvf pig-0.17.0.tar.gz -C /usr/local/hadoop/
3）設(shè)置環(huán)境變量
export PIG_HOME=/usr/local/hadoop/pig-0.17.0
export PIG_CLASSPATH=$HADOOP_HOME/etc/hadoop/ #顯式設(shè)置HADOOP_HOME變量，確保庫和你實(shí)際使用的HADOOP版本兼容

export PATH=$PATH:$PIG_HOME/bin
如果沒有設(shè)置JAVA環(huán)境變量，此時(shí)還需要設(shè)置JAVA_HOME，比如：
export JAVA_HOME=/usr/local/jdk1.7.0_51
說明：
PIG_CLASSPATH變量 是PIG配置MapReduce模式，讓Pig軟件找到Hadoop集群，這里是告訴pig軟件hadoop的配置文件在哪里，通過一系列配置文件core_site.xml hdfs-site.xml mapred-site.xml 可以找到關(guān)鍵參數(shù)NameNode 和 JobTracker 的位置以及端口信息，有了這些信息就可以對整個(gè)集群進(jìn)行控制了。

4）驗(yàn)證
執(zhí)行以下命令，查看Pig是否可用

到此，相信大家對“Hadoop和pig怎么安裝”有了更深的了解，不妨來實(shí)際操作一番吧！這里是創(chuàng)新互聯(lián)網(wǎng)站，更多相關(guān)內(nèi)容可以進(jìn)入相關(guān)頻道進(jìn)行查詢，關(guān)注我們，繼續(xù)學(xué)習(xí)！

本文名稱：Hadoop和pig怎么安裝
文章鏈接：http://muchs.cn/article22/ijojjc.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián)，為您提供企業(yè)建站、品牌網(wǎng)站制作、微信公眾號(hào)、網(wǎng)站策劃、網(wǎng)站改版、外貿(mào)建站

廣告

聲明：本網(wǎng)站發(fā)布的內(nèi)容（圖片、視頻和文字）以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主，如果涉及侵權(quán)請盡快告知，我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場，如需處理請聯(lián)系客服。電話：028-86922220；郵箱：631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載，或轉(zhuǎn)載時(shí)需注明來源： 創(chuàng)新互聯(lián)