hadoop--Hadoop生態(tài)上幾個(gè)技術(shù)的關(guān)系與區(qū)別：hive、pig、hbase關(guān)系與區(qū)別

Pig

10多年的城陽網(wǎng)站建設(shè)經(jīng)驗(yàn)，針對(duì)設(shè)計(jì)、前端、開發(fā)、售后、文案、推廣等六對(duì)一服務(wù)，響應(yīng)快，48小時(shí)及時(shí)工作處理。營(yíng)銷型網(wǎng)站的優(yōu)勢(shì)是能夠根據(jù)用戶設(shè)備顯示端的尺寸不同，自動(dòng)調(diào)整城陽建站的顯示方式，使網(wǎng)站能夠適用不同顯示終端，在瀏覽器中調(diào)整網(wǎng)站的寬度，無論在任何一種瀏覽器上瀏覽網(wǎng)站，都能展現(xiàn)優(yōu)雅布局與設(shè)計(jì)，從而大程度地提升瀏覽體驗(yàn)。成都創(chuàng)新互聯(lián)從事“城陽網(wǎng)站設(shè)計(jì)”,“城陽網(wǎng)站推廣”以來，每個(gè)客戶項(xiàng)目都認(rèn)真落實(shí)執(zhí)行。

一種操作hadoop的輕量級(jí)腳本語言，最初又雅虎公司推出，不過現(xiàn)在正在走下坡路了。當(dāng)初雅虎自己慢慢退出pig的維護(hù)之后將它開源貢獻(xiàn)到開源社區(qū)由所有愛好者來維護(hù)。不過現(xiàn)在還是有些公司在用，不過我認(rèn)為與其使用pig不如使用hive。：）

Pig是一種數(shù)據(jù)流語言，用來快速輕松的處理巨大的數(shù)據(jù)。

Pig包含兩個(gè)部分：Pig Interface,Pig Latin。

Pig可以非常方便的處理HDFS和HBase的數(shù)據(jù)，和Hive一樣,Pig可以非常高效的處理其需要做的，通過直接操作Pig查詢可以節(jié)省大量的勞動(dòng)和時(shí)間。當(dāng)你想在你的數(shù)據(jù)上做一些轉(zhuǎn)換，并且不想編寫MapReduce jobs就可以用Pig.

Hive

不想用程序語言開發(fā)MapReduce的朋友比如DB們，熟悉SQL的朋友可以使用Hive開離線的進(jìn)行數(shù)據(jù)處理與分析工作。

注意Hive現(xiàn)在適合在離線下進(jìn)行數(shù)據(jù)的操作，就是說不適合在掛在真實(shí)的生產(chǎn)環(huán)境中進(jìn)行實(shí)時(shí)的在線查詢或操作，因?yàn)橐粋€(gè)字“慢”。相反

起源于FaceBook,Hive在Hadoop中扮演數(shù)據(jù)倉庫的角色。建立在Hadoop集群的最頂層，對(duì)存儲(chǔ)在Hadoop群上的數(shù)據(jù)提供類SQL的接口進(jìn)行操作。你可以用 HiveQL進(jìn)行select,join,等等操作。

如果你有數(shù)據(jù)倉庫的需求并且你擅長(zhǎng)寫SQL并且不想寫MapReduce jobs就可以用Hive代替。

HBase

HBase作為面向列的數(shù)據(jù)庫運(yùn)行在HDFS之上，HDFS缺乏隨即讀寫操作，HBase正是為此而出現(xiàn)。HBase以Google BigTable為藍(lán)本，以鍵值對(duì)的形式存儲(chǔ)。項(xiàng)目的目標(biāo)就是快速在主機(jī)內(nèi)數(shù)十億行數(shù)據(jù)中定位所需的數(shù)據(jù)并訪問它。

HBase是一個(gè)數(shù)據(jù)庫，一個(gè)NOSQL的數(shù)據(jù)庫，像其他數(shù)據(jù)庫一樣提供隨即讀寫功能，Hadoop不能滿足實(shí)時(shí)需要，HBase正可以滿足。如果你需要實(shí)時(shí)訪問一些數(shù)據(jù)，就把它存入HBase。

你可以用Hadoop作為靜態(tài)數(shù)據(jù)倉庫，HBase作為數(shù)據(jù)存儲(chǔ)，放那些進(jìn)行一些操作會(huì)改變的數(shù)據(jù)。

Pig VS Hive

Hive更適合于數(shù)據(jù)倉庫的任務(wù)，Hive主要用于靜態(tài)的結(jié)構(gòu)以及需要經(jīng)常分析的工作。Hive與SQL相似促使 其成為Hadoop與其他BI工具結(jié)合的理想交集。

Pig賦予開發(fā)人員在大數(shù)據(jù)集領(lǐng)域更多的靈活性，并允許開發(fā)簡(jiǎn)潔的腳本用于轉(zhuǎn)換數(shù)據(jù)流以便嵌入到較大的 應(yīng)用程序。

Pig相比Hive相對(duì)輕量，它主要的優(yōu)勢(shì)是相比于直接使用Hadoop Java APIs可大幅削減代碼量。正因?yàn)槿绱?，Pig仍然是吸引大量的軟件開發(fā)人員。

Hive和Pig都可以與HBase組合使用，Hive和Pig還為HBase提供了高層語言支持，使得在HBase上進(jìn)行數(shù)據(jù)統(tǒng)計(jì)處理變的非常簡(jiǎn)單

Hive VS HBase

Hive是建立在Hadoop之上為了減少M(fèi)apReduce jobs編寫工作的批處理系統(tǒng)，HBase是為了支持彌補(bǔ)Hadoop對(duì)實(shí)時(shí)操作的缺陷的項(xiàng)目 。

想象你在操作RMDB數(shù)據(jù)庫，如果是全表掃描，就用Hive+Hadoop,如果是索引訪問，就用HBase+Hadoop 。

Hive query就是MapReduce jobs可以從5分鐘到數(shù)小時(shí)不止，HBase是非常高效的，肯定比Hive高效的多。

介紹：

一、什么是hive？？？

1,hive是基于Hadoop的一個(gè)數(shù)據(jù)倉庫工具、

2,可以將結(jié)構(gòu)化的數(shù)據(jù)文件映射為一張數(shù)據(jù)庫表，并提供類sql的查詢功能、

3,可以將sql語句轉(zhuǎn)換為mapreduce任務(wù)進(jìn)行運(yùn)行、

4,可以用來進(jìn)行數(shù)據(jù)提取轉(zhuǎn)換加載（ETL）

5,hive是sql解析引擎，它將sql 語句轉(zhuǎn)換成M/R job然后在Hadoop中運(yùn)行。

hive的表其實(shí)就是HDFS的目錄/文件夾。

hive表中的數(shù)據(jù) 就是hdfs目錄中的文件。按表名把文件夾分開。如果是分區(qū)表，則分區(qū)值是子文件夾，可以直接在M/R job里使用這些數(shù)據(jù).

6,hive優(yōu)點(diǎn)與缺點(diǎn)：

可以提供類SQL語句快速實(shí)現(xiàn)簡(jiǎn)單的mapreduce統(tǒng)計(jì)，不需要開發(fā)專門的mapreduce應(yīng)用

不支持實(shí)時(shí)查詢

7，hive數(shù)據(jù)分為真實(shí)存儲(chǔ)的數(shù)據(jù)和元數(shù)據(jù)

真實(shí)數(shù)據(jù)存儲(chǔ)在hdfs中，元數(shù)據(jù)存儲(chǔ)在MySQL中

metastore 元數(shù)據(jù)存儲(chǔ)數(shù)據(jù)庫

Hive將元數(shù)據(jù)存儲(chǔ)在數(shù)據(jù)庫中，如MySQL、derby。

Hive中的元數(shù)據(jù)包括表的名字，表的列和分區(qū)及其屬性，表的屬性（是否為外部表等），表的數(shù)據(jù)所在目錄等。

二、hive的體系架構(gòu)：

用戶接口，包括 CLI（shell），JDBC/ODBC，WebUI(通過瀏覽器)

元數(shù)據(jù)存儲(chǔ)，通常是存儲(chǔ)在關(guān)系數(shù)據(jù)庫如 mysql, derby 中

解釋器、編譯器、優(yōu)化器、執(zhí)行器完成HQL查詢語句從語法分析，編譯，優(yōu)化以及查詢計(jì)劃的生成，生成的查詢計(jì)劃存儲(chǔ)在HDFS中，并隨后被mapreduce調(diào)用執(zhí)行

Hadoop：用 HDFS 進(jìn)行存儲(chǔ)，利用 MapReduce 進(jìn)行計(jì)算 （帶 的查詢select from teacher不會(huì)生成mapreduce任務(wù)，只是進(jìn)行全表掃描）

網(wǎng)頁題目：hadoop--Hadoop生態(tài)上幾個(gè)技術(shù)的關(guān)系與區(qū)別：hive、pig、hbase關(guān)系與區(qū)別
文章網(wǎng)址：http://www.muchs.cn/article30/jiohso.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián)，為您提供靜態(tài)網(wǎng)站、ChatGPT、網(wǎng)頁設(shè)計(jì)公司、微信小程序、營(yíng)銷型網(wǎng)站建設(shè)、云服務(wù)器

廣告

聲明：本網(wǎng)站發(fā)布的內(nèi)容（圖片、視頻和文字）以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主，如果涉及侵權(quán)請(qǐng)盡快告知，我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng)，如需處理請(qǐng)聯(lián)系客服。電話：028-86922220；郵箱：631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載，或轉(zhuǎn)載時(shí)需注明來源： 創(chuàng)新互聯(lián)