Hive任務執(zhí)行慢但是導入數(shù)據(jù)非常的快是為什么

這篇文章主要講解了“Hive任務執(zhí)行慢但是導入數(shù)據(jù)非常的快是為什么”，文中的講解內(nèi)容簡單清晰，易于學習與理解，下面請大家跟著小編的思路慢慢深入，一起來研究和學習“Hive任務執(zhí)行慢但是導入數(shù)據(jù)非常的快是為什么”吧！

站在用戶的角度思考問題，與客戶深入溝通，找到龍安網(wǎng)站設計與龍安網(wǎng)站推廣的解決方案，憑借多年的經(jīng)驗，讓設計與互聯(lián)網(wǎng)技術結合，創(chuàng)造個性化、用戶體驗好的作品，建站類型包括：做網(wǎng)站、成都做網(wǎng)站、企業(yè)官網(wǎng)、英文網(wǎng)站、手機端網(wǎng)站、網(wǎng)站推廣、域名注冊、網(wǎng)頁空間、企業(yè)郵箱。業(yè)務覆蓋龍安地區(qū)。

讀時模式和寫時模式

Hive使用Hadoop來執(zhí)行查詢，其查詢執(zhí)行速度是很慢的，但是使用load  data向Hive中導入數(shù)據(jù)卻非?？欤@是因為Hive采取的是讀時模式(Schema On Read)。

• 讀時模式：讀取數(shù)據(jù)的時候，對數(shù)據(jù)的類型、格式做檢查;

• 寫時模式：寫入數(shù)據(jù)的時候，對數(shù)據(jù)的類型、格式等規(guī)范做檢查;

將數(shù)據(jù)存到Hive的數(shù)據(jù)表時，Hive采用的是“讀時模式”，意思是針對寫操作不會做任何校驗，只是簡單的將文件復制到Hive的表對應的HDFS目錄。跟“讀時模式”相對應的是“寫時模式”，RDBMS一般采用“寫時模式”，在將數(shù)據(jù)寫入到數(shù)據(jù)表的時候會檢查每一條記錄是否合法，如果檢查不通過會直接返回失敗信息。

由于向Hive中存入數(shù)據(jù)的只是簡單的文件復制和粘貼，所以導入數(shù)據(jù)速度非常的快。當讀取、查詢的時候，才會根據(jù)表模式來解釋數(shù)據(jù)，這個時候如果遇到了不符合模式的數(shù)據(jù)，Hive會直接將數(shù)據(jù)解析成NULL。

讀時模式的好處

Hive采用讀時模式帶來了以下幾個好處：

• 向Hive表中新增數(shù)據(jù)非常的快，通常情況下對于外來數(shù)據(jù)，采用的方法是直接用Hadoop命令將文件上傳到一個HDFS目錄，Hive直接讀這個目錄;

• 一份數(shù)據(jù)可以被解析成多種模式，存儲在Hive表中的數(shù)據(jù)跟Hive本身沒有關系，數(shù)據(jù)也可以被其他工具比如Pig來處理;

導入數(shù)據(jù)

hive> load data local inpath '/root/usr.data' into table usr;

感謝各位的閱讀，以上就是“Hive任務執(zhí)行慢但是導入數(shù)據(jù)非常的快是為什么”的內(nèi)容了，經(jīng)過本文的學習后，相信大家對Hive任務執(zhí)行慢但是導入數(shù)據(jù)非常的快是為什么這一問題有了更深刻的體會，具體使用情況還需要大家實踐驗證。這里是創(chuàng)新互聯(lián)，小編將為大家推送更多相關知識點的文章，歡迎關注！

當前標題：Hive任務執(zhí)行慢但是導入數(shù)據(jù)非常的快是為什么
網(wǎng)頁鏈接：http://muchs.cn/article12/gpjigc.html

成都網(wǎng)站建設公司_創(chuàng)新互聯(lián)，為您提供定制網(wǎng)站、動態(tài)網(wǎng)站、Google、App設計、網(wǎng)站建設、網(wǎng)站設計

廣告

聲明：本網(wǎng)站發(fā)布的內(nèi)容（圖片、視頻和文字）以用戶投稿、用戶轉載內(nèi)容為主，如果涉及侵權請盡快告知，我們將會在第一時間刪除。文章觀點不代表本網(wǎng)站立場，如需處理請聯(lián)系客服。電話：028-86922220；郵箱：631063699@qq.com。內(nèi)容未經(jīng)允許不得轉載，或轉載時需注明來源： 創(chuàng)新互聯(lián)