hadoop中性能指標(biāo)和日志的示例分析

小編給大家分享一下hadoop中性能指標(biāo)和日志的示例分析，相信大部分人都還不怎么了解，因此分享這篇文章給大家參考一下，希望大家閱讀完這篇文章后大有收獲，下面讓我們一起去了解一下吧！

網(wǎng)站建設(shè)哪家好，找成都創(chuàng)新互聯(lián)！專注于網(wǎng)頁(yè)設(shè)計(jì)、網(wǎng)站建設(shè)、微信開發(fā)、成都小程序開發(fā)、集團(tuán)企業(yè)網(wǎng)站建設(shè)等服務(wù)項(xiàng)目。為回饋新老客戶創(chuàng)新互聯(lián)還提供了南充免費(fèi)建站歡迎大家使用！

Hadoop 指標(biāo)類型

Hadoopde 守護(hù)進(jìn)程的指標(biāo)根據(jù)它們所屬的上下文可以分為不同的組，如下所述：

JVM指標(biāo):這些指標(biāo)由集群中運(yùn)行的JVM產(chǎn)生包括JVM堆大小和垃圾回收相關(guān)指標(biāo)，例如當(dāng)前的堆內(nèi)存（MemHeapUsed）的使用情況和總GC計(jì)數(shù)（GcCount）。

RPC指標(biāo)：rpc上下文中的指標(biāo)包括主機(jī)名和端口等，還包括諸如發(fā)生字節(jié)數(shù)（SentBytes）、當(dāng)前打卡連接數(shù)（NumOpenConnections）和認(rèn)證失敗次數(shù)等指標(biāo)。

DFS指標(biāo)：dfs上下文中包括與NameNode、HDFS文件系統(tǒng)、DataNodes和JournalNodes相關(guān)指標(biāo)，DFS指標(biāo)可以告訴集群中是否存在大量的文件創(chuàng)建和刪除操作。

Hadoop的日志消息

可以通過(guò)瀏覽各個(gè)日志文件或通過(guò)Hadoop內(nèi)置的web界面訪問(wèn)Spark和其他作業(yè)的hadoop日志消息。大多數(shù)時(shí)候，通過(guò)web界面訪問(wèn)日志更好，因?yàn)榭梢怨?jié)省時(shí)間，并快速找到發(fā)生性能問(wèn)題或者作業(yè)失敗的原因：

Hadoop生成兩種主要類型的日志：

它為守護(hù)程序（如NameNode和DataNode）生成日志。守護(hù)進(jìn)程日志主要由管理員使用，因?yàn)樗鼈冇兄c排除DataNode和NameNode等關(guān)鍵Hadoop服務(wù)的意外故障。

Hadoop還為集群中的運(yùn)行的每個(gè)應(yīng)用程序生成日志，hadoop應(yīng)用程序日志可以用于開發(fā)人員了解作業(yè)失敗和性能下降的原因。

可以通過(guò)多種方式查看hadoop的日志

Hadoop web UI 特別是ResourceManager webUi可以免除訪問(wèn)日志存儲(chǔ)位置和查看日志文件的麻煩，還可以通過(guò)JobHistory web UI 查看日志

直接從日志文件檢查日志信息

對(duì)于某些應(yīng)用程序日志，如果開啟了日志聚合功能則將他們聚合到HDFS存儲(chǔ)。

通過(guò)yarn命令檢查：

yarn application命令可以管理一下任務(wù)：

列出集群中運(yùn)行的應(yīng)用程序

殺死正在運(yùn)行的的應(yīng)用程序

獲取正在運(yùn)行的應(yīng)用程序的狀態(tài)。

查看Yarn應(yīng)用程序

 yarn application -list 可以檢索所有作業(yè)的列表，不考慮它們的狀態(tài)。作業(yè)可以具有以下狀態(tài)：All、NEW、NEW_SAVING、SUMBMITTED、ACCEPTED、RUNNING、FINISHED、FAILED和KILLED。指定-appStates選項(xiàng)即可

yarn application -list -appStates running

檢查應(yīng)用程序的狀態(tài)

yarn application -status <application_id>

kill正在執(zhí)行的的作業(yè)

yarn application -kill <application_id>

檢查節(jié)點(diǎn)狀態(tài)

yarn node -all -list 列出集群的所有節(jié)點(diǎn)及其狀態(tài)

獲取作業(yè)日志

yarn logs 名利的語(yǔ)法：

yarn logs -applicationId <application_id>

只能獲取已經(jīng)結(jié)束的運(yùn)行的作業(yè)的日志。

Hadoop存儲(chǔ)日志的位置

1、hdfs：這是hadoop創(chuàng)建用于存儲(chǔ)作業(yè)執(zhí)行文件（如包含運(yùn)行作業(yè)hadoop參數(shù)的job.xml）的暫存目錄的位置。

2、NodeManager本地目錄：這是在本地文件系統(tǒng)上創(chuàng)建的目錄，hadoop在其中存儲(chǔ)由NodeManager服務(wù)生產(chǎn)的Shell腳本，以便執(zhí)行ApplicationMaster容器。可以使用yarn-site.xml文件中的yarn.nodemanager.local.dir參數(shù)指定NodeManger本地目錄位置。

此參數(shù)可以提供NodeManager存儲(chǔ)其本地文件的目錄列表。在這些目錄下實(shí)際應(yīng)用程序的本地文件目錄${yarn.nodemanager.local-dir}/usercache/user/....。每個(gè)NodeManager在NodeManager本地目錄下的本地應(yīng)用程序緩存中

3、NodeManger日志目錄：這是linux上本地目錄，NodeManager在此存儲(chǔ)用戶運(yùn)行的應(yīng)用程序的實(shí)際日志文件。在此節(jié)點(diǎn)的NodeManager上執(zhí)行作業(yè)的所有容器及其應(yīng)用程序日志存儲(chǔ)在此目錄中。使用yarn.nodemanager.log-dirs參數(shù)指定NodeManager日志目錄的位置。

     不需要擔(dān)心nm-local-dirs目錄會(huì)填滿appcache子目錄下的作業(yè)文件，這些文件在作業(yè)完成時(shí)會(huì)被自動(dòng)刪除。但是某些作業(yè)確實(shí)包含大文件，配置屬性yarn.nodemanager.delete.debug-delay-sec指定在應(yīng)用程序后就保留本地日志目錄的時(shí)間，一點(diǎn)配置時(shí)間到期，NodeManager的deletionservicehi刪除應(yīng)用程序本地文件目錄結(jié)構(gòu)。

Hadoop存儲(chǔ)日志聚合

      啟用日志聚合之后，nodemanager會(huì)將所有容器日志連接到一個(gè)文件中并將它保存在HDFS中，可以使用yarn.nodemanager.remote-app-log-dir參數(shù)配置hadoop 在hdfs的哪里存儲(chǔ)聚合日志。一般配置在/tmp/hadoop/logs/

三種方式獲取應(yīng)用程序日志

1、從hdfs中獲取

2、通過(guò)hadoop 從web UI看，在未結(jié)束的應(yīng)用的中點(diǎn)擊applicationmaster，點(diǎn)擊頁(yè)簽下面的logs

    3、作業(yè)完成之后從JobHistoryServer UI查看

以上是“hadoop中性能指標(biāo)和日志的示例分析”這篇文章的所有內(nèi)容，感謝各位的閱讀！相信大家都有了一定的了解，希望分享的內(nèi)容對(duì)大家有所幫助，如果還想學(xué)習(xí)更多知識(shí)，歡迎關(guān)注創(chuàng)新互聯(lián)行業(yè)資訊頻道！

本文名稱：hadoop中性能指標(biāo)和日志的示例分析
本文來(lái)源：http://muchs.cn/article4/jepgie.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián)，為您提供網(wǎng)頁(yè)設(shè)計(jì)公司、網(wǎng)站改版、營(yíng)銷型網(wǎng)站建設(shè)、Google、網(wǎng)站維護(hù)、App開發(fā)

廣告

聲明：本網(wǎng)站發(fā)布的內(nèi)容（圖片、視頻和文字）以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主，如果涉及侵權(quán)請(qǐng)盡快告知，我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng)，如需處理請(qǐng)聯(lián)系客服。電話：028-86922220；郵箱：631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載，或轉(zhuǎn)載時(shí)需注明來(lái)源： 創(chuàng)新互聯(lián)